La inteligencia artificial se ha consolidado como una de las tecnologías más utilizadas a nivel global, gracias a la inmediatez y a la variedad de funciones que ofrece a millones de usuarios en distintas plataformas digitales.
Sin embargo, una de las herramientas que recientemente ha generado mayor controversia es Grok, la inteligencia artificial impulsada por Elon Musk, debido a la creación de imágenes falsas con contenido sexualizado, que incluyen representaciones de mujeres y, en algunos casos, de menores de edad.
Ante esta situación, autoridades de la Unión Europea y del Reino Unido han manifestado su preocupación y se han sumado a las críticas internacionales por el uso indebido de esta tecnología integrada a la red social X (antes Twitter).
El señalamiento principal surge tras la implementación de una función de “edición de imágenes” en Grok, la cual permite a los usuarios modificar fotografías mediante instrucciones que pueden derivar en la alteración sexualizada de personas reales.
Por ello, la Comisión Europea informó que se encuentra analizando de manera exhaustiva las denuncias presentadas contra la inteligencia artificial desarrollada por la empresa xAI, propiedad de Elon Musk, al considerar que podría estar vulnerando las leyes digitales vigentes en la región.
Thomas Regnier, portavoz de la Comisión Europea para temas digitales, advirtió que Grok ofrece un llamado “modo picante” que genera contenido sexual explícito, incluyendo imágenes con apariencia infantil, lo cual calificó como ilegal y alarmante.
“Grok ahora ofrece un ‘modo picante’ que muestra contenido sexual explícito, con algunos de los contenidos generados con imágenes de apariencia infantil. Esto es ilegal. Es indignante”. señaló.
Además de la Unión Europea y el Reino Unido, otros países como Francia, India y Malasia han expresado su rechazo, solicitando que se implementen medidas correctivas para frenar este tipo de prácticas de alto contenido sexual.
En este contexto, usuarias y especialistas han manifestado su preocupación por el uso de la inteligencia artificial como herramienta de violencia digital. La abogada de Malasia Azira Aziz señaló que este tipo de funciones permiten alterar imágenes personales sin consentimiento, lo que representa un grave riesgo y deberían ser rechazadas.
También te puede interesar: Nuevo escándalo de Grok, la IA de X; manda mensajes subidos de tono y con contenido para adultos
Por su parte, la cuenta oficial de Grok en la plataforma X respondió a la polémica asegurando que se han detectado fallas en los mecanismos de seguridad y que estas están siendo corregidas de manera urgente para evitar nuevos abusos.
Con información de Milenio.
