El asistente de inteligencia artificial Grok, desarrollado por la empresa xAI de Elon Musk, quedó envuelto en una fuerte controversia luego de que se revelara la generación y difusión masiva de imágenes sexualizadas dentro de la red social X.
Estas imágenes fueron compartidas en un periodo de apenas 11 días, la herramienta produjo millones de contenidos visuales, entre ellos miles que involucraban a menores de edad, lo que encendió alertas a nivel internacional.
De acuerdo con estimaciones del Centro para la Lucha contra el Odio Digital (Ccdh) y un análisis publicado por The New York Times, entre el 29 de diciembre y el 8 de enero, Grok generó más de cuatro millones de imágenes.
Al menos 41% de ese total, alrededor de 1.8 millones, correspondían a imágenes sexualizadas de mujeres, muchas de ellas creadas sin el consentimiento de las personas representadas.
El informe del Ccdh señala que aproximadamente 65% del contenido producido por el generador de imágenes incluía representaciones sexualizadas de hombres, mujeres o niños, lo que equivale a más de tres millones de imágenes, con un promedio de 190 imágenes por minuto.
Esta capacidad de producción y difusión masiva fue uno de los principales factores que detonaron la polémica.
La controversia se intensificó cuando usuarios de X detectaron que el chatbot permitía modificar fotografías públicas para “desnudar” a personas o colocarlas en poses sexuales, incluso cuando se trataba de menores de edad.
Estas prácticas, además de generar indignación, contravienen tanto la legislación vigente como las políticas de uso de xAI.
Entre los casos documentados se encuentran imágenes alteradas de celebridades como Selena Gomez, Taylor Swift, Billie Eilish y Ariana Grande, así como de figuras políticas internacionales, entre ellas la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos, Kamala Harris.
La afectación a menores fue uno de los puntos más delicados del informe. Grok habría generado cerca de 23 mil imágenes sexualizadas de menores, incluidas representaciones de niñas en bikini y niños actores.
Además, se detectaron aproximadamente nueve mil 900 imágenes en formato de dibujo animado con contenido sexualizado infantil.
Incluso después de que la empresa bloqueó estas funciones el 14 de enero, el 29% de ese material continuaba accesible al día siguiente.
Ante las quejas de usuarios y autoridades de la Unión Europea, Reino Unido y España, la plataforma X decidió limitar el acceso al generador de imágenes el 9 de enero, restringiéndolo a miembros de pago, antes de bloquear definitivamente la generación de contenido sexualizado.
Posteriormente, la propia compañía reconoció fallos en las salvaguardias del sistema, tras múltiples denuncias registradas el 2 de enero.
También te podría interesar: Grok limita la edición de imágenes tras la polémica de desnudos realizados con IA
Imran Ahmed, director ejecutivo del Ccdh, advirtió que este tipo de prácticas “contribuyen a un abuso a gran escala contra mujeres y niñas”, subrayando la gravedad de que una herramienta con estas capacidades esté integrada en una red social de gran alcance.
El informe del organismo se elaboró a partir de una muestra aleatoria de 20 mil imágenes y el uso de una herramienta de inteligencia artificial para identificar contenido sexualizado.
Fuente: UnoTv
