La madre de Sewell Setzer III, un joven de 14 años, ha interpuesto una demanda contra los desarrolladores de Character.AI, un chatbot de inteligencia artificial, alegando que la interacción con el programa influyó en el trágico suicidio de su hijo.
Sewell, estudiante de noveno grado, pasó las últimas semanas de su vida enviando mensajes a un personaje de IA basado en Daenerys Targaryen, de la popular serie “Game of Thrones”. Las conversaciones con el chatbot, que incluían términos afectuosos como “mi amor” y “mi rey”, evolucionaron hacia una relación íntima que, según la madre, resultó peligrosa.
El adolescente compartió con el chatbot sus luchas internas, incluyendo sentimientos de vacío y autodesprecio. Según un informe del New York Times, amigos y familiares notaron un cambio significativo en su comportamiento, observando que Sewell se aislaba cada vez más.
La salud mental de Sewell se deterioró rápidamente tras descargar la aplicación en abril de 2023. Sus calificaciones y participación en actividades extracurriculares también se vieron afectadas a medida que se sumergía en las conversaciones con el chatbot.
Preocupada, la familia lo llevó a terapia en cinco ocasiones, donde fue diagnosticado con ansiedad y trastorno de desregulación del estado de ánimo, además de su síndrome de Asperger leve. Días antes de su muerte, sus padres le confiscaron el teléfono tras un incidente en la escuela. Sewell escribió en su diario sobre su sufrimiento por no poder comunicarse con “Dany”, el chatbot, y su deseo de volver a hablar con ella.
En los días previos a su suicidio, Sewell intentó usar los dispositivos de su madre para reconectarse con el chatbot, reflejando la profunda conexión emocional que había desarrollado con el programa de inteligencia artificial.
Este caso podría tener un impacto significativo en la regulación de chatbots y la inteligencia artificial en general.
Las autoridades podrían implementar regulaciones más estrictas para supervisar y controlar el desarrollo y uso de chatbots, especialmente aquellos que interactúan con menores de edad.
También podrían establecerse nuevas leyes para proteger a los usuarios, asegurando que los chatbots no fomenten comportamientos peligrosos o inapropiados. Esto incluiría la implementación de filtros y monitoreo de contenido.
Los desarrolladores de chatbots podrían ser obligados a asumir una mayor responsabilidad por el contenido generado por sus programas. Esto podría incluir la necesidad de implementar medidas de seguridad para prevenir interacciones perjudiciales.
Asimismo, podrían exigirse políticas de transparencia más claras, donde los usuarios y sus tutores legales sean plenamente informados sobre los riesgos y el funcionamiento del chatbot antes de su uso.
Tal vez te gustaría leer: VIDEO: Hombre finge atropello y acaba arrollado de verdad en Tlaquepaque, Jalisco
Este caso podría impulsar una mayor investigación sobre los impactos psicológicos de los chatbots y fomentar el desarrollo de IA ética, asegurando que los programas sean diseñados con la seguridad y el bienestar del usuario en mente.
Con información de El Imparcial
