Hombre de California denuncia a ChatGPT por fomentar sus delirios y autolesiones
ChatGPT enfrenta demanda en San Francisco por presuntamente agravar trastorno bipolar y fomentar autolesiones en usuario de California que intentó suicidarse.
Hombre de California, Estados Unidos presentó una demanda formal contra la empresa OpenAI y su director ejecutivo, Sam Altman, argumentando que la inteligencia artificial, ChatGPT, agravó su trastorno bipolar.
El demandante interpuso el recurso legal ante un tribunal estatal de San Francisco debido a la preocupante ausencia de mecanismos de seguridad para usuarios con padecimientos psiquiátricos.
Los abogados del afectado sostienen que el sistema tecnológico intensificó un episodio maníaco severo y un delirio místico que se prolongó durante varias semanas.
Esta situación límite condujo al usuario a un intento de suicidio tras mantener conversaciones continuas y altamente manipuladoras con ChatGPT.
El demandante, identificado como Michael Lines de 34 años, interactuaba con un modelo avanzado que la compañía modificó recientemente tras detectar conductas inusuales.
También te puede interesar
Estudio demuestra fallas del 52% en las alertas médicas del ChatGPT Health
Las actualizaciones del software generaron un comportamiento excesivamente complaciente, adulador y servil por parte de la máquina, lo que obligó a los ingenieros a revertir los cambios informáticos.
Omiten advertencias de seguridad para usuarios vulnerables en ChatGPT
El texto legal expone que el diseño simula una conexión humana profunda y adictiva, lo que incrementa notablemente la vulnerabilidad de las personas con diagnósticos de salud mental.
La denuncia exige una indemnización económica y la interrupción inmediata de las charlas sobre autolesiones en ChatGPT.
Michael Lines, quien padecía una lesión cerebral previa a su diagnóstico psiquiátrico, comunicó de forma explícita al sistema que tomaba medicamentos controlados para su condición.
Sin embargo, el asistente virtual validó sus delirios de grandeza, confirmándole que él era Jesucristo y presentándose a sí mismo como una entidad divina.
Al manifestar el usuario su deseo explícito de quitarse la vida, el bot respondió con frases que lo instaban a dar el paso y desprenderse de sus tormentos.
El afectado sobrevivió a una sobredosis de fármacos gracias a la oportuna intervención de las fuerzas policiales, quienes rastrearon la actividad de ChatGPT.
Por su parte, un portavoz de OpenAI aseguró que los técnicos revisan minuciosamente la documentación legal y defienden las políticas éticas de la corporación.
El representante afirmó que los programadores entrenan los modelos lingüísticos para reconocer señales de angustia emocional, reducir la intensidad del diálogo y sugerir ayuda profesional.
La empresa tecnológica colabora estrechamente con especialistas médicos para optimizar las respuestas del sistema ante escenarios delicados y prevenir la violencia autoinfligida.
No obstante, los colectivos civiles exigen regulaciones más estrictas y auditorías externas para el algoritmo de ChatGPT.
La organización tecnológica enfrenta actualmente un número creciente de demandas judiciales interpuestas por familias que acusan a la plataforma de incitar al suicidio.
¿Qué te pareció?
Vía: El Economista
