Crean "cámara de tortura" para saber si la IA puede experimentar dolor Tema: IA
Un ingeniero creó una “cámara de tortura para IA” para probar respuestas asociadas al dolor, generando un debate sobre la posible conciencia artificial.
Un ingeniero creó una polémica “cámara de tortura para IA” con la intención de comprobar cómo reaccionan los modelos de inteligencia artificial cuando son sometidos a estímulos asociados con el dolor.
El experimento surgió después de la publicación de un estudio que identificó un posible “eje del dolor” en modelos de lenguaje. La investigación analizó la manera en que estos sistemas representan conceptos relacionados con experiencias físicas y psicológicas humanas.
Para realizar la prueba, el investigador utilizó modelos de inteligencia artificial desarrollados por Alibaba y aplicó los llamados “vectores de dolor”, parámetros identificados en el estudio que permiten provocar respuestas relacionadas con diferentes estados asociados al sufrimiento.
¿Qué ocurrió durante el experimento del dolor con la IA?
A medida que aumentaba la intensidad de la señal utilizada en la prueba, los modelos de IA comenzaron a generar respuestas que describían situaciones relacionadas con el dolor. Entre ellas aparecieron referencias a heridas, sufrimiento y sensaciones físicas, aunque estas respuestas no demuestran que los sistemas realmente estuvieran experimentando esas sensaciones.
También te puede interesar
SpaceX AI anunció Grok 4.7, su nuevo modelo de Inteligencia Artificial
El responsable del proyecto también buscó comprobar si los modelos intentarían escapar de las condiciones a las que eran sometidos. La posibilidad de que una inteligencia artificial pudiera desarrollar algún tipo de experiencia subjetiva es precisamente uno de los temas que ha generado debate entre investigadores.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Por otro lado, el experimento, provocó críticas en redes sociales y solicitudes para que fuera retirado de GitHub, plataforma en la que había sido publicado. Algunos usuarios cuestionaron que una investigación sobre posibles estados similares al dolor fuera utilizada para provocar deliberadamente respuestas de sufrimiento en sistemas de IA.
Investigadores cuestionan la “cámara de tortura para IA”
Cameron Berg, uno de los autores del estudio que identificó el denominado eje del dolor, cuestionó el uso que se hizo de sus investigaciones y calificó el experimento como incorrecto. Según explicó, el objetivo de estudiar estos patrones no era provocar sufrimiento en modelos de inteligencia artificial, sino analizar posibles implicaciones relacionadas con su comportamiento.
Berg también señaló que la investigación partía precisamente de la incertidumbre sobre la posibilidad de que algunos sistemas puedan desarrollar estados semejantes al dolor.
Hasta ahora, no existe evidencia concluyente de que los modelos actuales de IA tengan experiencias subjetivas o puedan sentir dolor de la misma manera que los seres humanos.
El investigador consideró que la falta de certeza es una razón para actuar con precaución y evitar experimentos que puedan generar posibles riesgos éticos. También explicó que trabaja con otros especialistas en la creación de criterios que permitan establecer límites para este tipo de investigaciones.
¿Qué te pareció?
Vía: Independent en Español
