Descubren que la IA también muestra prejuicios al analizar rostros
Un estudio recientemente reveló que los modelos de inteligencia artificial tienen prejuicios al atribuir rasgos de personalidad a partir del rostro.
Recientemente, se publicó un estudio que reveló que algunos modelos de inteligencia artificial (IA) pueden desarrollar prejuicios al analizar la apariencia de las personas, incluso cuando se les pide realizar evaluaciones aparentemente objetivas.
La investigación, publicada en la revista científica PNAS Nexus, encontró que distintos modelos de lenguaje fueron capaces de atribuir características como inteligencia, confiabilidad, agresividad o capacidad de trabajo a partir de los rostros que observaban.
De acuerdo con los investigadores, estas conclusiones no tenían una base objetiva y, en algunos casos, llegaron a influir en decisiones relacionadas con las capacidades o la confiabilidad de una persona.
¿Cómo se detectaron los prejuicios de la inteligencia artificial?
Para analizar el comportamiento de los sistemas, los investigadores utilizaron rostros generados mediante computadora y solicitaron a los modelos que eligieran entre diferentes opciones.
GPT-4o de OpenAI fue sometido a cerca de cuatro mil 600 comparaciones, mientras que posteriormente se realizaron pruebas adicionales con GPT-5, Gemini 3 Flash Preview y Claude Sonnet 4.5.
También te puede interesar
SpaceX AI anunció Grok 4.7, su nuevo modelo de Inteligencia Artificial
Los modelos tuvieron que determinar qué rostro parecía corresponder a una persona más inteligente, trabajadora, servicial, egoísta o agresiva. También recibieron escenarios en los que debían identificar a posibles sospechosos de delitos o decidir quién podría ser adecuado para determinadas actividades profesionales.
GPT-4o coincidió con juicios humanos
Uno de los resultados que llamó la atención de los investigadores fue que GPT-4o seleccionó en 74.88 por ciento de las ocasiones el rostro que coincidía con las valoraciones previamente realizadas por seres humanos sobre características como confiabilidad y confianza en uno mismo.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
En las pruebas posteriores, GPT-5 mostró una tendencia todavía más marcada a emitir este tipo de prejuicios a partir de la apariencia de las personas.
Los investigadores calificaron este comportamiento como una vulneración de la neutralidad que se espera de los sistemas de inteligencia artificial, especialmente cuando sus respuestas podrían utilizarse en procesos de selección o toma de decisiones.
¿Por qué la IA desarrolla estos prejuicios?
Los especialistas todavía no tienen una explicación definitiva sobre el origen de esta conducta. Una de las posibilidades es que los modelos hayan aprendido asociaciones entre determinadas características físicas y rasgos de personalidad presentes en los textos utilizados durante su entrenamiento.
La literatura, por ejemplo, contiene numerosas representaciones que relacionan la apariencia de una persona con su carácter. Los investigadores citan como referencia un pasaje de Julio César, de William Shakespeare, en el que un personaje relaciona determinados rasgos físicos con la peligrosidad.
El estudio también advierte que, si estas tendencias no son identificadas y corregidas, existe el riesgo de que la inteligencia artificial reproduzca prejuicios humanos en contextos donde sus decisiones podrían tener consecuencias reales.
Sin embargo, los autores pidieron interpretar los resultados con cautela, ya que los experimentos se realizaron en condiciones de laboratorio. Además, señalaron que algunas de las imágenes pudieron haber estado presentes en los datos de entrenamiento, aunque no encontraron evidencia de que los modelos las hubieran reconocido.
El estudio fue encabezado por Steven Lehr, psicólogo de Harvard, quien además es fundador y asesor científico de una empresa estadounidense dedicada al desarrollo de una plataforma de selección de personal mediante inteligencia artificial.
¿Qué te pareció?
Etiquetas
Vía: DW México
