Meta alertará a los padres si su hijo habla de suicidio con la IA
Meta alertará a los padres que usan las herramientas de supervisión parental de Instagram si sus hijos adolescentes entre 13 y 17 años presentan signos de angustia relacionados con salud mental en conversaciones con Meta AI, su inteligencia artificial.
La compañía activó las notificaciones en Estados Unidos, Reino Unido, Australia y Canadá, y prevé extenderlas a nivel global antes de fin de año.
Cuando la inteligencia artificial detecte señales de riesgo, incluso referencias sutiles a hacerse daño, el sistema marcará la conversación para revisión manual antes de enviar la alerta.
Si la intención del adolescente resulta ambigua, Meta optará por notificar al padre o tutor de todas formas. La compañía también compartirá recursos de expertos para que los adultos puedan abordar esas conversaciones con sus hijos.
También te puede interesar
Demandan a Meta por usar IA para elegir trabajadores con problemas de salud y despedirlos
Meta construyó un sistema de inteligencia artificial dedicado exclusivamente a identificar conversaciones de riesgo, desarrollado con señales definidas junto a especialistas en salud mental.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Cómo funciona el sistema de detección de Meta
Todos los chats marcados por ese sistema pasan por revisión humana antes de que se emita cualquier alerta.
La medida se suma a las notificaciones que la plataforma ya enviaba a los padres supervisores cuando un adolescente buscaba repetidamente términos relacionados con atentar en contra de su vida en Instagram en un período corto de tiempo.
En paralelo, Meta trabaja en la capacidad de contactar a los servicios de emergencia cuando una conversación, de un adulto o un adolescente, con Meta AI sugiera riesgo inminente de atenta en contra de su vida.
La función amplía lo que la empresa ya hace en Facebook e Instagram: cuando detecta una publicación con riesgo creíble de atentar en contra de su vida, alerta a las autoridades. El año pasado realizó más de 19 mil derivaciones en todo el mundo para que los servicios de emergencia hicieran controles de bienestar.
Para afinar las respuestas de Meta AI ante este tipo de conversaciones, la compañía recopiló retroalimentación de más de 75 profesionales de salud mental, todos especializados en adolescentes, que revisaron cientos de interacciones y evaluaron si las respuestas eran apropiadas para esa franja de edad.
¿Qué te pareció?
