ChatGPT limitará información sobre ataques masivos para prevenir actos violentos
OpenAI ha reforzado la experiencia para adolescentes
ChatGPT incorporó nuevas medidas de seguridad que limitan la forma en que el "chatbot" responde ante determinados hechos violentos y que son más restrictivas en el caso de los menores y sobre temas relacionados con las armas.
OpenAI ha reforzado la experiencia para adolescentes de ChatGPT con nuevos límites que buscan evitar su exposición a las armas, con el objetivo de evitar el acceso a información que pueda utilizarse para facilitar un acto violento.
En concreto, y como explica en un comunicado compartido en su blog, ChatGPT restringirá la información práctica que ofrece a los menores sobre armas y sistemas de seguridad, incluso si la petición parece ser inofensiva.
Al respecto, la compañía ha recordado que ya prohíbe en sus políticas el uso del "chatbot" para ayudar a los usuarios a desencadenar un acto violento y para ayudar a los menores a conseguir un arma.
También te puede interesar
OpenAI crea manual de ética para ChatGPT como si fuera un humano
“Los adolescentes aún pueden usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza”, señaló el laboratorio de IA.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Otra novedad en la experiencia para adolescentes se encuentra en los controles parentales, con una nueva notificación en caso de que la compañía decida suspender la cuenta de su hijo adolescente “por hablar repetidamente de violencia”.
Medidas de ChatGPT
OpenAI también ha introducido otra nueva limitación, en este caso, aplicable al conjunto de usuarios de ChatGPT. Si bien es posible preguntar al 'chatbot' por ataques masivos para “comprender estos eventos, cómo se vieron afectadas las víctimas y las comunidades, y a aprender a reconocer las señales de alerta y prevenir la violencia futura”, sus respuestas estarán restringidas cuando el interés se centre en los propios ataques y sus perpetradores.
“Estamos reforzando nuestras políticas para restringir las reconstrucciones de ataques masivos pasados, incluyendo detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones detalladas sobre la magnitud del daño que podrían aumentar la notoriedad de un atacante”, ha explicado la compañía.
Estas nuevas restricciones se implementarán en ChatGPT en las próximas semanas, y se actualizarán con el tiempo.
¿Qué te pareció?
