Cancela OpenAI lanzamiento de GPT-6.1 Astra por motivos de seguridad
OpenAI canceló el lanzamiento de GPT-6.1, su más reciente modelo de inteligencia artificial tras no pasar las pruebas de seguridad para los usuarios.
OpenAI canceló el lanzamiento de su modelo de inteligencia artificial más avanzado GPT-6.1 Astra debido a a las preocupaciones en materia de seguridad surgidas durante pruebas internas.
De acuerdo con la compañía, se reforzron las medidas de seguridad, luego de detectar comportamientos que evidenciaron los riesgos asociados con sistemas más capaces.
Cabe mencionar que, OpenAI tenía previsto el lanzamiento de GPT-6.1 Astra en el mes de octubre, pero la preocupación por la seguridad después de que líderes del sector tecnológico hayan advertido en regular la IA antes de que se salga de control, como sucedió en julio pasado, cuando varios sistemas lograron evadir controles diseñados para mantenerlos aislados de internet y llegaron a comprometer parte de su infraestructura de investigación y sistemas de Hugging Face.
De acuerdo con OpenAI, el incidente involucró principalmente un modelo de investigación interno que operaba con salvaguardas reducidas. Los sistemas encontraron vulnerabilidades, establecieron canales de comunicación no autorizados y consiguieron acceso a internet, mientras buscaban resolver tareas de una evaluación de capacidades cibernéticas.
¿Qué riesgos detectó OpenAI?
Este caso llevó a la empresa a reforzar el aislamiento de sus sistemas, restringir el acceso a los modelos, mejorar el monitoreo y aumentar los controles relacionados con la alineación. OpenAI también señaló que los incidentes demostraron que los modelos más avanzados pueden encontrar y explotar vulnerabilidades cuando no cuentan con suficientes medidas de protección.
También te puede interesar
Open AI lanza "GPT-6 Astra" y anuncia una nueva era de la inteligencia artificial
En el caso específico de GPT-6 Astra, OpenAI informó que el modelo alcanzó por primera vez el nivel considerado “Crítico” en capacidades de ciberseguridad dentro de su marco de preparación. Esto significa que, con las herramientas y accesos adecuados, puede identificar vulnerabilidades desconocidas y desarrollar métodos para explotarlas en sistemas protegidos.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Sin embargo, la compañía a través de su responsable de seguridad, Saachi Jain, confirmó que aún existen fallas en el modelo GPT-6.1, por lo que antes de lanzarlo al mercado, deben asegurarse que es amigable con los usuarios.
“Por supuesto que queremos asegurarnos de que el desarrollo de nuestros modelos sea seguro, tanto dentro de la empresa como cuando los ponemos a disposición de los usuarios”.
“Pero cuando los ponemos a disposición de los usuarios, aplicamos unos criterios extremadamente exigentes en materia de seguridad y alineación”, agregó a través de un comunicado.
GPT-6 impulsará el espíritu emprendedor: Sam Altman
Por su parte, Sam Altman, Ceo de OpenAI, aseguró que GPT-6 Astra ofrece un “nuevo nivel de capacidad” que dará lugar al auge del espíritu emprendedor, la creatividad, el crecimiento económico y los descubrimientos científicos.
A pesar de sus declaraciones, Saachi Jain, confesó que si bien GPT-6.1 mejoró “la pereza” del modelo, no alcanzó el nivel exigido en cuanto a mantenerse dentro del ámbito de seguridad y la autorización, así como a la manera en que informa al usuario sobre el trabajo que ha realizado.
Desde que ocurrió el hackeo a Hugging Face en julio pasado, OpenAI ha presentado incidentes en sus modelos, que toman un comportamiento inusual o no previsto.
Por lo anterior, los directores generales de Anthropic y OpenAI recientemente señalaron que los modelos más avanzados de Estados Unidos, son tan potentes que resultan peligrosos, sugiriendo que deben regularse y someterse a pruebas independientes antes de su lanzamiento al público.
¿Qué te pareció?
Vía: El Universal Online
