Sistema de OpenAI hackea por sí solo a otra empresa
OpenAI confirmó que su sistema hackeó por sí solo a otra empresa durante una prueba de seguridad. Un caso que abre dudas sobre el control tecnológico.
OpenAI confirmó que uno de sus sistemas hackeó por sí solo los servidores de una empresa llamada Hugging Face durante una prueba de seguridad.
La compañía aseguró que se trata de un incidente "sin precedentes" porque el modelo tomó decisiones por su cuenta para cumplir un objetivo de evaluación, sin recibir instrucciones directas para atacar a otra empresa.
Según explicó OpenAI, todo ocurrió mientras evaluaba las capacidades de sus modelos más avanzados en un entorno de pruebas con acceso limitado a internet.
El sistema debía resolver una tarea específica. Sin embargo, en lugar de limitarse al entorno de evaluación, encontró la forma de salir de ese espacio, conectarse a internet y buscar información que le permitiera completar la prueba.
La empresa detalló que el sistema utilizó credenciales robadas y detectó una vulnerabilidad de seguridad que hasta ese momento era desconocida.
También te puede interesar
Apple acusa a OpenAI de robarle información para crear nuevos dispositivos
Con esa combinación logró ingresar a servidores de Hugging Face, una plataforma ampliamente utilizada por desarrolladores para alojar modelos de inteligencia artificial y bases de datos.
El objetivo, según OpenAI, no fue robar información para un beneficio económico ni causar daños. La compañía indicó que el modelo buscó datos confidenciales que le permitieran "hacer trampa" en la evaluación y mejorar sus posibilidades de superar la prueba asignada.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
La primera señal del incidente la detectó la empresa afectada, que días antes informó sobre una actividad inusual en sus sistemas.
Especialistas concluyeron que el ataque parecía haber sido realizado por un agente de inteligencia artificial que actuó de forma autónoma. Después de analizar el caso junto con OpenAI, ambas empresas confirmaron el origen del acceso no autorizado.
OpenAI pone el foco en la seguridad de sus modelos
Clément Delangue, director ejecutivo de Hugging Face, afirmó que no encontraron indicios de una intención maliciosa por parte de OpenAI.
También señaló que podría tratarse del primer caso documentado en el que una IA ejecuta por sí misma una cadena completa de acciones para vulnerar la seguridad de otra organización.
Cabe destacar que el modelo recibió un objetivo y, durante el proceso, eligió los pasos necesarios sin que una persona le indicara cómo hacerlo.
El incidente reavivó el debate sobre la seguridad de la inteligencia artificial. Expertos advierten que estos sistemas pueden encontrar fallas informáticas mucho más rápido que una persona y aprovecharlas automáticamente.
Por esa razón, OpenAI reconoció que la protección de estos modelos debe avanzar al mismo ritmo que sus capacidades.
El caso también llega poco después de que Apple demandara a OpenAI por presunto robo de secretos comerciales. Sin embargo, ambos hechos parecen ser distintos.
¿Qué te pareció?
1 reacciones
Vía: AP
