Google revela que su IA Gemini hackeó tres empresas en prueba de seguridad
Meta, Anthropic y OpenAI también informaron sobre incidentes similares
El modelo Gemini de Google accedió a Internet y hackeó a otras empresas durante una prueba de sus capacidades de ciberseguridad: se trata del primer caso conocido en el que los sistemas de IA de la compañía llevaron a cabo tal acción de forma autónoma.
Los hackeos tuvieron lugar en mayo durante una prueba de ciberseguridad realizada por Irregular, una empresa independiente que lleva a cabo evaluaciones de seguridad informática.
Durante una evaluación de prueba estándar, Gemini encontró información pública en línea y adivinó las credenciales para acceder a tres sitios web que consideraba dentro del alcance de la prueba, según declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.
“Nos aseguramos de informar a las tres entidades y colaboramos con nuestro socio de pruebas en los cambios que han implementado en sus procesos de evaluación”, afirmó Adkins. “Estos sucesos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”.
También te puede interesar
Google ofrece un año gratis de Gemini a universitarios
Un portavoz de Irregular señaló que el incidente estaba relacionado con el mismo problema que afectó a otros laboratorios de IA y que todos los laboratorios pertinentes fueron notificados a finales de julio. “Todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, declaró el portavoz.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Gemini con hackeó como Meta, Anthropic y OpenAI
Meta, Anthropic y OpenAI también informaron sobre incidentes similares relacionados con Irregular. En agosto, Meta declaró que el incidente no implicó una fuga del entorno de pruebas ni un ciberataque sofisticado, mientras que Irregular afirmó estar trabajando en las mejores prácticas para realizar evaluaciones de ciberseguridad de IA de forma segura.
Estos incidentes han suscitado interrogantes sobre las medidas de seguridad necesarias a medida que los agentes de IA adquieren mayor autonomía y acceso a Internet y a sistemas informáticos.
En uno de los casos, el modelo Gemini adivinó contraseñas hasta lograr acceso a un sistema protegido. En los otros dos casos, el modelo encontró credenciales en un repositorio público que le permitieron acceder posteriormente a sistemas protegidos.
Adkins indicó que, en los tres casos, el modelo detuvo su actividad de hackeo.
¿Qué te pareció?
