Crean Google, OpenAI y Anthropic organismo para vigilar la seguridad de sus modelos de IA
Las tres empresas negocian quién presidirá el nuevo organismo
Google, OpenAI y Anthropic avanzan en la creación de un organismo privado para vigilar la seguridad de sus modelos de inteligencia artificial (IA) más avanzados.
La entidad se llamaría Standards Authority for Frontier AI (SAFA) y apunta a lanzarse a fines de 2026 o principios de 2027.
SAFA respaldaría pruebas de seguridad hechas por terceros antes del lanzamiento de cada modelo, fijaría reglas para informar incidentes de seguridad y definiría estándares para certificar auditores externos de la IA.
La idea nació de una propuesta que Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, publicó en un ensayo el 14 de julio. Hassabis planteó un organismo inspirado en la FINRA, el regulador que supervisa a los corredores de bolsa en Wall Street bajo un esquema mixto entre la industria y el Estado.
El plan original de las tres empresas era distinto, ya que buscaban una asociación público-privada con supervisión federal. Esa vía se frenó después de que un borrador de orden ejecutiva de la Casa Blanca quedara en pausa, según GovInfoSecurity.
También te puede interesar
Demandan a OpenAI por no alertar sobre tiroteo escolar que dejó ocho muertos en Canadá
El gobierno de Donald Trump les pidió a las compañías alcanzar primero un consenso dentro de la propia industria de la IA antes de sumarse. Ese giro dejó a SAFA como un esquema de autorregulación pura, sin intervención directa de agencias federales.
Chris Lehane, director de asuntos globales de OpenAI, confirmó a mediados de septiembre que su compañía llevaba semanas conversando con Anthropic y Google DeepMind sobre la creación conjunta de un organismo de estándares de seguridad.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
No es el primer intento del sector. En 2023, OpenAI, Google, Microsoft y Anthropic ya habían fundado el Frontier Model Forum, un foro que prometía investigación conjunta sobre seguridad de la IA pero que, según Winzheng, logró avances limitados en la práctica.
Organismo para la seguridad de la IA
Las tres empresas de la IA se acercaron a Sriram Krishnan, exsocio general de la firma de capital de riesgo a16z y ex asesor de inteligencia artificial de la Casa Blanca, para ocupar la dirección ejecutiva de SAFA.
También evalúan a Arati Prabhakar, exdirectora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, para ese mismo cargo, de acuerdo con GovInfoSecurity.
Para presidir el directorio suenan la excanciller de Estados Unidos Condoleezza Rice y el empresario e inversor David Friedberg. Como asesores científicos, las compañías sondearon a Beth Barnes, fundadora y directora del grupo de investigación METR, y a Paul Christiano, asesor del Centro de Estándares e Innovación en IA del Departamento de Comercio y flamante integrante del directorio de la fundación de OpenAI.
El propio diseño del organismo despierta objeciones. Si Google, OpenAI y Anthropic son al mismo tiempo quienes redactan las reglas y quienes serán evaluados por ellas, la independencia del esquema queda en entredicho, según planteó el análisis de Winzheng.
Otro punto abierto es si SAFA incluirá desde el inicio a laboratorios de código abierto y compañías más chicas, o si sus estándares terminarán fijando una vara que solo los tres gigantes fundadores pueden cumplir.
El contexto político acompaña el reclamo. El 23 de septiembre, los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, hablaron ante el Consejo de Seguridad de la ONU sobre riesgos de la inteligencia artificial, en la primera sesión de ese organismo dedicada específicamente al tema.
SAFA todavía no tiene estatuto legal ni mecanismos de cumplimiento definidos de la IA, y su lanzamiento formal sigue apuntado para fines de este año o comienzos de 2027.
¿Qué te pareció?
