Google, Anthropic y OpenAI crearán un organismo de supervisión de la IA
Varias empresas dedicadas al desarrollo de la IA están analizando crear un organismo que supervice sus riesgos y evalué modelos más avanzados. Conoce más.
OpenAI, Anthropic y Google DeepMind analizan la creación de un organismo encargado de evaluar y supervisar los riesgos relacionados con el desarrollo de la inteligencia artificial (IA), en un contexto de creciente preocupación por la seguridad de esta tecnología.
La propuesta surge mientras aumentan los llamados para establecer mayores controles sobre los sistemas de IA más avanzados.
Cabe mencionar que, en las últimas semanas, incluso trabajadores e investigadores de importantes empresas del sector como Anthropic han expresado públicamente sus inquietudes sobre las posibles consecuencias de un desarrollo acelerado de esta tecnología.
La idea de establecer una entidad especializada fue planteada por Demis Hassabis, director de Google DeepMind, quien propuso crear una estructura similar a la Autoridad Reguladora de la Industria Financiera (FINRA), organismo estadounidense encargado de supervisar a corredores y empresas de inversión.
En julio, Hassabis planteó que Estados Unidos debería contar con una organización capaz de poner a prueba los sistemas de inteligencia artificial más avanzados antes de que sean lanzados al público. De acuerdo con su propuesta, el financiamiento tendría que ser considerable y provenir principalmente de las propias compañías de la industria.
También te puede interesar
OpenAI, Google, Oracle y otros gigantes alertan sobre ciberataques con IA
Preocupaciones por el desarrollo de la IA
También, Sam Altman, director ejecutivo de OpenAI, manifestó su respaldo a una mayor coordinación entre las empresas dedicadas al desarrollo de IA. El empresario reconoció que existe preocupación por una posible competencia entre compañías y países que termine colocando la seguridad en un segundo plano frente a la velocidad de innovación.
En Estados Unidos, el gobierno comenzó en agosto un proceso para evaluar nuevos modelos de inteligencia artificial. Sin embargo, este mecanismo es voluntario y hasta ahora no se ha dado a conocer públicamente la metodología utilizada para realizar dichas evaluaciones.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Las preocupaciones también han sido expresadas por trabajadores y exintegrantes de compañías tecnológicas. Dario Amodei, director ejecutivo de Anthropic, pidió recientemente desacelerar el desarrollo de la IA, mientras que Jacob Coxon, quien dejó su puesto como desarrollador en la empresa, advirtió sobre los riesgos que la industria podría representar.
Por su parte, Bilal Chughtai, exinvestigador de Google DeepMind, señaló que considera que la inteligencia artificial tiene el potencial de provocar consecuencias graves para la humanidad y sostuvo que podría estar reduciéndose el tiempo disponible para prevenir escenarios extremos, como la extinción.
Supervisión de la IA deberá incluir expertos independientes
La propuesta de un organismo de supervisión también enfrenta cuestionamientos relacionados con la competencia económica.
Para evitar que las grandes empresas del sector sean acusadas de establecer acuerdos para controlar el mercado, algunos planteamientos contemplan incluir expertos independientes y representantes de desarrolladores de modelos de IA abiertos.
Una vez constituida, la organización podría evaluar los modelos de inteligencia artificial más avanzados antes de su comercialización, particularmente en materia de seguridad. Sin embargo, algunos especialistas han advertido que las principales compañías no deberían ser las únicas encargadas de establecer las reglas que determinarán el futuro de esta tecnología.
El tema también ha llegado al ámbito político de Estados Unidos. Mientras algunos legisladores han solicitado normas internacionales obligatorias para controlar los riesgos de la IA, sectores republicanos han cuestionado que las propias empresas tecnológicas participen en la definición de las reglas que deberán cumplir.
Entre estas críticas aparece la posibilidad de que una coordinación entre grandes compañías termine funcionando como una especie de cartel de la inteligencia artificial.
¿Qué te pareció?
Vía: Animal Político
