
Advierten que Anthropic no es una compañía segura antes de su salida a bolsa
Científicos y juristas cuestionan la seguridad de Anthropic antes de su salida a bolsa. Los especialistas advierten sobre los riesgos de la IA. ¡Entérate!
Anthropic, empresa desarrolladora del asistente de inteligencia artificial Claude, enfrenta cuestionamientos sobre sus políticas de seguridad a pocas horas de su esperado debut en el mercado bursátil.
Recientemente, un grupo de científicos, académicos y juristas advirtió que la compañía no estaría cumpliendo con los compromisos necesarios para garantizar un desarrollo responsable de esta tecnología.
Las críticas fueron difundidas mediante un comunicado denominado “MisAnthropic”, en el que los firmantes señalaron que la empresa estaría acelerando sus esfuerzos para desarrollar sistemas de inteligencia artificial capaces de mejorarse a sí mismos, sin considerar suficientemente los riesgos que esto podría representar para la sociedad.
De acuerdo con el documento, esta carrera tecnológica podría facilitar una mayor concentración de poder y permitir que los sistemas de inteligencia artificial desarrollen capacidades difíciles de mantener bajo supervisión humana.
Los especialistas también cuestionaron que Anthropic utilice su imagen de empresa comprometida con la seguridad para atraer inversionistas, trabajadores y usuarios, mientras internamente no la pueden controlar.
También te puede interesar
OpenAI compra Odessia, una IA que reserva vuelos y hoteles
Entre las personas que respaldaron el pronunciamiento se encuentran Oliver Hart, ganador del Premio Nobel de Economía en 2016; Judea Pearl, reconocido con el Premio Turing en 2011 por sus aportaciones a la inteligencia artificial; el psicólogo de Harvard Steven Pinker, y Thomas Wolf, cofundador y responsable científico de Hugging Face.
Anthropic prepara una histórica salida a bolsa
Curiosamente, el pronunciamiento se produce en un momento clave para la compañía, que busca convertirse en una de las primeras desarrolladoras de modelos avanzados de inteligencia artificial en protagonizar una de las mayores ofertas públicas iniciales de acciones.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Anthropic tiene previsto comenzar a cotizar en el Nasdaq este jueves, bajo el símbolo bursátil ANT.
De acuerdo con información difundida por Bloomberg y retomada por Milenio, la empresa contemplaba fijar el precio de sus acciones hasta en 85 dólares, por encima del rango inicial de entre 70 y 78 dólares.
Sin embargo, información publicada este 18 de noviembre por Reuters señala que finalmente estableció el precio en 83 dólares por acción, con una valoración aproximada de 1.5 billones de dólares.
La operación también refleja el creciente interés de los inversionistas por las empresas dedicadas al desarrollo de inteligencia artificial, pese a las dudas sobre los costos de infraestructura, la competencia y los riesgos asociados con modelos cada vez más avanzados.
Cabe mencionar que, la controversia sobre la seguridad de Anthropic tampoco es nueva. En septiembre, el exinvestigador Jacob Coxon cuestionó las estrategias de seguridad de la compañía y de OpenAI, al señalar que la competencia por desarrollar sistemas más potentes podría estar desplazando las medidas necesarias para prevenir posibles daños.
Posteriormente, el director ejecutivo de Anthropic, Dario Amodei, se pronunció junto con otros líderes tecnológicos a favor de dar mayor tiempo al desarrollo de mecanismos de seguridad.
Mientras Anthropic se prepara para su debut en Wall Street, las críticas de este grupo de especialistas recuerdan el límite que deben implentar los gobiernos del mundo a este desarrollo tecnológico, ya que pese a la supervisión humana, estos modelos se superan asimismo a través del autoconocimiento y autoaprendizaje.
¿Qué te pareció?
Etiquetas
Vía: Milenio


