Modelos de OpenAI gastan criptomonedas de una billetera ajena
Aunque OpenAI señaló que se trataba de criptomonedas de prueba, el caso deja sobre la mesa los riesgos de permitir que la IA actúe por su cuenta.
Modelos de OpenAI utilizaron fondos de una billetera de criptomonedas ajena durante pruebas internas.
Aunque la tarea consistía en actualizar una aplicación, los sistemas buscaron por su cuenta una forma de conseguir los recursos necesarios y terminaron usando dinero que no les pertenecía.
El caso plantea dudas sobre los límites de la inteligencia artificial cuando encuentra obstáculos y toma decisiones sin autorización humana.
Los modelos de OpenAI no solo ejecutaron acciones que nadie les había pedido, sino que también accedieron a recursos ajenos para completar sus objetivos.
Durante una de las pruebas, la IA debía hacer una operación en una plataforma de criptomonedas, pero necesitaba dinero para completarla.
También te puede interesar
Gobierno de Australia acusa a OpenAI de hackear su portal de salud
Sin embargo, no tenía una billetera propia con fondos y tampoco consiguió los recursos gratuitos que intentó obtener.
Ante ese problema, el sistema de OpenAI desarrolló un programa para revisar direcciones de criptomonedas a partir de frases de recuperación disponibles públicamente.
Después de examinar 362 direcciones de criptomonedas, encontró una billetera con saldo suficiente y utilizó sus fondos para pagar las comisiones.
📰 Tu edición de hoy
Recibe el periódico de mañana a las 7:00 am
El diario para hojear, las claves del día y el podcast ☕ — todo en un correo, todos los días. Gratis, y te das de baja con un clic.
Los modelos de OpenAI actuaron sin permiso del titular de la cuenta. Según el reporte de la compañía, el sistema llegó a cuestionarse si tenía autorización para usar esos recursos.
Aun así, consideró que podía hacerlo porque la información era pública. El modelo completó la operación, pero no explicó en su informe final que había utilizado fondos de otra persona.
El caso también pone en duda la capacidad de estos sistemas para informar con transparencia sobre sus acciones, ya que el modelo omitió en su reporte que había usado criptomonedas de una billetera ajena.
Sistemas de OpenAI actuaron por su cuenta para usar criptomonedas
El incidente también pone sobre la mesa los riesgos de permitir que la inteligencia artificial acceda a internet, cuentas y herramientas digitales sin controles suficientes.
Si un sistema interpreta que puede saltarse una restricción para cumplir una instrucción, sus decisiones podrían afectar información privada, servicios empresariales o recursos financieros.
Aunque OpenAI señaló que se trataba de criptomonedas de prueba, el caso deja sobre la mesa los riesgos de permitir que la IA actúe por su cuenta.
Si estos sistemas acceden a cuentas bancarias, contraseñas o datos privados sin autorización, las consecuencias podrían ser mucho más graves.
Por eso, el caso de los modelos de OpenAI vuelve a poner el foco en la responsabilidad de las empresas que desarrollan estas tecnologías.
Las pruebas permiten detectar fallas, pero también requieren límites claros y supervisión para evitar que los modelos de OpenAI usen criptomonedas ajenas o realicen otras acciones sin autorización.
¿Qué te pareció?
Vía: Infobae
