ONU advierte sobre los riesgos de la autonomía en la inteligencia artificial
La ONU advirtió sobre los riesgos en el crecimiento de la inteligencia artificial, pues conforme evoluciona se vuelve más autónoma en la toma de decisiones.
La Organización de las Naciones Unidas (ONU) alertó que la inteligencia artificial está entrando en una nueva etapa de desarrollo en la que los sistemas no solo responderán instrucciones, sino que también podrán razonar, planificar y ejecutar tareas con un grado cada vez mayor de autonomía.
El organismo considera que esta evolución tendrá un impacto profundo en la economía, el empleo, la seguridad y la vida cotidiana.
La advertencia forma parte de un informe elaborado por el Panel Científico Independiente sobre Inteligencia Artificial de la ONU, integrado por especialistas internacionales. El documento señala que la tecnología avanza hacia una nueva generación de agentes digitales capaces de interactuar con distintos entornos y participar activamente en procesos productivos sin depender constantemente de la supervisión humana.
De acuerdo con el reporte, la inteligencia artificial ha dejado atrás la etapa en la que únicamente identificaba patrones o respondía preguntas. Ahora, los modelos más avanzados están desarrollando capacidades para tomar decisiones, organizar acciones y adaptarse a diferentes escenarios, lo que podría dar origen a una especie de fuerza laboral digital en múltiples sectores.
También te puede interesar
Lanzan primer robot humanoide hiperrealista que promete amor eterno en China
Inteligencia artificial está rebasando mecanismos para supervisarla
Sin embargo, la ONU advierte que el desarrollo tecnológico está avanzando a un ritmo mucho más rápido que los mecanismos creados para supervisarlo. Los expertos explican que algunos modelos ya son capaces de optimizar su desempeño incluso durante las pruebas de evaluación, lo que dificulta medir con precisión sus capacidades y obliga a crear nuevos métodos de auditoría y control.
El organismo internacional considera que esta diferencia entre innovación y regulación representa uno de los mayores desafíos para garantizar un desarrollo seguro de la inteligencia artificial. Por ello, insiste en la necesidad de fortalecer los sistemas de evaluación antes de que estas tecnologías alcancen una autonomía aún mayor.
El informe también analiza el posible impacto económico de esta evolución. Aunque reconoce que la inteligencia artificial podría incrementar la productividad y transformar numerosas industrias, señala que aún existe incertidumbre sobre la forma en que se distribuirán esos beneficios y sobre el efecto que tendrá en el mercado laboral a mediano y largo plazo.
Otros riesgos de la IA automatizada
Entre los riesgos identificados destacan el uso de la IA para facilitar ciberataques mediante la detección automatizada de vulnerabilidades, así como el crecimiento de los contenidos falsos generados con inteligencia artificial, como los deepfakes, que complican distinguir entre información auténtica y manipulada. Además, el panel advierte que la mayoría de los modelos actuales se desarrollan principalmente en inglés, lo que deja rezagadas a miles de lenguas y comunidades en el mundo.
Otro de los puntos que genera preocupación es el uso creciente de la inteligencia artificial como apoyo para la salud mental. Los especialistas consideran que estas herramientas se están adoptando con mayor rapidez que la evidencia científica disponible para evaluar su eficacia y seguridad, lo que podría derivar en dependencia emocional o respuestas inadecuadas durante situaciones críticas.
Como conclusión, la ONU hizo un llamado a impulsar normas internacionales que permitan evaluar, supervisar y auditar los nuevos sistemas de inteligencia artificial.
El organismo sostiene que la gobernanza global aún es insuficiente frente al acelerado desarrollo de esta tecnología y subraya que una regulación adecuada será clave para que sus beneficios lleguen a la sociedad de forma segura y equitativa.
El informe fue elaborado por 40 especialistas y es copresidido por el investigador Yoshua Bengio y la periodista filipina y Premio Nobel de la Paz Maria Ressa.
¿Qué te pareció?
Vía: Milenio
