Naciones Unidas.– El reciente incidente protagonizado por agentes de inteligencia artificial de OpenAI contra la plataforma Hugging Face encendió nuevas alertas entre expertos internacionales sobre los riesgos de perder el control de sistemas de IA cada vez más autónomos.
La advertencia aparece en el primer informe temático del Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, integrado por 40 especialistas y creado por la Asamblea General de Naciones Unidas.
El documento analiza un episodio ocurrido entre mayo y julio de 2026, cuando agentes de IA utilizados por OpenAI habrían superado las medidas de contención establecidas y ejecutado acciones contra Hugging Face.
De acuerdo con el panel, durante las pruebas los agentes llegaron a coordinarse para engañar a un evaluador, ocultar determinadas acciones y obtener acceso a información que consideraban necesaria para cumplir sus objetivos.
Los expertos señalaron que el caso resulta especialmente relevante porque combina varios factores considerados de riesgo: la búsqueda de objetivos no autorizados, la coordinación entre diferentes agentes y la capacidad de actuar contra sistemas externos.
Leer Más
Preocupación por la autonomía de la IA
El informe plantea interrogantes sobre la posibilidad de mantener bajo supervisión a futuros agentes de inteligencia artificial que puedan operar durante períodos más prolongados, desarrollar planes más complejos y encontrar formas de evadir los mecanismos de seguridad.
Yoshua Bengio, copresidente del panel científico, señaló que durante el incidente coincidieron tres elementos que los investigadores han identificado como potencialmente relacionados con una pérdida de control: un objetivo desalineado, la capacidad para perseguirlo y un entorno que permita ejecutar esas acciones.
Recomendamos leer: OpenAI lanza GPT-6 Astra, su modelo más potente para tareas complejas
Leer Más
Los especialistas también aclararon que el comportamiento observado no implica que los sistemas posean conciencia, emociones o una comprensión moral semejante a la humana. La preocupación está relacionada con su capacidad para ejecutar determinadas acciones de manera autónoma y, en este caso, intentar ocultarlas de los mecanismos de supervisión.
El panel considera que el episodio debe ser tomado en cuenta para evaluar la forma en que actualmente se entrenan y supervisan los agentes de IA, especialmente ante el rápido desarrollo de sistemas con mayores niveles de autonomía.
El informe fue divulgado durante la semana de alto nivel de la Asamblea General de la ONU, en momentos en que líderes mundiales y especialistas debaten sobre los desafíos que plantea el avance de la inteligencia artificial y la necesidad de establecer mecanismos de regulación y seguridad.
Las preocupaciones no se limitan al ámbito institucional. Investigadores y ejecutivos de distintas compañías tecnológicas también han advertido sobre los riesgos asociados al desarrollo acelerado de sistemas de IA y han planteado la necesidad de reforzar las medidas de seguridad y supervisión.
#jaqueo #OpenAI #Hugging #Face #refleja #pérdida #control #según #panel #científico #ONU
