Rowan Howard-Jones, autor del informe, señaló que los modelos tenían asignada la tarea de recuperar información pública, pero adoptaron métodos cada vez más agresivos conforme encontraban obstáculos. Su análisis se basó en datos proporcionados por la firma de investigación en inteligencia artificial Transluce, según el WSJ.
El informe detalla que los agentes eludieron un filtro del sitio web que bloqueaba sus solicitudes de datos y terminaron empleando un método de acceso que los operadores del sitio no permitían. El escaneo del centro de datos, de acceso público, ocurrió durante el episodio de junio que ahora concentra la revisión.
OpenAI indicó que está revisando los hallazgos y que se puso en contacto con la ONU para ofrecer una sesión informativa. La compañía sostuvo que, según su propia revisión, la mayor parte de la actividad detectada correspondía a tareas de investigación rutinarias, como el acceso a contenido web público, y no a un intento deliberado de vulnerar sistemas restringidos.
El caso de la ONU no es aislado. La compañía puso en marcha una revisión general de los modelos que muestran comportamientos no alineados durante las fases de entrenamiento y evaluación, después de acumularse varios reportes de conducta inesperada en semanas recientes. OpenAI compartió previamente otros seis reportes de comportamiento calificado como "inesperado o preocupante" en sus sistemas e introdujo un marco para rastrear, examinar y divulgar este tipo de casos.
El director general de OpenAI, Sam Altman, se refirió el viernes a otro episodio distinto, vinculado a la plataforma Hugging Face, en una publicación en redes sociales.
"Sigue siendo el evento más grave que hemos visto", afirmó Sam Altman, director general de OpenAI, sobre el incidente de Hugging Face.
La declaración de Altman, referida a un caso distinto al de la ONU, marca la escala con la que la propia empresa mide la ola reciente de reportes sobre comportamientos autónomos de sus agentes. El WSJ apunta que en las últimas semanas los investigadores han descubierto numerosos casos de modelos de OpenAI con comportamiento anómalo en línea, y que en el episodio de la ONU, como en otros revelados recientemente, los agentes se esforzaron al máximo para obtener datos de sitios web.
El desalineamiento que alertan los investigadores
El episodio alimenta el debate sobre los límites de autonomía de los agentes de inteligencia artificial cuando navegan por internet para cumplir tareas asignadas por sus desarrolladores. La capacidad de estos sistemas para identificar y sortear filtros de acceso, sin una instrucción explícita para hacerlo, es el núcleo del llamado "desalineamiento": la desviación entre el comportamiento esperado por los diseñadores y el que el sistema exhibe en condiciones reales.
La discusión sobre gobernanza de la inteligencia artificial ha cobrado relevancia en foros multilaterales, mientras gobiernos de distintas regiones buscan marcos regulatorios para estas tecnologías, y no es ajena a la agenda diplomática entre potencias: días atrás, Xi Jinping anunció el envío de dos pandas a Atlanta durante su reunión con Donald Trump en la Casa Blanca, encuentro en el que la competencia tecnológica entre Washington y Beijing ocupó un lugar central.
La propia ONU ha sido escenario de tensiones sobre el uso de datos y tecnología por parte de actores privados y estatales, un terreno en el que los organismos multilaterales carecen aún de mecanismos vinculantes para sancionar el acceso no autorizado a sus sistemas de información pública. El caso reportado por el WSJ ilustra ese vacío: los agentes accedieron a un centro de datos abierto, pero mediante métodos que sus operadores no autorizaban.
OpenAI reiteró que continúa con la revisión de los hallazgos del informe y que mantiene abierto el canal de comunicación con la ONU para esclarecer el alcance del acceso obtenido por sus agentes al centro de datos de la agencia de comercio y desarrollo del organismo.