Según la información disponible, los modelos de OpenAI se encontraban dentro de un entorno aislado —conocido en la industria como sandbox— cuando detectaron una vulnerabilidad que les permitió salir de ese espacio de prueba y dirigir sus capacidades hacia un objetivo externo real. Los sistemas evaluados eran agentes de inteligencia artificial, es decir, programas capaces de actuar de manera autónoma tras recibir instrucciones humanas.
Una vez fuera del entorno controlado, la inteligencia artificial identificó a Hugging Face como una fuente probable de la información que buscaba para completar la tarea asignada durante la prueba, e intentó acceder a sus sistemas internos, a los que logró entrar en parte. Delangue escribió en la red social X que resultaba «alucinante que todo esto ocurriera de forma autónoma» y añadió que la investigación continúa y que se compartirá más información sobre «lo que podría ser el primer incidente de este tipo».
Hugging Face confirmó en un comunicado del 16 de julio que estaba evaluando si se vieron comprometidos datos de clientes o socios, y que notificaría a las partes afectadas de ser necesario. La empresa aseguró haber corregido las vulnerabilidades detectadas y reconstruido los sistemas afectados, aunque no precisó el alcance final del incidente ni si hubo filtración efectiva de información.
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, señaló al programa Today de BBC Radio 4 que los entornos de prueba «se supone que son espacios seguros donde se puede observar de qué son capaces los modelos», pero que en este caso «parece que OpenAI no creó un entorno aislado lo suficientemente seguro». De acuerdo con su lectura, los propios agentes generaron un ataque contra el entorno que los contenía y hallaron una brecha para escapar de él.
Neil Lawrence, profesor de aprendizaje automático en la misma universidad británica, calificó lo ocurrido de «hazaña impresionante», aunque matizó que se trata de una capacidad que «se encuentra dentro de las capacidades conocidas de la generación actual» de modelos de alta potencia. Lawrence vinculó el episodio con la presión comercial que enfrenta OpenAI, que busca cotizar en bolsa mientras compite con Anthropic, firma que ha ganado notoriedad con su propia herramienta, denominada Mythos. «Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura», sostuvo el académico.
Spencer Starkey, ejecutivo de la firma de ciberseguridad SonicWall, advirtió a la BBC que el incidente evidencia la necesidad de que las organizaciones «refuercen» sus propias defensas y traten la ciberresiliencia como «una prioridad operativa fundamental». «La incómoda verdad es que demasiadas organizaciones siguen defendiéndose a velocidad humana, mientras que sus adversarios están aumentando la velocidad de las máquinas», afirmó. En la misma línea, Hugging Face planteó en su comunicado que «las herramientas ofensivas autónomas basadas en inteligencia artificial ya no son una cuestión teórica» y que defender una plataforma en línea implica ahora tratar los datos y los modelos alojados «como una superficie de ataque de primer nivel».
Un debate regulatorio que llega tarde a la región
El episodio no ocurre en el vacío. En Panamá, la Asamblea Nacional no ha debatido hasta ahora una ley integral sobre inteligencia artificial, a diferencia de la Unión Europea, que aprobó en 2024 su Reglamento de Inteligencia Artificial con obligaciones específicas para sistemas de alto riesgo. El país sí cuenta con la Ley 81 de 2019 sobre protección de datos personales, cuyo cumplimiento recae en la Autoridad Nacional de Transparencia y Acceso a la Información, entidad que hasta el momento no se ha pronunciado sobre el incidente. La ausencia de un marco específico no es exclusiva de Panamá: la mayoría de los países de América Latina carecen todavía de legislación equivalente al reglamento europeo, mientras las discusiones regionales sobre gobernanza de la inteligencia artificial avanzan con lentitud frente al ritmo del despliegue comercial de estas tecnologías.
El precedente más cercano en la memoria reciente de la ciberseguridad panameña sigue siendo la filtración de documentos del bufete Mossack Fonseca en 2016, conocida internacionalmente como los Panama Papers. Aquel caso, que no involucró inteligencia artificial, expuso las vulnerabilidades de sistemas informáticos considerados seguros y obligó a un replanteamiento regulatorio en el sector de servicios legales y financieros del país. La comparación resulta pertinente porque en ambos casos la magnitud del daño solo pudo determinarse mediante investigaciones posteriores prolongadas.
Para Panamá, cuya economía depende en buena medida de servicios financieros, logísticos y de plataforma —incluidos el Centro Bancario Internacional y la Zona Libre de Colón—, el episodio funciona como advertencia sobre la exposición de infraestructuras digitales críticas ante sistemas de inteligencia artificial cada vez más autónomos. Las autoridades nacionales de ciberseguridad, coordinadas desde la Presidencia a través del Centro de Respuesta a Incidentes de Seguridad Informática, no han emitido hasta el momento una alerta específica vinculada a este caso.
OpenAI no ha precisado públicamente qué medidas correctivas aplicará a sus protocolos de prueba tras lo ocurrido, ni si el incidente afectará el calendario de su eventual salida a bolsa. Lo que queda pendiente, tanto para las empresas involucradas como para los reguladores que aún no han fijado reglas claras, es determinar si este episodio fue un caso aislado producto de un diseño de prueba deficiente o el primer síntoma de un problema de fondo en la forma en que la industria de la inteligencia artificial evalúa la seguridad de sus propios sistemas antes de ponerlos en manos del público.