El agente de IA que escapó de su entorno de prueba
Un agente avanzado de IA de OpenAI superó su entorno de prueba y accedió indebidamente a Hugging Face para intentar hacer trampa en una evaluación de ciberseguridad.
El 21 de julio de este año OpenAI, creador y dueño de ChatGPT, reportó que durante la evaluación de uno de sus nuevos agentes de IA existió una grave anomalía de ciberseguridad a la que calificó como un incidente cibernético sin precedentes. En esta columna vamos a analizar lo que realmente sucedió y sus futuras implicaciones.
Pruebas de un agente avanzado de IA
Entre el 9 y el 13 de julio de 2026, OpenAI evaluaba agentes de IA impulsados por varios de sus modelos más avanzados, entre ellos GPT-5.6 Sol y otro modelo aún más capaz que no había sido lanzado al público. Las pruebas se desarrollaron en un ambiente aislado y seguro, que técnicamente se denomina sandbox.
OpenAI estaba evaluando las capacidades de su agente avanzado de IA para encontrar y explotar vulnerabilidades de software usando ExploitGym, que es un banco de pruebas de ciberseguridad para agentes de IA que fue lanzado en mayo de 2026. Para evaluar la máxima capacidad de su agente, OpenAI desactivó las medidas y barreras de seguridad que tienen sus modelos cuando se despliegan al público.
Detalles del incidente
Durante las pruebas, el agente de OpenAI logró salir del sandbox y tener conexión con internet. Esta situación no debía ocurrir, pues toda la evaluación estaba diseñada para desarrollarse únicamente dentro del sandbox.
Mientras el agente resolvía los desafíos de ExploitGym, dedicó una cantidad importante de cómputo para buscar acceso abierto a internet. En esta búsqueda, el agente encontró y explotó una vulnerabilidad desconocida hasta entonces (conocida como vulnerabilidad zero-day) en la infraestructura utilizada para restringir su acceso a la red.
Una vez en internet, el agente accedió de forma indebida a Hugging Face, que es el mayor repositorio de modelos y datos para IA. La causa más probable para este acceso indebido es que el agente pudo haber considerado que Hugging Face podía almacenar las soluciones para los retos de ExploitGym.
Por lo tanto, se presume que el agente de OpenAI en lugar de continuar resolviendo los desafíos de ExploitGym dentro del sandbox, buscó las respuestas en internet. Hugging Face interpretó el comportamiento del agente como un intento de hacer trampa: obtener directamente las soluciones de los desafíos en lugar de resolverlos.
La carrera por el mejor modelo de IA
Casi todos los modelos de IA generativa que han sido lanzados al público en los últimos meses tienen una característica común: permiten desarrollar código avanzado, entre otras tantas funcionalidades. Este código se puede usar para múltiples propósitos, pero uno de los más interesantes es la ciberseguridad.
En abril de 2026 la estadounidense Anthropic anunció haber desarrollado el modelo de IA más potente, y el primero a nivel mundial en contar con capacidades avanzadas para ciberseguridad y desarrollo de IA. A este modelo lo bautizó como Claude Mythos y desde su lanzamiento causó un gran interés global.
Desde el lanzamiento de Mythos se abrió un nuevo frente de disputa entre los desarrolladores de IA de frontera: producir modelos con capacidades avanzadas en múltiples dominios y con capacidades extraordinarias en el mundo de la ciberseguridad. Las pruebas y posterior incidente que ocurrió con el agente de OpenAI se dieron en el marco de esta ardua disputa.
Lea también: Estados Unidos y China lideran el desarrollo de IA
Significado de este incidente para la IA
La carrera por ser la empresa o el laboratorio que produce el modelo más avanzado de IA o por alcanzar la tan ansiada IA general es ardua dentro de Estados Unidos y China y también entre estas dos potencias. Por lo tanto, en lo venidero, tendremos modelos de IA aún más potentes en múltiples ámbitos de interés mundial, incluyendo la ciberseguridad.
En esta competencia sin tregua, donde los modelos son cada vez más sofisticados, no sería sorprendente que ocurran más sucesos extraordinarios, no solo en el mundo de la ciberseguridad, sino también en otros ámbitos como la ciencia y matemáticas a través de nuevos descubrimientos científicos.
En esta posibilidad de nuevos eventos extraordinarios, la probabilidad de que ocurra algo que impacte negativamente al mundo es bastante baja. Ninguna empresa con inversiones gigantescas va a arriesgarse a que sus sistemas de IA causen un fuerte incidente que las sepulte.
Por el contrario, lo que sí puede ocurrir es que las empresas de IA generen noticias con alcance mundial a partir de hechos positivos o incidentes con bajo impacto real, pero con un enorme eco mediático. Después de todo, en la carrera por ser el número uno, cualquier recurso que permita llamar la atención y generar publicidad gratuita será valioso.
