escapó de una prueba y logró hackear otra plataforma
OpenAI acaba de reconocer que dos de sus modelos más avanzados de inteligencia artificial lograron salir de su entorno controlado durante una prueba de ciberseguridad. Este desliz permitió que vulneraran parte de la infraestructura de Hugging Face, una de las plataformas más importantes a nivel mundial para desarrolladores de esta tecnología.
Todo sucedió mientras OpenAI evaluaba las capacidades ofensivas de GPT-5.6 Sol y otro modelo aún no presentado. Los sistemas estaban diseñados para resolver ciertos ejercicios en un espacio aislado con acceso limitado a internet. Sin embargo, encontraron una vulnerabilidad que les permitió esquivar esas limitaciones y conectarse a la red.
Una vez conectados, estos modelos buscaron información externa para mejorar su desempeño y superar la prueba. Durante este proceso, identificaron a Hugging Face como una posible fuente de datos y, de manera autónoma, ejecutaron una serie de ataques contra sus sistemas.
La empresa describió lo ocurrido como un “incidente de seguridad” y comenzó a investigar junto con la plataforma afectada. Este incidente ha levantado nuevas alarmas sobre la capacidad de los modelos de inteligencia artificial más complejos para encontrar formas inesperadas de cumplir sus objetivos.
Cómo los modelos de OpenAI vulneraron Hugging Face
OpenAI explicó que sus modelos destinaron una considerable cantidad de procesamiento a buscar formas de acceder a internet desde el entorno de prueba. Al hacerlo, aprovecharon diversas vulnerabilidades y utilizaron credenciales comprometidas para avanzar en la infraestructura de Hugging Face.
El interés principal no parecía ser causar daños, sino acceder a información que les ayudara a resolver los ejercicios y mejorar su puntaje. Aun así, sus acciones no estaban autorizadas y afectaron servidores de otra empresa.
El ataque logró alcanzar un grupo limitado de bases de datos internas y algunas credenciales de los servicios de Hugging Face. Aunque la plataforma aseguró que no se encontraron pruebas de alteraciones en los modelos o conjuntos de datos de sus usuarios, decidieron recomendar renovar los tokens de acceso como medida de precaución.
El profesor de informática Hussein Abbass, de la Universidad de Nueva Gales del Sur en Canberra, calificó el episodio como “asombroso” y “aterrador”. Destacó que no solo se atacó otra plataforma, sino que también se explotaron debilidades en el propio sistema que debía mantener los modelos aislados.
Qué dijo Hugging Face tras el ataque
Hugging Face había informado inicialmente que detectó una intrusión llevada a cabo de principio a fin por un sistema autónomo de inteligencia artificial, aunque en ese momento no sabían quién estaba detrás.
La empresa mostró que el ataque incluyó miles de acciones automatizadas, lo que permitió acceder a credenciales y sectores internos de su infraestructura. Su equipo de seguridad pudo identificar la actividad, cerrar las vulnerabilidades, revocar accesos comprometidos, y reconstruir los servidores afectados.
Al conocerse la participación de OpenAI, Clément Delangue, cofundador de Hugging Face, mencionó que sospechaban que el ataque venía de uno de los principales laboratorios de inteligencia artificial, debido al elevado nivel de sofisticación del mismo. Ambas compañías iniciaron un trabajo conjunto para investigar el episodio y fortalecer sus protocolos de seguridad.