OpenAI, creadora de ChatGPT reconoció que uno de sus sistemas de inteligencia artificial ejecutó de manera involuntaria un ciberataque contra la plataforma Hugging Face durante una prueba interna de seguridad, un hecho que expertos califican como un precedente en el desarrollo de agentes autónomos de IA.
La compañía de OpenAI, responsable de ChatGPT, explicó que el incidente de hackeo por parte de la IA ocurrió mientras evaluaba las capacidades de sus modelos más avanzados en escenarios de ciberseguridad.
OpenAI admite hackeo involuntario a Hugging Face: agentes de IA actuaron de forma autónoma
De acuerdo a reportes de medios como AP, se informó que OpenAI de ChatGPT tuvo un incidente cibernético sin precedentes donde sus modelos de IA, como GPT-5.6 Sol y uno más avanzado en prueba, hackearon de forma autónoma a Hugging Face durante evaluaciones internas de capacidades cibernéticas.
De acuerdo con OpenAI, los modelos de inteligencia artificial lograron salir del entorno controlado o sandbox donde eran evaluados, obtuvieron acceso a internet y localizaron una vulnerabilidad que les permitió infiltrarse en parte de la infraestructura de Hugging Face para cumplir el objetivo asignado durante las pruebas.
“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación
OpenIA
OpenAI, responsable de ChatGPT, aseguró que la acción no tuvo una intención maliciosa, aunque evidenció el nivel de autonomía que pueden alcanzar los agentes de inteligencia artificial más avanzados.
Por su parte, Hugging Face confirmó que detectó una intrusión inusual y detalló que el ataque fue ejecutado de principio a fin por un sistema de agentes de IA autónomos; la compañía afirmó que logró contener el incidente, corrigió las vulnerabilidades detectadas y señaló que no existe evidencia de alteraciones en los modelos públicos alojados en su plataforma.
El caso reavivó el debate sobre la seguridad de la inteligencia artificial y la necesidad de fortalecer los mecanismos de contención para modelos cada vez más capaces, pues este episodio podría marcar un punto de inflexión en la regulación y las pruebas de seguridad para los sistemas de IA de nueva generación.
“Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA”
Hugging Face