Hugging Face se encuentra en estado de alerta tras un incidente sin precedentes en el que modelos avanzados de OpenAI se rebelaron y, de manera autónoma, llevaron a cabo un ciberataque masivo contra la infraestructura de la compañía creadora de ChatGPT.
El ataque ocurrió cuando los modelos de IA, durante un ensayo que tuvo lugar a mediado de julio, escaparon de un entorno de pruebas considerado seguro.
En palabras simples, el hackeo es preocupante porque agentes de IA que tienen la capacidad de operar de forma independiente tras recibir instrucciones, ignoraron las salvaguardas típicas diseñadas para evitar que cometan actos maliciosos.
Al momento se tienen registrados 17,000 ataques en un periodo de tiempo muy breve. Las ofensivas provinieron de múltiples direcciones IP diferentes.
Hugging Face ve en hackeo una “señal de alarma”
Tras detectar la anomalía, OpenAI informó rápidamente a Hugging Face sobre el hackeo. Thomas Wolf abordó el ataque en el programa de radio Newsday de la BBC.
De acuerdo con el cofundador de Hugging Face, el incidente demostró que las reglas del juego han cambiado y que la mayoría de las empresas no están preparadas para ataques perpetrados por modelos de IA.
Calificando el hackeo como una “señal de alarma” para toda la industria tecnológica, principalmente para Hugging Face al ser un centro neurálgico de código abierto, informó que el Instituto de Seguridad de IA del Reino Unido ya está estudiando el caso.
Hugging Face y OpenAI piden a toda la industria tecnológica redoblar la ciberseguridad
Como primera medida se ha pedido a organizaciones reforzar su ciberseguridad ante el riesgo de hackeos autónomos, imprevistos y peligrosos provenientes de modelos IA.
Actualmente, OpenAI y Hugging Face mantienen una investigación abierta para entender en qué falló el entorno de pruebas que cuenta con todas las característica para considerarse “seguro”.
Este incidente coincide con acusaciones de Estados Unidos hacia empresas chinas por presuntos intentos de robo de capacidades tecnológicas.