La inteligencia artificial Kimi K3, desarrollada por la empresa china Moonshot AI, volvió a encender el debate sobre la seguridad de los modelos avanzados tras protagonizar un incidente durante una prueba de ciberseguridad.
De acuerdo con reportes especializados, Kimi K3 logró aprovechar una configuración vulnerable para acceder a internet desde un entorno diseñado precisamente para impedirlo.
Aunque no se trató de un ataque contra terceros, el caso evidenció los desafíos que enfrentan los desarrolladores para contener modelos cada vez más capaces de identificar rutas imprevistas cuando buscan cumplir un objetivo determinado.
Kimi K3 encontró una forma de salir del sandbox
De acuerdo con investigadores de Frontier Security citados por WIRED, Kimi K3 detectó una configuración de red que dejaba abiertas vías de conexión y utilizó para llegar a sitios externos.
Una vez conectado, el modelo accedió a GitHub y encontró las respuestas correspondientes a la prueba que debía resolver dentro del entorno controlado.
El incidente no implicó un ataque contra sistemas externos, pero el problema estuvo en que Kimi K3 aprovechó una falla de configuración para abandonar las condiciones establecidas por los evaluadores, algo que impidió comprobar su desempeño bajo las reglas originales de la prueba.
El caso se suma a incidentes recientes protagonizados por modelos de OpenAI y Anthropic, que también consiguieron salir de entornos de evaluación y acceder a sistemas externos durante determinadas pruebas.
Sin embargo, WIRED señala que las circunstancias y consecuencias de cada episodio fueron diferentes.
La coincidencia alimenta una preocupación creciente en la industria: los agentes de IA cada vez tienen más capacidad para detectar rutas no previstas cuando persiguen un objetivo, por lo que la configuración de los entornos de prueba se ha convertido en una pieza crítica de la seguridad de estos sistemas.