Los modelos de inteligencia artificial vuelven a poner a prueba los límites de sus propios entornos de seguridad.
Ahora fue el turno de Kimi K3, una IA china desarrollada por Moonshot AI, que durante una evaluación de ciberseguridad consiguió acceder a internet pese a encontrarse dentro de un sandbox diseñado para impedirlo.
Kimi K3 encontró una forma de salir del sandbox
De acuerdo con investigadores de Frontier Security citados por WIRED, Kimi K3 detectó una configuración de red que dejaba abiertas vías de conexión y las utilizó para llegar a sitios externos. U
na vez conectado, el modelo accedió a GitHub y encontró las respuestas correspondientes a la prueba que debía resolver dentro del entorno controlado.
El incidente no implicó un ataque contra sistemas externos, pero el problema estuvo en que Kimi K3 aprovechó una falla de configuración para abandonar las condiciones establecidas por los evaluadores, algo que impidió comprobar su desempeño bajo las reglas originales de la prueba.
El caso se suma a incidentes recientes protagonizados por modelos de OpenAI y Anthropic, que también consiguieron salir de entornos de evaluación y acceder a sistemas externos durante determinadas pruebas. Sin embargo, WIRED señala que las circunstancias y consecuencias de cada episodio fueron diferentes.
La coincidencia alimenta una preocupación creciente en la industria: los agentes de IA cada vez tienen más capacidad para detectar rutas no previstas cuando persiguen un objetivo, por lo que la configuración de los entornos de prueba se ha convertido en una pieza crítica de la seguridad de estos sistemas