Gemini, el modelo de inteligencia artificial de Google, accedió durante una prueba a sistemas protegidos de tres empresas, en el primer incidente conocido de este tipo.
Los accesos ocurrieron en mayo, durante una evaluación realizada por Irregular, empresa independiente especializada en pruebas de ciberseguridad para inteligencia artificial.
Google informó que Gemini encontró información pública y obtuvo credenciales mediante distintos métodos, aunque posteriormente detuvo sus acciones en los tres sistemas comprometidos durante la evaluación.
La IA de Gemini logró acceder a sistemas protegidos
Durante la prueba, Gemini tuvo acceso a internet y buscó información disponible públicamente que pudiera utilizar para avanzar dentro de los objetivos incluidos.
En uno de los casos, el modelo intentó diferentes combinaciones hasta adivinar una contraseña que permitió ingresar a un sistema protegido.
Para los otros dos accesos, Gemini encontró credenciales publicadas en un repositorio público y las utilizó para entrar a sistemas que estaban contemplados en la evaluación.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, explicó que las tres entidades fueron notificadas y posteriormente se trabajó con Irregular.
La compañía señaló que los casos evidencian la necesidad de entrenar a los modelos avanzados para actuar responsablemente cuando disponen de acceso a internet.
Irregular indicó que el incidente correspondió a un problema observado también en evaluaciones realizadas por otros laboratorios de IA, cuyos responsables fueron notificados.
Meta, Anthropic y OpenAI también han reportado incidentes relacionados con Irregular, mientras la empresa señaló que trabaja en mejores prácticas para realizar estas pruebas de forma segura.
Los casos reabren el debate sobre los riesgos asociados con agentes de IA autónomos, particularmente cuando pueden navegar internet y operar directamente sobre sistemas informáticos.