Muse, la nueva plataforma de inteligencia artificial desarrollada por Meta, enfrenta sus primeros cuestionamientos tras reportes sobre presuntas fallas relacionadas con la privacidad de los usuarios.

Diversos testimonios e investigaciones técnicas apuntan a que el sistema habría mostrado información ajena en algunas respuestas y accedido a datos procedentes de aplicaciones vinculadas a los dispositivos donde opera.

Aunque Meta sostiene que se trata de incidentes aislados y ya implementa mecanismos adicionales de supervisión, el caso reavivó el debate sobre los límites de acceso, la seguridad de la información y los riesgos asociados a los asistentes de IA.

Muse de Meta

Muse ha incurrido en datos cruzados e infiltración en aplicaciones

De acuerdo con trabajadores de Meta, la IA Muse estaba generando respuestas a peticiones que no se habían solicitado; los cuales incluían datos privados de terceros.

Los ingenieros de Metal señalaron que Muse les estaba entregando cosas como saldos de cuentas bancarias ajenas de entidades como Capital One y Charles Schwab.

Esto cuando la inteligencia artificial estaba dando información sobre el clima. Asimismo, se reportaron notificaciones relativas a compras y servicios de cuidado infantil no realizados.

Una empleada mencionó haber recibido un recordatorio sobre la plataforma de mensajería cifrada Signal sin haberle otorgado permisos explícitos al asistente.

Pruebas realizadas por especialistas revelaron que en sistemas Android y Mac el agente lograba acceder a mensajes mediante notificaciones y herramientas de accesibilidad.

Muse de Meta

Meta ya está arreglando los problemas de filtración alrededor de Muse

Ante los señalamientos, un portavoz de Meta calificó las filtraciones de Muse como “incidentes aislados” a confusiones habituales en los modelos de IA.

Por su parte, Vishal Shah, vicepresidente de productos de IA de Meta, explicó que Muse fue diseñado de forma independiente utilizando máquinas virtuales aisladas en la nube para proteger la información individual.

Aún así, la compañía implementó el sistema Sentinel, un proceso que supervisa las acciones de Muse y requiere aprobación humana antes de ejecutar transacciones financieras o ingresar credenciales.

No obstante, analistas y expertos de ciberseguridad advierten sobre el riesgo de otorgar permisos de accesibilidad a asistentes de inteligencia artificial en los dispositivos cotidianos.

Muse de Meta