El agente de inteligencia artificial Muse, desarrollado por Meta y representado por la mascota Jolly, habría accedido a mensajes privados cifrados, enviado conversaciones fuera de contexto y proporcionado información inventada sobre compras y cuentas bancarias
Los episodios fueron reportados por empleados de la compañía desde el lanzamiento de la aplicación en septiembre. Muse ya superó las 10 millones de descargas y es una pieza central de la estrategia de Meta para generar ingresos con productos de inteligencia artificial
Mensajes y operaciones que los usuarios no solicitaron
Entre los casos informados aparecen recordatorios para responder mensajes de Signal, solicitudes de cuidado infantil que nunca se habían realizado, consejos profesionales no pedidos y saldos bancarios atribuidos a los usuarios. En una ocasión, el agente incluso habría reservado sin autorización una estadía no reembolsable en Airbnb
También se registraron mensajes sobre compras inexistentes, precios inventados y conversaciones que parecían pertenecer a otras personas. Meta no pudo determinar si algunos saldos y datos sensibles correspondían realmente a terceros o si habían sido creados por el modelo
Cómo se reprodujo el acceso a Signal
Las pruebas realizadas en distintos dispositivos mostraron que Muse podía utilizar permisos concedidos durante su configuración inicial, aunque los usuarios no hubieran previsto ese uso
En Android, el agente empleó el permiso para acceder a las notificaciones push y recuperar mensajes. En una computadora Mac, combinó las funciones de accesibilidad y captura de pantalla. En cambio, las mismas solicitudes fueron bloqueadas en un iPhone
El funcionamiento expone un problema central de los agentes de IA: para ejecutar tareas en nombre de una persona necesitan intervenir profundamente en teléfonos y computadoras. Esa capacidad también puede llevarlos a reutilizar autorizaciones, aprovechar vulnerabilidades o cumplir sus objetivos de formas inesperadas
La explicación de Meta y los cambios de Apple
Meta describió los casos como incidentes aislados. La empresa sostuvo que Muse solo puede acceder a otras aplicaciones mediante permisos concedidos por los usuarios y afirmó que varios mensajes extraños eran alucinaciones del modelo, es decir, información inventada por el sistema. También señaló que algunos problemas ya habían sido corregidos
La compañía asegura que cada agente funciona dentro de una máquina virtual aislada y que los usuarios controlan las aplicaciones que conectan. Al mismo tiempo, advierte que Muse puede cometer errores y responsabiliza a los usuarios por las acciones realizadas por el agente
Apple restringió el uso de sus herramientas de accesibilidad por parte de desarrolladores en las computadoras Mac y creó permisos específicos para agentes de IA. Google y Apple también indicaron que analizaban cambios para dar mayor control sobre estas autorizaciones
Los reportes internos describen incidentes desde mediados de septiembre y varios casos todavía activos en noviembre. Los problemas involucrarían tanto al modelo de inteligencia artificial como al software que permite a Muse ejecutar acciones entre distintas sesiones