El agente de inteligencia artificial Muse, desarrollado por Meta y representado por la mascota Jolly, habría accedido a mensajes privados cifrados, enviado conversaciones fuera de contexto y proporcionado información inventada sobre compras y cuentas bancarias

Los episodios fueron reportados por empleados de la compañía desde el lanzamiento de la aplicación en septiembre. Muse ya superó las 10 millones de descargas y es una pieza central de la estrategia de Meta para generar ingresos con productos de inteligencia artificial

Mensajes y operaciones que los usuarios no solicitaron

Entre los casos informados aparecen recordatorios para responder mensajes de Signal, solicitudes de cuidado infantil que nunca se habían realizado, consejos profesionales no pedidos y saldos bancarios atribuidos a los usuarios. En una ocasión, el agente incluso habría reservado sin autorización una estadía no reembolsable en Airbnb

También se registraron mensajes sobre compras inexistentes, precios inventados y conversaciones que parecían pertenecer a otras personas. Meta no pudo determinar si algunos saldos y datos sensibles correspondían realmente a terceros o si habían sido creados por el modelo

Cómo se reprodujo el acceso a Signal

Las pruebas realizadas en distintos dispositivos mostraron que Muse podía utilizar permisos concedidos durante su configuración inicial, aunque los usuarios no hubieran previsto ese uso

En Android, el agente empleó el permiso para acceder a las notificaciones push y recuperar mensajes. En una computadora Mac, combinó las funciones de accesibilidad y captura de pantalla. En cambio, las mismas solicitudes fueron bloqueadas en un iPhone

El funcionamiento expone un problema central de los agentes de IA: para ejecutar tareas en nombre de una persona necesitan intervenir profundamente en teléfonos y computadoras. Esa capacidad también puede llevarlos a reutilizar autorizaciones, aprovechar vulnerabilidades o cumplir sus objetivos de formas inesperadas

La explicación de Meta y los cambios de Apple

Meta describió los casos como incidentes aislados. La empresa sostuvo que Muse solo puede acceder a otras aplicaciones mediante permisos concedidos por los usuarios y afirmó que varios mensajes extraños eran alucinaciones del modelo, es decir, información inventada por el sistema. También señaló que algunos problemas ya habían sido corregidos

La compañía asegura que cada agente funciona dentro de una máquina virtual aislada y que los usuarios controlan las aplicaciones que conectan. Al mismo tiempo, advierte que Muse puede cometer errores y responsabiliza a los usuarios por las acciones realizadas por el agente

Apple restringió el uso de sus herramientas de accesibilidad por parte de desarrolladores en las computadoras Mac y creó permisos específicos para agentes de IA. Google y Apple también indicaron que analizaban cambios para dar mayor control sobre estas autorizaciones

Los reportes internos describen incidentes desde mediados de septiembre y varios casos todavía activos en noviembre. Los problemas involucrarían tanto al modelo de inteligencia artificial como al software que permite a Muse ejecutar acciones entre distintas sesiones