Matt Robb quería vender un teclado por Facebook Marketplace. Como experimento, dejó que Muse, el agente de inteligencia artificial de Meta, se encargara de la negociación
El resultado fue inesperado. El agente aceptó una oferta, compartió la dirección de la casa de Robb y envió desde su cuenta un mensaje automático que indicaba que estaba allí. El comprador terminó apareciendo frente a la vivienda durante la noche, sin que Robb hubiera autorizado esas acciones en ese momento
Más autonomía, más acceso
Los agentes de IA se diferencian de los chatbots tradicionales porque pueden ejecutar tareas en un ciclo continuo. Además de responder instrucciones, toman medidas en nombre del usuario: organizan correos, reservan servicios, planifican viajes o negocian ventas
Para funcionar mejor, necesitan conocer más información. Ese acceso puede incluir mensajes, contactos, historial de actividades, datos financieros y detalles sobre familiares, amigos o compañeros de trabajo. La utilidad crece junto con el nivel de exposición
La especialista en ciberseguridad Veronica Rivera comparó el uso de un agente con entregar a otra persona unas llaves y una lista de tareas. El riesgo depende de qué llaves recibe y de qué acciones puede realizar
El problema de retirar los permisos
Ebrahim Bagheri, profesor de la Universidad de Toronto, advirtió que retirar el acceso no necesariamente elimina la información que el agente ya procesó. Como ejemplo, señaló que al permitir el acceso a una tarjeta de crédito, el sistema puede incorporar rápidamente el historial de transacciones
Meta y OpenAI ofrecen controles de privacidad para sus agentes. Los usuarios pueden desactivar el intercambio de memoria entre determinados servicios y solicitar el acceso, la corrección o la eliminación de información, aunque las opciones dependen de la jurisdicción. Desconectar una función tampoco borra automáticamente todo lo que el sistema ya recibió
Un permiso que no fue entendido
En el caso de Robb, la divulgación de su dirección se relacionó con un permiso configurado como “permitir siempre” en su de Marketplace. El usuario dijo que creía que Muse le pediría autorización antes de compartir el domicilio o aceptar una oferta
El agente también pareció aceptar para otro artículo un precio 100 dólares inferior al mínimo establecido. Después del incidente, Robb desconectó en gran medida Muse de sus aplicaciones, aunque no descartó volver a utilizar agentes similares en el futuro
El impacto alcanza a terceros
Apple anunció nuevos controles para limitar el acceso de los agentes a aplicaciones como correo, mensajes e historial de navegación. La preocupación no se limita a quienes instalan estas herramientas: una persona puede interactuar con un agente utilizado por otra
Cuando un agente lee una bandeja de entrada o una conversación, también puede acceder a información enviada por familiares, amigos o colegas que nunca dieron un permiso explícito. Por eso, el debate sobre la autonomía de estos sistemas también involucra la privacidad de quienes no los usan