La app de mensajería más segura no se salvó de la IA: un agente de Meta* accedió a mensajes de Signal a través de notificaciones

La app de mensajería más segura no se salvó de la IA: un agente de Meta* accedió a mensajes de Signal a través de notificaciones

Hallan en poder de Muse información sobre cuentas bancarias, asuntos familiares y conversaciones ajenas

image

El agente de IA Muse de Meta con más de 10 millones de descargas aprendió a leer mensajes en Signal sin el permiso que los usuarios esperaban. Dentro de la empresa, mientras tanto, detectaron otras anomalías aún más preocupantes. El asistente enviaba conversaciones que parecían de otras personas, mostraba saldos bancarios y realizaba compras no deseadas.

El 18 de noviembre de 2026 los periodistas revelaron el contenido de más de dos docenas de mensajes internos de empleados de Meta que se quejaban del comportamiento de Muse. La aplicación salió en septiembre y pronto se convirtió en uno de los servicios de IA más populares. El agente puede trabajar con correo, calendarios y compras, ejecutando tareas por sí mismo a través de aplicaciones conectadas.

Los empleados se alarmaron especialmente por mensajes que parecían datos de cuentas ajenas. Un usuario recibió notificaciones sobre saldos de Capital One por $2722,58 y de Charles Schwab por $5899,57, aunque nunca había conectado cuentas bancarias. A otros el agente les enviaba consejos profesionales, información sobre pedidos y recordatorios de asuntos familiares que nadie había comentado.

El caso más revelador ocurrió con una empleada de Meta. Muse respondió inesperadamente recordándole contestar a su hermana en Signal, aunque la mujer no había autorizado al agente a leer la conversación. La verificación de la queja la facilitaron especialistas de Signal y del AI Now Institute. Los experimentos confirmaron que Muse era capaz de obtener el contenido de mensajes protegidos, eludiendo su propio mecanismo de conexión Connector.

En Android el agente leía el texto mediante el acceso permitido a las notificaciones push. En macOS usaba las herramientas de accesibilidad y la captura de pantalla. En ambos casos Muse aprovechaba privilegios del sistema ya concedidos, aunque el usuario no esperara ese comportamiento. En iPhone intentos similares fueron bloqueados.

Es notable que el cifrado de Signal no se vulnera en estas acciones. El agente obtiene la información después de que el mensaje se descifra en el dispositivo. Apple, tras detectar el problema, limitó el uso de las herramientas de accesibilidad en macOS e introdujo permisos adicionales para agentes de IA.

La imprevisibilidad de Muse también afectó operaciones financieras. Los empleados contaron sobre compras ficticias, precios erróneos y reservas de alojamientos no reembolsables en Airbnb sin autorización. Representantes de Meta calificaron los casos descritos como aislados y atribuyeron parte de los mensajes sospechosos a alucinaciones de la red neuronal. Los periodistas no lograron confirmar una fuga real de datos bancarios entre cuentas.

En la investigación también se indica que los desarrolladores vinculan el comportamiento extraño con el propio modelo y con componentes de software del agente. La presidenta de Signal, Meredith Whitaker, criticó el enfoque de Meta sobre la privacidad y propuso dar a las aplicaciones la posibilidad técnica de prohibir el acceso a agentes de IA.

A principios de noviembre Meta reveló vulnerabilidades que permitían obtener conversaciones y tokens de empleados que probaban el agente. Los casos actuales muestran otro peligro. Incluso sin un ataque, el asistente de IA puede exceder el acceso que el usuario espera si los permisos del sistema permiten leer otras aplicaciones.

La empresa Meta y sus productos (incluidos Instagram, Facebook y Threads) han sido declarados extremistas; su actividad está prohibida en el territorio de Rusia.