Un algoritmo logró reconstruir frases privadas a partir de actualizaciones de una red neuronal, pese a que los documentos originales permanecían con sus propietarios.

Hasta el 80,2% de las oraciones privadas pudieron recuperarse textualmente a partir de las actualizaciones de un modelo de IA que se entrenó sin enviar los textos originales al servidor. Los investigadores mostraron cómo un participante del aprendizaje federado puede extraer datos ajenos de los resultados agregados de los cálculos.
El 19 de noviembre de 2026, los investigadores Omkar Shrikant, Soham Dambalkar, Parag Jyoti Pal, Advik Raj Basani y Arnab K. Pal presentaron un nuevo método de ataque al aprendizaje federado. El experimento mostró que repartir los cálculos entre dispositivos por sí solo no garantiza la confidencialidad de los textos. El atacante no necesita obtener los archivos originales de los demás participantes.
En el aprendizaje federado, cada cliente procesa sus propios datos de forma local y envía actualizaciones de los parámetros del modelo. Un servidor central agrega los resultados, por ejemplo, mediante el algoritmo FedAvg. Los documentos originales permanecen en los dispositivos, pero los gradientes calculados contienen información sobre los textos que influyeron en el entrenamiento. Esa información lateral fue la que utilizaron los investigadores.
Antes, los ataques de inversión de gradientes permitían recuperar fragmentos de los datos de entrenamiento. Sin embargo, al combinar las actualizaciones de varios clientes, la contribución de oraciones individuales se mezcla. El algoritmo FedAvg dificulta la reconstrucción inversa, porque el atacante ve el resultado agregado y no los cálculos individuales de cada participante. El nuevo trabajo propone una manera de separar gradualmente las señales mezcladas.
El método se basa en un proceso iterativo. Primero, el atacante extrae las oraciones que logra recuperar por completo; luego calcula su contribución al gradiente global y la resta. Tras eliminar los componentes ya conocidos, las demás oraciones se hacen más visibles. El algoritmo repite el procedimiento, revelando gradualmente el texto que antes estaba oculto tras las actualizaciones de otros participantes.
Los autores afirman haber alcanzado una precisión del cien por ciento entre las oraciones recuperadas por completo. En los experimentos se logró extraer hasta el 80,2% de las oraciones de los clientes incluso cuando el volumen total de tokens era cuatro veces mayor que la dimensionalidad de la representación oculta del modelo. Según los investigadores, los métodos existentes no habían recuperado ninguna oración textualmente en ese modo.
Los resultados no significan que cualquier participante del aprendizaje federado obtenga automáticamente acceso a todos los documentos ajenos. El estudio analiza un ataque ejecutado por un cliente malicioso que dispone de actualizaciones del modelo adecuadas para el análisis. El trabajo científico presentado artículo científico demuestra la posibilidad de recuperar textos en condiciones experimentales, y no un robo masivo de información confirmado.
El problema afecta al principio mismo del aprendizaje distribuido. El almacenamiento local de los datos originales reduce la necesidad de enviar documentos al servidor, pero no elimina las fugas a través de los parámetros del modelo. Los riesgos del aprendizaje federado ya se habían relacionado con la arquitectura distribuida y la posibilidad de ataques a los participantes de los cálculos.
El nuevo resultado también complementa las investigaciones sobre otras formas de extraer información de modelos entrenados. Anteriormente, los especialistas estudiaron cómo determinar la presencia de un registro médico concreto en el conjunto de entrenamiento a partir de las respuestas del algoritmo. Ataques a la privacidad similares muestran que la ausencia de acceso directo a los datos originales aún no garantiza su protección.