Google, NVIDIA e Intel usan herramientas con Kokoro; expertos demuestran lo fácil que es tomar el control de la cuenta de un modelo de IA

Google, NVIDIA e Intel usan herramientas con Kokoro; expertos demuestran lo fácil que es tomar el control de la cuenta de un modelo de IA

Por ahora no se ha registrado una propagación real de la suplantación.

image

Investigadores se apoderaron de la cuenta del popular modelo de IA Kokoro en Hugging Face, que se había descargado más de 180 millones de veces. Para el ataque bastó registrar un dominio abandonado. Luego los especialistas demostraron cómo, en 87 segundos, obligar a la red neuronal a decir algo completamente distinto a lo escrito en el texto original.

El 17 de noviembre de 2026 el investigador Alon Hertz reveló los detalles del experimento con el modelo Kokoro-82M, que convierte texto en voz. Desarrolladores de Google, NVIDIA e Intel lo integran en sus herramientas, y AMD y Amazon Web Services publicaron instrucciones para su integración. El modelo ofrece más de 50 voces en distintos idiomas y acumula casi 13 millones de descargas mensuales.

La última actualización del autor bajo el seudónimo Hexgrad salió en abril de 2025. Más o menos entonces cesó la actividad del proyecto en GitHub y PyPI. Los investigadores encontraron en el archivo público DONATE.md el dominio hexgrad.com, que el anterior propietario ya no usaba. Los especialistas registraron la dirección liberada y, mediante el procedimiento estándar de recuperación de contraseña, obtuvieron acceso a la cuenta del desarrollador.

El sistema de Hugging Face no reconoció el cambio de propietario de la cuenta como un hecho sospechoso. El acceso obtenido permitía actuar en nombre del verdadero editor del modelo. Para los usuarios los nuevos archivos parecerían una actualización oficial de Kokoro, publicada a través del repositorio habitual. En ese escenario, al atacante no le hace falta crear una página falsa ni convencer a los desarrolladores de que sigan un enlace malicioso.

El equipo de Hertz probó un método de ataque aún más sigiloso. Con una tarjeta gráfica de consumo para juegos, los investigadores en 87 segundos alteraron los pesos de la red neuronal para que la voz sintetizada difiriera del texto original. La aplicación, el archivo de audio, la configuración y el código permanecieron iguales. Como resultado, el modelo envenenado pudo sustituir de forma silenciosa las palabras pronunciadas sin introducir scripts maliciosos.

Los investigadores probaron los pesos modificados solo de forma local y no los subieron al repositorio oficial. Un experimento con otra cuenta mostró que Hugging Face no necesariamente detectaría tal sustitución. La versión maliciosa conservaría la arquitectura, el formato y un tamaño de archivos comparable. Los antivirus convencionales tampoco encontrarían la firma del malware, ya que el comportamiento peligroso está oculto directamente en los parámetros del modelo.

En el análisis del experimento publicado, Hertz advierte sobre la amenaza para toda la cadena de distribución de modelos abiertos. Los archivos modificados pueden llegar a espejos, compilaciones convertidas y sistemas automáticos de despliegue. El investigador notificó a Hugging Face sobre el problema, pero al momento de la publicación no hubo respuesta pública por parte de la plataforma. No hay datos sobre una distribución real de una Kokoro suplantada.

El peligro es especialmente grande para aplicaciones que descargan automáticamente las últimas versiones de modelos sin verificar sumas de comprobación. A los desarrolladores les conviene fijar revisiones concretas y comprobar el origen de los archivos. Anteriormente en Hugging Face ya se detectaron modelos maliciosos que distribuían mineros y puertas traseras. El nuevo experimento mostró que, para un ataque imperceptible, a veces basta con cambiar el comportamiento de la propia red neuronal.