Revelan el secreto del entrenamiento de DeepSeek sin hackeos ni filtraciones: hallan rastros de chips NVIDIA en la red neurona

Revelan el secreto del entrenamiento de DeepSeek sin hackeos ni filtraciones: hallan rastros de chips NVIDIA en la red neurona

En la mira: los desarrollos de DeepSeek, Moonshot AI, MiniMax y Ant Group.

image

Los desarrolladores chinos de inteligencia artificial pudieron obtener acceso a los avanzados aceleradores NVIDIA Blackwell, a pesar de las restricciones de exportación estadounidenses. El investigador independiente y exempleado de OpenAI Uill Depyu encontró, en el interior de seis redes neuronales, patrones numéricos característicos que dejan los chips de esta generación. Para la investigación no fueron necesarias filtraciones de documentos ni testimonios de empleados de las empresas: el posible origen del equipo lo revelaron los propios modelos.

En el curso de la investigación, Depyu detectó huellas de Blackwell en DeepSeek-V4-Flash, DeepSeek-V4-Pro, Kimi K3 y Kimi K3.1-Pro de Moonshot AI, y en MiniMax-M3 y Ling-3.1-flash de Ant Group. Los seis modelos se publicaron a partir de abril de 2026. En desarrollos anteriores de las mismas empresas quedaron rastros de aceleradores NVIDIA de la generación anterior, Hopper. Para el suministro de las versiones detectadas de Blackwell a China se necesita una licencia de exportación estadounidense; sin embargo, no hay datos públicos sobre la concesión de tales permisos.

La clave del misterio fueron los pesos de las redes neuronales — miles de millones de parámetros numéricos, de los que depende la capacidad de la inteligencia artificial para procesar información y generar respuestas. Antes del inicio del entrenamiento, un algoritmo especial asigna valores iniciales a los parámetros. Para acelerar el proceso, la unidad de procesamiento gráfico distribuye el trabajo entre numerosos bloques de cálculo, cuyo número depende del modelo del chip. Como resultado, los mismos números ocupan posiciones distintas en diferentes procesadores.

Durante el entrenamiento, la red neuronal cambia los valores de los parámetros muchas veces; sin embargo, algunos apenas se modifican. Por ejemplo, los parámetros correspondientes a palabras o símbolos raros que no aparecieron nunca en los materiales de entrenamiento pueden conservar sus valores iniciales. Fue precisamente por esas huellas numéricas que el investigador logró reconstruir la disposición original de los parámetros.

Depyu examinó alrededor de seis billones de combinaciones de ajustes del generador de números y de configuraciones del equipo. Para una comprobación adicional, el investigador reprodujo los patrones descubiertos en DeepSeek-V4-Flash y Kimi K3 en aceleradores Blackwell reales. El método también identificó correctamente las familias de procesadores para los 24 modelos cuyos desarrolladores habían revelado anteriormente la información sobre el equipo usado.

Según cálculos preliminares de Depyu, el entrenamiento de cinco modelos chinos pudo haber requerido en total alrededor de 12.000 aceleradores Blackwell con un coste superior a 500 millones de dólares. La estimación sigue siendo aproximada: el investigador no conoce la duración exacta del entrenamiento ni la eficiencia con la que las empresas usaron la potencia de cálculo.

Las huellas numéricas permiten determinar en qué equipo los desarrolladores pudieron formar los parámetros iniciales de la red neuronal. Sin embargo, el entrenamiento posterior pudo haberse realizado en otros procesadores. Además, con una configuración especial, aceleradores AMD MI300X pueden dejar huellas similares. Depyu descartó esa posibilidad para DeepSeek-V4-Flash, pero aún no ha sido posible verificar definitivamente los otros cinco modelos. Tampoco es posible, con el nuevo método, localizar los chips, identificar a sus propietarios ni demostrar una violación de las restricciones de exportación.

Es posible que la capacidad de calcular el origen del equipo a partir de los parámetros de las redes neuronales no dure mucho. Los desarrolladores de PyTorch, la popular biblioteca para crear y entrenar inteligencia artificial, ya están trabajando para eliminar el mecanismo que deja huellas de hardware. No obstante, el trabajo de Depyu mostró cuánta información sobre la historia de creación de una red neuronal pueden revelar sus parámetros públicos, incluso si los propios desarrolladores prefieren mantener en secreto los detalles técnicos.