De hora y media a un minuto: Nvidia acelera al máximo el procesamiento de tokens
Empresa muestra cómo deberían ser los centros de datos de próxima generación.
Los centros de datos dejaron de ser simples almacenes de servidores hace tiempo: ahora son fábricas que, en sentido literal, venden «tokens» digitales, y fue precisamente en torno a la aceleración de su producción que Nvidia estructuró la presentación de su nueva plataforma Vera Rubin.
La semana pasada la empresa invitó a periodistas a una sesión informativa privada y mostró un mini-centro de datos en Silicon Valley — uno de los cuatro laboratorios similares de Nvidia. Allí demostraron que el montaje del bloque de cálculo Vera Rubin NVL72 ahora tarda un minuto en lugar de los 90 minutos que requería el montaje de la generación anterior GB200. Esta aceleración se logró gracias a la automatización del ensamblaje del equipo.
La plataforma Vera Rubin integra seis tipos de chips: el procesador Vera, el acelerador gráfico Rubin, el conmutador NVLink 6, el adaptador de red ConnectX-9, el procesador de datos BlueField-4 y el conmutador Spectrum-6 Ethernet. Según Nvidia, en las pruebas de CoreWeave con el modelo DeepSeek-R1, el nuevo sistema genera diez veces más tokens por vatio que la generación anterior GB200 NVL72.
La apuesta de la compañía es que, para el funcionamiento de agentes autónomos de IA, lo importante no es la cantidad de núcleos de cálculo, sino su velocidad y la capacidad de mantener un contexto largo con la menor latencia posible. Según Nvidia, el procesador Vera acelera el trabajo de los agentes al doble y reduce la latencia en un 40 por ciento gracias a la memoria LPDDR5X.
La economía de este enfoque es simple: cuanto más tokens produzca un centro de datos con un consumo energético fijo, mayor será su ingreso. Pero el aumento del número de fabricantes de hardware y la competencia entre empresas de IA reducen al mismo tiempo el precio de mercado de los tokens, por lo que la industria confía en que la caída del precio se compense con un aumento de la demanda.
Un portavoz de Nvidia presentó un cálculo según el cual la aplicación de IA en el desarrollo de software habría triplicado la productividad de los programadores en todo el mundo, estimando el efecto en nueve billones de dólares. Sin embargo, esto es más bien una estimación ilustrativa que un hecho comprobado, y en un contexto en el que se informa que algunas empresas limitan los cupos de sus empleados para el uso de tokens de IA, el efecto real para todas las organizaciones sigue siendo incierto.
Al mismo tiempo que la presentación, los centros de datos siguen siendo un foco de tensión social: literalmente al día siguiente del briefing activistas neerlandeses lanzaron al centro de datos en construcción destinado a la infraestructura de Microsoft bolas de agua con una mezcla química como forma de protesta contra las consecuencias climáticas y políticas del desarrollo de este tipo de instalaciones.