Un pequeño cambio en el diseño de los conmutadores promete quintuplicar el ahorro energético.

NVIDIA comenzó a utilizar en grandes supercomputadoras de IA conmutadores de red que transmiten datos mediante luz y gastan mucho menos electricidad en las comunicaciones. La nueva tecnología ya funciona en el centro de cálculo Lambda en la provincia canadiense de Quebec, donde conecta a más de 10.000 aceleradores gráficos. Las primeras pruebas mostraron que el tiempo de transmisión de datos entre partes separadas del sistema se redujo entre el 4% y el 10%.
A las redes neuronales modernas no les basta un único procesador potente. Para entrenar modelos a gran escala se necesitan miles de aceleradores gráficos que intercambian de forma continua enormes volúmenes de información. Cuanto más grande es el centro de cálculo, más difícil resulta mantener una comunicación rápida entre las máquinas. En cierto momento los procesadores empiezan a estar inactivos esperando datos, aunque podrían seguir realizando cálculos.
Una de las razones radica en las conexiones de cobre. A cortas distancias el cobre funciona muy bien para transmitir señales eléctricas, pero al aumentar la velocidad y la longitud de los conductores se incrementan las pérdidas y las interferencias. Para que la información llegue sin errores es necesario amplificar y restaurar la señal. Los circuitos adicionales consumen electricidad, generan calor y complican el equipo.
NVIDIA decidió acortar el recorrido que hace la señal eléctrica hasta convertirse en luz. Los conmutadores de red habituales usan módulos ópticos independientes insertados en conectores en el panel frontal. En los nuevos dispositivos, pequeños circuitos fotónicos se colocaron directamente junto al chip de red principal. En lugar de varios centímetros, la señal eléctrica recorre apenas unos milímetros antes de convertirse en luz y enviarse por fibra óptica.
Los ingenieros aprovechan las posibilidades de la fotónica de silicio, que permite crear elementos ópticos en miniatura mediante tecnologías de fabricación de circuitos integrados. En la electrónica tradicional la información la transportan señales eléctricas, mientras que en la parte óptica del sistema esa misma tarea la realizan impulsos de luz. La luz puede transmitir grandes flujos de datos a distancias considerables con pérdidas reducidas y sin las interferencias electromagnéticas propias de las conexiones eléctricas.
La diferencia es especialmente notable en el consumo energético. Un módulo óptico convencional puede consumir alrededor de 25 W, y en un conmutador grande hacen falta decenas de dispositivos semejantes. Gran parte de la energía la consumen los láseres y la electrónica que restaura la señal eléctrica distorsionada. Cuando los componentes ópticos están junto al chip de red, deja de ser necesaria la electrónica adicional de restauración de la señal. Según la estimación de NVIDIA, la nueva disposición aumenta la eficiencia energética de la transmisión óptica de datos hasta cinco veces respecto a los módulos extraíbles tradicionales.
Los desarrolladores esperan reducir también la cantidad de fallos. En los conmutadores habituales los módulos ópticos deben reemplazarse periódicamente, y los numerosos contactos, conectores y empalmes crean puntos adicionales de fallo. Al realizar el mantenimiento de un módulo, un técnico puede tocar accidentalmente el adjunto. Para un clúster de IA grande incluso una breve interrupción de la conexión es peligrosa: la tarea de cálculo puede detenerse de inmediato en miles de aceleradores.
En los nuevos conmutadores los circuitos ópticos están dentro del chasis junto al chip de red, y las fuentes láser permanecen extraíbles. Por ejemplo, los equipos que utiliza Lambda están equipados con 18 fuentes de luz reemplazables y 144 puertos con hasta 800 Gbit/s cada uno. El sistema de refrigeración líquida extrae el calor de la electrónica. Durante las pruebas, la temperatura mediana de los componentes ópticos fue de 36 °C frente a 51 °C en los módulos extraíbles habituales.
Lambda comparó los conmutadores con el equipo tradicional manteniendo la misma capacidad de transmisión. A nivel de bastidores, la latencia de transferencia de datos disminuyó un 3,8%, y en el intercambio entre grupos de servidores más amplios la ganancia alcanzó el 10,1%. NVIDIA también afirma que la nueva construcción puede aumentar la fiabilidad de las conexiones ópticas hasta 15 veces. Esta última cifra refleja la estimación del fabricante y no estadísticas independientes de operación a largo plazo.
NVIDIA desarrolla la tecnología en dos familias de equipos: Quantum‑X Photonics y Spectrum‑X Photonics. La primera está pensada para redes de cálculo de alta velocidad InfiniBand, y la segunda emplea Ethernet. En las configuraciones más potentes, Spectrum‑X Photonics alcanza una capacidad agregada de 400 Tbit/s. Al mismo tiempo, NVIDIA no planea renunciar por completo al cobre: dentro de los servidores y a cortas distancias las conexiones eléctricas siguen siendo más baratas y convenientes.
El siguiente paso podría ser acercar aún más los canales ópticos a los procesadores de cálculo. Actualmente, circuitos individuales dentro de un mismo chasis intercambian datos por finísimas pistas metálicas. A medida que crece el número de elementos de cálculo, las pistas ocupan cada vez más espacio y las señales vecinas empiezan a interferir entre sí. Las conexiones luminosas podrían resolver parte de estos problemas, aunque aún falta camino para su aplicación masiva dentro de los procesadores.
NVIDIA ya invierte miles de millones de dólares en el desarrollo de la producción de componentes ópticos. La compañía invirtió 2.000 millones de dólares en Coherent y 2.000 millones en Lumentum, fabricantes de láseres y otro equipo para enlaces de alta velocidad. También muestran interés en la fotónica competidores como Broadcom, AMD e Intel. Para NVIDIA la apuesta tiene especial importancia: el fabricante busca controlar no solo los chips de cálculo, sino también las redes, de las que depende cada vez más el rendimiento de los enormes sistemas de IA.