Lo que más limita a los aceleradores de IA no es la potencia, sino la distancia entre chips: BBCube la ha reducido hasta 10 micrómetros.

Los aceleradores de IA pueden volverse más potentes si se colocan los dados de cálculo y la memoria más cerca unos de otros. Pero cuanto más compacta es la ensamblaje, más difícil resulta pasar miles de conexiones rápidas entre los componentes y disipar el calor generado. La plataforma BBCube aborda ambos problemas junto con un tercero igual de importante: permite situar los dados con mayor precisión y reducir la distancia entre ellos hasta 10 µm.

Los fabricantes de procesadores recurren cada vez más a ensamblar sistemas de cómputo a partir de varios dados en lugar de un único chip grande. En un mismo paquete se pueden integrar bloques de cálculo, memoria y componentes especializados. Este enfoque resulta especialmente útil para la inteligencia artificial, ya que los aceleradores de IA necesitan obtener constantemente enormes volúmenes de datos desde la memoria y transferir resultados entre distintos bloques de cálculo.

Sin embargo, la densidad del ensamblaje choca rápidamente con limitaciones físicas. Los dados deben colocarse con precisión micrométrica, entre componentes vecinos es necesario trazar multitud de pistas eléctricas, y los bloques de cálculo funcionando en proximidad generan mucho calor. Por ello, los desarrolladores de BBCube afrontaron simultáneamente la colocación de dados, las interconexiones y la refrigeración.

La plataforma está pensada para integración 2,5D y 3D. En el primer caso varios dados se colocan uno junto a otro y se conectan a través de un sustrato común. En el segundo, los componentes pueden apilarse en varias capas uno sobre otro. BBCube combina el montaje de dados directamente sobre la oblea, interconexiones sin microproyecciones metálicas y un cálculo detallado de la distribución térmica.

Para un montaje denso, los desarrolladores utilizan la tecnología de colocar los dados directamente sobre la oblea semiconductora. En la superficie de silicio se forman cavidades regulares que mantienen los componentes en la posición adecuada. Gracias a la alta precisión, los dados vecinos se han logrado situar a solo 10 µm unos de otros.

La pequeña separación permite acortar la longitud de las conexiones eléctricas y trazar más líneas en un área limitada. Para un acelerador de IA la diferencia es crucial: el rendimiento de los bloques de cálculo sirve de poco si la memoria no alcanza a suministrarles los datos. Cuantos más canales haya entre los dados, mayor será la velocidad de intercambio agregada.

Los ensamblajes multichip convencionales suelen conectarse mediante microbumps, contactos metálicos minúsculos entre el dado y la capa vecina. No se puede reducir indefinidamente su paso. Durante la formación de esos contactos se calienta la soldadura y el metal se deforma; por eso es necesario dejar suficiente espacio entre microbumps para evitar cortocircuitos.

BBCube prescinde de los microbumps. La señal eléctrica se transmite a través de vías a través del silicio, canales conductores verticales en el silicio (TSV). Los desarrolladores emplean la variante Via-Last: los orificios y los conductores se forman después de que los dados ya están en su lugar. Una capa redistributiva adicional enruta las señales hacia los contactos necesarios.

La ausencia de contactos metálicos salientes permite disponer las líneas eléctricas con mucha mayor densidad. Con una separación de 10 µm entre dados, los cálculos mostraron hasta 16 veces mayor capacidad de transmisión agregada en la misma área de interconexiones. La calidad de la señal transmitida se mantiene al nivel de las construcciones convencionales con microbumps.

Para los sistemas de IA la ganancia se relaciona sobre todo con el intercambio entre la memoria y los bloques de cálculo. Un acelerador moderno carga constantemente parámetros de modelos, resultados intermedios y nuevas porciones de datos de entrada. Un canal estrecho entre dados puede retrasar los cálculos incluso si los propios bloques del procesador tienen muy alto rendimiento. Conexiones más densas reducen esa limitación y, al mismo tiempo, acortan la distancia que recorre la señal eléctrica.

Al compactar surge otro problema: el calor debe extraerse desde un volumen mucho menor. En especial es difícil refrigerar ensamblajes 3D multicapa, porque los dados interiores quedan más lejos de la superficie externa del paquete. El sobrecalentamiento limita las frecuencias de operación y aumenta el riesgo de funcionamiento inestable de los componentes.

La simulación de BBCube mostró que la estructura de la placa utilizada reduce la resistencia térmica en aproximadamente un 52 %. Una menor resistencia térmica significa que la energía generada por los dados circula con mayor facilidad a través de la estructura hacia el sistema de refrigeración. Por eso una disposición más densa de los componentes no conduce necesariamente a un empeoramiento proporcional de la disipación térmica.

La temperatura media de todo el dado no basta para evaluar un ensamblaje complejo. En una pequeña zona puede aparecer un punto caliente, aunque el indicador global siga siendo aceptable. Para localizar esas áreas ya en la fase de diseño, los desarrolladores crearon un modelo multiescala de procesos térmicos con resolución de 1 µm.

El cálculo abarca todo el dado e incluye unos 100 millones de puntos. Los ingenieros pueden ver la distribución de temperatura prácticamente al nivel de secciones microscópicas individuales y determinar dónde una configuración concreta provoca un sobrecalentamiento local. Ese análisis es necesario antes de fabricar una muestra física, cuando todavía es posible cambiar la disposición de componentes sin producir una nueva remesa de chips.

Un cálculo térmico preciso también resulta útil para procesadores alimentados por la cara trasera del dado. En la construcción tradicional las líneas de potencia y de señal se sitúan en un lado del silicio y ocupan espacio en determinadas capas de enrutamiento. Trasladar la alimentación a la cara opuesta libera más espacio para la transmisión de datos, pero al mismo tiempo modifica las rutas de propagación del calor. La resolución de 1 µm permite tener en cuenta los cambios térmicos locales en esas estructuras.

En BBCube tres desarrollos trabajan como partes de un mismo esquema. El montaje preciso reduce la distancia entre dados vecinos hasta 10 µm. Las vías a través del silicio permiten prescindir de microbumps y aumentar la densidad de las líneas de transmisión de datos. El modelo térmico con 100 millones de puntos de cálculo muestra las zonas donde un ensamblaje denso puede sobrecalentarse.

La plataforma se desarrolla para aceleradores de IA y sistemas informáticos de alto rendimiento. La siguiente fase prevé integrar las tres tecnologías y someterlas a pruebas en dados reales de aceleradores de cálculo y de memoria. La verificación en equipo físico deberá mostrar en qué medida los resultados de los cálculos sobre capacidad de transmisión y disipación de calor se mantienen en sistemas multichip completos.