Ingenieros logran ejecutar una IA de 120.000 millones de parámetros en un PC de sobremesa

Xiaomi ensambló un ordenador de sobremesa capaz de ejecutar grandes modelos de inteligencia artificial directamente en el dispositivo, sin enviar los cálculos a la nube. El prototipo Xiaomi AI Cube reúne tres procesadores propios de la compañía y es compatible con modelos de hasta 120 000 millones de parámetros.
El dispositivo se presentó el 24 de agosto en una conferencia dedicada a los procesadores XRING. El director de Xiaomi, Lei Jun, informó que en el interior del AI Cube funcionan XRING O3, O100 y D100. La compañía cargó dos modelos de 120 000 millones y 3 000 millones de parámetros y previó la posibilidad de alternar entre modos de procesamiento más rápidos y más lentos según la tarea.
El procesador principal es el XRING O3. Xiaomi lo equipó con una CPU de diez núcleos, un acelerador gráfico G2-Ultra NX de 16 núcleos y un bloque para IA con un rendimiento de hasta 200 TOPS. El XRING O3 se fabrica con un proceso de 3 nm y ya ha entrado en producción en serie. El primer dispositivo comercial que lo incorporará será el plegable Xiaomi 18 Fold.
El XRING O100 fue diseñado específicamente para procesar modelos grandes directamente en el dispositivo. Según datos de Xiaomi, el procesador se fabrica con tecnología de 6 nm y apilamiento vertical de troqueles. El ancho de banda de memoria alcanza 1,22 TB/s, lo que reduce la latencia al transferir datos entre la memoria y los bloques de cálculo. Xiaomi afirma que la velocidad de salida llega a 330 tokens por segundo.
El tercer procesador, XRING D100, se creó inicialmente para sistemas de conducción automatizada. El chip se fabrica con un proceso de 3 nm; cuenta con 20 núcleos de cálculo, un bloque para IA de 16 núcleos y soporta hasta 160 GB de memoria. Xiaomi planea comenzar la aplicación comercial del O100 y D100 en 2027.
La carcasa del AI Cube está hecha de una pieza de aluminio y contiene más de 33,8 mil orificios que evacuan el calor. Bajo carga prolongada, el sistema puede consumir hasta 150 W. Esta reserva permite alojar un sistema de cálculo bastante potente en el chasis de un ordenador de sobremesa pequeño.
Por ahora Xiaomi considera el AI Cube un prototipo de ingeniería. Lei Jun confirmó que los tres procesadores ya han pasado por el diseño y la verificación; sin embargo, la compañía no ha anunciado ni el precio ni la fecha de inicio de ventas del propio ordenador. Por eso, de momento el AI Cube sirve más como demostración de cómo Xiaomi pretende unir sus procesadores y modelos de IA locales en una sola plataforma de cómputo.