Nvidia presenta el primer chip Groq LPX: la eficiencia de inferencia por megavatio se maximiza en 35 veces cuando se combina con Vera Rubin, y muestra el prototipo de Kyber de próxima generación

Gate News Noticias, el 17 de marzo, Nvidia lanzó el chip Groq 3 LPU (Unidad de Procesamiento de Lenguaje), que es el primer chip lanzado después de que Nvidia adquiriera la startup de chips de inferencia de IA Groq por aproximadamente 20 mil millones de dólares en diciembre del año pasado. Se espera que comience su distribución en el tercer trimestre de este año. La carcasa Groq 3 LPX puede alojar 256 LPUs, equipada con 128 GB de SRAM en chip y un ancho de banda de interconexión expandida de 640 TB por segundo. Según la compañía, cuando se despliega junto con Vera Rubin NVL72, el LPX puede aumentar hasta 35 veces el rendimiento de inferencia por megavatio, desbloqueando potencial de ingresos en escenarios de inferencia con billones de parámetros y millones de tokens de contexto. Jensen Huang describió los dos procesadores como “extremadamente diferentes pero complementarios: uno busca alto rendimiento, el otro busca baja latencia”, y la memoria en chip del LPX amplía significativamente la capacidad total de memoria disponible para los modelos. La carcasa LPX está prevista para su lanzamiento en la segunda mitad de este año junto con la plataforma Vera Rubin. Además, Huang también mostró un prototipo de la próxima generación de arquitectura de carcasa, con el nombre en clave Kyber. Kyber cambiará la disposición de 144 GPU en bandejas de cálculo a una disposición vertical para aumentar la densidad física y reducir la latencia, y se integrará en la plataforma sucesora de Vera Rubin, Vera Rubin Ultra, prevista para su lanzamiento en 2027.