NVIDIA lanzó Dynamo, conocido como el "sistema operativo de la fábrica de IA"

Según los datos de Jinshi del 19 de marzo, NVIDIA (NVDA.O) ha lanzado oficialmente Dynamo, que se autodenomina el 'sistema operativo de la fábrica de IA'. Dynamo es una 'biblioteca de servicios de razonamiento distribuido'. Básicamente, es una solución de código abierto para problemas entre la demanda de token de los usuarios y la incapacidad de producir suficientes tokens. Jensen Huang presentó un gráfico sobre el razonamiento, donde el eje X muestra la cantidad de tokens por segundo de los usuarios y el eje Y muestra la cantidad de tokens por segundo de la fábrica. Con la ayuda de Dynamo y el superchip NVLink72 de Grace Blackwell, Blackwell puede lograr un aumento del rendimiento de 25 veces en comparación con Hopper. En cuanto al modelo de razonamiento, el rendimiento de Blackwell es 40 veces mayor que el de Hopper. Jensen Huang bromeó diciendo que con la última tecnología mencionada, los fabricantes que construyen fábricas de IA 'compran más, ahorran más'.