NVIDIA presentó sus más recientes innovaciones: la GPU Blackwell B200 y el superchip Blackwell GB200. Estos nuevos productos prometen revolucionar el campo del entrenamiento de modelos de lenguaje, permitiendo a empresas y organizaciones crear y ejecutar modelos de IA generativa en tiempo real con billones de parámetros.
Hasta ahora, NVIDIA había utilizado gráficas como la H100 y H200c, que contaban con 80,000 transistores. Sin embargo, la nueva GPU B200 cuenta con una asombrosa cantidad de 208 mil millones de transistores, llevando el rendimiento a otro nivel.
Además, esta nueva GPU fue desarrollada utilizando un proceso de 4 nanómetros de TSMC, y ofrece un rendimiento de 20 petaflops en FP4. Además, integra 192 GB de memoria HBM3e con un impresionante ancho de banda de 8 TB por segundo.
TE PUEDE INTERESAR: Apollo: Así Es El Robot Humanoide Que Mercedes Tendrá Para Trabajos ‘Exigentes’
Más sobre las nuevas innovaciones de NVIDIA
- La potencia del GB200 reside en su combinación de dos GPU B200 junto con una CPU Grace, ofreciendo un rendimiento excepcional. Esto se logra mediante una conexión de chip a chip NVLink de 900 GB por segundo y un consumo energético ultrabajo.
- Un rack GB200 NVL72, equipado con 36 chips Grace y 72 GPU Blackwell B200, puede superar en rendimiento hasta 30 veces a la misma cantidad de gráficas H100 Tensor Core en tareas de inferencias de modelos de lenguaje de gran tamaño. Según NVIDIA, este avance también reduce el coste y el consumo de energía hasta 25 veces.
- Los nuevos SuperPOD, potenciados por el superchip Blackwell GB200, son hasta 4 veces más rápidos en el entrenamiento de modelos de inteligencia artificial que las soluciones basadas en la GPU H100, según afirma NVIDIA.
- Cada SuperPOD tiene la capacidad de incluir hasta 8 sistemas DGX GB200, lo que significa que pueden albergar hasta 288 CPU Grace y 576 GPU Blackwell B200, alcanzando un buen rendimiento FP4 de 11.5 exaflops.
- NVIDIA asegura que miles de superchips Blackwell GB200 pueden conectarse con velocidades de hasta 800 Gb/s, gracias a las tecnologías Spectrum-X800 y Quantum-X800 InfiniBand, anunciadas recientemente.
Foto: Archivo FOLOU