La arquitectura Blackwell de NVIDIA - AI CHIP
La arquitectura Blackwell de NVIDIA - AI CHIP
Mg. en Ing. Carlos Gerardo Said
La arquitectura Blackwell de NVIDIA representa un avance significativo en la tecnología GPU, diseñada específicamente para IA generativa y computación de alto rendimiento. Esta arquitectura, que lleva el nombre del matemático David Harold Blackwell, es la sucesora de la arquitectura Hopper de NVIDIA. Presenta varias innovaciones clave que lo diferencian de generaciones anteriores.
La GPU Blackwell está construida con 208 mil millones de transistores y emplea una configuración de doble matriz conectada por una interconexión de 10 terabytes por segundo, lo que le permite superar los límites tradicionales de retícula en la fabricación de chips. Esta configuración da como resultado una GPU con rendimiento y eficiencia no vistas previamente, logrando una eficiencia energética hasta 25 veces mejor en comparación con sus predecesoras..
Las innovaciones clave en la arquitectura de Blackwell incluyen:
Motor transformador de segunda generación: este motor mejora el entrenamiento y la inferencia de modelos de lenguaje grande (LLM) y modelos de mezcla de expertos (MoE), utilizando núcleos tensoriales avanzados y modelos de precisión.
Nvlink y Nvlink Switch: estas tecnologías proporcionan interconexiones de GPU de alta velocidad, esenciales para la computación a exa-escala con modelos de inteligencia artificial de millones de parámetros, lo que permite clústeres de hasta 576 procesadores.
Motor de descompresión: este componente acelera el manejo de datos con un ancho de banda bidireccional de 900 GB/s para varios formatos de compresión.
Motor de confiabilidad, disponibilidad y capacidad de servicio (RAS): este motor garantiza la tolerancia a fallas y la administración predictiva al monitorear continuamente el hardware y software.
El Superchip GB200, un producto destacado en la línea Blackwell, integra dos GPU Blackwell y una CPU NVIDIA Grace, ofreciendo hasta 384 GB de memoria de alto ancho de banda y hasta 16 TB/s de ancho de banda de memoria. El sistema de servidor GB200 NVL72 amplía aún más esta capacidad al combinar 36 superchips GB200 en un solo gabinete refrigerado por líquido, actuando como una GPU unificada con entrenamiento masivo de IA y rendimiento de inferencia.
Estas innovaciones han sido ampliamente adoptadas por las principales empresas de tecnología y proveedores de servicios en la nube, incluidos AWS, Google Cloud, Microsoft Azure y otros, que ofrecerán instancias impulsadas por Blackwell. Esta adopción subraya el potencial de Blackwell para revolucionar la IA y la informática de alto rendimiento en diversas industrias.
Fuentes: (Sala de prensa de NVIDIA) (Blog de NVIDIA).
(Blog de NVIDIA) (Todo sobre circuitos).
Comments
Post a Comment