Tarjetas gráficas

NVIDIA GH200 y DGX GH200, presentados con una potencia descomunal

NVIDIA da el golpe de «gracia» con su GPU GH200 Grace con arquitectura Hopper, 72 CPUs Arm, 96 GB HBM3 y 576 GB de memoria GPU; sin olvidar los nuevos IA DGX GH200, ¿qué es esta locura?

Alucinamos con las cifras que maneja NVIDIA en el sector de data centers o HPC, ya que habla de Exaflops y TeraFlops como si fuera algo alcanzable a simple vista. Los protagonistas de la keynote de NVIDIA son las GPU GH200 junto a los superordenadores DGX potenciados con estas mismas GPUs y, ¡algo más!

El golpe de «gracia» con NVIDIA GH200 Grace Hopper

Comenzamos con las tarjetas gráficas GH200, que han sido presentadas por Jensen Huang, como las Grace Hopper Superchip porque reúne arquitectura GPU Hopper y CPU Grace; todo basado en Arm y NVLink. Puede trabajar con un ancho de banda de hasta 900 GB/s, y para ponerlo en contexto: es más de 7 veces lo que ofrecePCI-Express 5.0. El objetivo de ello está en las aplicaciones tan exigentes que se manejan en los datacenters, lugar donde la IA cobra su mayor importancia.

Siguiendo con sus especificaciones, tendríamos 72 SoCs Arm y 96 GB HBM3, así como 576 GB de memoria GPU (no sabemos de qué tipo).

NVIDIA se ha montado su ecosistema en centros de datos con sus productos, así como su software: NVIDIA AI, Omniverse y RTX. Han mencionado a NVIDIA AI Enterprise como uno de los pilares, ya que es un software que tiene una biblioteca de modelos entrenados, sobre los 100 frameworks y herramientas de desarrollo para implementar la IA.

Han querido dar su granito de arena al metaverso con Omniverse, permitiendo que las personas y equipos enteros puedan trabajar en distintos programas y colaboren en un entorno sincronizado.

NVIDIA IA DGX GH200

Los servidores NVIDIA IA DGX GH200 no son más que el conjunto formado por 8 Grace Hopper Superchip conectado a 3 NVLink Switch y a otros 32 NVLink Switch x36. Esto forma un total de 256 Grace Hopper Superchips que dan un rendimiento de 1 ExaFLOPS y que suponen 144 TB de memoria GPU, como 230 TB/s gracias a NVLINK BW.

¿Para qué tanto? Todo está pensado para desarrollar modelos enormes para ser implantados en aplicaciones de lenguaje de IA generativa, análisis de datos y sistemas de recomendación. Por otro lado, también han hablado de la plataforma NVIDIA RTX que es una mezcla del Ray Tracing, con Deep Learning y con la rasterización; de esta manera, transforma el proceso creativo a través de sus herramientas.