Nvidia B200 “Blackwell” muestra mejoras en IA de hasta 2.2 veces por sobre Hopper

Un par de resultados de rendimiento de las próximas aceleradoras B200 “Blackwell” están demostrando el salto generacional que habrá con respecto Hopper.

Nvidia B200 “Blackwell”: Mejoras de hasta 2.2 veces sobre Hopper en inteligencia artificial

Las distintas diapositivas se centran en las mejoras de rendimiento que van a aportar las aceleradoras “Blackwell” en el segmento de la inteligencia artificial con respecto a Hopper, con mejoras de hasta 2.2X con respecto Hopper en modelos de lenguaje bien conocidos como Llama 2 o GPT-3.

En otras pruebas de desempeño de entrenamiento de IA MLPerf, también se está viendo una gran evolución en el rendimiento con Blackwell HGX B200. En este apartado, se hizo una comparativa con varias generaciones anteriores de aceleradoras de IA, sacando la conclusión de que el HGX B200 logra 12 veces más rendimiento que el HGX A100, que solo tiene tres años de antigüedad.

Para esta comparativa se utilizaron unos sistemas con ocho GPUs Blackwell, cada una de las cuales funcionaba a una potencia de diseño térmico de 1000 W. Las GPUs se interconectaron utilizando la tecnología NVLink de quinta generación junto con el último conmutador NVLink.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

Los resultados fueron validados por MLCommons, evidenciando que el hardware para la aceleración de la IA está aportando cada vez mayores saltos de rendimiento, en un campo en donde todavía hay un amplio margen para seguir obteniendo un mayor rendimiento. Las aceleradoras Blackwell de Nvidia se están beneficiando de una memoria HBM3E más rápida que nunca y de la interconexión NVLink, dos elementos que también han aportado para ver estos saltos de rendimiento de hasta 2.2 veces con respecto a la generación vigente.

Para las grandes compañías esto también puede traducirse en ahorro de costes y de espacio. Se pone como ejemplo que para alcanzar el rendimiento con el benchmark de pre-entrenamiento de GPT-3 175B se requeriría de unas 64 GPU, mientras que con Hopper se estima que se necesitan 256 GPU para lograr el mismo rendimiento.

Además de Nvidia, AMD e Intel también desarrollan sus propias aceleradoras de IA, intentando sacar tajada de un segmento de la IA que está en pleno crecimiento. Os mantendremos informados.