NVIDIA anuncia el DGX-2: 16 GPUs Tesla V100 por ‘solo’ 400.000 dolares

El super-ordenador presentado por NVIDIA, el DGX-2, se basa en el anterior DGX-1 de varias maneras pero con el doble de rendimiento aun precio desorbitado. En primer lugar, presenta el nuevo NVSwitch de NVIDIA, que permite una comunicación chip a chip de 300 GB/s a una velocidad 12 veces superior a la de una conexión PCIe. Esto, con NVLink2, permite agrupar dieciséis GPUs en un único sistema, con lo que el ancho de banda total supera los 14 TB/s. Añadiendo un par de CPUs Xeon, 1.5 TB de memoria RAM y 30 TB de capacidad almacenamiento NVMe, obtenemos un sistema que consume 10 kW, pesa 350 lbs, pero ofrece fácilmente el doble de rendimiento que el DGX-1, según NVIDIA.

DGX-2 es el  2 veces mas potente que el DGX-1

NVIDIA también está sacando pecho de los 2 PFLOPs de rendimiento cuando se utilizan los núcleos tensor.

La compañía verde ha utilizado un sistema de doble pila. La foto de concepto indica que en realidad hay 12 NVSwitches (216 puertos) en el sistema para maximizar la cantidad de ancho de banda disponible entre las GPUs. Con 6 puertos por GPU Tesla V100, cada uno de los cuales se ejecuta con 32 GB de memoria HBM2,  significa que Tesla por sí solo ocuparía 96 de esos puertos si NVIDIA los tuviera completamente cableados para maximizar el ancho de banda de cada GPU.

El diseño del DGX-2 significa que las 16 GPUs pueden compartir la memoria de manera unificada, aunque con las ventajas y desventajas habituales que conlleva el abandono del chip. A diferencia del aumento de la capacidad de memoria del Tesla V100, uno de los objetivos de NVIDIA en este caso es crear un sistema capaz de mantener las cargas de trabajo en memoria que serían demasiado grandes para un clúster de 8 GPU.

El DGX-2 está siendo lanzado para aquellas compañías que estén enfocadas en el aprendizaje profundo y puedan hacer una inversión realmente grande. El precio del sistema es de 400.000 dólares, en lugar de los 150.000 dólares del DGX-1 original.