AMD Instinct MI300 combina arquitecturas CDNA 3 y Zen 4

Durante el evento Advancing AI, AMD hizo la presentación de la familia AMD Instinct MI300, con los modelos MI300A y MI300X.

Instinct MI300: AMD presenta sus aceleradoras de IA y HPC

El MI300X es una aceleradora para IA generativa y aplicación HPC, mientras que el MI300A es un APU que combina GPU + CPU.

Ambos productos de la serie Instinct MI300 son muy esperados por el mercado para competir con las aceleradoras de IA y HPC de Nvidia en ese segmento, valiéndose de las arquitecturas CDNA 3 y Zen 4.

AMD Instinct MI300X

Este producto cuenta con ocho GCD en total, para un total de 320 unidades de cálculo y 20.480 núcleos, usando la arquitectura CDNA 3 y un IP que combina nodos de 5nm y 6nm.

El MI300X cuenta con 8 pilas de HBM3 y cada pila es de 12 Hi, al tiempo que incorpora circuitos integrados de 16 Gb. La capacidad de memoria total es de 192 GB. Esta capacidad sería superior a la de su competencia, que es el H200 con 141 GB HBM3e.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

Esta memoria estaría ofreciendo un ancho de banda de 5,2 TB/s y 896 GB/s de ancho de banda Infinity Fabric.

El consumo eléctrico es de 750 W, que son 50 W por encima del H200 de Nvidia.

AMD Instinct MI300A

Se trata de un APU Exascale que combina CPU + GPU, con unos 24 núcleos Zen 4 divido en tres CCD de 8 núcleos cada uno. Esta sección cuenta con 24 MB de caché L2 (1 MB por núcleo) y una reserva de caché independiente (32 MB por CCD). La sección de CDNA 3 GCD cuenta con su propia caché L2 separada.

Por el lado de la GPU, cada GCD incorpora un total de 40 unidades de cálculo, lo que equivale a 2560 núcleos. Hay ocho GCD en total, lo que da un total de 320 unidades de cálculo y 20.480 núcleos.

Los socios ya están trabajando en configuraciones de 8 vías con diseños SXM que se conectan a la placa base con conectores mezzanine. El único diseño que se ha compartido es el rack G383-R80 de Gigabyte, que incluye una placa base con cuatro sockets SP5 y 8 ranuras PCIe 5.0 x16.

Compañías como Dell, HPE, Lenovo, Microsoft, Oracle Cloud, y otros, ya están contando con hardware de IA. Pueden ver más información en el sitio de AMD.