Durante el evento Advancing AI, AMD hizo la presentación de la familia AMD Instinct MI300, con los modelos MI300A y MI300X.
Instinct MI300: AMD presenta sus aceleradoras de IA y HPC
El MI300X es una aceleradora para IA generativa y aplicación HPC, mientras que el MI300A es un APU que combina GPU + CPU.
Ambos productos de la serie Instinct MI300 son muy esperados por el mercado para competir con las aceleradoras de IA y HPC de Nvidia en ese segmento, valiéndose de las arquitecturas CDNA 3 y Zen 4.
AMD Instinct MI300X
Este producto cuenta con ocho GCD en total, para un total de 320 unidades de cálculo y 20.480 núcleos, usando la arquitectura CDNA 3 y un IP que combina nodos de 5nm y 6nm.
El MI300X cuenta con 8 pilas de HBM3 y cada pila es de 12 Hi, al tiempo que incorpora circuitos integrados de 16 Gb. La capacidad de memoria total es de 192 GB. Esta capacidad sería superior a la de su competencia, que es el H200 con 141 GB HBM3e.
Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado
Esta memoria estaría ofreciendo un ancho de banda de 5,2 TB/s y 896 GB/s de ancho de banda Infinity Fabric.
El consumo eléctrico es de 750 W, que son 50 W por encima del H200 de Nvidia.
AMD Instinct MI300A
Se trata de un APU Exascale que combina CPU + GPU, con unos 24 núcleos Zen 4 divido en tres CCD de 8 núcleos cada uno. Esta sección cuenta con 24 MB de caché L2 (1 MB por núcleo) y una reserva de caché independiente (32 MB por CCD). La sección de CDNA 3 GCD cuenta con su propia caché L2 separada.
Por el lado de la GPU, cada GCD incorpora un total de 40 unidades de cálculo, lo que equivale a 2560 núcleos. Hay ocho GCD en total, lo que da un total de 320 unidades de cálculo y 20.480 núcleos.
Los socios ya están trabajando en configuraciones de 8 vías con diseños SXM que se conectan a la placa base con conectores mezzanine. El único diseño que se ha compartido es el rack G383-R80 de Gigabyte, que incluye una placa base con cuatro sockets SP5 y 8 ranuras PCIe 5.0 x16.
Compañías como Dell, HPE, Lenovo, Microsoft, Oracle Cloud, y otros, ya están contando con hardware de IA. Pueden ver más información en el sitio de AMD.
