Instinct MI300X: La aceleradora de IA se muestra en detalle, a las vísperas del modelo MI325X

AMD hizo un desglose de las características y mejoras de la GPU aceleradora Instinct MI300X, que cuenta con 320 unidades de cómputo CDNA 3 y una capacidad de memoria de 192 GB HBM3.

Instinct MI300X: La aceleradora de IA de AMD se muestra en detalle

Antes del lanzamiento de la aceleradora MI325X de 288GB de memoria HBM3e, AMD hizo un repaso del MI300X, que cuenta con unos 192 GB de memoria HBM3. Estas aceleradoras son la apuesta de AMD para acelerar la IA, aunque ya hay planes para un nuevo modelo que saldrá más adelante y que promete ser un verdadero dolor de cabeza para Nvidia, el MI350X.

Como lo comentamos anteriormente, el MI300X está contando con unas 320 unidades de cómputo de arquitectura CDNA 3. AMD se siente orgullosos de esta tercera iteración de aceleradoras Instinct, habiéndose diseñado en base a unos 153 mil millones de transistores, con una combinación de nodos de proceso FinFET de 5 nm y 6 nm de TSMC. Los ocho chaplets cuentan con cuatro motores compartidos y cada motor compartido incluye 10 unidades de cómputo. Esta aceleradora también cuenta con una variante “APU” llamada MI300A, que está combinando núcleos de CPU Zen 5 en dos chiplets y núcleos de GPU CDNA 3. Todos los componentes internos de la GPU se conectan mediante la tecnología Infinity Fabric, que ofrece un ancho de banda de 896 GB/s.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

El chip completo incluye 32 motores de sombreado con un total de 40 motores de sombreado en un XCD y 320 en total en todo el paquete. Cada XCD tiene su caché L2 dedicada y las afueras del paquete cuentan con Infinity Fabric Link, 8 sitios de E/S HBM3 y un solo enlace PCIe Gen 5.0 con 128 GB/s de ancho de banda.

En el siguiente diagrama podemos ver como cada XCD tiene dos unidades de cómputo deshabilitados, lo que suma un total de 304 CU del diseño completo de 320 CU. La cantidad de núcleos que tiene la GPU habilitada es de 19.456 núcleos, mientras que el chip completo puede alcanzar los 20.480 núcleos. La cantidad de memoria Infinity Cache es de 256 MB.

Instinct MI325X

En el mes de octubre AMD va a actualizar el MI300X con este modelo, añadiendo una capacidad de memoria mayor de 288 GB y también una memoria más rápida con el HBM3e. Esto aportar un 30% más de ancho de banda de memoria y una mejora de rendimiento en FP8 y FP16 de hasta el 30%, además de un aumento de 2 veces en el tamaño de modelo por servidor.

AMD se siente muy esperanzada de que podrá competir con las aceleradoras Blackwell de Nvidia en el futuro. Os mantendremos al tanto de todas las novedades.