AMD acaba de lanzar su esperada GPU aceleradora de IA Instinct MI325X, que está contando con 256 GB de memoria HBM3E.
AMD Instinct MI325X se lanza oficialmente con 256 GB HBM3E
La compañía afirma que esta es la primera GPU de IA que está contando con una capacidad de memoria de 256 GB, lo que permitirá modelos de lenguaje (LLM) más grandes que nunca. Esta parece que será una de las principales ventajas de la GPU frente a su rival, el H200 de Nvidia, que viene con 141 GB de memoria HBM3E.
La aceleradora MI325X está mejorando todo lo visto en el MI300X, aumentado la capacidad de memoria de 192 GB a 256 GB, además de dar el salto de HBM3 a HBM3E, que aumenta la velocidad y el ancho de banda hasta los 6 TB/s.
Aunque el aumento en la capacidad de memoria es importante, hay que comentar que hubo una pequeña reducción en la capacidad que se había anunciado originalmente, que era de 288 GB. AMD se siente igualmente confiada con que esta capacidad será suficiente para mejorar lo visto en la competencia y también le permitirá ser más competitivo en cuanto al precio.
Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado
AMD compartió unas diapositivas y comparativas de rendimiento frente a la GPU H200 de Nvidia, donde prometen un mayor rendimiento en inferencia de la IA. Hablan de una mejora en el rendimiento de entre el 20 y el 40% dependiendo del modelo de lenguaje. Además, está igualando o superando ligeramente el rendimiento en entrenamiento de IA con 1 u 8 GPUs.
Estos resultados son realmente alentadores para AMD.
Anuncio de la aceleradora MI355X
AMD no solo anunció la aceleradora MI325X, también aprovechó la ocasión para anunciar la aceleradora MI355X, que está programada para el año próximo utilizando la nueva arquitectura CDNA 4.
Esta aceleradora si contara con una capacidad de memoria de 288 GB HBM3E, al tiempo que ofrece soporte para tipos de datos FP4/FP6.
Con respecto al MI325X, se promete un salto de rendimiento del 80% en FP16 y FP8. Además, se experimenta un aumento de ancho de banda de memoria que pasaría de 6 TB/s hasta los 8 TB/s.
AMD parece que sigue con su plan de lanzar esta aceleradora en 2025 y ya se encuentra desarrollando lo que será la aceleradora MI400, que saldría en 2026 con una nueva arquitectura CDNA 5. Os mantendremos informados.
