Las aceleradoras Instinct MI300X de AMD parecen que van a ofrecer un rendimiento realmente competitivo, incluso en términos de eficiencia.
AMD Instinct MI300X será un gran competidor de Nvidia en inteligencia artificial
Según las últimas informaciones, las aceleradoras Instinct MI300X van a causar «dolores de cabeza» a la competencia debido a sus grandes niveles de rendimiento/eficiencia.
La serie Instinct MI300X se lanzó oficialmente en diciembre de 2023 y está recibiendo un gran interés por parte de la industria, sobretodo aquella que se dedica a los servicios de inteligencia artificial.
> rocm-smi
like freshly baked bread, 8x MI300X is online
if you're building on open LLMs and you're blocked on compute, lmk. Everyone should have access to this wizard technology called LLMs.
that is to say, the next batch of @LaminiAI LLM pods are here. pic.twitter.com/NjRAYjxehp
— Sharon Zhou (@realSharonZhou) January 19, 2024
Según unas pruebas de rendimiento realizadas por AMD, Instinct MI300X con arquitectura CDNA 3 está sobrepasando el rendimiento de sus competidores, lo que beneficiará a AMD para posicionarse de forma sólida frente a sus competidores como Nvidia.
Los Instinct MI300X van a combinar nodos de 5 nm y 6 nm con una cantidad de 153.000 millones de transistores. Con respecto a MI250X, AMD aumentó la capacidad de memoria HBM3 del 50%.
Según las especificaciones publicadas por AMD, Instinct MI300X tiene las siguientes características.
- Capacidad de memoria 2,4 veces mayor
- Ancho de banda de memoria 1,6 veces mayor
- 1,3x TFLOPS del FP8
- 1,3x TFLOPS FP16
- Hasta un 20 % más rápido que el H100 (Llama 2 70B) en una comparación 1 contra 1
- Hasta un 20 % más rápido que el H100 (FlashAttention 2) en comparación 1 contra 1
- Hasta un 40% más rápido que H100 (Llama 2 70B) en servidor 8v8
- Hasta un 60 % más rápido que el H100 (Bloom 176B) en un servidor 8v8
Según el medio Taiwan Economic Daily, estas aceleradoras Instinct ya se han enviado a clientes, y empresas como LaminiAI.
Al parecer, AMD ha logrado posicionarse bien gracias a que cuenta con un buen stock de este tipo de aceleradoras, a diferencia de Nvidia que está teniendo problemas con los envíos como para satisfacer a todos sus clientes.
AMD cree que el segmento de IA tiene el potencial de crecer hasta una cifra de 400 mil millones de dólares de ganancias para el año 2027. Os mantendremos al tanto de todas las novedades.
