Instinct MI300X: AMD ha integrado modelos DeepSeek-V3 en sus aceleradoras de IA

AMD anunció la integración del modelo DeepSeek-V3 con sus tarjetas gráficas aceleradoras de IA Instinct MI300X.

Instinct MI300X: AMD ha integrado modelos DeepSeek-V3

El modelo DeepSeek-V3 es un modelo de lenguaje grande de código abierto, uno de los más importantes en la actualidad, que está diseñado específicamente para optimizar la inferencia de la IA. Gracias a las aceleradoras de IA MI300X de AMD, se puede mejorar notablemente el rendimiento en aplicaciones de inteligencia artificial.

El modelo DeepSeek-V3 presenta una sofisticada arquitectura MoE con 671 mil millones de parámetros, que activa 37 mil millones de parámetros por proceso de token. El modelo también incorpora técnicas como MLA (multi-head latent attention) y una estrategia única de equilibrio de carga sin pérdida auxiliar, con el objetivo de lograr una inferencia eficiente y un entrenamiento rentable.

Las aceleradoras de GPU Instinct MI300X es un producto estelar y extremadamente importante para AMD en términos de aceleración de la IA, un segmento en donde Nvidia está dominando y en el que AMD tiene como prioridad para hacer crecer su negocio. Las aceleradoras de IA pueden trabajar con modelos de lenguaje grandes, reconocimiento de imágenes y procesamiento de lenguaje natural, entre otras tareas.

Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado

AMD está destacando su colaboración con los equipos de DeepSeek y SGLang, integrando SGLang, que es un marco para computación de alto rendimiento. Esta integración es esencial para lograr el máximo rendimiento de las aceleradoras MI300X. Además, la plataforma ROCm de AMD admite FP8, que mejora las operaciones de IA al reducir la latencia.

AMD todavía tiene un largo camino por recorrer con sus aceleradoras de IA. La mayoría de la industria está apostando por Nvidia, que ofrecerán un rendimiento superior en este momento, pero AMD no quiere quedarse atrás y pretende ser competitivo con sus próximas aceleradoras Instinct. Os mantendremos informados.