AMD Ryzen AI 300 tiene una NPU que da hasta 27% más en IA

AMD avisa de que su NPU XDNA 2 hace que los Ryzen AI 300 sean mejores que los Core Ultra 200.

Equipo rojo contra equipo azul y el primero va con todo para no dejar a nadie de pie. AMD nos ha adelantado por nota de prensa el comportamiento de los Ryzen AI 9 HX 375 en los modelos de Meta Llama 3.2.1b, Google Gemma o Microsoft Phi. Al parecer, gracias a la NPU XDNA 2 de este modelo junto 7500 MHz en LPDDR5X… puedes volar en IA, ¡vayas dónde vayas!

Los AMD Ryzen AI 300 pueden ofrecer hasta 27% más en IA

Claramente, hace referencia a la batalla que tiene con Intel en los portátiles con procesadores x86. Decir que el portátil Intel probado y comparado con el AMD tenía una frecuencia RAM de 8533 MHz, mientras que en el Ryzen AI 9 HX 375 funcionaba a 7500 MHz.

En el benchmark de Meta Llama 3.2 1b, consigue hasta 50.7 tokens por segundo, mientras que el Intel Core Ultra 7 258V solo llega a 40. Luego, han comparado el tiempo que les lleva a cada uno en obtener 1 token para medir la latencia que se produce en ambos modelos. AMD apunta a una 3.5 más rápido que el Ultra 7 para ultrabooks, una cifra que está espectacular si se mantiene en todos.

Y es que uno de los trucos estaría en la VGM o en la memoria variable de gráficos, ya que cada uno de los 3 aceleradores presentes en los Ryzen tienen su carga de trabajo especializada. Los programas suelen usar 512 MB de asignación dedicada para una iGPU, luego el segundo bloque de memoria se encuentra en la parte compartida de la RAM del sistema.

A fin de cuentas, la VGM nos permite ampliar de 512 hasta el 75% que tengamos en la RAM disponible. Esto les ha permitido promediar un 22% más de rendimiento en Meta Llama 3.2 1b. Otro apunte es que AMD ha visto que, cuando usan la versión basada en Vulkan de llama.cpp dentro de LM Studio, al activar la carga de trabajo en la GPU, la CPU de Intel promedia menos rendimiento en cada modelo.