HBM3e vs HBM3: te mostramos el salto de rendimiento dado entre ambas memorias

Desde la aparición de la memoria de alto ancho de banda, o HBM, ya han pasado tres generaciones hasta llegar a la HBM3. Además, como ha ocurrido con generaciones anteriores, también se ha desarrollado una nueva mejora del estándar, con la aparición del HBM3E. En este artículo vamos a ver todas las diferencias entre HBM3E vs HBM3 y comprobar el salto de rendimiento que se ha conseguido con esta mejora.

¿Qué es la memoria HBM?

La memoria HBM (High Bandwidth Memory) es un tipo de tecnología de memoria diseñada para sistemas de alto rendimiento, como las aplicaciones HPC, aunque también se ha empleado en algunos productos de consumo, como en ciertos SoCs o en tarjetas gráficas como las AMD Radeon.

La HBM, como bien indica su nombre en inglés, es una memoria de un alto ancho de banda en comparación con otras memorias como la SDRAM DDR. Por tanto, es ideal para cargas de trabajo donde se realizan accesos de forma intensiva, como para la IA, entre otros.

El ancho del bus tan grande lo consigue usando varios chips de memoria DRAM apilados uno encima de otro, y conectados por vías TSV, en un empaquetado 3D, como bien sabes. Así es como cada pila de memoria puede conseguir un muy alto ancho para las transferencias más rápidas.

Por otro lado, HBM también presenta otras ventajas, como su eficiencia energética, lo cual es algo muy positivo para ciertas aplicaciones, como el HPC, ya que en los centros de datos los consumos son disparatados, y cualquier pequeña ayuda puede ahorrar mucho.

Como sabrás, existen varias generaciones que han ido mejorando progresivamente en cuanto a sus capacidades y rendimiento, como por ejemplo:

Comparativa HBM
Especificaciones	HBM	HBM2	HBM3
Densidad por troquel	2 GB	8 GB	16 GB
Velocidad máxima por pin	1 Gbps	2 Gbps	6.4 Gbps
Nº de chips apilados	4	2/4/8	4/8/12/16
Ancho de banda por chip	128 GB/s	256 GB/s	819 GB/s
E/S interface	CMOS	CMOS	Interfaz de bajo voltaje
Consumo	Menor que la GDDR5 y GDDR5X	Menor que la HBM	Inferior a la HBM2
Fabricantes	Hynix, y Samsung	Samsung y Hynix	Samsung, Hynix,…
Apariencia	Cubo	Cubo	Cubo
Usado en estos modelos de tarjetas gráficas	Radeon R9, Fury X, Radeon Pro Duo	Nvidia Tesla P100, Nvidia Quadro GP100, Radeon Rx Vega 56, Radeon Rx Vega 64, Nvidia Titan V, AMD Radeon VII	—

Por otro lado, surgieron revisiones E (Extended) algunas generaciones, como la HBM2E o la actual HBM3E. Estas versiones no son más que mejoras que más adelante detallaremos.

También existen otras como la HBMnext preentada por Micron en 2020 y que originalmente se propuso como estándar HBM3. O la HBM-PIM, creada por Samsung y anunciada en 2021 con Processing In Memory, es decir, agregar chips lógicos a la pila HBM para poder aumentar el procesamiento de datos a gran escala.

También te puede interesar ver las diferencias entre HBM2 vs HBM3

Ventajas y desventajas

Como antes he comentado, la HBM ofrece varias ventajas significativas en comparación con otras tecnologías de memoria, como la SDRAM GDDR que se emplea en los módulos RAM convencionales, o también con respecto a la GDDR para la VRAM de las tarjetas gráficas. Entre las ventajas destacan:

• Alto ancho de banda: proporciona un ancho de banda extremadamente alto, lo que permite una transferencia rápida de datos entre la memoria y el procesador (CPU, GPU, NPU,…). Esto resulta en un rendimiento mejorado en aplicaciones que requieren un acceso rápido a grandes conjuntos de datos, como los videojuegos de mundo abierto, el renderizado de gráficos en tiempo real y tareas de inteligencia artificial.
• Eficiencia energética: está diseñada para ser más eficiente en términos de consumo de energía en comparación con otras tecnologías de memoria, al reducir la longitud de las interconexiones y aprovechar la estructura apilada.
• Densidad: al usar un enfoque de apilamiento vertical, permite aumentar la capacidad de almacenamiento por unidad de superficie ocupada por el empaquetado. Esto es especialmente beneficioso en aplicaciones donde el espacio es limitado. Es decir, es como construir casas o construir rascacielos, con el rascacielos se consigue mayor capacidad por unidad de superficie plana.
• Mejora de la latencia: debido a su arquitectura apilada y la proximidad física de los componentes, la memoria HBM puede ofrecer una menor latencia de acceso a los datos en comparación con la DDR, por ejemplo.

Por supuesto, la HBM también tiene sus desventajas:

• Costo: en comparación con otras tecnologías de memoria, la memoria HBM tiende a ser más costosa de fabricar al ser un sistema que apila varios chips. Es decir, no solo hay que fabricar varios chips de memoria, también se tienen que realizar el alineado y el enlazado mediante TSV, por lo que resulta más caro.
• Capacidad limitada: la capacidad de almacenamiento de cada pila de memoria es típicamente menor en comparación con las tecnologías de memoria tradicionales. Esto puede ser una limitación en aplicaciones que requieren una gran cantidad de memoria. Por este motivo y por el anterior, la memoria HBM no ha podido sustituir a la GDDR o a la RAM DDR convencional por el momento.

HBM vs SDRAM: diferencias

Además de las diferencias en el ancho de banda, el rendimiento, y la eficiencia, que son superiores en la HBM, también existen otras diferencias con la SDRAM DDR convencional, a pesar de que ambas se basan en celdas DRAM. ¿Entonces, qué las diferencia? Pues muy sencillo, la respuesta es que la SDRAM DDR es un tipo de celda DRAM en circuitos 2D, mientras que la HBM son una pila de circuitos 2D de DRAM apilados e interconectados mediante TSV.

HBM3E vs HBM3: mejoras

Después de HBM3, ahora también nos llega HBM3E o HBM3e, una extensión que mejora las propiedades de la anterior. En principio, estas memorias se emplearán para el ámbito del HPC pero tal vez lleguen algún día al consumidor convencional para GPUs, entre otras.

Si te estás preguntando por las mejoras HBM3E vs HBM3, hay que destacar las siguientes:

• Hasta 8 Gbps de velocidad de transferencia, lo que significa un rendimiento un 25% superior en comparación con la HBM3 (6.4 Gbps). Esto también implica que se mejora la HBM por hasta x8.
• Más eficiente que la HBM3, con mejoras de en torno al 20% en eficiencia energética, lo que es una clara mejoría.

Cuándo llegará la HBME3

En principio parece que llegaría en 2024, aunque algunos fabricantes ya están experimentando con ella. Por el momento se desconocen los productos que la incluirán, pero principalmente serán del ámbito del HPC como he comentado anteriormente. ¿Su precio? Es otro de los misterios… ¡Te leemos en comentarios!