HBM vs DRAM: ¿Qué memoria es realmente la más rápida del planeta?
Durante décadas, la memoria DRAM ha sido el caballo de batalla de la informática. Desde los primeros módulos SIMM hasta los actuales DDR5, su evolución se ha basado en aumentar la frecuencia y bajar la latencia. Sin embargo, la llegada de la Inteligencia Artificial (IA) ha roto todos los esquemas. Los modelos de lenguaje masivos, como GPT-4 o Llama 3, no solo necesitan procesadores rápidos, necesitan cantidades ingentes de datos en milisegundos.
Aquí es donde entra en juego la High Bandwidth Memory (HBM). No es una simple evolución, sino una revolución arquitectónica.
Corte a través de una tarjeta gráfica que utiliza memoria de gran ancho de banda. Créditos: Shmuel Csaba Otto Traian.
1. La revolución del apilamiento 3D (TSV)
La diferencia más notable es la forma en que se construyen. Una memoria DRAM convencional, como una DDR5, utiliza una disposición 2D. Los chips de memoria se colocan horizontalmente sobre un sustrato de fibra de vidrio. Para comunicarse con el procesador, utilizan un bus de datos de 64 bits a altísimas frecuencias.
La HBM, en cambio, utiliza una disposición 3D. Múltiples chips de DRAM se apilan verticalmente uno encima del otro, como un rascacielos. Para conectar estas capas entre sí, se utiliza una tecnología llamada Through-Silicon Via (TSV). Estos microagujeros perforan los chips y permiten la transferencia de datos a través de toda la pila con una eficiencia energética brutal. Una pila de HBM3 puede contener entre 8 y 16 de estos chips apilados
2. El ancho de banda: la autopista vs. el carril de alta velocidad
Si hay un parámetro donde la HBM aplasta a la DDR5, es en el ancho de banda.
DRAM (DDR5): Opera típicamente con un bus de 64 bits. Alcanza velocidades de 6.4 Gbps por pin, logrando un rendimiento máximo de unos 51.2 GB/s por módulo.
HBM (HBM3E): Utiliza un bus ultrancho de 1024 bits por pila. Aunque su velocidad por pin sea similar (o incluso inferior) a la DDR5, la cantidad de datos que mueve simultáneamente es abrumadora. Un solo stack de HBM3E puede superar los 1.2 TB/s de ancho de banda.
Para que te hagas una idea, una GPU como la NVIDIA H100 con 80GB de HBM3 alcanza los 3.35 TB/s de ancho de banda. Es literalmente 65 veces más ancho de banda que una DDR5.
3. Latencia, consumo y precio: los contras de HBM
A pesar de su brutalidad, HBM no es perfecta para todo. Existe un mito generalizado de que “más ancho de banda” equivale a “más rápida”. En términos de latencia (el tiempo que tarda en responder a una petición específica), la HBM suele ser ligeramente superior a la DDR5. En un superordenador como Aurora, se midió que la HBM tenía una latencia más alta que la DDR5.
El verdadero talón de Aquiles es el precio. Fabricar HBM es un proceso extremadamente complejo. Requiere de procesos avanzados de empaquetado 2.5D con interposers de silicio, lo que reduce el rendimiento de las obleas. Mientras que una DDR5 es barata de producir, el costo de la HBM es aproximadamente de $40 a $50 por GB, en comparación con los escasos $2 a $3 por GB de la DDR5.
4. GDDR6: la hermana gamer
No podemos confundir la HBM con la GDDR6. La GDDR6 es la memoria que llevan la mayoría de las tarjetas gráficas para gaming. Si la DDR5 es un carro equilibrado, la GDDR6 es un carro de carreras: frecuencias altísimas (16 Gbps) pero con un bus estrecho (32 bits por chip). La GDDR6 es perfecta para juegos porque es relativamente barata y tiene una latencia baja, pero se queda corta para la IA profesional, donde la HBM brilla por su capacidad de mover bloques de datos masivos sin calentarse en exceso.
5. No hay una mejor que la otra, cada una tiene funciones distintas
- Para el usuario doméstico y el gaming: La DDR5 y la GDDR6 seguirán siendo el estándar durante años. Ofrecen un rendimiento excelente por un precio asequible.
- Para la Inteligencia Artificial y la Supercomputación: La HBM es la única opción viable. Sin ella, los modelos de IA simplemente no podrían escalar. El mercado de HBM crecerá hasta representar el 43% del valor total de las DRAM para 2027.
Créditos: EDN.
El problema ahora es la escasez. La producción masiva de HBM está desviando recursos de las fábricas que producían DDR5, lo que ha provocado una subida de precios generalizada en los PCs y portátiles.
¿Crees que la HBM terminará reemplazando a la DDR5 en los PC en los próximos años? Comparte este contenido tecnológico y mándalo a todos tus amigos amantes de las computadoras y videojuegos.
