24GB HBM3 Gen2: serão estes, os mais poderosos chips de memória DRAM?

Há +20 anos, a Intel trouxe para o mercado as memórias RDRAM, que apesar de serem proprietárias e custarem (bem) mais caro que as memórias DDR, elas entregavam uma performance relativamente superior, se beneficiando das altas frequências que podiam alcançar (mesmo com um barramento mais estreito). O seu objetivo era tirar proveito da sua posição dominante no mercado e enfiar “goela abaixo” estas memórias, além de ser beneficiada pelo acordo feito com a Rambus (a empresa que criou e desenvolveu estas memórias). Felizmente, “o tiro saiu pela culatra” e as memórias DDR acabaram se tornando o padrão do mercado…

“Micron Technology, Inc. (Nasdaq: MU) today announced it has begun sampling the industry’s first 8-high 24GB HBM3 Gen2 memory with bandwidth greater than 1.2TB/s and pin speed over 9.2Gb/s, which is up to a 50% improvement over currently shipping HBM3 solutions. With a 2.5 times performance per watt improvement over previous generations, Micron’s HBM3 Gen2 offering sets new records for the critical artificial intelligence (AI) data center metrics of performance, capacity and power efficiency…”

— by Micron (Press Release).

Se não bastasse a “decisão equivocada” em propor um padrão proprietário em um mercado “aberto por natureza”, a Intel também cometeu outro “grande deslize” em não oferecer mais o suporte para estas memórias, além de deixar muitos usuários insatisfeitos por terem adquirido plataformas restritas a elas (CPUs Pentium 4 “Willamette”). Na minha opinião, ela deveria ter mantido o suporte para ambos os padrões (DDR e RDRAM) e assim, oferecer ao mercado mais opções de escolha. Enfim: depois deste trauma (pois já montei algumas máquinas baseada nesta plataforma), passei a olhar com mais desconfiança toda e qualquer proposta que tem como objetivo, substituir uma tecnologia aberta e bem consolidada…

Quando as memórias baseadas na tecnologia HBM surgiram no mercado, pensei: “lá vamos nós”! Mas diferente da RDRAM, estas novas memórias apresentam (de fato) várias evoluções tecnológicas que a tornam superior ao padrão GDDR sob diversos aspectos (embora ainda deixem a desejar em outros), além de serem abertas e de uso livre (embora sejam patenteadas pela AMD), apesar de serem voltadas de início para as placas de vídeo. Mas tal como a RDRAM, elas são mais caras e por isto, ainda não conquistaram o seu espaço no mercado! Mesmo assim, elas são uma opção interessante não só para as placas de vídeo de alta performance, mas também para todo e qualquer sistema que possa tirar proveito delas.

A Micron fez um comunicado oficial, no qual ela anuncia o lançamento de um novo chip de memória HBM3 de 2a. geração! Dotado de até 24 GB de capacidade de armazenamento, ele utiliza 8 camadas de chips (empilhados) e por isto, se tornou o primeiro da categoria a ser fabricado e disponibilizado pela empresa. Quanto a transferência de dados, este novo chip é capaz de transferir a 1,2 TB/s, além de oferecer velocidades de tráfego superiores a 9,2 Gb/s “por pino”, apresentando um ganho de performance de até 50% se comparado com os demais chips baseados no mesmo padrão (de gerações anteriores). Por fim, ele também possui uma excelente eficiência energética (+2,5 vezes), além de utilizar uma litografia mais refinada (Micron 1β).

Segundo a Micro, estas melhorias “reduzem os tempos de treinamento de grandes modelos de linguagem como GPT-4 e além, oferecem uso eficiente da infraestrutura para inferência de IA e fornecem custo total de propriedade (TCO) superior”, tornando os novos chips baseados no padrão HBM3 uma solução não só viável, como também superior em comparação com as demais alternativas disponíveis no mercado. E se estes números não satisfazem, preparem-se: a empresa já está planejando oferecer chips com incríveis 36 GB de capacidade de armazenamento (12 camadas), contando com a parceira da 3DFabric Alliance (TSMC) para “ajudar a moldar o futuro das inovações em semicondutores e sistemas”. Eita…

Diferente da RDRAM, o HBM veio para ficar! Ou será que estou enganado? &;-D