为什么HBM不再只是普通内存？

聊AI芯片，大家习惯把注意力放在GPU的算力数字上，比如多少TFLOPS、多少FP4性能。但真正决定一颗AI芯片能不能跑起来、跑多快的，往往不是算力本身，而是它旁边那一圈叫做HBM的高带宽内存。

HBM已经不是传统意义上的“内存条”，它更像是GPU的一部分，是整个AI算力系统里最紧张、最难做、最集中的一环。

要理解HBM的位置，先要理解一个概念：内存墙。

GPU算力过去十几年翻了几十倍，但普通DRAM的带宽增长慢得多。大模型训练和推理都是典型的带宽敏感任务，权重参数动辄几百GB，每一步计算都要从内存里搬运海量数据。带宽跟不上，算力就闲置，GPU就变成了昂贵的摆设。这就是所谓的内存墙。

HBM解决的正是这个问题。

它不是把内存放在GPU旁边的PCB上，而是通过硅通孔（TSV）把多层DRAM颗粒垂直堆叠起来，再用先进封装贴到GPU同一块基板上。距离短、通道宽，带宽因此可以做到普通DDR5的十几倍。

到了英伟达Blackwell这一代，单颗B200的HBM容量已经做到192GB，带宽达到8TB/s，相比上一代H100的3.35TB/s又翻了近两倍半。

没有HBM，今天的大模型根本跑不动；没有下一代HBM4，未来的推理集群也接不住更大的模型。

但HBM难就难在制造。

它不是普通DRAM的堆叠版，而是一整套先进封装工艺。首先每一层DRAM本身要做到高良率，然后要在晶圆上打出成千上万个TSV通孔，再把8层、12层甚至16层芯片精准键合在一起，任何一层出问题整颗HBM就报废。

良率是逐层相乘的，层数越多良率下滑越快。业内的估算是，12层和16层的HBM3E/HBM4量产良率长期挣扎在60%左右，这意味着有相当一部分产能天然是废品。

良率上不去，产能就上不去，价格就下不来。HBM3E一颗stack的市场价大约300美元，HBM4已经涨到550美元一颗，而一块B200上要贴好几颗。

供给端更紧张。

全球能做HBM的只有三家：SK海力士、三星和美光。SK海力士长期在英伟达的核心供应位置，三星在HBM3E上追赶吃力，美光反而在部分份额上超过了三星。到了2026年第二季度，三星DRAM整体份额38%、SK海力士25%、美光24%，但在HBM4的份额分配上，SK海力士依然占据主导。

三家厂商、集中的产能、垂直堆叠的良率瓶颈，再叠加英伟达、AMD、谷歌TPU、亚马逊Trainium几乎所有AI芯片都靠HBM，这就形成了整个AI产业链最典型的稀缺资源。

所以HBM今天的位置很清楚：它不是内存，而是AI算力系统里的关键零部件，是从“存储、计算、互联、封装、电力”整个半导体栈里，当下瓶颈最陡、最难扩产、集中度最高的那一层。

看AI基础设施，不看HBM的产能和良率，就是在看半张牌。