国信证券最新报告指出，HBM（高带宽内存）正成为AI服务器中GPU的搭载标配，市场需求爆发式增长。AI芯片性能以每年约55%速度提升，而DRAM性能提升速度为每年约10%，不均衡的发展速度造成了“内存墙”和“带宽墙”。HBM通过TSV及3D堆栈工艺，有效突破内存墙，成为AI服务器近内存层的核心构成。从HBM用量来看，2024年主流H100搭载80GB HBM3，到2025年英伟达Blackwell Ultra将搭载288GB HBM3e，单位用量成长逾3倍。HBM市场由海力士、三星、美光垄断，2022年SK海力士占50%，三星占40%，美光占10%。AI服务器市场需求持续强劲，有望带动2025年HBM整体供给量翻倍成长。
HBM——突破“内存墙”的关键技术
HBM是一种基于TSV（硅通孔）及3D堆栈工艺的高性能DRAM。多个DRAM芯片垂直堆叠通过高带宽接口（1024位）与处理器集成封装，多个内存通道高频率运行，具有高带宽、高容量、低延时和低功耗的优势。AI模型数据规模大、计算密集以及数据移动频繁，需要AI芯片和内存配合工作。NAND负责储备大量原始数据及模型参数；DRAM在开发和部署过程中高速读写数据，与AI芯片共同决定训练及推理速度。但AI芯片性能以每年约55%速度快速提升，而DRAM性能提升速度为每年约10%左右，不均衡的发展速度造成了内存的存取速度严重滞后于处理器的计算速度，形成“内存墙”和“带宽墙”。过去受困于高成本及性能溢出的HBM，能有效突破内存墙，成为AI服务器的关键组件。HBM技术升级带来全新需求与发展机遇：TSV技术实现DRAM各层Die之间以及HBM芯片与金属凸块之间的连接；液态塑封料或颗粒状环氧塑封料等新材料应用；MR-MUF工艺通过填充液态树脂保护芯片。
HBM需求爆发——2025年单GPU达288GB
HBM广泛应用于AI服务器方案，已成功导入多家厂商的高性能算力平台。NVIDIA以及AMD的主流方案普遍搭载了HBM3技术，谷歌TPU V5、AWS Trainium和Inferentia芯片都使用了HBM技术。从HBM用量看，2024年主流H100搭载80GB HBM3，到2025年英伟达Blackwell Ultra或AMD MI350等主力芯片，将搭载达288GB的HBM3e，单位用量成长逾3倍。据TrendForce数据，24Q3全球DRAM市场规模达到260.2亿美元，环比+13.6%，HBM强力驱动增长。得益于HBM取代传统DRAM生产，其ASP延续上升趋势，上升8%-13%。渗透率方面，2023年HBM营收占DRAM约8.4%，2024年底将扩大至20.1%。据Mordor Intelligence预测，全球HBM市场规模将从2023年约40亿美元增长至2028年约350亿美元。各HBM制造商积极布局新的产能规划，HBM与DRR5产能占比提升。
HBM竞争格局——海力士50%领跑，三星美光追赶
HBM市场由SK海力士、三星、美光三巨头垄断。根据TrendForce，2022年SK海力士占据HBM内存市场50%的份额，三星占40%，美光占10%。2023和2024年间，三星和SK海力士继续主导市场，两家公司份额几乎相同，合计约为95%，美光的市场份额预计在4%至7%之间徘徊。目前看未来还是以三大家为主，因三星和美光的全力追赶，海力士的份额有所回落但依旧保持领先地位。SK海力士在HBM3和HBM3e世代保持技术领先，率先量产并向英伟达供货。三星发力HBM3e量产追赶，美光积极布局HBM市场。从HBM技术迭代看，HBM1到HBM3e，带宽从512GB/s提升至4800GB/s以上，每代产品带宽翻倍增长。下一代HBM4预计将进一步提升性能和容量。HBM市场的竞争格局演变直接影响AI服务器的成本结构和供货能力，海力士、三星、美光的产能分配和良率提升是行业关键跟踪指标。
表：各代HBM搭载产品及带宽演进| HBM世代 | 代表产品 | 最大显存带宽 | 发布时间 |
|---|
| HBM1 | AMD Radeon R9 Fury X | 512 GB/s | 2015年 |
| HBM2 | Nvidia Tesla V100 SXM2 | 898 GB/s | 2017年 |
| HBM2E | Nvidia A100 SXM4 | 2039 GB/s | 2020年 |
| HBM3 | Nvidia H100 SXM5 | 1681 GB/s | 2022年 |
| HBM3E | Nvidia H200 / Blackwell B200 | 4800+ GB/s | 2023-2024年 |
服务器存储市场——AI服务器DRAM需求是通用8倍
高性能AI芯片对于存储容量和速率的要求水涨船高，服务器存储市场规模快速提升。据Technavio测算，2024-2028年全球服务器存储市场规模将增加876.6亿美元，CAGR达27.06%。美光表示，AI服务器对DRAM和NAND的容量需求分别是通用服务器的8倍和3倍。从产业链角度看，存储芯片是AI服务器价值的重要组成部分，以英伟达H100为例，GPU+HBM价值占比超75%。国内存储芯片产业链相关公司包括：精智达（存储芯片测试设备，探针卡产品、老化修复设备已通过国内主要存储厂商验证并取得批量销售业绩）、江波龙（SSD和DRAM模组）、佰维存储（存储模组）等。随着AI服务器DRAM和NAND需求持续增长，存储芯片产业链公司有望持续受益。
