摘要：
HBM（高带宽存储器），一个打破内存带宽及功耗瓶颈的AI芯片发展关键环节，在英伟达新品发布背景下，正面临需求大爆发。01、HBM是什么？HBM（High Bandwidth Mem... HBM（高带宽存储器），一个打破内存带宽及功耗瓶颈的AI芯片发展关键环节，在英伟达新品发布背景下，正面临需求大爆发。
01、HBM是什么？
HBM（High Bandwidth Memory）即高带宽存储器，是基于硅通孔（TSV）和微凸点（Microbump）技术将多个DRAMdie和Logicdie堆叠而成的具有三维结构的存储产品。
GPU的主流存储方案目前有GDDR和HBM两种。在冯・诺依曼计算机体系结构中，存在着“内存墙”和“功耗墙”问题，由于传统显存GDDR5面临着带宽低、功耗高等瓶颈，HBM则能通过3D封装工艺实现DRAMdie的垂直方向堆叠封装，可以极大程度节约存储芯片占据的面积，实现更高的集成度和更大存储容量。
在传输速率方面，基于TSV工艺可以在存储芯片上制造多个内存通道、且更高集成度使得HBM和处理器之间物理距离得以缩短，因此HBM在位宽、带宽等关键性能上均明显优于GDDR。根据SAMSUNG，3DTSV工艺较传统POP封装形式节省了35%的封装尺寸，降低了50%的功耗，并且对比带来了8倍的带宽提升，有效解决了内存墙问题和功耗墙问题，成为当前满足AI需求的最佳方案，被所有主流AI芯片***用。
资料来源：《AnOverviewoftheDevelopmentof***PUwithintegratedHBMonSiliconInterposer》，IEEE
HBM已成为高性能计算军备竞赛的核心。
英伟达早在2019年便已推出针对数据中心和HPC场景的专业级GPUTeslaP100，当时号称“地表最强”的并行计算处理器，DGX-1服务器就是基于单机8卡TeslaP100GPU互连构成。得益于***用搭载16GB的HBM2内存，TeslaP100带宽达到720GB/s，而同一时间推出的同样基于Pascal架构的GTX1080则使用GDDR5X内存，带宽为320GB/s。
此后英伟达数据中心加速计算GPUV100、A100、H100均搭载HBM显存。最新的H100GPU搭载HBM3内存，容量80Gb，带宽超3Tb/s，为上一代基于HBM2内存A100GPU的两倍。
而作为加速计算领域追赶者的AMD对于HBM的使用更为激进，其最新发布的MI300XGPU搭载容量高达192GB的HBM3显存，为H100的2.4倍，其内存带宽达5.2TB/s，为H100的1.6倍，HBM正成为HPC军备竞赛的核心。?
历代HBM产品发布及量产时间线
新品发布，HBM热度进一步增加。
近期，英伟达发布新一代AI芯片H200，这是当前用于训练最先进大语言模型H100芯片的升级产品，更加擅长“推理”，借助HBM3e，英伟达H200以每秒4.8TB的速度提供141GB的内存，与A100相比，容量几乎是其两倍，带宽增加了2.4倍，预计于2Q24出货。据韩媒businesskorea报道，2023年以来，三星电子和SK海力士HBM订单一直在激增。
02?、市场空间有多大？
目前，训练、推理环节存力需求持续增长、消费端及边缘侧算力增长，正在打开HBM市场空间。
从成本端来看，HBM的平均售价至少是DRAM的三倍，此前受ChatGPT的拉动同时受限产能不足，HBM的价格一路上涨，与性能最高的DRAM相比HBM3的价格上涨了五倍，高端AI服务器GPU搭载HBM芯片已成主流。
根据TrendForce，2022年全球HBM容量约为1.8亿GB，2023年增长约60%达到2.9亿GB，2024年将再增长30%。方正证券(601901)观点认为，以HBM每GB售价20美元测算，2022年全球HBM市场规模约为36.3亿美元，预计至2026年市场规模将达127.4亿美元，对应C***R约37%。
全球HBM市场规模（亿美元）
资料来源：TrendForce，佐思汽研
集邦咨询则表示，2023年主流需求自HBM2e转往HBM3，需求比重预计分别为50%及39%。2024年市场需求将大幅转往HBM3，HBM3比重预计达60%。由于HBM3平均销售单价远高于HBM2e与HBM2，因此将助力原厂HBM领域营收增长，有望进一步带动2024年整体HBM营收至89亿美元，同比增长127%。
目前整个HBM市场是三分天下的格局，其中SK海力士技术领先，三星/美光加速追赶。
SK海力士当前技术领先，核心在于MR-MUF技术，MR-MUF能有效提高导热率，并改善工艺速度和良率。SK海力士于2021年10月率先发布HBM3，2023年4月公司实现了全球首创12层硅通孔技术垂直堆叠芯片，容量达到24GB，比上一代HBM3高出50%，SK海力士***在2023年年底前提供HBM3E样品，并于2024年量产，公司目标2026年生产HBM4。
三星则有万亿韩元新建封装线，预计25年量产HBM4。为应对HBM市场的需求，三星电子已从三星显示（SamsungDisplay）购买天安厂区内部分建筑物和设备，用于建设新HBM封装线，总投资额达到7000-10000亿韩元。三星预计将在2023Q4开始向北美客户供应HBM3。
美光则将在2024年量产HBM3E，多代产品研发中。美光在此前的财报电话会议上表示将在2024年通过HBM3E实现追赶，预计其HBM3E将于2024Q3或者Q4开始为英伟达的下一代GPU供应。11月6日美光在台***中四厂正式开工，宣布将集成先进的探测和封装测试功能，生产HBM3E等产品。
03?、国内企业机遇在哪里？
HBM产业链主要由IP、上游材料、晶粒设计制造、晶片制造、封装与测试等五大环节
