HBM（高(gao)带宽存(cun)储器），一个打破内存(cun)带宽及功耗瓶颈的AI芯片(pian)发展关键环节(jie)，在(zai)英伟达新品发布背(bei)景下，正面临(lin)需求大爆(bao)发。
HBM是什么(me)？
HBM（High Bandwidth Memory）即高(gao)带宽存(cun)储器，是基于硅(gui)通孔（TSV）和微凸点（Microbump）技术将多个DRAMdie和Logicdie堆叠而成的具有三维(wei)结构的存(cun)储产品。
GPU的主流存(cun)储方案(an)目前(qian)有GDDR和HBM两种。在(zai)冯·诺依曼计(ji)算(suan)机体系结构中，存(cun)在(zai)着“内存(cun)墙”和“功耗墙”问题，由于传统显(xian)存(cun)GDDR5面临(lin)着带宽低、功耗高(gao)等瓶颈，HBM则能通过3D封(feng)装工艺实现(xian)DRAMdie的垂直方向堆叠封(feng)装，可以(yi)极大程度节(jie)约存(cun)储芯片(pian)占据的面积，实现(xian)更高(gao)的集成度和更大存(cun)储容量。
在(zai)传输速率方面，基于TSV工艺可以(yi)在(zai)存(cun)储芯片(pian)上制造(zao)多个内存(cun)通道、且更高(gao)集成度使得HBM和处理器之间物理距离得以(yi)缩短，因此HBM在(zai)位宽、带宽等关键性能上均明显(xian)优(you)于GDDR。根据SAMSUNG，3DTSV工艺较(jiao)传统POP封(feng)装形式节(jie)省了35%的封(feng)装尺寸，降低了50%的功耗，并且对比带来了8倍的带宽提升，有效解决了内存(cun)墙问题和功耗墙问题，成为(wei)当前(qian)满足AI需求的最佳方案(an)，被所有主流AI芯片(pian)采用(yong)。
资料来源：《AnOverviewoftheDevelopmentofaGPUwithintegratedHBMonSiliconInterposer》，IEEE
HBM已成为(wei)高(gao)性能计(ji)算(suan)军备(bei)竞赛的核心。
英伟达早在(zai)2019年便已推出针对数据中心和HPC场景的专业级GPUTeslaP100，当时号称“地表最强”的并行计(ji)算(suan)处理器，DGX-1服务器就(jiu)是基于单机8卡(ka)TeslaP100GPU互连构成。得益于采用(yong)搭载(zai)16GB的HBM2内存(cun)，TeslaP100带宽达到720GB/s，而同一时间推出的同样基于Pascal架构的GTX1080则使用(yong)GDDR5X内存(cun)，带宽为(wei)320GB/s。
此后英伟达数据中心加速计(ji)算(suan)GPUV100、A100、H100均搭载(zai)HBM显(xian)存(cun)。最新的H100GPU搭载(zai)HBM3内存(cun)，容量80Gb，带宽超3Tb/s，为(wei)上一代基于HBM2内存(cun)A100GPU的两倍。
而作为(wei)加速计(ji)算(suan)领(ling)域追赶者(zhe)的AMD对于HBM的使用(yong)更为(wei)激进(jin)，其最新发布的MI300XGPU搭载(zai)容量高(gao)达192GB的HBM3显(xian)存(cun)，为(wei)H100的2.4倍，其内存(cun)带宽达5.2TB/s，为(wei)H100的1.6倍，HBM正成为(wei)HPC军备(bei)竞赛的核心。
历代HBM产品发布及量产时间线资料来源：各公司官网，方正电子绘制
新品发布，HBM热度进(jin)一步增加。
近期(qi)，英伟达发布新一代AI芯片(pian)H200，这是当前(qian)用(yong)于训练(lian)最先进(jin)大语言模型H100芯片(pian)的升级产品，更加擅长“推理”，借助HBM3e，英伟达H200以(yi)每(mei)秒4.8TB的速度提供141GB的内存(cun)，与A100相比，容量几(ji)乎是其两倍，带宽增加了2.4倍，预计(ji)于2Q24出货。据韩媒businesskorea报道，2023年以(yi)来，三星电子和SK海力(li)士HBM订单一直在(zai)激增。
市场空间有多大？
目前(qian)，训练(lian)、推理环节(jie)存(cun)力(li)需求持续增长、消费端(duan)及边缘侧算(suan)力(li)增长，正在(zai)打开HBM市场空间。
从成本(ben)端(duan)来看，HBM的平均售(shou)价至少是DRAM的三倍，此前(qian)受ChatGPT的拉动同时受限产能不足，HBM的价格一路上涨，与性能最高(gao)的DRAM相比HBM3的价格上涨了五倍，高(gao)端(duan)AI服务器GPU搭载(zai)HBM芯片(pian)已成主流。
根据TrendForce，2022年全球HBM容量约为(wei)1.8亿GB，2023年增长约60%达到2.9亿GB，2024年将再增长30%。方正证券观点认为(wei)，以(yi)HBM每(mei)GB售(shou)价20美(mei)元测算(suan)，2022年全球HBM市场规模约为(wei)36.3亿美(mei)元，预计(ji)至2026年市场规模将达127.4亿美(mei)元，对应CAGR约37%。
全球HBM市场规模（亿美(mei)元）资料来源：TrendForce，佐思汽研
集邦(bang)咨询则表示，2023年主流需求自HBM2e转往HBM3，需求比重预计(ji)分别为(wei)50%及39%。2024年市场需求将大幅转往HBM3，HBM3比重预计(ji)达60%。由于HBM3平均销(xiao)售(shou)单价远(yuan)高(gao)于HBM2e与HBM2，因此将助力(li)原厂HBM领(ling)域营收增长，有望(wang)进(jin)一步带动2024年整体HBM营收至89亿美(mei)元，同比增长127%。
目前(qian)整个HBM市场是三分天下的格局，其中SK海力(li)士技术领(ling)先，三星/美(mei)光加速追赶。
SK海力(li)士当前(qian)技术领(ling)先，核心在(zai)于MR-MUF技术，MR-MUF能有效提高(gao)导热率，并改善工艺速度和良率。SK海力(li)士于2021年10月率先发布HBM3，2023年4月公司实现(xian)了全球首创12层硅(gui)通孔技术垂直堆叠芯片(pian)，容量达到24GB，比上一代HBM3高(gao)出50%，SK海力(li)士计(ji)划在(zai)2023年年底前(qian)提供HBM3E样品，并于2024年量产，公司目标(biao)2026年生产HBM4。
三星则有万亿韩元新建封(feng)装线，预计(ji)25年量产HBM4。为(wei)应对HBM市场的需求，三星电子已从三星显(xian)示（SamsungDisplay）购买天安厂区(qu)内部分建筑物和设备(bei)，用(yong)于建设新HBM封(feng)装线，总投资额达到7000-10000亿韩元。三星预计(ji)将在(zai)2023Q4开始向北美(mei)客户供应HBM3。
美(mei)光则将在(zai)2024年量产HBM3E，多代产品研发中。美(mei)光在(zai)此前(qian)的财报电话会议上表示将在(zai)2024年通过HBM3E实现(xian)追赶，预计(ji)其HBM3E将于2024Q3或者(zhe)Q4开始为(wei)英伟达的下一代GPU供应。11月6日(ri)美(mei)光在(zai)台湾台中四厂正式开工，宣布将集成先进(jin)的探测和封(feng)装测试功能，生产HBM3E等产品。
国(guo)内企业机遇(yu)在(zai)哪里？
HBM产业链主要(yao)由IP、上游材料、晶(jing)粒设计(ji)制造(zao)、晶(jing)片(pian)制造(zao)、封(feng)装与测试等五大环节(jie)組成。
其中DRAM晶(jing)粒供应链主要(yao)厂商为(wei)三星、海力(li)士与美(mei)光，芯片(pian)制造(zao)与封(feng)装厂商主要(yao)为(wei)拥有CoWoS技术的台积电、I-Cube技术的三星、EMIB技术的英特尔等拥有2.5D/3D封(feng)装技术的Foundry/IDM厂商，测试领(ling)域则由传统封(feng)装测试厂商如日(ri)月光、Amkor等占据。
在(zai)IP环节(jie)，除AMD与赛灵(ling)思等IC设计(ji)厂商外，包括新思科技、益华计(ji)算(suan)机、Rambus与台湾创意等IP厂商都提供HBMIP解决方案(an)，全球最大IP厂商Arm尚未提供相关解决方案(an)。
国(guo)内厂商则主要(yao)处于上游材料和半导体设备(bei)领(ling)域。
其中有固晶(jing)机老兵(bing)新益昌，公司以(yi)固晶(jing)机业务为(wei)基，拓展焊(han)线机和分选设备(bei)，与通富微电、华天科技、扬杰科技等客户合作紧密。受益于封(feng)装技术的迭代，对固晶(jing)精度的要(yao)求越来越高(gao)，同时HBM高(gao)带宽特征拉动键合需求，从μbump到TCB/混合键合，推动固晶(jing)步骤和固晶(jing)机单价提升。此外值得注意的是，2021年封(feng)测设备(bei)中的焊(han)线机和固晶(jing)机国(guo)产化率仅3%，国(guo)产替代空间广阔(kuo)。
测试机、分选机方面有长川科技，2023年完成长奕科技资产过户，使得公司成功进(jin)入集成电路分选设备(bei)领(ling)域，实现(xian)重力(li)式分选机、平移(yi)式分选机、转塔式分选机的产品全覆(fu)盖。
天承科技则是先进(jin)封(feng)装电镀液领(ling)军者(zhe)，作为(wei)先进(jin)封(feng)装材料中第一大单品的电镀液，已经较(jiao)传统产品价值量提升翻倍以(yi)上。3D封(feng)装中TSV渗透率迅速提升，据Vantage Market Research预测，TSV市场2022-2026年CAGR为(wei)16%，而电镀液对TSV性能至关重要(yao)。
前(qian)驱体核心供应商雅克(ke)科技，通过收购韩国(guo)前(qian)驱体厂商UPChemical、LG光刻胶事业部、Cotem成为(wei)SK海力(li)士、LG品示的核心供应商，此外雅克(ke)也已进(jin)入合肥长鑫、长江存(cun)储、京(jing)东方等国(guo)内龙头客户，高(gao)算(suan)力(li)芯片(pian)带动HBM需求，SK海力(li)士作为(wei)HBM领(ling)军企业，2022年6月宣布开始量产HBM3，预计(ji)于2022Q3向英伟达H100系统供应HBM3，UPChemical作为(wei)SK海力(li)士前(qian)驱体核心供应商，有望(wang)充分受益。
深耕硅(gui)微粉行业已40年的联瑞新材，主要(yao)产品包括结晶(jing)硅(gui)微粉、熔(rong)融硅(gui)微粉、球形硅(gui)微粉、氧(yang)化铝粉/针状粉，其中low-α球硅(gui)和low-α球铝是3D封(feng)装关键原材料GMC（颗粒状环氧(yang)塑封(feng)料）的添加料。
华海诚科则是内资环氧(yang)塑封(feng)料代表厂商，华海诚科成立于2010年，主要(yao)产品为(wei)环氧(yang)塑封(feng)料和电子胶黏剂，是国(guo)内少数具备(bei)芯片(pian)级固体和液体封(feng)装材料研发量产经验的专业工厂。公司紧密跟进(jin)下游封(feng)装技术，近一年成功研发了lowCTE2技术和对惰性绿油高(gao)粘接性技术，并积极开展无铁生产线技术和无硫(liu)环氧(yang)塑封(feng)料产品。
在(zai)先进(jin)封(feng)装领(ling)域，公司应用(yong)于QFN的产品700系列已通过长电科技及通富微电等知名客户验证，实现(xian)小批量生产与销(xiao)售(shou)，成为(wei)公司新的业绩(ji)增长点；应用(yong)于先进(jin)封(feng)装的颗粒状环氧(yang)塑封(feng)料（GMC）以(yi)及FC底填胶等已通过客户验证，液态塑封(feng)材料（LMC）正在(zai)客户验证过程中，有望(wang)逐步实现(xian)产业化并打破外资厂商的垄断地位。