云和产业观察

HBM行业发展趋势研究（一）

一、行业概述 

1、HBM：高带宽低功耗的全新一代存储芯片

HBM（High Bandwidth Memory）即高带宽内存，作为全新一代的CPU/GPU内存芯片，其本质上是指基于2.5/3D先进封装技术，把多块DRAM Die堆叠起来后与GPU芯片封装在一起，实现大容量，高位宽的DDR组合阵列。 在结构上，HBM是由多个DRAM堆叠而成，主要利用TSV（硅通孔）和微凸块（Micro bump）将裸片相连接，多层DRAM die再与最下层的Basedie连接，然后通过凸块（Bump）与硅中阶层（interposer）互联。同一平面内，HBM与GPU、CPU或ASIC共同铺设在硅中阶层上，再通过CoWoS等2.5D先进封装工艺相互连接，硅中介层通过CuBump连接至封装基板上，最后封装基板再通过锡球与下方PCB基板相连。

2、HBM相对优势明显 

HBM技术相较于传统内存技术，具有高带宽、高容量、低功耗和小尺寸四大优势：（1）高带宽：由于采用了串行接口和优化的信号传输技术，HBM能够提供远超传统DRAM的带宽，满足高性能计算的需求。 （2）高容量：通过3D堆叠技术，HBM在相同的芯片面积内可以集成更多的DRAM层，从而提供更大的内存容量。 （3）低功耗：HBM的垂直堆叠结构减少了数据传输的距离，从而降低了功耗；同时，TSV技术的应用也有助于减少功耗。 （4）小尺寸：HBM的3D堆叠设计使得内存模块的尺寸大大减小，有助于实现更紧凑的系统设计。 HBM最大的特点是高带宽。HBM的I/O速率虽然慢于传统GDDR，但其接口有1024个数据“线”，远高于传统GDDR的32条数据线，通过极宽的接口方式实现了更高的带宽。

 

3、HBM快速迭代，目前最新产品已到第五代产品HBM3E 

HBM目前总共有五代产品，分别为HBM1/2/2E/3/3E，正开发HBM4。2014年，SK海力士与AMD联合开发了全球首款硅通孔HBM产品，随后，三星跟进布局；2018年，海力士发布第二代HBM产品HBM2，关键改进是伪通道模式、用于通道的硬修复和软修复的通道重新映射模式、防过热保护等，数据速率和能耗均有所改善；2020年，海力士发布第三代产品HBM2E是HBM2的扩展版本，与HBM2相比，HBM2E具有技术更先进、应用范围更广泛、速度更快、容量更大等特点，同时HBM2E的散热性能也比HBM2高出36%。在三星、SK海力士先后量产HBM2e之后，镁光也加入HBM出货行列；2021年10月，海力士依旧全球率先发布首款HBM3，持续巩固其市场领先地位；2024年，海力士全球率先开始量产8/12层HBM3E，实现了现有HBM产品中最大的36GB容量。11月4日，海力士正式于2024年SKAI峰会上宣布开发全球最大容量16层堆叠HBM3E；展望未来，海力士预计25年提供HBM4样品并于当年实现12层堆叠DRAM的HBM4量产，在26年实现16层DRAM的量产，比预期提前一年。同时三星与美光也表示将于26年实现HBM4的量产。

与现有的流水线并行方法相比，DualPipe的流水线气泡更少。同时重叠了前向和后向过程中的计算和通信阶段，解决了跨节点专家并行引入的沉重通信开销的挑战。DualPipe的关键思想是重叠一对单独的前向和后向块中的计算和通信：将每个块划分为四个组件：注意力、all-all调度、MLP和all-all组合。例如，假设我们有两个计算块，A和B：1.在块A进行前向传播计算时，可以同时进行块B的后向传播通信过程。2.当块A完成前向传播计算后，开始它的通信过程；而块B则开始它的前向传播计算。

4、HBM产业链

HBM产业链涵盖上游的材料和设备厂商，中游的IDM厂商，下游的CPU/GPU/TPU等厂商。上游设备商主要提供生产HBM所需的原材料和设备，如硅晶圆、光刻机、刻蚀机等，参与厂商包括应用材料、泛林、法国液化空气、科磊等。中游制造商则负责将原材料加工成HBM芯片，包括晶圆制造、切割、封装等环节，参与厂商为三星、海力士和美光等。下游则主要是HBM芯片的应用领域，如数据中心、AI芯片、固态硬盘等，参与厂商包括英伟达、AMD和谷歌等。

二、HBM行业驱动因素

1、AI大模型爆发拉动HBM需求 

内存墙问题阻碍人工智能发展。根据《AI and Memory Wall》，过去20年中服务器硬件FLOPS峰值每2年扩大至3倍，远超DRAM和互连带宽增速，能够认为该差异是限制人工智能应用的瓶颈之一。 HBM方案解决了内存墙问题，直接受益于AI模型需求。GPU显存一般采用GDDR（Graphics Double Data Rate）或者HBM两种方案，但HBM性能远超GDDR：根据AMD发布的HBM与DDR（Double Data Rate）内存参数对比，从时钟频率看，HBM为500MHz，远小于GDDR5的1750MHz；从显存带宽来看，HBM的一个堆栈大于100GB/s，而GDDR5的一颗芯片为25GB/s。根据海力士官网，其GDDR6产品带宽在56GB/s，而HBM2和HBM2E的带宽远超GDDR6产品。

GDDR采取大幅提升I/O数据速率手段改善总带宽，而HBM则利用TSV技术提升I/O数和单个I/O位宽。

（1）HBM在GPU中得到广泛应用 主流数据中心GPU均采用HBM技术。根据《英伟达H100 GPU白皮书》，英伟达V100、A100和H100产品均采用HBM内存，其中A100使用HBM2，H100产品则升级到HBM2E和HBM3。根据AMD官网，其MI300芯片采用HBM3产品。能够看到英伟达和AMD的主流GPU产品均采用HBM2E和HBM3产品，凸显了HBM在数据中心GPU中的主导地位。

（2）HBM升级换代伴随带宽和速率提升，同时伴随HBM性能和HBM颗数增加 HBM2其I/O速率和带宽分别是2.4Gbps及307GB/s，能够满足下游客户的传输和存储需求。随着GPU及云服务大厂AI加速器的推出，三星电子和美光在2020年相继发布了HBM2E。随着英伟达发布A100和H100系列，由于传统的HBM带宽无法满足高速存储数据联通的需求，相应HBM3在2023年正式问世，带宽为819GB/s，速度相比第一代HBM1提升超过3倍。 功耗相同的前提下，HBM带宽和容量提升带动性能提升。根据半导体行业观察微信公众号，提升HBM容量方法包括：1）增加DRAM裸片堆栈层数，例如HBM3E常见为8层或12层DRAM裸片堆栈，但进化到HBM4时代，可选择的包括4层、8层、12层和16层TSV堆栈；2）增加每片DRAM裸片（Die）的存储容量，例如单Die容量从2GB升级到3GB。单颗HBM容量=DRAM堆栈层数×每片DRAM容量。HBM带宽提升方法包括：1）提高I/O数据传输速率；2）加大I/O总线位宽。 除了单颗HBM容量，单颗GPU中HBM存储总容量还取决于GPU中包含的HBM颗数。未来进化到GB200，会出现2颗GPU搭配8颗12层HBM3E（36GB）的技术方案。 HBM4是HBM3的进化版本，旨在进一步提高数据处理速率及带宽，并降低功耗和堆栈容量。根据半导体行业观察，相较HBM3，HBM4的提升之处体现在：1）HBM4把内存堆栈接口从1024位扩展至2048位，对应的I/O引脚数量增加两倍。2048位内存接口将显著增加通过内存堆栈布线的硅通孔数量。2）外部芯片接口将凸块间距缩小到55nm以下，同时大幅增加微凸总数。3）DRAM裸片的堆栈层数有望达16层。HBM4有望在一个HBM产品中堆栈16层裸片，即16Hi堆栈。

|唯速智驾与塔城地区公署签署战略合作协议

近日，塔城地区交通建设投资有限责任公司廖祖贵董事长一行到唯速智驾交流，双方在跨境运输业务上达成了广泛而深入的合作共识，将共同推动自动驾驶编队技术以及双挂汽车列车在塔城地区的落地与应用。

塔城地区作为中国与中亚地区贸易往来的重要通道，拥有独特的地理环境和公铁联运的交通场景，为自动驾驶编队测试提供了理想的“试验场”。唯速智驾将携手塔城地区交通建设投资有限责任公司（以下简称“塔城交投”）、清华大学，在塔城地区开展自动驾驶编队测试，进一步提升车辆在复杂路况下的协同行驶能力、安全性能，这一测试将为后续的大规模应用提供技术积累。

（来源：唯速智驾）

|微保科技与中科软、Wiseasy、领保科技达成海外战略合作协议

近日，微保科技先后与中科软、Wiseasy、领保科技达成海外战略合作协议。在多维度的协同合作之下，微保科技将充分发挥各方的优势，为保险科技海外合作领域注入新活力。

随着跨境支付通道的完善和数字化交易生态的构建，保险机构的运营成本将降低，运营效率将大幅提升。微保科技通过这一系列海外合作，正稳步构建起全球保险科技服务网络，开创保险科技海外合作的全新格局，推动全球保险科技行业进入一个全新的发展阶段。

（来源：北京维保科技有限责任公司）

|星恒电源与星久科携创新eBike电池方案亮相台北展

3月26日，星恒电源联合子公司星久科（Joycube）携最新 eBike 电池方案亮相本年度自行车行业首秀，展示行业前沿技术，引领电池合规化进程，为全球市场提供高性能解决方案。

在本次台北展，星久科展出的电池类型涵盖埋藏管电池、下管电池、增程电池在内的多款 eBike 电池， 容量覆盖400Wh-800Wh，全面满足不同应用场景的车型需求。

（来源：星恒锂电池）

|八维通空间智能技术亮相创新应用专项测试

近日，八维通受邀亮相中国消防救援学院先进技术装备展示活动，与华为、阿里云、海康威视、科大讯飞共同聚焦消防监督管理、灭火救援、防消联勤等核心业务场景，成功完成“人工智能大模型+消防救援”创新应用专项测试。

作为空间智能消防技术的领跑者，八维通自主研发的“消防安全隐患自动识别大模型”受到广泛关注。

（来源：八维通）

|集创北方携全系车规级显示驱动解决方案亮相上海国际汽车灯具展

3月26日，以"AI智光，车灯新智界"为主题的第二十届国际汽车灯具产业发展技术论坛暨上海国际汽车灯具展览会（ALE 2025）在昆山花桥国际博览中心盛大开幕。作为汽车灯具行业的最权威的盛会之一，来自全球数百家知名汽车主机厂、顶尖的汽车灯具公司以及车用LED企业齐聚一堂，共同分享智能车灯领域的前沿科技成果。

作为首次参展企业，集创北方携全系车规级显示解决方案亮相，搭载集创北方车规级显示解决方案的两款车载解决方案展品尤为瞩目。第一款是搭载集创北方ICND7001/7201/7301等多款高集成度Mini LED车规级显示驱动芯片的智慧尾灯，该智慧尾灯拥有2000多颗LED单元，支持定制化迎宾、品牌展示、行车提醒等交互动画，同时可通过OTA升级自定义灯光效果。

（来源： 集创北方）

|速豹海外滑板系统智能制造基地投建

3 月 28 日，速豹海外滑板系统智能制造基地建设推进会议在陕西省榆林市榆阳产业园区麻黄梁工业区盛大举行。榆林市及榆阳区相关领导，阿拉伯联合酋长国驻上海总领事穆哈纳德·纳克比阁下，中国科学院院士毛明，速豹科技董事长、 CEO 刘超，行业专家及合作伙伴出席本次仪式。

（来源：速豹）

|燧原科技入选工信部未来产业创新发展“领军企业”优秀典型案例

近日，工业和信息化部高新技术司发布了《2024年未来产业创新发展优秀典型案例公示》，燧原科技入选工信部未来产业创新发展“领军企业”优秀典型案例。

本次案例征集工作由工业和信息化部高新技术司组织开展，旨在深入贯彻党的二十届三中全会精神，落实工业和信息化部等七部门《关于推动未来产业创新发展的实施意见》的部署要求，充分发挥标杆和样板的示范引领作用，加快推动标志性产品打造、高水平产业主体培育和应用场景建设。案例征集工作聚焦未来制造、未来信息、未来材料、未来能源、未来空间、未来健康等六大方向，面向社会征集领军企业、标志性产品和典型应用场景三类典型案例。其中，领军企业的定义为“在未来产业细分赛道中处于领先行列，创新能力强、产品市场占有率高、引领带动作用显著的代表性企业”。

（来源：燧原科技）

、

|蔚复来中标无锡市梁溪区崇安寺街道AI数字化垃圾分类项目

3月27日，无锡市梁溪区崇安寺街道办事处秉承公平、公开、公正原则，就无锡市梁溪区崇安寺街道背街小巷垃圾分类指导员服务项目进行公开招标，蔚复来（浙江）科技股份有限公司以综合评分第一的成绩成功中标。这是继高邮项目后，公司在长三角江苏区域取得的又一重要突破，充分彰显了蔚复来在AI+数字化服务领域的专业实力和品牌影响力。

（来源：蔚复来科技）

|浙江金控赴嘉兴开展调研

3月24日，浙江省财政厅党组成员，浙江金控党委书记、董事长杨强民带队赴嘉兴开展调研。调研组一行实地考察了氢能装备、空天信息、半导体材料等战略性新兴产业和未来产业领域相关企业。

（来源：浙江金控）

|湖州市产业集团入选“中国特色现代企业高质量发展浙江先行案例”

3月28日，由浙江省国资国企研究院、浙江日报传媒有限公司主办的中国特色现代企业高质量发展研讨会在杭州举行。会议发布了中国特色现代企业高质量发展浙江先行案例，其中，湖州市产业投资发展集团有限公司《以“产业投行”迭代“双招双引”新模式》项目被评为浙江省中国特色现代企业高质量发展“价值创造”典型案例！

（来源：湖州产业集团）

|科金控股集团旗下南沙产投基金荣登LP CLUB「2025年度东南地区早期创业投资机构榜」

3月27日，LP CLUB·2025年度东南地区榜单隆重发布。科金控股集团下属公司广州南沙产业创业投资基金管理有限公司（以下简称“南沙产投基金”）荣登“LP CLUB·2025年度东南地区早期创业投资机构榜”。

（来源：科金控股集团）