HBM
别名：H、i、g、h、 、B、a、n、d、w、t、M、e、m、o、r、y、High Bandwidth Memory、高带宽内存
高带宽内存，与DRAM不同，是一种堆叠封装的3D DRAM。
HBM（High Bandwidth Memory）
高带宽内存，与DRAM不同，是一种堆叠封装的3D DRAM。
与DRAM的区别
| 对比项 | DDR4/DDR5 | HBM |
|---|---|---|
| 位置 | 独立内存条 | 与GPU封装在一起 |
| 位宽 | 64-bit | 8192-bit |
| 带宽 | 100GB/s级 | 1-2TB/s |
| 延迟 | 低 | 较高 |
| 成本 | 低 | 高 |
| 用途 | CPU内存 | GPU/AI芯片内存 |
AI产业刚需性
算力瓶颈在内存带宽，HBM是AI GPU的标配：
- NVIDIA H100：80GB HBM3，带宽3.35TB/s
- AMD MI300X：192GB HBM3，带宽5.2TB/s
封装结构
GPU芯片
└── HBM堆叠（4-12层）
└── 硅中介层（Silicon Interposer）
└── [封装基板](/wiki/package-substrate/)
关键制造者
- SK海力士（HBM3主要供应商）
- 三星（HBM3竞争者）
- 美光（HBM3e）
代际演进
| 代次 | 带宽 | 容量 | 量产 | 主要客户 |
|---|---|---|---|---|
| HBM2 | 0.4–0.45 TB/s | 4–8 GB | 2018 | V100 |
| HBM2e | 0.45–0.55 TB/s | 8–16 GB | 2019 | A100 |
| HBM3 | 0.8–1.0 TB/s | 16–24 GB | 2022 | H100 |
| HBM3e | 1.0–1.2 TB/s | 24–36 GB | 2024 | H200 / B100 / MI300X |
| HBM4 | 1.5+ TB/s | 48–64 GB | 2026– | B200 / Rubin |
与 GDDR / DDR 的本质区别
HBM 通过 TSV（硅通孔）+ 微凸点 把 4–12 层 DRAM die 堆叠在 GPU 旁边的硅中介层上，本质是"3D DRAM + 2.5D 先进封装"的合体。位宽 1024–8192 bit，是 DDR 的 16–128 倍。
良率与产能瓶颈
- 单颗 HBM 容量 > 24 GB，需要 8 层以上 DRAM die 良率全部 OK，整颗良率远低于 DRAM 单颗
- SK 海力士 HBM3e 良率领先，三星追赶
- 先进封装（CoWoS / SoIC）产能同步吃紧
核心关系
[DRAM](/wiki/dram/)（HBM本质是DRAM的3D封装）
└── HBM
└── GPU/AI芯片
└── [Chiplet](/wiki/chiplet/)封装
└── [封装基板](/wiki/package-substrate/)
相关词条
3D DRAM
区别于HBM的"芯片堆叠+TSV+硅中介层"封装式3D，**3D DRAM**指**单元层级的立体堆叠**——将DRAM存储单元（1T1C）在单芯片内沿垂直方向多层堆叠，以突破传统DRAM的微缩极限。
存储芯片
AI数据中心"算力-带宽-存储"三角中的存储侧，覆盖**介质、内存、控制、模组、缓存**五大类的全栈芯片体系，是AI服务器性能与成本的关键瓶颈之一。
交换芯片
数据中心交换机的核心芯片，决定交换机的性能、功耗和功能。
趋肤效应
高频交流电/高速信号在导体中**集中于表面薄层**流动的物理现象，是覆铜板与铜箔在AI高速时代升级到HVLP的**根本驱动力**，也是112G/224G/448G SerDesPCB材料选型的核心物理基础。
主控芯片
SSD主控芯片（Controller），负责SSD内部的数据读写管理、磨损均衡、纠错等核心功能。 别名：**存储主控芯片**（存储芯片体系下的标准命名）。
AI推理终端
部署在边缘侧进行AI推理的设备，区别于云端AI数据中心。
DRAM
**D**ynamic **R**andom **A**ccess **M**emory，动态随机存取存储器。
eMMC
**eMMC** 嵌入式多媒体卡，将**NAND Flash 介质 + 主控芯片（控制器）集成在一个 BGA 封装**内的标准化嵌入式存储模块，对 Host 侧呈现"类 SD 卡"接口，**省去 Host 侧 FTL 管理**，主要用于移动设备 / 嵌入式系统 / 入门边缘 AI 的中低成本中等容量存储。