HBM2E 16GB 8 层堆栈——A100 80GB 与 H100 PCIe 的构建模块
每 8 层堆栈 16 GB 是 HBM2E 的容量规格，搭载于 Ampere 世代出货量最高的 AI 加速器：80GB A100。NVIDIA 数据手册将 80GB 型号列为 HBM2e，速率为 1,935 GB/s（SXM 上为 2,039 GB/s），相比之下，较低 SKU 的 40GB HBM2 为 1,555 GB/s。
A100 上固定为五个堆栈——NVIDIA 白皮书在 GA100 芯片上统计为“5 个 HBM2 堆栈、10 个 512-bit 内存控制器”，而 GA100 芯片共有六个——因此从 40 GB 到 80 GB 的容量跃升完全来自将每个堆栈从 8 GB 翻倍到 16 GB。
同一堆又出现在Hopper线上: NVIDIA在5个HBM2e堆栈中将H100 PCIe记录为HBM2e的80GB,即. 16GB各一门.
JEDEC 规格
| 代际 | 标准 | 堆叠高度 | 每堆栈容量 | 每堆栈带宽 | 设备接口 |
|---|---|---|---|---|---|
| HBM2 | JESD235A（2016-01-12） | 2 / 4 / 8 层 | 1-8 GB | 256 GB/s（307 GB/s @2.4 Gbps） | 1024-bit / 8 通道 |
| HBM2E | JESD235B（2018-12-17） | 2 / 4 / 8 / 12 层 | 1-24 GB | 307 GB/s | 1024-bit / 8 通道 |
| HBM3 | JESD238（2022-01-27） | 4 / 8 / 12 层 | 4-64 GB | 819 GB/s @ 6.4 千兆克/秒 | 1024-bit / 16 通道 |
| HBM3E | JESD238 增强 | 8 层 / 12 层 | 24 GB（8 层）/ 36 GB（12 层） | >1.2 TB/s | 1024-bit |
以上数值为各代（JESD235A / JESD235B / JESD238）已发布的 JEDEC 标准限值。高亮行表示本页面所属代际。改变容量的是堆叠高度，而非接口：在 HBM2、HBM2E 和 HBM3 上，器件接口保持 1024-bit，每个堆栈均运行 8 或 16 个独立通道。
使用此堆栈大小的地方
- A100 80GB (SXM4)
- 5个HBM2e堆栈,每堆16GB. TechPowerUp将SXM4 80GB记录为80 GB / HBM2e / 5120-bit,并5120 / 1024 = 5堆. 资料来源: NVIDIA 安佩尔建筑(A100)
- H100 PCIe 80GB
- NVIDIA 官方产品文档：80 GB HBM2e，五个 HBM2e 堆栈。 资料来源: NVIDIA H100 PCIE产品简介(80GB HBM2e,5堆).
此系列在售条目
| 编 号 | 品牌 | CIP to your address | 库存线 |
|---|---|---|---|
| H5WRAGE5M8W-N6L | SK hynix | 询价 | VRAM-HBM2e-HYN-09 |
| KHAA84901B-MC16 | Samsung | 询价 | VRAM-HBM2e-SAM-05 |
Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 11 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.
关于 HBM2E 16GB 8-Hi 的常见问题
NVIDIA A100 80GB GPU 用了多少个 HBM2E 16GB 8-Hi 堆叠？
A100 80GB配置使用5个HBM2E堆栈,每个堆栈提供16GB容量. 这种安排每个GPU模块共80GB高带宽内存.
H100 PCIe 80GB卡是否使用与A100相同的HBM2E堆栈配置?.
是的,H100PCIe 80GB变体利用了5个HBM2E 16GB 8-Hi堆来达到其总的内存容量. 这符合A100 80GB模型中发现的堆栈计数和个人堆栈密度.
哪个JEDEC标准涵盖HBM2E?
HBM2E 即 JEDEC JESD235B，发布于 2018-12-17。它保留 JESD235A 的 1024 位器件接口，将单引脚带宽提升到 2.4 Gbps，支持 2-Hi、4-Hi、8-Hi 和 12-Hi 堆叠，单器件容量最高 24GB、带宽最高 307 GB/s。
来源
- JEDEC JESD235B (2018)
- NVIDIA 安佩尔建筑(A100)
- NVIDIA A100 datasheet
- NVIDIA H100 PCIE产品简介(80GB HBM2e,5堆).
- TechPowerUp A100 SXM4 80GB（HBM2e / 5120-bit）
本页的每个数字都可以追踪: 直接取自官方来源的语句,以及衍生出的数字(从已公布总线宽度计数,从已公布的总数计出每堆容量)被标记为出自文本. 9月30日核实了事实。
在交叉对照表中查询料号 或 问我们一句.
Aya女士