HBM3E 24GB 8-Hi 堆栈 — H200和B200 建筑块
24 GB 8-high HBM3E 堆栈是当前 NVL 世代加速器的内存单元。Micron 明确表示，其 "24GB 8-high HBM3E 正随 NVIDIA H200 Tensor Core GPU 出货"；NVIDIA 的 H200 页面给出的结果为 141 GB HBM3e，带宽 4.8 TB/s。
141 GB可使用容量超过24 GB堆栈意味着有6个144 GB的堆栈站点,并有少量储备——这是生产出GPU首次在不改变1024位堆栈接口的情况下跨出100 GB.
HBM3E 的 12-high 版本另行介绍：同一世代还以 36 GB 12-high 堆栈出货，这也是每堆栈容量下一步提升的方向。
JEDEC 规格
| 代际 | 标准 | 堆叠高度 | 每堆栈容量 | 每堆栈带宽 | 设备接口 |
|---|---|---|---|---|---|
| HBM2 | JESD235A（2016-01-12） | 2 / 4 / 8 层 | 1-8 GB | 256 GB/s（307 GB/s @2.4 Gbps） | 1024-bit / 8 通道 |
| HBM2E | JESD235B（2018-12-17） | 2 / 4 / 8 / 12 层 | 1-24 GB | 307 GB/s | 1024-bit / 8 通道 |
| HBM3 | JESD238（2022-01-27） | 4 / 8 / 12 层 | 4-64 GB | 819 GB/s @ 6.4 千兆克/秒 | 1024-bit / 16 通道 |
| HBM3E | JESD238 增强 | 8 层 / 12 层 | 24 GB（8 层）/ 36 GB（12 层） | >1.2 TB/s | 1024-bit |
以上数值为各代（JESD235A / JESD235B / JESD238）已发布的 JEDEC 标准限值。高亮行表示本页面所属代际。改变容量的是堆叠高度，而非接口：在 HBM2、HBM2E 和 HBM3 上，器件接口保持 1024-bit，每个堆栈均运行 8 或 16 个独立通道。
使用此堆栈大小的地方
- NVIDIA H200 141GB
- (一) 六个24GB HBM3E堆; 141GB可用4.8TB/s. 6144位级公交分为6个1024位级堆栈. 资料来源: NVIDIA H200(141GB HBM3e @4.8 TB/s) 互联网档案馆的存檔,存档日期2013-12-20.
- NVIDIA B200 192GB
- NVIDIA 标称每 GPU 配备 192 GB HBM3E；TechPowerUp 则将 SXM6 封装记录为 8192-bit 总线、共 180 GB，可拆分为八个 24 GB 的 1024-bit 堆叠——请注意 NVIDIA 宣传口径的 192 GB 与 180 GB 的系统级数字并不一致，我们如实指出这一出入，而不擅自取其一。 资料来源: TechPowerUp B200 SXM6 (180GB / 8192- bit)
此系列在售条目
| 编 号 | 品牌 | CIP to your address | 库存线 |
|---|---|---|---|
| MTG5B12G16080A00QG-60:A | Micron | 询价 | VRAM-HBM3e-MIC-23 |
| H5UGJHAF03X041R | SK hynix | 询价 | VRAM-HBM3e-HYN-20 |
| KHBB84A03B-MC1JT00 | Samsung | 询价 | VRAM-HBM3e-SAM-18 |
Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 11 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.
关于 HBM3E 24GB 8-Hi 的常见问题
NVIDIA H200的HBM3E内存有多少,在什么配置中?
NVIDIA 将 H200 规格标为 141 GB HBM3E，带宽 4.8 TB/s；Micron 表示其 24 GB 8-high HBM3E 正随 H200 出货。六个 24 GB 堆栈提供 144 GB 物理容量，相比 NVIDIA 公布的 141 GB 可用容量留有一小部分预留。
HBM3E内存每堆带宽是多少?.
HBM3E标准支持每堆带宽超过1.2 TB/s. 这一数字符合JEDEC HBM3E规格,与使用这种内存类型的GPU所报告的性能衡量标准一致。
HBM3E 24GB 8-Hi堆栈是否兼容NVIDIA H200?.
是的,NVIDIA H200设计在8-Hi堆栈配置中使用了HBM3E内存. 每个堆栈提供24GB容量,而GPU集成了6个这样的堆栈来达到其总的内存足迹.
来源
- 微型HBM3E(24GB 8高架运输,配有NVIDIA H200)
- NVIDIA H200(141GB HBM3e @4.8 TB/s) 互联网档案馆的存檔,存档日期2013-12-20.
- TechPowerUp B200 SXM6（180GB / 8192-bit）
- JEDEC HBM3 JESD238 (2022)
本页的每个数字都可以追踪: 直接取自官方来源的语句,以及衍生出的数字(从已公布总线宽度计数,从已公布的总数计出每堆容量)被标记为出自文本. 9月30日核实了事实。
在交叉对照表中查询料号 或 问我们一句.
Aya女士