HBM3E 24GB 8-Hiスタック - H200およびB200ビルディングブロック
24 GB 8 の高さ HBM3E の積み重ねは現在の NVL 世代の加速器のメモリ装置です。 Micron は、その "24GB 8-high HBM3E が NVIDIA H200 テナー コア GPUs" で出荷されていることを明確に述べています。; NVIDIA's H200 ページは、4.8 TB/s で HBM3e の 141 GB として結果の数字を与えます。
141 GB の使用可能な容量 24 GB の積み重ねは 144 GB の 6 つの積み重ねの場所を小さい予備と意味します — 生産 GPU は 1024 ビット スタック インターフェイスを変えないで VRAM の 100 GB を渡します。
HBM3E's 12の高さの兄弟は別に覆われます: 同じ世代も36 GB 12の高さのスタックとして出荷されます。これは、スタックごとの容量が次のようになります。
JEDEC仕様
| ジェネレーション | スタンダード | スタックの高さ | 積み重ねごとの容量 | スタックの帯域幅 | デバイスインターフェイス |
|---|---|---|---|---|---|
| HBM2 | JESD235A(2016-01-12) | 2 / 4 / 8段 | 1-8 GB | 256 GB/s(307 GB/s @2.4 Gbps) | 1024ビット / 8チャネル |
| HBM2E | JESD235B(2018年12月17日) | 2 / 4 / 8 / 12段 | 1-24 GB | 307 GB/s | 1024ビット / 8チャネル |
| HBM3 | JESD238(2022-01-27) | 4 / 8 / 12 層 | 4-64 GB | 819 GB/s @6.4 Gb/s | 1024ビット / 16チャネル |
| HBM3E | JESD238 拡張 | 8-Hi / 12-Hi | 24 GB(8-Hi)/ 36 GB(12-Hi) | >1.2 TB/s | 1024-bit |
値は各世代の公開JEDEC標準規格値(JESD235A / JESD235B / JESD238)です。強調表示された行は本ページの世代です。容量を変えるのはインターフェースではなくスタック高です。デバイスインターフェースはHBM2、HBM2E、HBM3で1024-bitのままで、各スタックは8または16の独立チャネルで動作します。
このスタックサイズが使用される場所
- NVIDIA H200 141GB
- 6つの24 GB HBM3Eの積み重ね; 141 GB 使用可能な 4.8 TB/s. 6144ビットクラスのバスは6つの1024ビットの積み重ねに分けます。 出典:NVIDIA H200(141GB HBM3e @4.8 TB/s)
- NVIDIA B200 192GB
- NVIDIA は GPU あたり HBM3E の 192 GB を引用します。 TechPowerUp は 8192 ビットバスで SXM6 パッケージを 180 GB に記録します。これは 24 GB の 8 つの 1024 ビット スタックに分割します。 NVIDIA の's ヘッドライン 192 GB と 180 GB システムレベルの図は同意しません。また、選択するのではなく、矛盾をフラグします。 ソース: TechPowerUp B200 SXM6 (180GB/8192ビット)
この家族でストックライン
| 部品番号 | ブランド | CIP to your address | ストックライン |
|---|---|---|---|
| MTG5B12G16080A00QG-60:A | Micron | US$ 1,690 | VRAM-HBM3e-MIC-23 |
| H5UGJHAF03X041R | SK hynix | US$ 1,690 | VRAM-HBM3e-HYN-20 |
| KHBB84A03B-MC1JT00 | Samsung | US$ 1,690 | VRAM-HBM3e-SAM-18 |
Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 13 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.
HBM3E 24GB 8-Hiに関するよくある質問
NVIDIA H200 の HBM3E メモリはどのくらいの頻度で、どのような設定がありますか?
NVIDIAはH200を141 GBのHBM3E、4.8 TB/sとして規定しており、Micronは自社の24 GB 8-high HBM3EがH200とともに出荷されていると述べています。24 GBスタック6基で物理容量は144 GBとなり、NVIDIAが使用可能容量として公表する141 GBに対して若干の予備領域が残ります。
HBM3Eメモリのスタックごとの帯域幅は何ですか?
HBM3E規格は、スタックごとの1.2TB/sを超える帯域幅をサポートしています。 この図はJEDEC HBM3E仕様と整列し、このメモリタイプを利用してGPUに対して報告された性能メトリックと一致しています。
NVIDIA H200 と互換性のある HBM3E 24GB 8-Hi スタックですか?
はい、NVIDIA H200 は 8-Hi スタック構成で HBM3E メモリを使用するように設計されています。 各スタックは24GBの容量を提供し、GPUは6つのスタックを統合し、合計メモリフットプリントを実現します。
ソース
- マイクロン HBM3E (24GB 8-high 出荷 NVIDIA H200)
- NVIDIA H200(141GB HBM3e、4.8 TB/s)
- TechPowerUp B200 SXM6(180GB / 8192-bit)
- JEDEC HBM3 JESD238 (2022)
このページの全ての数字はトレース可能です。 公式のソースから直接受け取られたステートメント、および派生した数字(公開されたバス幅、出版された合計からのスタックごとの容量)はテキストに由来する。 事実は9月30日を点検しました。
クロスリファレンスの部分番号を調べる または お問い合わせ.