Startseite / Serverspeicher / HBM3
HBM3 16GB 8-Hi Stacks - Der H100 SXM Building Block
HBM3 ist ein Generationssprung bei der Kanalanzahl, nicht nur eine Geschwindigkeitssteigerung: Die JEDEC-Mitteilung JESD238 verdoppelt die Anzahl unabhängiger Kanäle von 8 (HBM2) auf 16, unterstützt TSV-Stapel mit 4, 8 und 12 Lagen und sieht 16 Lagen vor, spezifiziert bis zu 6,4 Gb/s pro Pin – entsprechend 819 GB/s pro Baustein.
16 GB in einem 8-Hi-Stack ist die Kapazitätsstufe, die NVIDIA für den H100 SXM5 verwendet: Der Hopper-Architekturbeitrag beschreibt das Teil als 80 GB über fünf HBM3-Stacks mit hoher Geschwindigkeit, und das 5120-Bit-Interface teilt sich genau in fünf 1024-Bit-Stacks. Das 1024-Bit-Geräteinterface von HBM3 bleibt gegenüber HBM2/HBM2E unverändert, sodass die Anzahl der Stacks bei fünf bleibt, während die Bandbreite pro Stack etwa verdreifacht wird.
JEDEC Spezifikation
| Generation | Standard | Stapelhöhen | Kapazität je Stack | Per-Stack Bandbreite | Geräteschnittstelle |
|---|---|---|---|---|---|
| HBM2 | JESD235A (2016-01-12) | 2 / 4 / 8 Hi | 1-8 GB | 256 GB/s (307 GB/s @2.4 Gbps) | 1024 Bit / 8 Kanäle |
| HBM2E | JESD235B (2018-12-17) | 2 / 4 / 8 / 12 Hi | 1-24 GB | 307 GB/s | 1024 Bit / 8 Kanäle |
| HBM3 | JESD238 (2022-01-27) | 4 / 8 / 12 Lagen | 4-64 GB | 819 GB/s bei 6,4 Gb/s | 1024 Bit / 16 Kanäle |
| HBM3E | JESD238 Enhanced | 8-Hi / 12-Hi | 24 GB (8-Hi) / 36 GB (12-Hi) | >1.2 TB/s | 1024-bit |
Werte sind die veröffentlichten JEDEC-Standardgrenzen für jede Generation (JESD235A / JESD235B / JESD238). Die hervorgehobene Zeile ist die Generation dieser Seite. Die Stapelhöhe, nicht die Schnittstelle, verändert die Kapazität: die Geräteschnittstelle bleibt 1024-Bit auf HBM2, HBM2E und HBM3, und jeder Stapel läuft 8 oder 16 unabhängige Kanäle.
Wo diese Stapelgröße verwendet wird
- H100 SXM5 80GB
- Fünf HBM3-Stacks mit jeweils 16 GB; NVIDIA documents "five stacks" HBM3 in der Hopper Architektur Deep Dive. Quelle: NVIDIA Hopper-Architektur in der Tiefe (H100, 'fünf Stacks ')
- H100 NVL 94GB
- NVIDIA listet 94 GB HBM3 mit einem 6,016-Bit-Speicherbus und 3,938 GB/s Peak auf. 6.016 / 1024 = 5.875, im Einklang mit sechs Stack-Sites mit einem Teil der Kapazität deaktiviert - NVIDIA veröffentlicht die Stack-Anzahl für diese SKU nicht. Quelle: NVIDIA H100 PCIe Produktbriefing (80 GB HBM2e, 5 Stacks)
Stock Lines in dieser Familie
| Teilenummer | Marke | CIP to your address | Stammlinie |
|---|---|---|---|
| H5UG7HMD83X020R | SK hynix | US$ 1,095 | VRAM-HBM3-HYN-14 |
| KHBA84A03C-MC1H | Samsung | US$ 1,095 | VRAM-HBM3-SAM-11 |
Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 11 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.
Häufige Fragen zu HBM3 16GB 8-Hi
Wie hoch ist die Datenübertragungsrate eines einzelnen HBM3 16GB-Stacks?
Gemäß dem JESD238-Standard liefert ein HBM3-Stack mit 6,4 Gb/s pro Pin eine Gesamtbandbreite von 819 GB/s. Dieser Wert ergibt sich aus den 16 unabhängigen Kanälen innerhalb des Stacks, die jeweils 51,2 GB/s Durchsatz bereitstellen.
Wie viele HBM3-Stacks sind erforderlich, um eine NVIDIA H100 SXM5-GPU zu bauen?
Die NVIDIA H100 SXM5-Konfiguration verwendet fünf HBM3-Stacks, um ihre Gesamtspeicherkapazität von 80 GB zu erreichen. Jeder Stapel trägt 16 GB bei, was zu einem kombinierten 80 GB Speicher mit hoher Bandbreite auf dem Paket führt.
Was ist die JEDEC-Standardspezifikation für HBM3-Speicher?
HBM3 ist durch den JEDEC-Standard JESD238 definiert, der Schnittstelle, elektrische Eigenschaften und Timing-Anforderungen des Speichers festlegt. Dieser Standard unterstützt bis zu 16 Kanäle pro Stack und erlaubt in der aktuellen Revision Datenraten bis zu 6,4 Gb/s pro Pin.
Quellen
- JEDEC HBM3 JESD238 (2022)
- NVIDIA Hopper-Architektur in der Tiefe (H100, 'fünf Stacks ')
- NVIDIA H100 PCIe Produktbriefing (80 GB HBM2e, 5 Stacks)
Jede Figur auf dieser Seite ist nachvollziehbar: direkt aus amtlichen Quellen stammende Aussagen und abgeleitete Nummern (Stackzahl aus veröffentlichten Busbreiten, Kapazität pro Stack aus veröffentlichten Gesamtwerten) werden als im Text abgeleitet markiert. Fakten überprüft 30 Sep.
Suchen Sie nach einer Teilenummer im Querverweis oder Fragen Sie uns nach einem Zitat.
Frau Aya