Startseite / Serverspeicher / HBM3E
HBM3E 24GB 8-Hi Stacks - Der H200 und B200 Baustein
Der 24 GB 8-high HBM3E Stack ist die Speichereinheit der aktuellen NVL-Generation von Beschleunigern. Micron erklärt ausdrücklich, dass sein "24GB 8-high HBM3E mit der NVIDIA H200 Tensor Core GPU ausgeliefert wird"; die H200-Seite von NVIDIA nennt 141 GB HBM3e bei 4,8 TB/s Bandbreite.
141 GB nutzbare Kapazität über 24 GB Stacks impliziert sechs Stack-Standorte von 144 GB mit einer kleinen Reserve - und es ist das erste Mal, dass eine Produktions-GPU 100 GB VRAM kreuzt, ohne die 1024-Bit-Stack-Schnittstelle zu ändern.
HBM3E's 12-hohe Geschwister werden separat abgedeckt: Die gleiche Generation liefert auch als 36 GB 12-High-Stack, wo die Kapazität pro Stack als nächstes geht.
JEDEC Spezifikation
| Generation | Standard | Stapelhöhen | Kapazität je Stack | Per-Stack Bandbreite | Geräteschnittstelle |
|---|---|---|---|---|---|
| HBM2 | JESD235A (2016-01-12) | 2 / 4 / 8 Hi | 1-8 GB | 256 GB/s (307 GB/s @2.4 Gbps) | 1024 Bit / 8 Kanäle |
| HBM2E | JESD235B (2018-12-17) | 2 / 4 / 8 / 12 Hi | 1-24 GB | 307 GB/s | 1024 Bit / 8 Kanäle |
| HBM3 | JESD238 (2022-01-27) | 4 / 8 / 12 Lagen | 4-64 GB | 819 GB/s bei 6,4 Gb/s | 1024 Bit / 16 Kanäle |
| HBM3E | JESD238 Enhanced | 8-Hi / 12-Hi | 24 GB (8-Hi) / 36 GB (12-Hi) | >1.2 TB/s | 1024-bit |
Werte sind die veröffentlichten JEDEC-Standardgrenzen für jede Generation (JESD235A / JESD235B / JESD238). Die hervorgehobene Zeile ist die Generation dieser Seite. Die Stapelhöhe, nicht die Schnittstelle, verändert die Kapazität: die Geräteschnittstelle bleibt 1024-Bit auf HBM2, HBM2E und HBM3, und jeder Stapel läuft 8 oder 16 unabhängige Kanäle.
Wo diese Stapelgröße verwendet wird
- NVIDIA H200 141GB
- Sechs 24-GB-HBM3E-Stapel; 141 GB nutzbar bei 4,8 TB/s. Der 6144-Bit-Klassenbus teilt sich in sechs 1024-Bit-Stapel. Quelle: NVIDIA H200 (141GB HBM3e @4.8 TB/s)
- NVIDIA B200 192GB
- NVIDIA gibt 192 GB HBM3E pro GPU an; TechPowerUp führt das SXM6-Paket dagegen mit einem 8192-Bit-Bus und insgesamt 180 GB, aufgeteilt in acht 1024-Bit-Stacks mit je 24 GB — bitte beachten Sie, dass die von NVIDIA beworbene Angabe von 192 GB und die Systemzahl von 180 GB nicht übereinstimmen; wir weisen diese Diskrepanz offen aus, statt eigenmächtig eine der beiden zu wählen. Quelle: TechPowerUp B200 SXM6 (180GB / 8192-Bit)
Stock Lines in dieser Familie
| Teilenummer | Marke | CIP to your address | Stammlinie |
|---|---|---|---|
| MTG5B12G16080A00QG-60:A | Micron | US$ 1,690 | VRAM-HBM3e-MIC-23 |
| H5UGJHAF03X041R | SK hynix | US$ 1,690 | VRAM-HBM3e-HYN-20 |
| KHBB84A03B-MC1JT00 | Samsung | US$ 1,690 | VRAM-HBM3e-SAM-18 |
Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 11 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.
Häufige Fragen zu HBM3E 24GB 8-Hi
Wie viel HBM3E-Speicher hat die NVIDIA H200 und in welcher Konfiguration?
NVIDIA gibt das H200 mit 141 GB HBM3E bei 4,8 TB/s an, und Micron erklärt, dass sein 24-GB-HBM3E in 8-High-Ausführung mit dem H200 ausgeliefert wird. Sechs 24-GB-Stacks ergeben 144 GB physische Kapazität, mit einer kleinen Reserve gegenüber den 141 GB, die NVIDIA als nutzbar veröffentlicht.
Wie hoch ist die Bandbreite pro Stack für den HBM3E-Speicher?
Der HBM3E-Standard unterstützt eine Bandbreite von über 1,2 TB/s pro Stack. Dieser Wert entspricht der JEDEC-HBM3E-Spezifikation und deckt sich mit den Leistungsdaten, die für GPUs mit diesem Speichertyp angegeben werden.
Ist der HBM3E 24GB 8-Hi-Stack kompatibel mit dem NVIDIA H200?
Ja, der NVIDIA H200 ist für die Verwendung von HBM3E-Speicher in einer 8-Hi-Stack-Konfiguration konzipiert. Jeder Stack bietet eine Kapazität von 24 GB, und die GPU integriert sechs dieser Stacks, um ihren gesamten Speicherbedarf zu erreichen.
Quellen
- Micron HBM3E (24 GB 8-hoher Versand mit NVIDIA H200)
- NVIDIA H200 (141GB HBM3e @4.8 TB/s)
- TechPowerUp B200 SXM6 (180GB / 8192-Bit)
- JEDEC HBM3 JESD238 (2022)
Jede Figur auf dieser Seite ist nachvollziehbar: direkt aus amtlichen Quellen stammende Aussagen und abgeleitete Nummern (Stackzahl aus veröffentlichten Busbreiten, Kapazität pro Stack aus veröffentlichten Gesamtwerten) werden als im Text abgeleitet markiert. Fakten überprüft 30 Sep.
Suchen Sie nach einer Teilenummer im Querverweis oder Fragen Sie uns nach einem Zitat.
Frau Aya