How many HBM2E 16GB 8-Hi stacks are in an NVIDIA A100 80GB GPU?

The A100 80GB configuration uses five HBM2E stacks, each providing 16GB of capacity. This arrangement totals 80GB of high-bandwidth memory per GPU module.

Does the H100 PCIe 80GB card use the same HBM2E stack configuration as the A100?

Yes, the H100 PCIe 80GB variant utilizes five HBM2E 16GB 8-Hi stacks to achieve its total memory capacity. This matches the stack count and individual stack density found in the A100 80GB model.

Which JEDEC standard covers HBM2E?

HBM2E is JEDEC JESD235B, published 2018-12-17. It retains the 1024-bit device interface of JESD235A, extends the per-pin bandwidth to 2.4 Gbps, supports 2-high, 4-high, 8-high and 12-high stacks, and takes capacity to 24 GB per device at up to 307 GB/s.

Startseite / Serverspeicher / HBM2E

HBM2E 16GB 8-Hi Stacks — Der A100 80GB und H100 PCIe Building Block

Schematische Darstellung eines gestapelten HBM-Pakets: DRAM-Dies mit Durchkontaktierungen aus Silizium auf einem Silizium-Interposer neben einem Logik-Dies gestapelt — Schema eines HBM-Stacks: DRAM-Dies, vertikal gestapelt mit Durchkontaktierungen aus Silizium, neben einem Logik-Die auf einem Silizium-Interposer platziert. Jede Lagerlinie unten ist ein separates physisches Los dieses Stapels, das durch die genaue Teilenummer geliefert wird.

16 GB pro 8-Hi-Stack ist die Kapazitätsspezifikation von HBM2E, verbaut im AI-Beschleuniger mit dem höchsten Absatz der Ampere-Generation: dem 80GB A100. Das NVIDIA-Datenblatt listet das 80GB-Modell als HBM2e mit 1.935 GB/s (2.039 GB/s bei SXM), verglichen mit 1.555 GB/s bei HBM2 im 40GB-Modell der niedrigeren SKU.

Fünf Stacks ist die feste Anzahl auf dem A100 - NVIDIA's Whitepaper zählt "5 HBM2-Stacks, 10 512-Bit-Speichercontroller" auf einem GA100-Würfel mit sechs - so kam der gesamte 40 GB bis 80 GB Kapazitätssprung von der Verdoppelung jedes Stapels von 8 GB auf 16 GB.

Der gleiche Stapel erscheint wieder in der Hopper-Linie: NVIDIA dokumentiert die H100 PCIe als 80 GB HBM2e in fünf HBM2e-Stacks, d.h. jeweils 16 GB.

JEDEC Spezifikation

Generation	Standard	Stapelhöhen	Kapazität je Stack	Per-Stack Bandbreite	Geräteschnittstelle
HBM2	JESD235A (2016-01-12)	2 / 4 / 8 Hi	1-8 GB	256 GB/s (307 GB/s @2.4 Gbps)	1024 Bit / 8 Kanäle
HBM2E	JESD235B (2018-12-17)	2 / 4 / 8 / 12 Hi	1-24 GB	307 GB/s	1024 Bit / 8 Kanäle
HBM3	JESD238 (2022-01-27)	4 / 8 / 12 Lagen	4-64 GB	819 GB/s bei 6,4 Gb/s	1024 Bit / 16 Kanäle
HBM3E	JESD238 Enhanced	8-Hi / 12-Hi	24 GB (8-Hi) / 36 GB (12-Hi)	>1.2 TB/s	1024-bit

Werte sind die veröffentlichten JEDEC-Standardgrenzen für jede Generation (JESD235A / JESD235B / JESD238). Die hervorgehobene Zeile ist die Generation dieser Seite. Die Stapelhöhe, nicht die Schnittstelle, verändert die Kapazität: die Geräteschnittstelle bleibt 1024-Bit auf HBM2, HBM2E und HBM3, und jeder Stapel läuft 8 oder 16 unabhängige Kanäle.

Wo diese Stapelgröße verwendet wird

A100 80 GB (SXM4): Fünf HBM2e-Stacks mit jeweils 16 GB. TechPowerUp zeichnet den SXM4 80GB als 80 GB / HBM2e / 5120-Bit und 5120 / 1024 = 5 Stacks auf. Quelle: NVIDIA Ampere Architektur Whitepaper (A100)
H100 PCIe 80GB: NVIDIA's eigene Produktdokumentation: 80 GB HBM2e, fünf HBM2e Stacks. Quelle: NVIDIA H100 PCIe Produktbriefing (80 GB HBM2e, 5 Stacks)

Stock Lines in dieser Familie

Teilenummer	Marke	CIP to your address	Stammlinie
H5WRAGE5M8W-N6L	SK hynix	US$ 120	VRAM-HBM2e-HYN-09
KHAA84901B-MC16	Samsung	US$ 120	VRAM-HBM2e-SAM-05

Prices are listed per piece CIP delivered to your address and are set against publicly published competitor asks, checked 11 Nov; the basis for each figure is recorded on the individual stock line. Stock is physical and held in Shenzhen — inspection before shipment is available on request. We supply against your order quantity: send the quantity you need and the price break, condition grade (new / pulled / refurbished) and lead time are confirmed in writing.

Häufige Fragen zu HBM2E 16GB 8-Hi

Wie viele HBM2E 16GB 8-Hi-Stacks befinden sich in einer NVIDIA A100 80GB GPU?

Die A100 80GB-Konfiguration verwendet fünf HBM2E-Stacks mit jeweils 16 GB Kapazität. Diese Anordnung beträgt insgesamt 80 GB Speicher mit hoher Bandbreite pro GPU-Modul.

Verwendet die H100 PCIe 80GB-Karte die gleiche HBM2E-Stack-Konfiguration wie die A100?

Ja, die H100 PCIe 80GB-Variante verwendet fünf HBM2E 16GB 8-Hi-Stacks, um ihre Gesamtspeicherkapazität zu erreichen. Dies entspricht der Stapelanzahl und der individuellen Stapeldichte des A100 80GB-Modells.

Welcher JEDEC-Standard deckt HBM2E ab?

HBM2E ist JEDEC JESD235B, veröffentlicht am 2018-12-17. Die Norm behält die 1024-Bit-Geräteschnittstelle von JESD235A bei, hebt die Bandbreite pro Pin auf 2,4 Gbps, unterstützt 2-, 4-, 8- und 12-fach gestapelte Stacks und führt die Kapazität auf 24 GB pro Baustein bei bis zu 307 GB/s.

Quellen

Jede Figur auf dieser Seite ist nachvollziehbar: direkt aus amtlichen Quellen stammende Aussagen und abgeleitete Nummern (Stackzahl aus veröffentlichten Busbreiten, Kapazität pro Stack aus veröffentlichten Gesamtwerten) werden als im Text abgeleitet markiert. Fakten überprüft 30 Sep.

Suchen Sie nach einer Teilenummer im Querverweis oder Fragen Sie uns nach einem Zitat.