Größer und schneller: HBM4-Speicher knackt ab 2026 die TByte/s-Marke
Dieses Jahr erscheinen die ersten GPUs mit HBM3-DRAM – SK Hynix gibt aber auch schon einen Ausblick auf die Nachfolgergeneration bis zum Jahr 2028+.
Nvidias H100 als erster angekündigter Rechenbeschleuniger mit HBM3-DRAM.
(Bild: Nvidia)
Der Stapelspeicher High-Bandwidth Memory (HBM) wird in den kommenden Jahren deutlich an Geschwindigkeit zulegen und höhere Kapazitäten aufweisen. Die Entwicklung geht aber in kleineren Etappen voran, als die Speicherhersteller Samsung und SK Hynix früher prognostizierten. SK Hynix gab im Rahmen der Nvidia-Messe GTC 2022 einen Ausblick auf die weitere Entwicklung von HBM3 und dessen Nachfolger HBM4.
Dieses Jahr erscheint die erste Hardware mit HBM3, etwa Rechenbeschleuniger und KI-Prozessoren – darunter Nvidias GPU-Beschleuniger H100 aus der Hopper-Generation. SK Hynix sieht im ersten Schritt 16 GByte große Speicherbausteine, sogenannte Stacks, mit einer Übertragungsrate von 819 GByte/s vor, die sich aus einer Geschwindigkeit von 6,4 Gigabit pro Sekunde und Pin ergibt.
Ein Stack ist über 1024 Datenleitungen an einen Chip angebunden. Hersteller können mehrere HBM-Stacks auf einen Träger setzen, um die Geschwindigkeit und Kapazität zu erhöhen. Mit vier Bausteinen etwa wären knapp 3,3 TByte/s und 64 GByte drin. Nvidia setzt beim H100 sechs HBM3-Stacks auf einen Silizium-Interposer zusammen mit der GH100-GPU, allerdings sind nur fünf Bausteine aktiv. Da letztere zudem mit einer verringerten Taktfrequenz von 4,8 Gbps laufen, landet der Rechenbeschleuniger bei 3 TByte/s.
(Bild: SK Hynix)
12er-Stacks: Die Sau, die durchs Dorf getrieben wird
Schon seit Jahren kündigen SK Hynix und Samsung immer wieder HBM-Bausteine an, die die Anzahl der Speicherlagen von 8 auf 12 erhöhen. Mit HBM3 sollen diese nun wirklich, wirklich breit verfügbar werden. Sogenannte 12-Hi-Stacks mit 24 GByte Kapazität sieht SK Hynix noch für das Jahr 2022 vor.
Diese Bausteine bleiben die nächsten zwei Jahre das Maß der Dinge. Ab 2024 soll es einen HBM3-Refresh (HBM3 Gen 2) mit größeren und schnelleren Stacks geben. Einer besteht dann aus 8 oder 12 Speicherlagen, die jeweils 24 statt 16 Gbit groß sind, und kommt somit auf bis zu 36 GByte. Dieser Refresh läuft mit Taktfrequenzen von bis zu 7,6 Gbps, kommt also auf 973 GByte/s pro Stack. Vier Stacks kämen folglich auf 3,9 TByte/s und 144 GByte.
SK Hynix' Pläne für HBM3-DRAM (3 Bilder)
(Bild: SK Hynix)
HBM4 erhöht ab 2026 die Anzahl der Speicherlagen pro Stack auf 16 (16-Hi), was 48 GByte pro Baustein ergibt. Die Übertragungsrate steigt weiter auf gut 1,4 TByte/s. Ab 2028 soll ein einzelner Stack die Marke von 2 TByte/s knacken. Rechenbeschleuniger könnten dann ohne große Mühe 10 TByte/s erreichen.
(mma)
