H100: Nvidias teuerste GPU im Retail-Handel
Wer 30.700 Euro ĂĽbrig hat und protzen will, kann Nvidias Hopper-GPUs inzwischen bei normalen Online-Shops kaufen.
Die H100 als PCIe-Karte.
(Bild: Nvidia)
Nvidia lockert offenbar die Lieferkette für Beschleunigerkarten aus der Hopper-Generation, während der Fokus auf die Nachfolgergeneration Blackwell wechselt. War das H100-Modell einst kaum erhältlich, listen inzwischen gewöhnliche Retail-Händler wie Mindfactory und Jacob Elektronik verschiedene Varianten.
So gibt es die H100 NVL als PCI-Express-Steckkarte. Die NVL-Variante nutzt die GH100-GPU mit 132 aktiven Streaming-Multiprozessoren, also 16.896 Shader-Kernen. Dazu gesellen sich sechs Speicherstapel vom Typ High-Bandwidth Memory (HBM3) mit einer nutzbaren Kapazität von 94 GByte. Mit einer typischen Boost-Taktfrequenz von 1837 MHz schaffen die Shader-Kerne gut 31 Billionen Berechnungen pro Sekunde mit 64-bittigen Gleitkommawerten (31 FP64-Teraflops), 62 FP32-Teraflops und 124 FP16-Teraflops.
Die integrierten Tensor-Kerne fĂĽr Matrizenberechnungen kommen auf bis zu 3341 Billionen Operationen pro Sekunde mit 8-bittigen Ganzzahlen (3341 INT8-Teraops), wenn die Sparsity-Funktion aktiv ist, also Nullwerte ausgelassen werden.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Gamer Finger weg
Obacht: Auch wenn die H100-GPUs viele Teraflops schaffen, eignen sie sich nicht als Gaming-Grafikkarten. Nur vier Shader-Multiprozessoren, organisiert in zwei sogenannten Texture Processing Clusters (TPCs), können 3D-Grafik mit Vertex-, Geometrie- und Pixel-Shadern rendern. Das sind 512 Shader-Kerne, also sogar weniger als in den integrierten GPUs aktueller AMD-Ryzen-Prozessoren. Ebenfalls zu beachten: Die Karte selbst hat keinen Lüfter und braucht eine starke Gehäusebelüftung, um die Abwärme abzuführen.
Alle anderen Shader-Kerne übernehmen Compute-Aufgaben, etwa für klassische Modellsimulationen. Nvidias Server-GPUs sind allerdings hauptsächlich wegen ihrer KI-Fähigkeiten und dem zugehörigen Software-Support gefragt.
Die ursprüngliche H100 ist ebenfalls als PCIe-Karte verfügbar (ab 38675 €), allerdings für 10.000 Euro mehr als die NVL-Version bei gleichzeitig geringerer Rechenleistung und weniger Speicher. Sie verwendet 114 statt 132 Shader-Multiprozessoren und 80 GByte HBM2e statt 94 GByte schnellerem HBM3.
DGX B200 ab 349.000 Euro
Wer die neue H200 mit noch mehr und schnellerem HBM3e haben möchte, muss sich als gewerblicher Kunde an spezialisierte Serverhändler wie Delta Computer wenden. Der verkauft die H200 mit 141 GByte Speicher für 29.741 Euro exklusive Steuern, also insgesamt knapp 35.400 Euro. Unter anderem Universitäten, Hochschulen und Unikliniken zahlen knapp 25.000 Euro exklusive Steuern.
Delta Computer verkauft auch schon Nvidias DGX-B200-System mit acht B200-GPUs aus der neuen Blackwell-Generation und zwei Intel Xeon Platinum 8570 (zusammen 112 CPU-Kerne, Emerald Rapids). Unis & Co. zahlen fĂĽr das System knapp 349.000 Euro exklusive Steuern; die Standardversion fĂĽr alle anderen kostet knapp 565.000 Euro exklusive Steuern.
(mma)