6,9 TByte/s: Cloud-Server mit extrem schnellem RAM

Mit dem Instinct MI300A liefert AMD eine sogenannte Server-APU, also eine Kombination aus Rechenbeschleuniger, 24 x86-Prozessorkernen und 128 GByte schnellem High Bandwidth Memory der Generation HBM3. Davon nutzt Microsoft nun für die Azure-Cloud eine kundenspezifische Variante, die auf Rechenbeschleuniger verzichtet. Stattdessen hat sie mehr CPU-Kerne.

Microsoft kündigt im Azure-Blog an, dass die neue Instanz HBv5 VM bis zu 352 CPU-Kerne vom Typ AMD Zen 4 mit bis zu 4 GHz umfassen kann sowie bis zu 450 GByte RAM mit einer Datentransferrate von 6,9 TByte/s.

Als typische Nutzungsmöglichkeiten von Azure HBv5 VM nennt Microsoft wissenschaftliches und technisches High-Performance Computing (HPC), etwa Molekulardynamik, numerische Strömungsmechanik (Computational Fluid Dynamics/CFD), Wettermodelle, Simulationssoftware und CAE.

Auf der Konferenz SC’24 präsentierte Microsoft die Hardware: Ein Server-Mainboard mit vier SH5-Fassungen für vier AMD-Prozessoren. Vermutlich handelt es sich um den sogenannten Instinct MI300C, den AMD bisher exklusiv an Microsoft verkauft.

Supermicro zeigte ebenfalls auf der SC’24 den Rack-Einschub GPU A+ Server AS-4145GH-TNMR mit dem Mainboard H13QSH für vier AMD Instinct MI300A. Steckfassungen für Speichermodule gibt es darauf nicht, weil das High Bandwidth Memory auf den MI300A sitzt. Dank der eingebauten x86-Kerne können die MI300A selbst ein Betriebssystem ausführen. Außerdem binden sie zahlreiche PCI-Express-5.0-Lanes an, etwa für NVMe-SSDs und Netzwerkkarten.

Auch Intel offeriert Serverprozessoren mit HBM-RAM. Die Xeon CPU Max aus der vierten Generation Xeon-SP Sapphire Rapids haben aber jeweils nur 64 GByte HBM2E sowie maximal 56 CPU-Kerne. Mit vier Prozessoren wären also höchstens 224 Kerne und 256 GByte RAM möglich. Die Xeons können aber zusätzlich auch DDR5-Speicher anbinden.

(ciw)