IC922: IBM bringt Power9-Server für den KI-Einsatz auf den Markt

Ab sofort ist IBMs neues Servermodell IC922 der Power9-Familie erhältlich. Das Kürzel IC steht für Inferenz und Cloud, es handelt sich also um einen Power9-basierten Inferenzserver für den KI-Einsatz. Er umfasst bis zu sechs – und IBM plant acht – Nvidia T4-GPUs, verfügt über PCIe-4.0- und OpenCAPI-Schnittstellen und kann bis zu 24 SFF-Laufwerke in einem 2U-Formfaktor aufnehmen kann.

Die Minimalkonfiguration besteht aus zwei Power9-Prozessormodulen – wahlweise mit 12, 16 oder 20 Kernen – mit jeweils 64 GByte Arbeitsspeicher, der auf bis zu zwei TByte ausbaubar ist. Hinzu kommen zwei Netzteile mit Hardware für die Rack-Montage sowie Systemsoftware. Eine typische IC922-Konfiguration, bestehend aus zwei Power9-Prozessoren mit 20 Kernen, 256 GByte RAM und zwei Speichersystemen mit 960 GByte SSDs sowie zwei 10-GbE-Netzwerkadaptern, kostet 24.122 US-Dollar. Hiermit sollen Nutzer 179 OpenShift-Container mit mongoDB verwenden können, doppelt so viele wie mit einem vergleichbaren Xeon-basierten 2-Socket-Server.

Latenzarme Infrastruktur

In Verbindung mit dem im Dezember 2017 lancierten Modell AC922 (Accelerated Computing), das Nvidia V100-GPUs verwendet, will IBM eine latenzarme Infrastruktur mit hohem Datendurchsatz für rechenintensive KI-Workloads bieten, die Datenverwaltung, Schulung und Inferencing umfasst – wobei der IC922 nicht teurer als vergleichbaren x86-basierte Angeboten sein soll. Bei einem Benchmark mit OpenShift-Containern ist der Preis pro Container mit 152 Dollar sogar um den Faktor 2,5 besser als bei der Xeon-Alternative (359 Dollar).

Mit der T4-GPU nutzt der neue Server die aktuellen Turing-Tensor-Kerne mit ihren vielfältig gemischten Arithmetik-Funktionen (FP32, FP16, INT8, INT4). Damit adressiert IBM vor allem das Inferencing, also den Betrieb der trainierten KI-Modelle und damit das derzeit am schnellsten wachsende KI-Marktsegment. Im Gegensatz dazu nutzt das Modell AC922 die V100-GPUs, die sich besser für den HPC-Einsatz und das KI-Training eignen und teurer sind. So kommt das Modell AC922 beispielsweise als Compute-Knoten beim Summit am Oak Ridge National Laboratory zum Einsatz, dem derzeit schnellsten Supercomputer der Welt.

Der IC922 dagegen ist gedacht für den Umgang mit Daten, Inferenz und Cloud Computing; er liefert auf Rack-Ebene sehr hohe Durchsätze. Dies ist fürs Inferencing interessant, wo es um Big Data – und damit Speicher und seine Hierarchie – geht. IBM prüft derzeit die Erweiterung des IC922 in die eigene Public Cloud. Diese Ankündigung dürfte die erste einer ganzen Welle neuer Produkte sein, die IBM im Laufe des Jahres speziell für den KI-Markt lancieren wird. Power10, die Nachfolgegeneration des aktuellen Prozessors, soll im Rahmen einer Partnerschaft mit dem neuen Chip-Partner Samsung 2021 auf den Markt kommen. (fo)