Cerebras Wafer Scale Engine 2: KI-Prozessor mit 850.000 Kernen

Auf der Hot Chips 2020 hat Cerebras den Wafer Scale Engine 2 vorgestellt. Der CS-2 genannte Prozessor besteht aus einem riesigen Chip, der einen kompletten 300x300-Millimeter-Wafer einnimmt. Durch die Verkleinerung der Fertigungstechnik von 16 auf 7 Nanometer konnte die Zahl der Transistoren und Rechenkerne deutlich gesteigert werden. Insgesamt befinden sich 850.000 Cores auf dem Chip, die aus 2,6 Billionen einzelnen Transistoren bestehen. Beim Vorgänger CS-1 waren es noch 400.000 Kerne und 1,2 Billionen Transistoren. Gefertigt wird der Cerebras Wafer Engine 2 von TSMC.

850.000 verbundene Rechenkerne

Jeder der 850.000 Rechenkerne besitzt seinen eigenen SRAM. Die Kerne sind über ein 3D-Mesh miteinander verbunden. Das ermöglicht es, dass alle Kerne gemeinsam an einem Task arbeiten. Für die gedachten Einsatzzwecke im Machine Learning nutzt die Wafer Scale Enging einen speziellen Compiler von Cerebras und ist mit existierenden KI-Frameworks wie Tensorflow und Pytorch kompatibel.

Die ersten Exemplare des CS-2 durchlaufen bei Cerebras derzeit ein umfassendes Testprogramm, so der Hersteller. Noch gibt es keine Informationen über Details wie die genaue Leistung oder den Stromverbrauch. Die erste Generation der Wafer Scale Engine benötigt bis zu 20 kW Strom, der aus einem Dutzend einzelner Netzteile gewonnen wird. Zu den Kunden von Cerebras gehören unter anderem das Pittsburgh Supercomputing Center sowie das Lawrence Livermore National Laboratoy. In letzterem steht der Lassen Supercomputer, der mit Cerebra-Technologie arbeitet und bis zu 20 petaFLOP/s berechnen kann.

Die KI-Spezialisten von Cerebras rund um die Gründer Andrew Feldman und Gary Lauterbach arbeiten seit 2016 im kalifornischen Los Altos an Lösungen für Supercomputer und Großrechner mit Fokus auf Machine Learning und Künstliche Intelligenz.

(sht)