Lightspeed inside: Neuromorpher optischer Chip beschleunigt Mustererkennung
Ein internationals Forschungsteam hat einen Beschleunigerchip für neuronale Netze entwickelt, der mit Licht rechnet.
(Bild: Photo by Denny Müller on Unsplash)
Ein internationales Forscherteam aus Deutschland, der Schweiz und Großbritannien hat erstmals eine photonische Prozessor-Architektur, bei der Daten durch Laserpulse repräsentiert werden, mit einer In-Memory-Architektur kombiniert. Der in der Fachzeitschrift Nature vorgestellt Chip kann bis zu zwei Billionen kombinierte Multiplikations- und Additionsoperationen pro Sekunde abarbeiten.
Software auf der Basis von maschinellem Lernen ist zwar in einem bisher nicht gekannten Maß dazu in der Lage, Sprache zu erkennen und zu übersetzen oder Bilder und Videos zu analysieren. Doch je komplexer die Aufgaben und je größer die Fähigkeiten, desto mehr steigt der rechnerische Aufwand Zwar lässt sich das Problem durch massiver Parallellisierung eindämmen. Ein Flaschenhals bleibt aber, das dabei sehr viele Daten aus dem Speicher zum Rechenwerk und zurück transportiert werden müssen. IBM, dessen Forschungsabteilung in Zürich auch an diesem Projekt beteilig ist, experimentiert deshalb bereits seit Jahren mit dem sogenannten „In Memory Computing“. Dabei werden Werte nicht nur im Speicher abgelegt, sondern auch direkt dort berechnet.
Matrix-Vektor-Multiplikationen
Eine Variante davon sind analoge Beschleuniger für Matrix-Vektor-Multiplikationen: Elektronisch wird das über eine gitterförmige Struktur abgebildet. Programmierbare Widerstände bilden die Verbindung zwischen Zeilen und Spalten einer gitterförmigen Matrix – einem "Crossbar Array". Die elektrische Leitfähigkeit dieser Bauelemente bilden die Werte Matrix-Elemente ab. An die Zeilen der Crossbars legt man Spannungen an , die den Input-Werten entsprechen. Die Ströme in den Spalten des Gitters entsprechen dann den Output-Werten.
Dieses Prinzip hat allerdings zwei Nachteile: Zum einen braucht man gut reproduzierbare programmierbare Widerstände - die Massenproduktion solcher Memristoren ist jedoch noch nicht angelaufen. Zum anderen kann man so nur jeweils eine Matrix mit einem Input-Vektor multiplizieren. In dem photonischen Chip lässt sich diese Operation jedoch elegant parallelisieren.
Denn in diesem Fall besteht die Matrix aus Lichtleitern, an deren Kreuzungen ein Stück Phasenwechsel-Material mit einstellbarer Absorption miteinander verbunden sind. Als Lichtquelle nutzten die Forscher einen chip-basierten Frequenzkamm. Anders als in der elektronischen Version konnten sie damit die Berechnung der Matrix-Vektor-Multiplikationen für viele verschiedene Wellenlängen parallel betreiben.
Erkennung handgeschriebener Ziffern per neuronalem Netzwerk
Um die Leistungsfähigkeit ihres Verfahren zu zeigen, konstruierten die Physiker ein „Convolutional Neural Network“ - ein faltendes neuronales Netzwerk zur Erkennung handgeschriebener Ziffern. Bei solchen Netzwerken schiebt man gewissermaßen einen kleinen Ausschnitt des Bildes einmal über die gesamte Bildfläche und lässt einen Filter aus diesen Ausschnitt wirken, um Eigenschaften des Bildes wie Kanten etc stärker hervorzuheben. Dabei werden viele Matrixmultiplikationen in nur einem Zeitschritt durchgeführt. Die Forscher kamen dabei auf eine Verarbeitungsgeschwindigkeit von rund zwei Teramacs (Multiply Accumulation Operations per second). Prinzipiell sei die Geschwindigkeit der Berechnung jedoch nur durch die Bandbreite bei der Modulation des Lasers und der Messung der Lichtintensitäten begrenzt.
Die Klassifikation, also die eigentliche Erkennung der handschriftlichen Eingabe ließen die Forscher dann allerdings auf einem herkömmlichen Laptop laufen. „Prinzipiell wäre es aber durchaus möglich, auch das mit photonischen Komponenten zu berechnen“, sagt Johannes Feldmann von der Universität Münster, Hauptautor der Studie.
(wst)
