Hardware-Beschleuniger: Googles Cloud TPU VMs jetzt allgemein verfügbar
Die allgemeine Verfügbarkeit beinhaltet eine neue TPU-Einbettungs-API, die komplexe ML-basierte Ranking- und Empfehlungs-Workloads beschleunigen soll.
(Bild: The Viz / Shutterstock.com)
Google hat die allgemeine Verfügbarkeit der Cloud TPU Virtual Machines (VMs) für KI-Workloads bekannt gegeben. Laut Blogbeitrag fand die Einführung der Cloud TPU VMs auf der Google Cloud bereits im vergangenen Jahr statt – angetreten, um die Nutzung der TPU-Hardware durch direkten Zugriff auf TPU-Host-Maschinen zu erleichtern.
Die Hardware-Beschleuniger – Cloud TPUs (Tensor Processing Units) – hatte Google bereits im Frühjahr 2018 auf der Google Cloud Platform (GCP) angekündigt. Damals noch mit Beta-Status. Mit Cloud TPU VMs sollen Nutzerinnen und Nutzer nun interaktiv auf denselben Hosts arbeiten können, an denen auch die TPU-Hardware angeschlossen ist.
Bereit für komplexe Ranking und Recommendation Workloads
Mit der allgemeinen Verfügbarkeit (GA) hat das Google-Cloud-Entwicklerteam die Cloud TPUs hinsichtlich komplexer Ranking- und Empfehlungs-Workloads überarbeitet. Google zufolge bieten TPUs im Vergleich zu CPUs eine deutlich schnellere Trainingsgeschwindigkeit und niedrigere Trainingskosten für Empfehlungssystemmodelle.
Neue TPU Embedding API für Verarbeitung großer Datenmengen
Neu ist auch eine TPU Embedding API, die auf Machine Learning (ML) basierende Ranking- und Empfehlungs-Workloads beschleunigen soll. Laut Blogbeitrag ist das besonders für Unternehmen interessant, die auf Ranking- und Empfehlungsanwendungen setzen, beispielsweise Audio-/Videoempfehlungen, Produktempfehlungen (Apps, E-Commerce) und Anzeigen-Ranking. Die Ansätze für diese Algorithmen haben sich Google nach von rein statistischen Verfahren hin zu tiefen neuronalen Netzen entwickelt. Die Verarbeitung komplexer Datenmengen braucht nicht nur Zeit, sondern kann auch hohe Kosten verursachen. Die Embedded API schafft Abhilfe, da sie auf die Verarbeitung großer Datenmengen ausgelegt ist. Dafür verteilt sie die Rechenlast automatisch über Hunderte von Cloud TPUs in einem Pod, die alle über die speziell entwickelte Verbindung miteinander kooperieren sind.
Die aktuelle Version unterstützt ML-Frameworks wie TensorFlow, PyTorch und JAX. Interessierten stehen vor der ersten Nutzung von Cloud TPU VMs Quick Starts sowie Tutorials zur Verfügung. Weitere Informationen zum GA finden sich im Beitrag auf dem Google-Cloud-Blog.
(mdo)
