Machine Learning: TensorFlow Lite künftig standardmäßig auf Android verfügbar
Das mobile Betriebssystem bekommt einen Inferenz-Stack mit dem Framework als Herzstück und Funktionen zum Optimieren der Performance für die jeweilige Hardware.
- Rainald Menge-Sonnentag
Google hat einen Inferenz-Stack für Machine-Learning-Anwendungen (ML) auf Android angekündigt. Kernstück ist das mobile Framework TensorFlow Lite. Die geplante Android-ML-Plattform stellt zum einen Standardfunktionen bereit und kümmert sich zum anderen um Anpassungen an die jeweilige Hardware.
TensorFlow Lite ist im Frühjahr 2019 in Version 1.0 erschienen, nachdem Google es erstmals 2017 vorgestellt hatte. Das ML-Framework ist als kleiner Bruder von TensorFlow für den Einsatz auf Mobilgeräten und im Internet der Dinge zugeschnitten. Der Anwendungsbereich liegt nicht im Training von Modellen, das typischerweise große Hardwareanforderungen mit sich bringt, sondern in der Anwendung, der sogenannten Inferenz: den Schlussfolgerungen, die Modelle aus dem Training ziehen.
Einheitlicher Inferenz-Stack
Vor allem auf Android hat sich TensorFlow Lite als Standard für mobile Anwendungen etabliert. Zwar ist es auch für iOS ausgelegt, aber Apple bietet für sein mobiles Betriebssystem mit Core ML ein eigenes Framework an.
Lesen Sie auch
Trainierte Modelle in mobilen Apps einsetzen
Die angekündigte Android-ML-Plattform mit TensorFlow Lite soll das Entwickeln von mobilen Machine-Learning-Anwendungen auf Googles Betriebssystem vereinheitlichen und vereinfachen. Durch die Integration müssen Entwicklerinnen und Entwickler die Laufzeitumgebung von TensorFlow Lite nicht mehr mit ihren Anwendungen ausliefern. Das verringert die Größe der Apps und bietet zudem einen von der Anwendung unabhängigen Update-Zyklus.
Das Modell und die Hardware
Das Framework soll darüber hinaus künftig automatische Hardwarebeschleunigung bieten: Es entscheidet abhängig vom verwendeten Modell und der zugrundeliegenden Hardware, welche Optimierungen es vornimmt. Entwicklerinnen und Entwickler müssen dafür zusätzliche Metadaten bereitstellen.
Neben TensorFlow Lite wird Google die Neural Networks API (NNAPI), die seit Android 8.1 Bestandteil des mobilen Betriebssystems ist, regelmäßig außerhalb der Android-Releasezyklen aktualisieren. Auch Hardwaretreiber sollen künftig unabhängig von den Betriebssystem-Releases erscheinen.
Weitere Details lassen sich dem Android-Entwicklungsblog entnehmen. Die meisten Funktionen sollen erst im späteren Verlauf des Jahres erscheinen, aber interessierte Entwicklerinnen und Entwickler können sich bereits für ein Early-Access-Programm registrieren.
(rme)