Machine Learning: MLOps fĂĽr AI auf eingebetteten Systemen
Der Einsatz kĂĽnstlicher Intelligenz nimmt auch auf eingebetteten Systemen zu. Mit MLOps setzen Datenanalysten, Entwickler und Admins Projekte gemeinsam um.
- Dr. Michael Stal
Künstliche Intelligenz wird zunehmend am Rand des Netzwerks gebraucht, auf Edge-Computern und Mikrocontrollern. Typische Anwendungsfälle dieser Edge AI sind die Hinderniserkennung beim autonomen Fahren, Gestenerkennung in der Heimautomatisierung oder Sprachverarbeitung beim Erstellen ärztlicher Befunde.
Gerade beim Erkennen von Hindernissen durch autonome Fahrzeuge zeigt sich einer der Gründe: Bei der Verarbeitung auf einem entfernten Server wäre die Reaktionszeit viel zu lang. Wer Daten dort verarbeitet, wo sie entstehen, geht außerdem Sicherheitsrisiken aus dem Weg.
Embedded Devices im IoT-Netz oder andere Endgeräte wenden also neuronale Netze zur Entscheidungsfindung an (Inferenz), während das zeitaufwendige und rechenintensive Training der Modelle auf leistungsfähigen Servern stattfindet. Dank Technologien wie TinyML ist der Transfer fertiger Modelle auf eingebettete Systeme meist einfach.
Das war die Leseprobe unseres heise-Plus-Artikels "Machine Learning: MLOps für AI auf eingebetteten Systemen". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.