Verwaltung und Inbetriebnahme von ML-Modellen
Seite 5: Fazit
Die drei Werkzeuge DVC, ONNX und Cortex konzentrieren sich auf die Operationalisierung von KI-Projekten. Dieser Stack bietet eine einfache Möglichkeit, um ML-Modelle in Produktion zu bringen.
Bei klassischen Softwareprojekten ist die Codeverwaltung das A und O, während bei KI-Projekten die Versionierung von Daten und Modellen genauso wichtig ist. DVC ist ein praktisches Werkzeug für die Daten- und Modellverwaltung. Es ermöglicht die Reproduzierbarkeit von Experimenten und hilft beim schmerzfreien Datenaustausch. Dadurch kann man innerhalb eines Projekts besser kollaborieren. Weiterhin lassen sich verschiedene Modell-Ansätze und Experimente individueller erproben.
ONNX und Cortex unterstützen die Inbetriebnahme der Modelle. Durch die ONNX Runtime können Entwickler kompatible Modelle innerhalb einer Produktionsumgebung problemlos deployen. Data Scientists haben dank der Standardisierung der Modelle die Möglichkeit, ihr präferiertes Deep-Learning-Framework zu verwenden, sofern dieses den Export nach ONNX unterstützt.
Cortex hilft beim einfachen Deployment der Modelle und verkürzt damit die Zeit von der Modellentwicklung bis zur Produktion. Data Scientists müssen sich dadurch weniger Gedanken um Infrastruktur oder Operations machen. Durch das Zusammenspiel von DVC, ONNX und Cortex gelangen Modelle auf einem sehr schnellen Weg in die Produktion und lassen sich reproduzieren.
Nico Axtmann
entwickelt als Machine Learning Engineer datengetriebene Produkte und Lösungen. Derzeit konzentriert er sich vor allem auf die Inbetriebnahme von Modellen in produktiven Umgebungen.
(mdo)
