Verwaltung und Inbetriebnahme von ML-Modellen
Werkzeuge wie DVC und Cortex, die auf Operationalisierung von KI-Projekten ausgelegt sind, sollen Entwicklern beim Deployen von Modellen in Produktion helfen.
(Bild: Black Jack/Shutterstock.com)
- Nico Axtmann
Obwohl ein großer Hype um Machine Learning und KI existiert, landet bei den meisten Unternehmen nur ein Bruchteil der entwickelten Modelle in der Produktion. Die Werterzeugung mit datengetriebenen Entscheidungen wird bei den Unternehmen in den nächsten Jahren zunehmend im Fokus stehen. Viele beginnen KI- und Datenstrategien zu implementieren. In den vergangenen Jahren sind zahlreiche Deep-Learning-Frameworks wie TensorFlow, PyTorch oder MxNet entstanden und gewachsen.
Insgesamt hat der große Anteil an Open-Source-Software die Entwicklung der Modelle stark vereinfacht. Heute erweitern viele Werkzeuge das Ökosystem, die mehr Struktur und Stabilität in die Entwicklung und das Deployment der KI-Applikationen bringen. Der Fokus der neuen Tools erstreckt sich von der Daten- und Modellverwaltung bis hin zum Deployment der Modelle auf unterschiedlichen Cloud-Plattformen (s. Abb. 1). Ziel ist es, Hilfestellung zu geben, um Modelle in Produktion zu bekommen.
Das Vorhaben – Vogelperspektive
Dieser Artikel zeigt, wie sich KI-Projekte mit DVC, ONNX (Open Neural Network Exchange) und Cortex von der Entwicklung bis hin zur Produktion reproduzierbar und skalierbar umsetzen lassen, unabhängig vom verwendeten Deep-Learning-Framework. Unterschiedliche Frameworks kommen für das Trainieren von Modellen zum Einsatz, die man anschließend in einer homogenen Produktionsumgebung als REST-API in Betrieb nutzt.
Als Datenbasis dient Fashion MNIST von Zalando. Interessierte können die Daten als gezipptes NumPy-Array herunterladen. Für den Artikel hat der Autor die Daten in ein Python-Skript eingelesen und anschließend nach ihrem Label (Ordner) als PNG-Datei abgespeichert. Fashion MNIST repräsentiert verschiedene Artikel aus dem Modebereich mit über 60.000 Graustufenbildern. Die Bilder haben jeweils eine Größe von 28 x 28 Pixel. Die im Datensatz angegeben Trainings- und Testdaten kann man herunterladen. Im Anschluss lässt sich die unter Abbildung 2 dargestellte Verzeichnisstruktur erstellen. In den Verzeichnissen train und test gibt es jeweils die Unterverzeichnisse Ankle_boot, Bag, Coat, Dress, Pullover, Sandal, Shirt, Sneaker, Trouser und Tshirt_top. In den Verzeichnissen sind die dazugehörigen Bilder als PNG-Datei hinterlegt.
