Machine Learning: ONNX Runtime 1.2 funktioniert jetzt mit WinML
In der neuen Version der ONNX Runtime liefert Microsoft eine experimentelle Anbindung an WinML und überarbeitet die Kompatibilität der Laufzeit.
(Bild: Phonlamai Photo/Shutterstock.com)
- Björn Bohn
Microsoft hat seine ONNX (Open Neural Network Exchange) Runtime in Version 1.2 veröffentlicht. Die auf Performance und Skalierbarkeit zugeschnittene Engine des ONNX-Formats bietet darin einen experimentellen Support für Windows-Machine-Learning-APIs (WinML). Außerdem aktualisiert es die Komponenten CUDA und den TensorRT Execution Provider auf Version 10.1 beziehungsweise 7. Eine Überarbeitung des Kompatibilitäts-Pattern gibt es ebenfalls.
ONNX Runtime und WinML
Windows Machine Learning ist eine API für Windows-Entwickler, die neuere Versionen des Betriebssystems standardmäßig ausliefern. Grundsätzlich soll WinML das lokale Ausführen von Machine-Learning-Frameworks vereinfachen. Die im Rahmen der ONNX Runtime verfügbare Anbindung setzt dabei auf DirectML für eine GPU-Beschleunigung. Die neue API ist wohl kompatibel mit Windows 8.1 für CPU-Aufgaben und Windows 10 Build 1709 für GPU-Aufgaben.
Auf Seiten der Operator hat Microsoft die Vorwärtskompatibilität der ONNX Runtime angepasst. Künftig überprüft die Laufzeit eine Modell-Opset-Nummer sowie die Versionsnummer und unterstützt keine Modelle mit höheren ONNX-Versionen mehr als die vorliegende Opset-Nummer. Das soll eine korrekte Modellvorhersage garantieren und Unklarheiten aufgrund fehlender Opset-Informationen beseitigen. Wer höhere Versionsnummern benötigt, kann sie beispielsweise mit einem benutzerdefinierten Operator herbeiführen. Einen vollständigen Überblick über die Änderungen bieten die Release Notes zur neuen ONNX-Runtime-Version.
Ein kurzer Überblick zur ONNX Runtime
Modelle der Frameworks Tensorflow, Keras, PyTorch, Scikit-Learn, CoreML und andere gängige unterstützte Formate können Entwickler in das Standardformat ONNX konvertieren. Das soll die Interoperabilität des Frameworks gewährleisten und die Reichweite von Investitionen in die Hardwareoptimierung maximieren.
Der Fokus der ONNX Runtime liegt dabei auf Leistungsfähigkeit und Skalierbarkeit, um hohe Arbeitslasten in Produktionsszenarien zu unterstützen. Sie verfügt außerdem über Erweiterungsoptionen für die Kompatibilität mit neuen Hardwaredntwicklungen. ONNX Sie bleibt auf dem neuesten Stand des ONNX-Standards und unterstützt alle Operatoren der ONNX-v1.2+-Spezifikation und ist mit älteren Versionen abwärtskompatibel.
Mehr dazu auf heise Developer:
(bbo)
