Machine Learning: Keras gewinnt in TensorFlow 2.10 an Usability

TensorFlow erhöht die Keras-Nutzerfreundlichkeit durch einen neuen Umgang mit Attention Layern und geht eine Kooperation mit Intel, AWS und weiteren ein.

In Pocket speichern vorlesen Druckansicht

(Bild: sdecoret/Shutterstock.com)

Lesezeit: 3 Min.
Inhaltsverzeichnis

Das von Google entwickelte Machine-Learning-Framework TensorFlow hat Version 2.10 erreicht. Das TensorFlow-Team versieht die integrierte Deep Learning Library Keras mit verschiedenen neuen Funktionen zum Erhöhen der Nutzerfreundlichkeit und ist eine Zusammenarbeit mit verschiedenen Unternehmen eingegangen, um offizielle TensorFlow-Builds bereitzustellen.

Daneben erhebt das Release die Library TensorFlow Decision Forests (TF-DF) zur Version 1.0. Dieses Milestone-Release soll die Stabilität und Reife der Library hervorheben, die aus einer Sammlung von Algorithmen für das Trainieren, Bereitstellen und Interpretieren von Decision-Forest-Modellen besteht und unter Linux verwendbar ist. Am Einsatz von TF-DF unter macOS und Windows arbeitet das TensorFlow-Team derzeit noch.

TensorFlow 2.10 soll den Umgang mit der Deep Learning Library Keras erleichtern, was das Entwickeln von Transformern sowie Initialisierern betrifft. Beispielsweise erweitert und vereinheitlicht das Release den Masking-Support für Keras Attention Layer. Zu diesen zählen tf.keras.layers.Attention, tf.keras.layers.AdditiveAttention und tf.keras.layers.MultiHeadAttention. Causal Attention und Implicit Masking sollen nun im Zusammenspiel das Implementieren eines Modells im Transformer-Stil vereinfachen, denn das Masking sei oft ein schwieriger Schritt. Im Rahmen der neuen Causal Attention können alle drei genannten Layer ein use_causal_mask-Argument für call verwenden. Mit Implicit Masking können diese Layer nun ebenfalls umgehen.

Weitere Keras-Neuerungen betreffen unter anderem dessen Initialisierer, die mit diesem Release stateless und deterministisch werden, sowie eine neue Utility tf.keras.utils.audio_dataset_from_directory zum Erstellen von Audioklassifikationsdatensätzen aus Verzeichnissen von .wav-Dateien.

Ein TensorFlow-Blogeintrag beschreibt die Highlights im Detail und im GitHub-Repository sind alle Änderungen in Version 2.10 aufgeführt.

Beginnend mit dem aktuellen Release startet das TensorFlow-Team eine Kollaboration mit Intel, AWS, ARM und der Software-Engineering-Organisation Linaro zum Erstellen offizieller TensorFlow-Builds. Das bedeutet in der Praxis, wer mittels pip unter Windows-Native- und Linux-AArch24-Hosts TensorFlow installiert, erhält einen offiziellen TensorFlow-Build. Dieser zeichnet sich dadurch aus, dass Expertinnen und Experten aus dem Hause Google und der zusammenarbeitenden Plattformen ihn im Hinblick auf Funktionalitäts- und Performance-Standards geprüft haben. In Zukunft erwartet das TensorFlow-Team die Zusammenarbeit mit weiteren Kooperationspartnern.

Für die Mehrheit der Nutzer soll das Installieren und Deinstallieren von TensorFlow mittels pip install beziehungsweise pip uninstall wie gewohnt funktionieren. Allerdings könnte unter Umständen ein zusätzlicher pip uninstall-Schritt unter Windows Native und Linux-AArch64-Systemen nötig sein.

Weitere Informationen zur neuen Zusammenarbeit sind der Ankündigung zu entnehmen.

Eine weitere Ankündigung betrifft TensorFlow Lite, eine 2019 in Version 1.0 erschienene Inferenz-Runtime, die für mobile Geräte optimiert ist. Nun ist die Google-Play-Services-API für TensorFlow Lite auf Android-Geräten allgemein verfügbar, was Machine-Learning-Funktionen in mobilen Apps verbessern soll. Beispielsweise soll sich nun die Größe einer Anwendung im Vergleich zum statischen Bundling von TensorFlow Lite mit einer App um bis zu 5 MB verringern und die Anwendungen erhalten im Hintergrund regelmäßig automatische Performance-Updates.

Der TensorFlow-Blog informiert über die Neuerung.

(mai)