zurück zum Artikel

Will man Deep-Learning-Modelle schnell auf verteilten Systemen trainieren, hilft das Framework Horovod. Es skaliert ein Trainingsskript auf mehrere GPUs.

Deep-Learning-Modelle werden umso leistungsfähiger, je mehr Daten für das Training zur Verfügung stehen. Diese Daten entstehen zum Beispiel petabyteweise bei der Entwicklung moderner Fahrassistenzsysteme der zweiten und dritten Generation im Rahmen von Software-defined Vehicles.

Um bei der Entwicklung der neuen Generation eines Deep-Learning-Modells nicht Wochen und Monate auf das Ergebnis eines Trainingslaufs zu warten, sind effiziente Skalierungstechniken erforderlich.

Wie sich das Modelltraining einfach und effektiv über mehrere GPU-Systeme verteilen lässt, zeigt das von Uber ins Leben gerufene Open-Source-Framework Horovod. Es liegt seit 2018 auf GitHub, die Linux Foundation verwaltet es.

URL dieses Artikels:
https://www.heise.de/-6548239

Links in diesem Artikel:
[1] https://www.heise.de/hintergrund/KI-Sprachgeneratoren-Wie-man-sie-von-Menschen-unterscheiden-kann-9191173.html
[2] https://www.heise.de/hintergrund/Rechnen-mit-Licht-In-Spezialbereichen-tausendfach-schneller-als-Elektronen-7330093.html
[3] https://www.heise.de/hintergrund/Optische-Prozessoren-Aufbau-und-Entwicklungsstand-7446679.html
[4] https://www.heise.de/hintergrund/Haftung-von-KI-Betreibern-Schwierige-Rechtssituation-fuer-Geschaedigte-7454626.html
[5] https://www.heise.de/hintergrund/Wie-neuromorphes-Computing-Muster-in-schnellen-Sensordaten-erkennt-7454112.html
[6] https://www.heise.de/hintergrund/Computergestuetzte-Biopsie-Wie-KI-Tumorgewebe-identifizieren-kann-7449489.html
[7] https://www.heise.de/hintergrund/EU-Verordnung-soll-KI-Anwendungen-regulieren-7370480.html
[8] https://www.heise.de/hintergrund/Den-eigenen-KI-Chatbot-bauen-eine-Marktuebersicht-7349060.html
[9] https://www.heise.de/hintergrund/Was-eine-ethische-KI-leisten-soll-Ein-Interview-mit-Gery-Zollinger-7348691.html
[10] https://www.heise.de/hintergrund/KI-Bildgeneratoren-Was-sie-koennen-und-wie-man-sie-einsetzt-7339658.html
[11] https://www.heise.de/ratgeber/Tipps-fuer-die-besten-Ergebnisse-mit-KI-Bildgeneratoren-7340755.html
[12] https://www.heise.de/tests/KI-Bildgeneratoren-Sechs-Web-Apps-im-Test-7341455.html
[13] https://www.heise.de/hintergrund/KI-Bildgeneratoren-Diese-Technik-steckt-dahinter-7341800.html
[14] https://www.heise.de/hintergrund/Skalierungshypothese-Welche-naechsten-Schritte-muss-die-KI-Forschung-gehen-7315964.html
[15] https://www.heise.de/hintergrund/KI-in-Unternehmen-Wie-kuenstliche-Intelligenz-Firmen-produktiv-macht-7194828.html
[16] https://www.heise.de/hintergrund/KI-auf-dem-Pruefstand-Was-kuenstliche-Intelligenz-kann-und-was-nicht-7195313.html
[17] https://www.heise.de/hintergrund/KI-Zukunft-So-wollen-Forscher-und-Praktiker-die-Grenzen-der-KI-ueberwinden-7199412.html
[18] https://www.heise.de/hintergrund/KI-So-funktionieren-kuenstliche-Sprachsysteme-vom-Typ-Transformer-7077832.html
[19] https://www.heise.de/hintergrund/Wandelbare-Sprach-KI-Neuronales-Netz-textet-codet-und-uebersetzt-6667936.html

Copyright © 2022 Heise Medien