Deep Dive: Wie eine europäische Version der KI GPT-3 aussehen könnte
Im neuen Podcast der Technology Review spricht Jonas Andrulis vom Start-up Aleph Alpha über die Fähigkeiten von Sprachmodellen mit KI.
Als das Forschungs-Unternehmen Open AI im Februar 2019 vor seiner eigenen Software warnte, hielten manche Beobachter die ganze Aktion für einen gut platzierten PR-Gag. GPT-2 (Generative Pre-trained Transformer) ist ein spezielles neuronales Netz von Open AI, das ziemlich gut darin ist, das nächste Wort in einem Text zu berechnen. Gibt man dieser Software ein bis zwei Sätze vor, ergänzt sie diesen Anfang durch dazu passenden, aber komplett neu erzeugten Text.
Sprachmodelle werden besser
Aufgeschreckt durch die Fähigkeiten seiner Software, sah Open AI dem automatischen Erstellen von Fake News nun Tür und Tor geöffnet. Doch so richtig gut waren die Texte eigentlich nicht. Jetzt aber, zwei Jahre später, sieht es so aus, als ob sich die Befürchtungen der Open-AI-Forscher tatsächlich bewahrheiten. Denn die Entwickler vermuteten, dass die Fähigkeiten der neuen Software GPT-3 mit der Größe des Modells weiter wachsen würden.
Und das weckt Begehrlichkeiten bei anderen Unternehmen. So hat Huawei beispielsweise mit Pangu-Alpha ein großes Sprachmodell mit 200 Milliarden Parametern vorgestellt. Und das von der Beijing Academy of Artificial Intelligence (BAAI, Peking) entwickelte Modell Wu Dao 2.0 mit rund 1,75 Billionen Parametern soll nicht nur ebenfalls menschlich klingende Texte formulieren. Es kann auch Bilder beschreiben und selbst Bilder erzeugen – ähnlich wie das System Wall-E von Open AI – und erst kürzlich stellte das israelische Start-up AI21 ebenfalls ein eigenes großes Sprachmodell vor.
Europa scheint diesbezüglich etwas im Hintertreffen zu sein. Zu Gast in der neuen Podcast-Folge Tech2go ist daher Jonas Andrulis, Gründer und CEO von Aleph Alpha. Das Start-up aus Heidelberg gilt unter einigen Experten als der Hoffnungsträger für die deutsche KI-Industrie. Sein Ziel: nichts weniger als das europäische Pendant von Open AI zu werden – das europäische Werte vertritt und dem Datenschutz entspricht.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Von Risikokapitalgebern hatte Andrulis, der früher Manager bei Apple war, Anfang des Jahres eine Anschubfinanzierung in Höhe von 5,3 Millionen Euro erhalten und in einer zweiten Runde im Sommer 2021 weitere 23 Millionen Euro. Für das ambitionierte Projekt ist das bereits beachtlich, und rund 100 Millionen Euro erhofft er sich aus einer dritten Finanzierungsrunde, heißt es im Handelsblatt. Im Podcast erklärt Andrulis gegenüber dem TR-Redakteur Wolfgang Stieler, wo er jetzt mit seinem Start-up steht und welche Herausforderungen noch überwunden werden müssen.
Mehr über das Thema Sprachmodelle mit KI finden Sie auch in der aktuellen Ausgabe 6/2021 von Technology Review (jetzt am Kiosk oder hier online zu bestellen).
[Update-Hiweis 13.01.2022: In der ersten Version war nur die erste Finanzierungsrunde erwähnt, Angaben zur weiteren Finanzierung sind jetzt ergänzt.]
(jle)
