Das richtige Sprachmodell für die eigene Anwendung: Mozilla.ai will helfen
Das Projekt unterstützt zunächst bei der Auswahl des passenden LLMs und in absehbarer Zukunft auch bei der Integration ins Projekt und dem Feintuning.
(Bild: erstellt mit KI (Dall-E) durch iX)
Mozilla.ai hat mit Lumigator ein Framework vorgestellt, das bei der Integration großer Sprachmodelle (Large Language Models, LLMs) in eigene Projekte helfen soll.
Im ersten Schritt hilft Lumigator Entwicklerinnen und Entwicklern dabei, das passende LLM auszuwählen. Mittelfristig ist die Entwicklung des Frameworks zu einem Open-Source-Projekt für die "ethische und transparente KI-Entwicklung" geplant, wie es im Blogbeitrag mit der Ankündigung heißt.
Das passende Modell und die Qual der Wahl
Erklärtes Ziel von Lumigator ist es, die Auswahl von Sprachmodellen transparent, leistungsfähig und effizient zu gestalten. Die erste Iteration bietet ein Framework, um LLMs anhand aufgabenspezifischer Metriken zu bewerten und so das passende Modell für die Integration in eigene Anwendungen auswählen zu können.
Das Anfang 2023 gegründete Start-up Mozilla.ai, das unabhängig von der Mozilla Foundation und der Mozilla Corp agiert, spricht in dem Blogbeitrag von einem zuverlässigen Kompass für die KI-Reise und zitiert den Artificial Intelligence Index Report 2024 des Stanford Institute for Human-Centered Artificial Intelligence (HAI). Die Studie kommt unter anderem zu dem Schluss, dass es noch an Tools zum Evaluieren der Modelle mangelt und der Test über mehrere Benchmarks den Vergleich verkompliziert.
Diese Lücke möchte Lumigator schließen und verhindern, dass Entwicklungsteams das Modell lediglich aufgrund des aktuellen Hypes auswählen und damit häufig nicht das LLM verwenden, das für die spezifischen Anforderungen am besten geeignet ist.
Große Pläne für die Weiterentwicklung
Nach dem ersten Aufschlag von Lumigator als MVP (Minimum Viable Product) zur Auswahl des passenden Modells sind zahlreiche weitere Funktionen für das Projekt geplant. Ein ausführlicherer Beitrag von Mozilla.ai nennt neun Punkte, in denen das Projekt beim Einbinden und Verwalten von LLMs helfen soll.
Dazu gehört unter anderem die Installation und nahtlose Integration in Projekte, Feintuning, Echtzeitmonitoring für Experimente und ein erweiterter Vergleich von Modellen mit demselben Datensatz. Die Anwendung wird sowohl ein UI als auch ein Software Development Kit (SDK) erhalten.
(Bild: Mozilla.ai)
Der Start der geschlossenen Alpha von Lumigator steht im November 2024 an, und die allgemeine Verfügbarkeit ist bereits für Januar 2025 geplant. Zunächst führt Mozilla.ai eine Umfrage zu den gewünschten Features durch.
Wer sich für Lumigator interessiert, kann sich für den Newsletter registrieren. Auch wenn das Projekt derzeit noch als geschlossene Alpha geführt wird, existiert bereits ein öffentliches GitHub-Repository, das unter anderem ein Jupyter Notebook mit einer Projektübersicht bietet.
(rme)
