Sprachmodelle verbessern: So geht's mit OpenLlaMA und der Transformer-Bibliothek

Inhaltsverzeichnis

Große Sprachmodelle wie GPT-4, Bard oder LLaMA haben innerhalb kürzester Zeit den Büroalltag vieler Menschen verändert. Eine perfekt formulierte E-Mail schreiben, Dokumente zusammenfassen oder den Bubble-Sort-Algorithmus in Python implementieren – dank großer Sprachmodelle (Large Language Models, LLMs) alles im Handumdrehen gemacht. Dennoch liefern sie nicht zwangsläufig die perfekte Antwort auf alle in Form von Prompts gestellten Fragen. Dies liegt häufig daran, dass im Prompt beschriebene Anweisungen nicht ausreichend in den Trainingsdaten des LLM abgedeckt sind, sodass das LLM unsicher über die richtige Antwort ist. LLMs neigen dann manchmal zum Halluzinieren und liefern überzeugend klingende, aber falsche Antworten.

Das Feintuning eines großen Sprachmodells wirkt dem entgegen. Es eignet sich insbesondere, wenn das LLM ausschließlich innerhalb einer bestimmten Domäne verwendet wird. Durch Feintuning können große Sprachmodelle zum Beispiel wesentlich fundierteres Wissen in Spezialgebieten erlangen, etwa in Medizin oder einer Teildisziplin davon. Identisch dazu ist das Vorgehen, um aus einem allgemeinen Sprachmodell einen Chatbot zu bauen. Deshalb wird in diesem Artikel zu Demonstrationszwecken ein Basismodell mit einem öffentlich verfügbaren Datensatz so angepasst, dass es sich in einen persönlichen Assistenten verwandelt.

Mehr zum Thema KI-Sprachmodelle:

• Eigene Coding-Assistenten trainieren und nutzen
• Feintuning großer Sprachmodelle – so gehts
• Linguistik: Wie KI seltene Sprachen retten soll
• LaMDA und die Technik dahinter: Wie viele Parameter braucht's fürs Bewusstsein?
• KI und Bewusstsein: Vor welchen Dingen hast du Angst, LaMDA?
• KI: Fake News aus der Zwietracht-Maschine
• KI: Sachlich korrekte Texte mit neuronalen Sprachmodellen generieren
• Schreibblockade überwinden: Wie eine KI Ihre Texte vervollständigt
• Kommentar: Wes Geistes KI? Große Sprachmodelle und das Machtgefüge dahinter

Martin Thissen

Martin Thissen ist Content Creator auf YouTube und Medium sowie wissenschaftlicher Mitarbeiter an der Hochschule Darmstadt. Als Content Creator erklärt er, wie KI-Modelle funktionieren und wie sie verwendet werden können.

Ein bereits als persönlicher Assistent agierendes LLM kann sich durch erneutes Feintuning mit Datensätzen aus einer speziellen Wissensdomäne oder aus dem eigenen Unternehmen ein größeres Wissensspektrum aneignen. Das zeigt der Artikel am Beispiel allgemeiner medizinischer Fragen. Ein Unternehmen könnte aber auch größere Datensätze aus Fragen und Antworten im Kundensupport oder Vertrieb nutzen, um ein LLM auf bestimmte Anwendungsgebiete nachzutrainieren. Der hier in Ausschnitten wiedergegebene Code liegt in Form eines Jupyter-Notebooks auf GitHub und lässt sich mit minimalen Anpassungen für Experimente mit eigenen Daten verwenden. Voraussetzung für das Training sind CUDA-Grafikkarten mit Ampere-Architektur oder neuer. Eine für ältere Grafikkarten angepasste Version stellt ein Colab-Notebook zur Verfügung. Sie lässt sich mit einer kostenlosen T4-GPU aus der Cloud nutzen.

Immer mehr Wissen. Das digitale Abo für IT und Technik.

Starthilfe für den privaten Einstieg in die solare Energieproduktion

Egal ob kleines Balkonkraftwerk oder große Dachanlage, wir zeigen, was geht, wie so eine PV-Anlage funktioniert und wo Stolperfallen lauern können.

---

Abgezählt und ausgemessen: Sechs Apps zum Kalorienzählen im Test

Die Apps sollen dabei helfen, die eigene Ernährung zu protokollieren – das ist nicht nur zum Abnehmen interessant. Wir haben getestet, wie gut das funktioniert.

---

Ausprobiert: Fritzbox als NAS-Ersatz verwenden​

AVM bietet mit FritzNAS die Option, die Fritzbox zum Netzwerkspeicher zu machen. Wir prüfen, wie sich die Kombi im Vergleich zu herkömmlichen NAS schlägt.​

---

Karrierewechsel: Warum sich ein Informatikstudium auch für Quereinsteiger lohnt

Drei Jahre lang Mathematik, Logik und Programmieren lernen. Das Informatikstudium ist ein klassischer Weg in die IT. Wir zeigen, wie es abläuft.

---

Photovoltaik: Anlagen dimensionieren, Wirtschaftlichkeit berechnen

Das Auslegen einer PV-Anlage mit Speicher ist schwierig. Jahreszeitliche Unterschiede spielen genau so eine Rolle wie steuerliche Fragen und technische Grenzen.

---

Know-how für Heim-Admins: Alles über Ethernet-Switches

"RJ45", das haben Sie bestimmt schon gelesen. Was die Abkürzung bedeutet und alles, was Sie schon mal über Netzwerkswitches wissen wollten, erklären wir Ihnen.

Immer mehr Wissen. Das digitale Abo für IT und Technik.

Starthilfe für den privaten Einstieg in die solare Energieproduktion

Egal ob kleines Balkonkraftwerk oder große Dachanlage, wir zeigen, was geht, wie so eine PV-Anlage funktioniert und wo Stolperfallen lauern können.

---

Abgezählt und ausgemessen: Sechs Apps zum Kalorienzählen im Test

Die Apps sollen dabei helfen, die eigene Ernährung zu protokollieren – das ist nicht nur zum Abnehmen interessant. Wir haben getestet, wie gut das funktioniert.

---

Ausprobiert: Fritzbox als NAS-Ersatz verwenden​

AVM bietet mit FritzNAS die Option, die Fritzbox zum Netzwerkspeicher zu machen. Wir prüfen, wie sich die Kombi im Vergleich zu herkömmlichen NAS schlägt.​

---

Karrierewechsel: Warum sich ein Informatikstudium auch für Quereinsteiger lohnt

Drei Jahre lang Mathematik, Logik und Programmieren lernen. Das Informatikstudium ist ein klassischer Weg in die IT. Wir zeigen, wie es abläuft.

---

Photovoltaik: Anlagen dimensionieren, Wirtschaftlichkeit berechnen

Das Auslegen einer PV-Anlage mit Speicher ist schwierig. Jahreszeitliche Unterschiede spielen genau so eine Rolle wie steuerliche Fragen und technische Grenzen.

---

Know-how für Heim-Admins: Alles über Ethernet-Switches

"RJ45", das haben Sie bestimmt schon gelesen. Was die Abkürzung bedeutet und alles, was Sie schon mal über Netzwerkswitches wissen wollten, erklären wir Ihnen.