Gründe für Fehler in KI-Sprachmodellen, Auswirkungen auf den produktiven Einsatz

Inhaltsverzeichnis

Mehr zum Thema Künstliche Intelligenz (KI)

• Gaza-Krieg: Technikversagen am Grenzzaun erklärt
• Generative KI wirbelt den IT-Markt und die Wirtschaft durcheinander
• Transparenz in der KI: Wie Entscheidungen verständlich werden
• Offene Sprachmodelle und wie man mit Ihnen experimentieren kann
• Ohne Cloud: Die eigene Sprach-KI lokal betreiben
• Künstliche Intelligenz: Wo man das eigene generative Sprachmodell betreiben kann
• Fehler in KI-Sprachmodellen: Gründe und Auswirkungen auf den produktiven Einsatz
• KI: Wie Benchmarks die Leistung großer Sprachmodelle messen und vergleichen
• KI-Sprachmodelle: Tipps und Tools für den produktiven Einsatz
• Interview: Das knifflige Benchmarking großer Sprachmodelle
• Neuling in der Klasse: ChatGPT und Co. kommen in die Schule
• Webdienste zur KI-gestützten Erstellung von Präsentationen im Test

Seit November 2022 ist ChatGPT nun auf dem Markt. Die anfängliche Euphorie ist bei manchem Nutzer inzwischen einer Ernüchterung gewichen. So ging die Zahl der monatlichen Zugriffe auf die Webseite chat.openai.com laut dem Analysedienst Similarweb von Mai bis Juli 2023 von 1,8 auf 1,5 Milliarden zurück – ein Verlust von 17 Prozent.

Ein Grund dafür könnte die hohe Fehlerquote der Sprachmodelle sein. Jeder kennt Anekdoten, in denen die KI auf einen Prompt klug antwortet und plötzlich völlig daneben haut, etwa falsche Gerichtsurteile erfindet oder bei simpelsten Zählaufgaben versagt. Aufgrund der Eloquenz der Maschinen sind diese Fehler jedoch schwerer zu erkennen, als wenn man einem Menschen zuhört, der auch sprachlich ins Schleudern gerät, wenn er mit seinem Latein am Ende ist.

Diese plötzlichen, unerwarteten Fehler sind keine Ausreißer oder Kinderkrankheiten, die Entwickler mit mehr Training, mehr Daten und schnelleren Computern beheben kann. Sie sind vielmehr ein Grundproblem von Sprachmodellen, für das keine Lösung in Sicht ist. Denn anders als Menschen können Maschinen zwar sehr gut Muster erkennen, wenn sie mit vielen Daten gefüttert werden. Sie können aber nur schlecht abstrahieren und einzelne Beobachtungen verallgemeinern.

Das war die Leseprobe unseres heise-Plus-Artikels "Gründe für Fehler in KI-Sprachmodellen, Auswirkungen auf den produktiven Einsatz". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.