Die 80-Prozent-Maschinen
Warum KI-Sprachmodelle weiterhin Fehler machen und was das für den produktiven Einsatz bedeutet
Sprach-KIs wie ChatGPT reden viel Unsinn. Das wird auch so bleiben. KI-Entwickler können die Ursachen und Hintergründe nicht mit noch mehr Daten und noch größeren Rechenzentren wegskalieren. Stattdessen müssen Nutzer die Fehlbarkeit der Sprachmodelle in ihren Anwendungen berücksichtigen.
Seit einem Dreivierteljahr ist ChatGPT nun auf dem Markt. Die anfängliche Euphorie ist bei manchem Nutzer inzwischen einer Ernüchterung gewichen. So ging die Zahl der monatlichen Zugriffe auf die Webseite chat.openai.com laut dem Analysedienst Similarweb von Mai bis Juli 2023 von 1,8 auf 1,5 Milliarden zurück – ein Verlust von 17 Prozent.
Ein Grund dafür könnte die hohe Fehlerquote der Sprachmodelle sein. Jeder kennt Anekdoten, in denen die KI auf einen Prompt klug antwortet und plötzlich völlig daneben haut, etwa falsche Gerichtsurteile erfindet oder bei simpelsten Zählaufgaben versagt [1]. Aufgrund der Eloquenz der Maschinen sind diese Fehler jedoch schwerer zu erkennen, als wenn man einem Menschen zuhört, der auch sprachlich ins Schleudern gerät, wenn er mit seinem Latein am Ende ist.