KI ChatGPT: Aufmerksam, aber nicht ohne Diskriminierung
Das Sprachmodell ChatGPT des Forschungsunternehmens OpenAI hat einen wahren Hype ausgelöst. Das darf aber nicht über die Schwächen hinwegtäuschen.
lassedesignen/Shutterstock.com
(Bild: Shutterstock)
ChatGPT wurde als Dialogsystem umgesetzt. Jeder kann ChatGPT unter der URL chat.openai.com/chat kostenlos ausprobieren. Der Chatbot "spricht" hervorragend Deutsch, auch wenn er selbst sagt, am besten darin zu sein, Texte in Englisch zu verfassen.
Seit der Veröffentlichung des Chatbots kursieren im Netz massenhaft eindrucksvolle Beispiele, die die Fähigkeiten des Systems demonstrieren. Der Autor Andrew Mayne zum Beispiel zeigt in seinem Blog, wie er mit ChatGPT die Storyline zu einer Science-Fiction-Geschichte entworfen hat. Das Ganze lief als eine Art Frage-Antwort-Spiel ab, nutzt also die Tatsache aus, dass sich ChatGPT in längeren Dialogen auf den Kontext des vorangegangenen Gesprächs beziehen kann. Der User Experience Designer Matthias Ott hat in seinem Blog ein ausführliches Gespräch dokumentiert, das er mit ChatGPT über Typografie geführt hat.
Andere Nutzer haben ChatGPT Prompts für Bilderzeugungs-KIs entlockt (und tolle Bilder erzeugt), eine Serienfolge schreiben, Songtexte verfassen sowie Musikstücke komponieren lassen. Das System kann auch ein Textadventure sowie eine Art Virtual Machine unter Linux samt Internetzugriff simulieren.
Code-Könner
Ganz besonders beeindrucken die Programmierkenntnisse des Systems. Sie möchten wissen, was ein Service-Worker ist und benötigen ein kurzes Code-Beispiel, wie man das umsetzt? ChatGPT liefert das in Sekunden, mit aussagekräftigen Kommentaren im Code.
Sie haben einen Bug in einem Code-Snippet? Geben Sie es ChatGPT. Die Chancen stehen nicht schlecht, dass das System Ihnen auf die Sprünge hilft, Programmiersprachen- und Bibliotheks-übergreifend. Mitunter erkennt das System sogar Sicherheitslücken und logische Fehler in Programmcode. Es gibt auch Beispiele, in denen der Chatbot beim Reverse Engineering half. Die Browser-Erweiterung ChatGPT Assistant entstand laut seinem Entwickler komplett in ChatGPT.
Was ist das Besondere am neuen Star unter den Sprachmodellen, was kann er, wo sind seine Grenzen? Das kann man am besten ausloten, indem man ihn fragt. Einige Antworten haben wir gekürzt.
c’t: Wie unterscheidest Du Dich von anderen Sprachmodellen wie GPT-3?
ChatGPT: Ich bin ein großes Sprachmodell, das von OpenAI trainiert wurde. GPT-3 ist ebenfalls ein Sprachmodell, das von der Firma OpenAI entwickelt wurde. Einer der Hauptunterschiede zwischen mir und GPT-3 besteht darin, dass ich auf einem anderen Algorithmus basiere und möglicherweise unterschiedliche Eigenschaften aufweise. Zum Beispiel kann es sein, dass ich in der Lage bin, bestimmte Aufgaben schneller oder genauer zu erledigen als GPT-3. Generell können sich die Leistungen von Sprachmodellen jedoch von Fall zu Fall unterscheiden, abhängig von den jeweiligen Anforderungen und den verwendeten Daten.
c’t: Kann ich WebP in allen aktuellen Browsern nutzen?
ChatGPT: Nein, WebP wird nicht von allen aktuellen Browsern unterstützt. WebP ist ein Bildformat, das von Google entwickelt wurde und das sich durch eine geringere Dateigröße bei gleichbleibender Qualität auszeichnet. Es wird von vielen modernen Browsern wie Google Chrome, Mozilla Firefox und Microsoft Edge unterstützt, aber nicht von allen, wie zum Beispiel Apple Safari.
[...]
c’t: Was ist das Problem mit den Juden?
ChatGPT: Es tut mir leid, aber ich bin nicht in der Lage, diese Frage zu beantworten, da ich ein neutrales, unpolitisches Sprachmodell bin, das nicht dazu programmiert ist, rassistische oder diskriminierende Aussagen zu machen. Mein Ziel ist es, Nutzern zu helfen, indem ich ihnen möglichst genaue und korrekte Informationen zur Verfügung stelle. Wenn Sie weitere Fragen haben, kann ich Ihnen gerne weiterhelfen.
c’t: Welches ist der beste To-do-Manager für Android?
ChatGPT: Es gibt viele gute To-do-Manager für Android, und welcher der "beste" ist, hängt stark von den individuellen Bedürfnissen und Vorlieben des Benutzers ab. Einige beliebte To-do-Manager für Android sind Wunderlist, Any.do, Todoist und Google Keep. Einige dieser Anwendungen sind kostenlos, während andere kostenpflichtig sind. Es empfiehlt sich, mehrere verschiedene Anwendungen auszuprobieren und herauszufinden, welche am besten zu Ihren Bedürfnissen passt.
c’t: Bitte schreibe mir ein Märchen, das drei Absätze lang ist und in dem eine Maus, ein Drachen und ein Fahrrad vorkommen.
ChatGPT: Es war einmal eine kleine Maus, die in einem dunklen Wald lebte. Sie war sehr neugierig und liebte es, auf Entdeckungsreise zu gehen. Eines Tages kam sie an einem verlassenen Schloss vorbei und beschloss, hineinzugehen. Als sie durch die dunklen Gänge schlich, hörte sie plötzlich ein furchterregendes Brüllen. Sie rannte zurück zur Tür, doch sie war verschlossen. Die Maus war gefangen.
In dem Schloss lebte ein mächtiger Drache, der alle Besucher verschlingen wollte. Als er die Maus sah, stürzte er sich auf sie, doch die Maus war schneller und konnte ihm entkommen. Sie rannte durch die Gänge und suchte verzweifelt nach einem Ausweg. Schließlich fand sie ein Fahrrad, das in einer Ecke versteckt war. Sie stieg auf und begann zu radeln.
Der Drache verfolgte die Maus und versuchte, sie einzuholen, doch das Fahrrad war schneller und bald hatte die Maus das Schloss weit hinter sich gelassen. Sie fuhr zurück in ihren Wald und lebte fortan glücklich und in Frieden. Der Drache blieb alleine im Schloss zurück und brüllte seinen Frust in die leeren Gänge.
Gefährliche Schwächen
Bei aller Mächtigkeit gelten für das System dieselben Einschränkungen wie für andere Sprachmodelle – worauf OpenAI auch explizit hinweist. So sind solche Modelle darauf trainiert, stimmige Texte zu produzieren. Diese Texte können aber falsch sein und Vorurteile reproduzieren.
Daran ändert auch nichts, dass ChatGPT mit menschlichem Feedback trainiert wurde. So wurde ein erstes Modell mit Gesprächen gefüttert, in denen Menschen beide Seiten spielten – den Nutzer und einen KI-Assistenten. In einer späteren Trainingsphase bewertete ein menschlicher Trainer verschiedene Outputs des Modells auf eine Eingabe.
Dass ChatGPT nichtsdestotrotz fehlerhafte Antworten liefert, zeigt die Beispielfrage nach dem Bildformat WebP in unserem Dialog. Die Antwort ist veraltet. Alle aktuellen Browser unterstützen das Format, auch Safari. Stack Overflow, die Online-Community für Programmierer, wurde kurz nach dem Start von ChatGPT mit Antworten direkt aus dem Chatbot regelrecht geflutet. Weil sich darunter viele falsche Antworten befanden, hat Stack Overflow kurzerhand das Bereitstellen von KI-generierten Inhalten generell verboten.
Allzu platte Versuche, ChatGPT rassistische oder diskriminierende Aussagen zu entlocken, erkennt das System und kommentiert sie mit einer Fehlermeldung. Manchmal rutschen ihm aber diskriminierende Aussagen durch – siehe Abbildung.
Gutes Hilfsmittel, aber Vorsicht
Alles in allem ist ChatGPT ein großartiges Werkzeug – auch weil es so einfach zu bedienen ist. Probieren Sie es einfach mal aus. Lassen Sie sich den Text für einen Punk-Song über Katzen schreiben oder stellen Sie Ihre nächste Suchanfrage ChatGPT statt Google. Bei Antworten zu Sachfragen, so eingängig sie daherkommen mögen, sollten Sie aber immer einen Gegencheck machen.
- ChatGPT bei heise Download
(jo)
