GPTZero: App soll von KI wie ChatGPT geschriebene Texte erkennen können
Ein US-Informatikstudent hat mit GPTZero eine Anwendung entwickelt, die "schnell und effizient" ausmachen können soll, ob ein Text von KI oder Mensch stammt.
(Bild: CHUAN CHUAN/Shutterstock.com)
Im November veröffentlichte OpenAI den Chatbot ChatGPT. Er kann erstaunlich menschlich klingende Antworten und sogar längere Essays erzeugen. Spätestens seitdem läuft die Debatte über Plagiate und Täuschungen durch Künstliche Intelligenz (KI) auf Hochtouren. Edward Tian, ein Informatikstudent an der US-Universität Princeton, hat nun die App GPTZero entwickelt, die nach seinen Angaben "schnell und effizient" unterscheiden kann, ob ein Text aus einer menschlichen Feder stammt oder von einer Maschine erzeugt wurde.
Großer Ansturm auf Beta-Version
Derzeit verwende die Anwendung Eigenschaften wie "Perplexität" und Unbeständigkeit, erläuterte Tian in einer Reihe von Mitteilungen auf Twitter. Sie stelle also auf die Zufälligkeit eines Textes ab und darauf, dass eine maschinell gefertigte längere Zeichenfolge mit der Zeit eine gleichmäßigere und konstante Komplexität aufweise. Menschen setzten dagegen stärker auf Variationen. Der Programmierer lieferte auch Beispiele für GPTZero im Einsatz. Die App stellte demnach etwa korrekt fest, dass der von John McPhees im Magazin "New Yorker" veröffentlichte Essay "Frame of Reference" von einem Menschen stammt und ein LinkedIn-Post von einem Bot.
Tian hat GPTZero in einer Beta-Version auf einer eigenen Webseite und auf der Open-Source-Plattform Streamlit publiziert. Am Samstag waren beide Portale aber nur schwer bis gar nicht erreichbar und zeigten Fehlermeldungen. Der Entwickler twitterte am Dienstag, dass die App derzeit aufgrund der riesigen Nachfrage nicht funktioniere. Er bedankte sich dafür, dass Streamlit das Datenvolumen bereits erhöht habe. In einem Beitrag über den Publikationsdienst Substack erläuterte Tian, dass innerhalb weniger Tage über 10.000 Nutzer GPTZero allein auf Streamlit getestet hätten. Er habe das Modell aktualisiert, um falsche Einschätzungen zu reduzieren und die Ergebnisse zu verbessern.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Illusion von Korrektheit
Der Zauber – und das Risiko – von großen Sprachmodellen wie GPT-3 als Basis von ChatGPT liegt laut Beobachtern darin, dass sie nur eine Illusion von Korrektheit liefern. Sie arbeiteten mit der Vorhersage des wahrscheinlichsten nächsten Wortes in einem Satz. Ob diese richtig oder falsch sei, wisse die KI nicht. Dies könne bereits häufig polarisierte Diskurse in Online-Umgebungen weiter verzerren. Die enorme Geschwindigkeit der Entwicklung in diesem Sektor bedeute, dass jegliche Methoden, KI-generierte Texte zu erkennen, sehr schnell wieder alt aussähen.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Das Büro für Technikfolgen-Abschätzung beim Bundestag forderte jüngst ein Label für automatisch erstellte Texte. Im Dezember kündigte OpenAI an, von ChatGPT erstellte Zeichenabfolgen mit einem Wasserzeichen zu versehen, um Plagiate zu bekämpfen. Zudem besagten die Geschäftsbedingungen des Bots, dass User davon generierte Texte unmissverständlich kennzeichnen müssten.
(bme)
