Trainingsdaten unter Zensur? Welche Probleme China mit seinem KI-Chatbot hat
China gilt bislang in einigen Bereichen der KI als führend. Das US-Start-up OpenAI und Microsoft mit ihrer ChatGPT-Offensive könnten die Dynamik ändern.
Wie sich die KI Midjourney einen chinesischen KI-Chatbot vorstellt.
(Bild: Erstellt mit Midjourney durch MIT Technology Review.)
- Martin Kölling
Keine Frage – Künstliche Intelligenz ist ein mächtiges Instrument. Besonders für die Volksrepublik China. Sie macht sich diese tagtäglich für ihren Diktatorentraum zu Nutze: mit Kamera-, Internet-, App- und Chatkontrolllen der Bürger. Paradoxerweise könnte ausgerechnet das Wesen der chinesischen Diktatur dazu führen, dass das Reich der Mitte beim Wettrennen um den Diktatorentraum zurückfällt. Wie die jüngste Vorstellung des eigenen KI-Chatbots namens Ernie vom Google-Pendant Baidu eindrücklich demonstriert.
Ernie (Enhanced Representation through Knowledge Integration) gehört zu den Large-Language-Modellen und nutzt Deep-Learning-Algorithmen, um gefüttert mit riesigen Textmengen natürliche Sprache zu verarbeiten, zu verstehen und (mehr oder wenig) sinnvolle Antworten auf Fragen zu geben. Nur trauten sich die Manager des Suchriesen keine Live-Vorführung ihres Programms zu, sondern spulten nur Videos ab. Enttäuschte Investoren trieben noch während der Präsentation Baidus Aktienkurs nach unten.
Vielleicht vermuteten die Anleger, dass Ernie weniger kann als Googles Bard oder gar ChatGPT. Nur dürfte es nicht nur technologisches Vermögen sein, dass Baidu bremst. Eher zeigt sich hier, dass das mit Zensur und Unterdrückung durchgesetzte Macht- und Meinungsmonopol der Kommunistischen Partei nicht nur den geistigen Horizont von Menschen begrenzt, sondern womöglich auch von den neuen, intelligenten Chat-Programmen.
Zensur begrenzt Trainingsdaten von KI-Modell Ernie
Schon die Auswahl der Texte fürs Training des maschinellen Gehirns ist in einer Diktatur wahrscheinlich herausfordernder als in einer Demokratie. Denn in China dürfte schon die Zensur den Textkörper begrenzen, in demokratischen Ländern allenfalls die "Selbstzensur" der Entwickler.
Im nächsten Zug muss Baidu auch noch sicherstellen, dass die Antworten des Systems nicht den Vorgaben der kommunistischen Partei widersprechen. In einem Land, wo je nach derzeitig als gefährlich eingestuften Themen selbst alte Beiträge nahezu rückstandsfrei aus dem Internet geputzt werden, dürfte die Beherrschung der KI daher eine interessante Herausforderung für Entwickler und Zensoren darstellen.
Auch könnten sich in den USA die Chat-Apps nun schneller entwickeln als in China. In den USA können etablierte Unternehmen und Start-ups relativ ungehindert KI weiterentwickeln. Denn es droht ihnen keine irdische Haft für Verstöße gegen das Meinungs- und Machtmonopol einer Partei. Stattdessen müssen die Entwickler – je nach ihrem Glauben – lediglich vor ihrem Gewissen oder Gott für ihre Taten gradestehen und nur in den seltensten Fällen vor Gericht.
Gesellschaftliche Veränderungen durch Künstliche Intelligenz
Diese Freiheit hat es OpenAI erlaubt, ein System öffentlich zu machen, das selbst in den Augen seiner Schöpfer noch unreif ist. So erklärte OpenAI-Chef Sam Altman in einem Youtube-Podcast mit Lex Fridman, dass das System noch langsam und voller Bugs sei. Aber dahinter steckt System. "Wir wollen unsere Fehler machen, solange der Einsatz gering ist", sagte Altman. Er glaubt, dass ein Ansatz von Versuch und Irrtum es den Entwicklern erlaube, die guten und die schlechten Teile finden, sie schnell verbessern. Denn es sei sehr wichtig, "den Menschen Zeit geben, die Technologie zu erfahren, sie mit uns zu gestalten und uns Feedback zu geben."
Die Nebenwirkung ist allerdings, dass OpenAI und Microsoft nun ein rasantes Investitionswettrennen der Privatwirtschaft ausgelöst haben. Dieser Ansturm dürfte irgendwann wieder zu einer Spekulationsblase führen. Aber davor wird der Geldregen eine Blüte der KI-Systeme auslösen, die ihre gesellschaftliche Ausbreitung und Nutzung beschleunigen wird.
Der Sprung ist so groß, dass Tesla-CEO Elon Musk und mehr als 1.300 Wissenschaftler und Unternehmer diese Woche in einem offenen Brief ein sechsmonatiges Entwicklungsmoratorium gefordert haben. Aber selbst wenn sich die Unternehmen dem anschließen werden, würde es sich nur um einen Aufschub handeln. Die Zukunft wird zeigen, ob eine Diktatur wie die chinesische in einem solchen Wettrennen mithalten kann.
(jle)