Die Lügenmaschine

Es war eigentlich nur eine Frage der Zeit. Jetzt haben US-Wissenschaftler erstmals Software dazu gebracht, automatisch Lügen zu produzieren. Frei erfundene Geschichten, die den Zweck haben, den Leser in die Irre zu führen beziehungsweise zu manipulieren. Kann man jetzt gar nichts mehr glauben?

Diese Geschichte ist jedenfalls nicht frei erfunden. Yuanshun Yao von der University of Chicago und Kollegen haben ein rekurrentes neuronales Netz darauf trainiert, Texte zu produzieren, die Bewertungen von Restaurants auf Yelp verblüffend ähneln, obwohl sie völlig frei erfunden sind. Die Texte sind so gut, dass auch menschliche Tester sie in der Regel nicht als Fälschung entlarven konnten.

Füttert man dieses neuronale Netz ausschließlich mit positiven Bewertungen, produziert es weitere positive Bewertungen. Trainiert man die Maschine mit Kritik und Missfallen, produziert sie Verrisse. Die Software ließe sich damit hervorragend zur automatisierten Manipulation von Bewertungen verwenden, schreiben die Forscher in ihrem Paper.

Nun könnte man einwenden, dass der ganze Aufwand ja eigentlich gar nicht nötig sei, denn Menschen, die frei erfundene Restaurantbesprechungen, Buchkritiken oder Produktempfehlungen schreiben, gibt es im Dutzend billiger. Dass das Geschäft mit den so genannten Crowdturfing-Sites blüht und gedeiht, ist seit Jahren bekannt. Gefühlt kann man im Internet an jeder Ecke für kleines Geld menschliche Crowdworker anheuerm, die irgendwo in Indien sitzen, in Afrika oder Osteuropa und frei erfundene Bewertungen am Fließband produzieren.

Das Problem ist allerdings, dass menschliche Schreiber Geld kosten. Nicht viel, aber mehr als nichts. Die Maschine braucht nur Strom. Außerdem sind Google, Amazon, Yelp und wie sie alle heißen, darauf angewiesen sind, dass ihre Kundenbesprechungen nicht nur kompletten Müll enthalten. Also haben die Betreiber dieser Seiten mit der Zeit Software entwickelt, die Crowdturfing-Kampagnen automatisiert erkennt und die entsprechenden Beiträge gleich wieder löscht. Wenn beispielsweise über Nacht zu einem Restaurant zwanzig positive Besprechungen auftauchen, die noch dazu alle von ähnlichen Internet-Adressen online gestellt werden und austauschbare Textbausteine verwenden, ist das hochgradig verdächtig.

Die Lügen-Maschine von Yao und Kollegen könnte da Abhilfe schaffen. Sie ist verblüffend vielseitig und kann ihren Content wohldosiert ausliefern. Vor allem aber kann sie lernen, immer besser zu fälschen, und die automatische Fälschungssicherung immer besser auszutricksen. Genau dieselben neuronalen Netzwerke kann man allerdings auch verwenden, um gefälschte Besprechungen zu entlarven. Denn die maschinellen Texte verraten sich zwar nicht durch die Wortwahl, aber durch die Häufigkeitsverteilung der Buchstaben, die in ihnen vorkommen.

Besteht die Zukunft also irgendwann nur noch aus Maschinen, die versuchen, sich gegenseitig auszutricksen? Ich muss zugeben, diese Vision ist ein wenig unheimlich – aber in gewisser Weise auch tröstlich. Denn um den Menschen, der ja eigentlich betrogen werden soll, geht es gar nicht mehr. Während die Maschinen also versuchen, sich gegenseitig über Ohr zu hauen, gehen wir einfach nach Hause – eine schöne Tasse Kaffee trinken. (wst)