Können Roboter lügen?

Lügen ist die höchste Form der Intelligenz

Es gibt viele Lebewesen, die andere täuschen können, sei es durch Mimikry oder besondere Verhaltensmuster. Es gibt aber nur ein einziges Geschöpf, das (auf eine "theory of mind" gestützt) wirklich alles verdrehen kann: der Mensch.

Wer nicht lügen kann, weiß nicht, was Wahrheit ist.

Friedrich Nietzsche in "Also sprach Zarathustra"

Wer kennt den Roboter HAL nicht? Für mich ist er der großartigste Roboter, der je in einem Science-Fiction-Film gezeigt wurde. In Stanley Kubricks "2001: Odyssee im Weltraum" besteht sein Körper aus der gesamten Raumfähre. So wie das mythische Ungeheuer Argus tausend Augen hat, so kontrolliert HAL unzählige Kameras, überdimensionale rote Augen, denen nichts entgeht.

Dieser Computer HAL 9000 (für Heuristically programmed ALgorithmic Computer) ist damit beauftragt worden, Astronauten zum Jupiter zu geleiten, muss aber gleichzeitig die wahren Ziele der Mission vor ihnen geheim halten. HAL muss also die Weltraumfahrer belügen, womit er zugleich eine unsichtbare Schwelle überschreitet, nämlich das Tor zum Selbstbewusstsein und zu wahrer kreativer Intelligenz. HAL wird am Ende menschlich, allzu menschlich, denn seine Intelligenz ist eine mörderische, eine machiavellistische.

Dürfen Roboter also Menschen belügen? Nach dem Asimovschen Roboter-Gesetzen wäre es ihnen vermutlich nicht gestattet: Nach Asimovs Zweiten Gesetz sind Roboter den Menschen zum Gehorsam verpflichtet, d.h. sie müssten auf eine von Menschen gestellte Frage mit der Wahrheit herausrücken. Ein gewisser Spielraum bleibt dennoch: Nach dem Ersten Gesetz müssen Roboter die Menschen beschützen. Es könnte dann sein, dass eine "weiße" Lüge Menschen vor sich selbst schützt. So sind eben die Asimovschen Gesetze: wie ein Schweizer Käse, voller Löcher.

Alan Turings Intelligenztest enthält implizit die Notwendigkeit der Lüge. Im "Turing-Test" unterhält sich ein Mensch per Chatzeile mit einem anderen Menschen bzw. einem Computer. Kann der Fragende nicht besser als per Zufall Mensch von Computer unterscheiden, so halten wir diesen Computer für intelligent. Der Computer ist im Test gezwungen, den Menschen zu belügen und muss jederzeit behaupten, er sei ein Mensch. Nur wenn dies überzeugend gelingt und der Computer glaubhaft über die Wärme des Frühlings, über die Erhabenheit der Liebe und über die Traurigkeit des Todes dichten kann, gilt der Turing Test als bestanden.

Allerdings verabscheuen Philosophen die Lüge - seit jeher streben sie beharrlich nach der Wahrheit. Theologen wie Augustinus von Hippo würden die Frage eines Räubers, ob Geld im Hause vorhanden sei, eher bejahen als eine Sünde zu begehen. Für Nietzsche (der Kubrick offenbar beeinflusste) war aber die Möglichkeit und sogar Notwendigkeit der Lüge, bereits im Wesen der Sprache selbst gegeben. Dass die Menschen die Wahrheit sagen, ist erklärungsbedürftiger als die Lüge selbst:

Der Intellekt, als ein Mittel zur Erhaltung des Individuums, entfaltet seine Hauptkräfte in der Verstellung; denn diese ist das Mittel, durch das die schwächeren, weniger robusten Individuen sich erhalten, als welchen einen Kampf um die Existenz mit Hörnern oder scharfem Raubtier-Gebiß zu führen versagt ist. Im Menschen kommt diese Verstellungskunst auf ihren Gipfel: hier ist die Täuschung, das Schmeicheln, Lügen und Trügen, das Hinter-dem-Rücken-Reden, das Repräsentieren, das im erborgten Glanze Leben, das Maskiertsein, die verhüllende Konvention, das Bühnenspiel vor anderen und vor sich selbst, kurz das fortwährende Herumflattern um die eine Flamme Eitelkeit so sehr die Regel und das Gesetz, daß fast nichts unbegreiflicher ist, als wie unter den Menschen ein ehrlicher und reiner Trieb zur Wahrheit aufkommen konnte.

Friedrich Nietzsche

Und als ob Nietzsche schon den Turing-Test vorausgesehen hätte, schreibt er:

Denn die Lüge erfordert Erfindung, Verstellung und Gedächtnis. (Weshalb Swift sagt: wer eine Lüge berichtet, merkt selten die schwere Last, die er übernimmt; er muss nämlich, um eine Lüge zu behaupten, zwanzig andere erfinden.)

Sogar Plato hat sich ausführlich mit der Lüge beschäftigt und lässt im seinem Hippias-Minor-Dialog Sokrates mit Hippias über die Lüge disputieren. Das Paradoxon, welches Sokrates aufdeckt ist, dass (ebenso wie ein schneller Läufer ohne weiteres Langsamkeit heucheln kann) auch ein Lügner, der die Wahrheit kennt, am besten zu lügen vermag. Er kennt die wahren Fakten und kann sich deswegen am Besten drumherumwinden. Diese Erkenntnis ist Sokrates etwas unbehaglich und er bekennt am Ende: "Ich schwanke hierüber bald so, bald so, und bleibe mir niemals gleich in meiner Meinung."1

Verstellung und Desinformation im Tierreich

Tiere können nicht eigentlich lügen, sie können höchstens täuschen. Mimikry ist ein häufig anzutreffendes natürliches Phänomen: Ein Lebewesen versucht, als anderes oder etwas anderes zu erscheinen. Stabinsekten z.B. sehen aus wie kleine Äste eines Baumes. Blätterinsekten haben perfektere Blätter als Pflanzen. Sogar Bakterien können sich mit Proteinen umhüllen, die einen Wirt übertölpeln.

Täuschen ist jedoch ein unidirektionales Phänomen. Es wird etwas vorgetäuscht (ich bin kein Insekt, sondern ein Blatt) und die Strategie kann, muss aber nicht, funktionieren. Der mentale Zustand des Gegners ist unerheblich und wird nicht berücksichtigt. Es findet keine bidirektionale Interaktion statt. Man muss nicht weitere 20 Lügen erfinden, um die erste Lüge zu stützen. Mimikry als Verstellung dient, wie Nietzsche oben anmerkt, der Erhaltung der Spezies.

Gibt es Tiere, die eher durch Verhalten als durch Aussehen täuschen können? Einige Tiere stellen sich bei Angriffen tot oder verletzt, um vom Nachwuchs abzulenken. Dies sind jedoch so etwas wie eingespeicherte Verhaltensprogramme, die bei gewissen Gefahrensituationen automatisch abgerufen werden.

Experimente mit Affen haben gezeigt, wie weit diese halbwegs auf dem Weg zu einer machiavellistischen Intelligenz gekommen sind. Auf Englisch redet man von "deception" und "tactical intelligence". Bei deception geht es darum, die eigenen Intentionen zu verbergen oder etwas anderes vorzumachen. Bei tactical intelligence kann der Boden für eine gewünschte Handlung nach und nach vorbereitet werden. Es ist das sogenannte Um-die-Ecke-Denken. So können Affen Umwege laufen, um sich an Futter oder Geschlechtspartner ranzumachen. Bei einem Experiment haben beispielsweise Affen menschlichen "Futterkonkurrenten" Desinteresse am Futter vorgetäuscht, um sich dann, unbeobachtet, das Futter zu holen.

Call und Tomasello haben 2008 auf die letzten dreißig Jahre Forschung rund um die Frage zurückgeblickt, ob Affen eine "theory of mind" (Einblick in die mentalen Prozesse anderer) besitzen oder nicht. 2 Die Antwort ist ein klares: Jein. Einerseits können Affen Intentionen bei menschlichen Handlungen interpretieren, sie können aber mit negativen Informationen nicht umgehen. In einem Experiment, lernen die Affen beispielsweise, einen Lichtschalter durch Beobachtung eines Menschen zu betätigen. Bei Affen, bei denen der Mensch mit dem Fuß den Schalter drückt, machen es die Affen ebenfalls mit dem Fuß. Bei Affen, bei denen der Mensch die Hand benutzt, drücken sie mit der Hand. Trägt aber der Trainer eine Kiste in den Händen, so dass er gezwungen ist, den Schalter mit dem Fuß zu drücken, so schalten die Affen danach doch mit der Hand. Sie können die Intention des Menschen verstehen ("Licht einschalten") und abstrahieren dies von den konkreten Gliedmaßen, die der Trainer verwendet hat.

Affen können aber mit Lügen nicht so richtig umgehen. Das ist das Ergebnis von zwei sehr interessanten Experimenten von Krachun, Carpenter, Call und Tomassello.3 Im ersten Experiment konnte ein Affe A beobachten, dass Futter in einem von zwei Behältern versteckt wurde (die Behälter waren für ihn jedoch durch eine Blende verdeckt). Er konnte auch sehen, dass ein anderer Affe B die Behälter ungehindert sehen konnte und somit genau wusste, wo das Futter lag. Danach ließ man den Affen B zuerst nach dem Futter greifen, aber die Behälter waren für ihn knapp außer Reichweite. Durch den Griff verriet Affe B jedoch, wo das Futter war, so dass anschließend Affe A sofort in den richtigen Behälter greifen konnte (für ihn waren sie in Reichweite). Dies bedeutet, dass Affen die in der Greifhandlung enthaltene Information extrahieren können.

Im zweiten Experiment wurde das Prozedere wiederholt, aber Affe B (der "Wissende") konnte, nachdem das Futter versteckt wurde, nicht sehen, dass die Behälter vertauscht wurden (Affe A, der "Unwissende", konnte aber das Vertauschen sehen). Affe B hat, als die Blende entfernt wurde, natürlich zu der ihm bekannten (und nun falschen Position) gegriffen. Da der Behälter außer Reichweite war, konnte er die Hand nicht hineinstecken. Nun war Affe A an der Reihe. In die pelzigen Schuhe des Affen A gezwungen würden wir natürlich zu dem anderen Behälter greifen, weil wir wissen, dass diese vertauscht wurden und dass Affe B das Vertauschen nicht bemerkte. Schon fünfjährige Kinder können diese Aufgabe korrekt lösen. Affe A greift jedoch wieder zu der von Affen B nicht erreichten Stelle! D.h. der Affe kann der Gedankenkette nicht folgen: "Affe B hat gesehen wo das Futter war, aber die Behälter sind vertauscht worden, und das weiß er nicht." Affen können also Desinformation nicht verarbeiten. In diesem Sinne fehlt es bei ihnen an einer wichtigen Komponente für eine echte Mentalisierung der Handlungen Anderer.

Desinformation nicht nur verstehen, sondern aktiv erzeugen, das ist, was der Lügner vortrefflich tut, um andere auszubeuten.

Lügen in der Gesellschaft

Wenn sich das Lügen für einen Lügner unmittelbar auszahlt, warum sollte der Mensch also nicht lügen? Das ist eine wirklich harte Nuss z.B. für die Utilitaristen, die menschliche Handlungen anhand einer Art individueller Kostenfunktion zu erklären versuchen. Es ist ein bisschen wie in der Spieltheorie, wo beim Gefangenendilemma jeder der Gefangenen seine Kostenfunktion individuell durch Verrat maximieren kann, obwohl dies zur Lasten aller Beteiligten geht. Lügen kann für den einzelnen vorteilhaft sein, nicht jedoch für die Gesellschaft. Robert Axelrod hat mit dem "iterierten Gefangenendilemma" die Bestrafung der Lügner als mögliche Lösung herausgearbeitet.

Für Philosophen wie Immanuel Kant ist das echte Übel des Lügens deswegen in der Sozialität der Menschen zu suchen. Wahrhaftigkeit ist für Kant die Grundlage der zivilen Gesellschaft, da sonst Verträge unmöglich werden, wenn sich keiner an das gegebene Wort hält und alle zu betrügen versuchen. Wahrhaftigkeit ist einer der kategorischen Imperative, jene Vorschriften, die auf jeden Fall einzuhalten sind, nach dem Motto: "Handle nach der Maxime, die sich selbst zugleich zum allgemeinen Gesetze machen kann." Nicht einmal bei Gefahr ist eine Lüge zulässig, "weil Wahrhaftigkeit eine Pflicht ist, die als die Basis aller auf Vertrag zu gründenden Pflichten angesehen werden muss, deren Gesetz, wenn man ihr auch nur die geringste Ausnahme einräumt, schwankend und unnütz gemacht wird". 4

Dieser Rigorismus von Kant ist von vielen anderen Philosophen in Frage gestellt worden. Wenn Lügen ein Menschenleben retten kann und sonst keine weiteren Auswirkungen auf die Gesellschaft hat, sollte dieses Lügen erlaubt sein. Schopenhauer hat dieses "Recht auf Lüge" intensiv herausgearbeitet und zumindest die Lüge bei Notwehr, beim Arzt und in "edelmütigen" Situationen als zulässig erklärt.

Sehr interessant ist in diesem Zusammenhang Schopenhauers Rechtfertigung der Religion, deren Kern wahr sei, ohne dass ihre Aussagen ebenso wahrhaftig wären. In "Parerga und Paralipomena" diskutieren Demopheles und Philateles über Religion. Demopheles erklärt die Religion als nur durch Allegorien vermittelbar, wie das Wasser, für dessen Transport man ein Gefäß braucht, ohne dass Wasser und Gefäß dasselbe wären. Und er fügt hinzu: "Jedenfalls aber ist Religion die allegorisch und mythisch ausgesprochene und dadurch der Menschheit im Großen zugänglich und verdaulich gemachte, Wahrheit: denn rein und unversetzt könnte sie solche nimmermehr vertragen; wie wir nicht im reinen Oxygen leben können, sondern eines Zusatzes von 4/5 Azot bedürfen." Wie Philateles dazu anmerkt, wäre Religion dann die "Wahrheit im Gewande der Lüge."

Schopenhauers Einstellung zum Lügen (oder "allegorisch" Lügen) ist demnach etwas realistischer als die Kants. Ohne den kategorischen Imperativ zu akzeptieren, unter allen Umständen die Wahrheit sagen zu müssen, erkennt Schopenhauer prinzipiell den Wert der Wahrheit an, aber ebenso die Notwendigkeit der Lüge, z.B. bei der Religion, bei der die große Masse die "unverdaute" Wahrheit nicht begreifen könnte. Wir sehen schon: Nicht einmal die Philosophen sind unter sich einer Meinung, wenn es um das Lügen und die Rechtfertigung des Lügens geht. Sie schwanken wie einst Sokrates.

Warum ist es so schwer zu lügen?

Lügen ist deswegen so anstrengend, weil Menschen anders als Affen eine robuste "theory of mind" besitzen und immer darauf achten müssen, welche Information das Gegenüber hat und welche Geschichte am besten zum gegenwärtigen Informationsstand passt. Wenn ich mich mit jemandem unterhalte, ist es mir bewusst, dass mein Gegenüber die ganze Zeit an etwas denkt, d.h. dass mentale Zustände sich abwechseln. Im Gespräch versuchen wir, dem Gesprächspartner unsere eigenen mentalen Inhalte zu übermitteln. Manchmal synchronisieren sich die Gesprächsteilnehmer und nehmen sogar gespiegelte Haltungen an. Beim Gespräch antizipieren wir das, was der andere denkt oder denken kann. Wir handeln immer vorausschauend, Reaktionen antizipierend. Nichts ist verwunderlicher, als wenn jemand über einen Witz nicht lacht oder bei einer schlechten Nachricht nicht traurig wird.

Lügen ist aufreibend, weil wir unsere normalen Reaktionen verbergen müssen. Ein erwischter Verbrecher muss Desinteresse oder sogar Überraschung an einem Tathergang vorspielen. Verbrecher widersprechen sich jedoch beim Verhör schnell: Immer wenn eine neue Information dazukommt, müssen sie die Geschichte neu anpassen und häufig gelingt dies nicht mehr. Beim Verhör können die gesicherten Fakten taktisch nach und nach offengelegt werden, um Widersprüche in der Geschichte des Verhörten zu erzwingen. Die beste Strategie für den Beschuldigten, und das wissen Anwälte, heißt, einfach zu schweigen.

Eine große psychische Belastung für jeden Lügner ist eine Verhörtechnik, bei der die Person ausführlich und detailliert befragt wird. Dann muss der Verhörte seine Geschichte rückwärts erzählen, vom Ende bis zum Anfang. Bei echten Erinnerungen ist dies schwer, aber möglich. Bei einer ad hoc hin gebastelten Geschichte ist es viel schwieriger, alle Details richtig zurechtzupuzzeln.5 Psychologen nennen dies, die kognitive Last der Aufgabe gezielt erhöhen. Vielleicht erfahren gerade deswegen hervorragende Lügner große Beachtung, weil lügen so schwer ist. Von Pinocchio bis Münchhausen ist die Weltliteratur vollgestopft mit grandiosen Schwindlern. Dagobert, der Berliner Gauner, wurde auf seine Art auch ein Volksheld.

Roboter, die lügen

Aber zurück zu den Maschinen. Der allererste Roboter im Film war gleich ein Lügner, besser gesagt eine Lügnerin. In Fritz Langs Metropolis erschafft der Erfinder Rotwang einen Roboter, der die Identität der Predigerin Maria, eine Art Schutzengel der ausgebeuteten Arbeiter, annimmt. Die robotisierte Maria bezirzt und belügt die Arbeiter, predigt den Klassenkampf, führt sie zur Rebellion und transformiert sie in Maschinenstürmer, die die eigene unterirdische Stadt mutwillig überfluten. Dabei handelt der Roboter auf Anweisung der Arbeitgeber, auch wenn die hedonistische Maschine am Ende unkontrollierbar wird. Der Film endet mit der Vernichtung des Roboters und der Verbrüderung von "Hand und Kopf" (Arbeiter und Kapitalisten), ein Happy End, wie es die Weimarer Republik selbst nicht hatte.

Neuerdings haben sich auch Robotiker mit der Frage auseinandergesetzt, ob es möglich wäre, das Lügen als Überlebensstrategie für Roboter evolutiv entstehen zu lassen. Ein erstes Experiment, das 2009 in den Medien viel beachtet wurde, waren Roboter, die gelernt haben, ihre Lichter auszuschalten, sobald sie "Futter" gefunden hatten.6 Das Experiment war relativ simpel: Roboter hatten LEDs, die zufällig gefunkelt haben. Die Roboter haben sich an Futterquellen gesammelt (Stellen, wo den Robotern eine virtuelle Belohnung gegeben wurde). Damit hat sich das Licht dort spontan konzentriert. Da die Roboter ein binäres Genom trugen, das deren Verhalten bestimmt hat, und da die Roboter nach ihrer "Fitness" selektiert wurden, haben sie zuerst evolutiv gelernt, Präsenz von Licht als Information für Futterstellen zu deuten. Da sich aber zu viele Roboter auf die Futterstellen gedrängt haben, haben dann einige Roboter erlernt, ihre Lichter auszuschalten, um so das gefundene Futter nicht zu verraten. Somit hat eine Ko-Evolution zwischen "ehrlichen" und "unehrlichen" Robotern stattgefunden.

Das Experiment kann allerdings kaum als "Roboter, die lügen" bezeichnet werden. Das ist einfach die Hemmung der Weitergabe von Informationen an den Konkurrenten. Jedes gescheite Tier lernt, sich zu verstecken, sogar Leoparden verzehren die Beute lieber im Baum versteckt als am Boden. "Keine Information" ist nicht dasselbe wie "falsche Information".

Ein viel komplexeres Verhalten würden deswegen Roboter zeigen, die nicht nur Informationen vorenthalten, sondern den Konkurrenten gezielt Desinformationen zuspielen würden. Dafür braucht man allerdings keine echte Mentalisierung, man muss nur die anderen auf den falschen Pfad bringen. Das haben 2011 Wagner und Arkin mit Robotern, die deception gelernt haben, getan.7 Der theoretische Rahmen ist eher einfach: Roboter entscheiden über die nächste Aktion und versuchen, eine erwartete Gewinnmatrix (die je nach Gewinn Zustände zu Aktionen abbildet) zu berechnen. Gleichzeitig induzieren sie durch das Auslegen von falschen Spuren eine falsche Gewinnmatrix in den Gegner. In den konkreten Experimenten ging es um einen Roboter, der sich versteckt, aber eine Marke bei einem anderen Versteck hinterlässt, um einen Verfolger irrezuleiten. In diesem Experiment ist der mentale Zustand des anderen durch die falsche Gewinnmatrix repräsentiert. Der Roboter muss dann in einem evolutiven Prozess die echte Gewinnmatrix und gleichzeitig die falsche Matrix in seinem Sinne optimieren (de-optimieren für den Gegner).

Das ist das höchste der Gefühle bei solchen Experimenten mit "lügenden" Robotern, obwohl sich Blogger jedes Mal, wenn ein solcher Roboter auftaucht, unkritisch auf die Meldung stürzen. Viel weiter wird man in naher Zukunft nicht kommen, da Computer schlicht und einfach sehr schlechte Lügner sind und es auf absehbare Zeit auch bleiben werden. Ohne eigenen Geist können sie schlecht eine "theory of mind" besitzen. Um Nietzsches Diktum am Anfang dieses Beitrags umzukehren: Roboter kennen die Wahrheit nicht, deswegen können sie nicht lügen. Da Robotiker Menschen sind und auch so lügen können, dass sich die Balken biegen, muss man ihren Kreationen aber trotzdem genau auf die mechatronischen Finger schauen.