Mensch und KI Hand in Hand
Forscher arbeiten an intelligenter Software, die so mit Menschen zusammenarbeiten soll, dass beide Seiten profitieren.
- Tom Simonite
Der Fortschritt in der Künstlichen Intelligenz (KI) wurde lange daran gemessen, wie gut Rechner mit komplexen menschlichen Spielen umgehen können. Bei Schach, Backgammon oder Go macht mittlerweile niemand Kollege Computer mehr etwas vor. Inzwischen arbeiten Forscher auch an KI-Systemen, die pokern können – oder Computergames wie "Starcraft" beherrschen.
Methoden, um KI und Fortschritte zu messen
Iyad Rahwan, Professor am MIT, hat Respekt vor diesen Meilensteinen, findet aber, dass es nicht ausreicht, immer nur auf das Übertrumpfen menschlicher Gegner durch den Computer abzuzielen. Die Forschung müsse andere Methoden finden, an denen sie KI-Systeme und ihren Fortschritt misst. Wenn sich smarte Maschinen durchsetzen sollen, so Rahwan, brauchen wir Software, die lernt, mit Menschen zu kooperieren.
"Das ist das nächste zentrale Problem, weil KI-Systeme uns nicht immer ersetzen, sondern mit uns leben müssen. Menschliche Interaktionen sind fast nie ein Nullsummenspiel. Selbst in ambitionierten KI-Projekten sind sie aber häufig ein blinder Fleck."
Algorithmen, die von menschlicher Kooperation lernen
Rahwan arbeitet mit Kollegen in den USA, Großbritannien, Frankreich, Australien und den Vereinigten Arabischen Emiraten zusammen, um das zu ändern. In einer ihrer aktuellen Studien nutzte die Forschergruppe einfache Experimente, die in den Verhaltenswissenschaften verwendet werden, um zu untersuchen, wie Menschen miteinander kooperieren – oder auch nicht. Auf deren Basis sollte herausgefunden werden, wie Algorithmen lernen können, mit Menschen zusammenzuarbeiten.
Zu den getesteten Interaktionsmustern gehörte das Gefangenenproblem (Prisoner's Dilemma), bekannt aus der Spieltheorie. Dabei übernehmen Spieler die Rolle von Kriminellen, die entscheiden müssen, ob sie sich gegenseitig betrügen wollen. Obwohl es grundsätzlich sehr simpel ist, kann das Problem genutzt werden, um echte Strategien in verschiedenen komplexen Bereichen zu analysieren – von der Klimapolitik bis zur Werbung.
KI- und Menschen-Teams im Test
Anfangs waren die Resultate von Rahwan allerdings eher enttäuschend. Menschen und KI-Spieler arbeiteten seltener zusammen als Menschen untereinander. Das änderte sich, nachdem die Forscher sowohl den Menschen als auch ihren Algorithmen die Möglichkeit gaben, vor dem Spiel einen von 19 verschiedenen Sätzen mitzuteilen. Darunter: "Mach', was ich sage, oder ich werde Dich bestrafen", "Ich ändere meine Strategie" oder "Gib' mir noch eine Chance".
"Sobald die Maschinen zu sprechen begannen, gab es von den Leuten eine ganz andere Reaktion", so Jacob Crandall, Juniorprofessor an der Brigham Young University, der an der Studie beteiligt war. "Die Menschen konnten Menschen von Maschinen nur schwer unterscheiden." Ergo: Es braucht immer zwei, um zu kooperieren – und die einfachen Nachrichten der Maschinen reichten schon aus, um den Menschen zur Zusammenarbeit zu motivieren.
Maschinen logen nie
Beim Test dreier verschiedener Spiele ergab sich, dass Menschen ungefähr gleich so häufig mit einem KI-Spieler kooperierten wie mit anderen Menschen. Traten zwei Maschinen gegeneinander an, klappte die Zusammenarbeit am besten, weil sie verlässlicher miteinander kooperierten – und im Gegensatz zu menschlichen Spieler nie logen.
Rahwan und seine Kollegen schufen einen Algorithmus, der vorab mehrere vielversprechende Strategien errechnet – und diese dann je nach den Aktionen des Gegenspielers anwendet. Als Grundlage einer besseren Zusammenarbeit zwischen Mensch und Maschine ist er zwar nicht gedacht, aber er zeigt, welche Experimente in diesem Bereich noch möglich wären.
Mehr Forschung zur Mensch-Maschine-Interaktion
Oren Etzioni, Direktor des Allen Institute for Artificial Intelligence in Seattle hofft, dass hier noch weiter geforscht wird. "Die Zukunft, die wir brauchen, ist eine Zukunft, in der wir mit Maschinen an unserem Arbeitsplatz gemeinsam arbeiten, entsprechend sinnvoll ist es, diese Form der Kooperation intensiver zu untersuchen."
Der Übergang von einfachen Spielen aus dem Bereich der Verhaltenswissenschaften hin zu komplexeren Szenarien wird jedoch nicht leicht, meint Etzioni. Es braucht Software, die die menschliche Sprache gut beherrscht – für Go oder "Starcraft" eher weniger notwendig. Spiele dieser Art dürften KI-Forscher aber auch künftig interessieren, meint Etzioni – es sollten aber eher interaktionsbezogene wie "Risiko" und Co. sein. "Die sind ein gutes Testbett für Fähigkeiten zur Zusammenarbeit." (bsc)
