Konkurrenz oder Kooperation: DeepMind erforscht KI-Tendenzen

Wie löst künstliche Intelligenz das Gefangenendilemma? Googles Tochter DeepMind hat untersucht, ob KI-Agenten untereinander kooperieren können.

In Pocket speichern vorlesen Druckansicht 9 Kommentare lesen
Konkurrenz oder Kooperation: DeepMind erforscht KI-Tendenzen
Lesezeit: 2 Min.

Kooperation oder Egoismus, das sind die beiden Möglichkeiten bei Spielen wie dem Gefangenendilemma. Das Prinzip: Wer kooperiert, gewinnt nur dann, wenn sich auch die zweite Partei zur Mitarbeit bereit erklärt. Der Egoist triumphiert immer über den Teamplayer, aber bei zwei Eigensinnigen verlieren beide. Solche aus der Spieltheorie bekannten Dilemma-Spielchen hat die Google-Tochter DeepMind (unter anderem verantwortlich für die erfolgreich auch gegen Spitzenspieler spielende Go-KI AlphaGo) nun mit künstlicher Intelligenz ausprobiert.

Mit der nun veröffentlichten Studie will DeepMind herausfinden, ob sich mehrere KI-Agenten untereinander vertragen können. Eine wichtige Frage für die Zukunft, in der KIs in zahlreiche Bereiche des alltäglichen Lebens vordringen könnten und dabei wohl oder übel auch untereinander interagieren müssten.

In einem Test ließ DeepMind zwei KI-Agenten Äpfel sammeln. Dabei gab es die Möglichkeit, den Gegen- oder Mitspieler kurzzeitig auszuschalten, um selbst mehr Obst zu bekommen. Dazu muss die KI aber genau zielen und die Bewegungen des anderen Agenten exakt verfolgen.

Nach tausenden Durchläufen kristallisierte sich ein Muster: Gab es ausreichend Äpfel, ließen sich die beiden KI-Agenten gegenseitig in Ruhe. Beide versuchten friedlich für sich, so viele Äpfel wie möglich einzusammeln. Bei knappen Ressource wurden die KIs aggressiver und tendierten dazu, auf den anderen Agenten zu schießen, um selbst mehr Äpfel einsammeln zu können. Komplexere KI-Agenten hingegen neigten dazu, den anderen Spieler häufiger aus dem Spiel zu nehmen, auch wenn ausreichend Ressourcen vorhanden waren.

Das Gegenteil passierte beim Spiel "Wolfpack": KI-Agenten müssen eine Beute verfolgen und erlegen. Das ist einfacher, wenn beide zusammenarbeiten. Hier zeigten KI-Agenten mit der Fähigkeit zu komplexeren Strategien einen deutlicheren Drall zur Kooperation. Vielschichtige KIs sind also nicht per se aggressiver: Das Verhalten hängt vom Szenario und dessen Regeln ab. (dahe)