Bundeswehrforscher zu Killer-Robotern: Das Töten darf nicht outgesourct werden

Inhaltsverzeichnis

Frank Sauer vom Institut für Politikwissenschaften an der Universität der Bundeswehr in München meint, der Mensch dürfte nicht aus Entscheidungszyklen in der Kriegsführung herausgenommen werden und den Computer in Eigenregie schießen lassen. Habe eine Maschine dagegen erst einmal falsch entschieden, ließen sich ihre Operationen nicht mehr einfangen: "Die Dinge gehen dann in großer Masse schief, wenn Fehler auftreten."

"Dörfer auslöschen geht generell nicht, egal ob es der Mensch macht oder der Algorithmus", konstatierte der Politologe am Donnerstag auf einer Tagung zu "Realitäten und Imaginationen zukünftiger Kriegführung" am "Alexander von Humboldt"-Institut für Internet und Gesellschaft in Berlin. Es mache aber einen Unterschied, wenn letztlich ein Individuum den Abzug drücke. Selbst Drohnenoperateure, die aus der Ferne heraus agierten, zeigten "hohe Anzeichen posttraumatischer Stresssymptome". Dies zeige: Das Töten "bewegt Menschen irgendwie".

Terminator – "Outsourcing" des Tötens

Wenn autonome Waffensysteme nun künftig im Rahmen einer drohenden "Schlachtfeld-Singularität" allein über Leben oder Tod entschieden und die Militärs nur noch einen Ausdruck kriegen, "wie viele gestorben sind", bleibt der menschliche Faktor laut Sauer noch viel stärker außen vor. Es sei dann fraglich, ob sich "Leute in Uniform noch mit dem Sterben befassen", warnte Sauer vor einem kompletten "Outsourcing" des Tötens an die Maschine.

Für Sauer ist es generell eine ethische Frage, ob "Killer-Roboter" nicht gegen grundlegende Prinzipien der Humanität verstoßen. Die Menschenwürde dürfe nicht "auf einen Datenpunkt reduziert" werden. Hier sehe auch die Bundesregierung eine klare rote Linie. Es sei wichtig, das Thema aus der "Terminator-Exotik-Nische" herauszuholen, da es Probleme mit automatisierten Entscheidungsfindungen (ADM) durch Algorithmen "auch in vielen anderen Lebensbereichen" gebe.

Widerstand durch Mitarbeiter in Tech-Firmen

Dieses nicht nur militärpolitische Problem "müssen wir als Gesellschaft unbedingt angehen", forderte Sauer. Er begrüßte daher die Bewegungen von Mitarbeitern von Tech-Firmen in den USA wie Google oder Uber, sich gegen die Beteiligung der Unternehmen an gewissen ADM-Prozessen auszusprechen.

Auch die Paderborner Medienwissenschaftlerin Jutta Weber verwies die Vorstellung, dass Maschinen bald lernen und reflektieren könnten wie die Menschen ins Reich der von Hollywood geprägten Science Fiction: "Das wird in den nächsten 50 Jahren nicht passieren". Aus dem Bereich autonomes Fahren sei bekannt, dass schon die Objekterkennung nicht so gut funktioniere und etwa ein auf ein Lkw-Heck gemalter Sonnenuntergang fatale Folgen haben könnte für ein System, das die Szene für bare Münze nehme und nicht bremse.

Entscheidungsprozess der Algorithmen

"Wir kaufen uns viel größere Probleme ein" mit automatisierter Entscheidungsfindung, betonte Weber. "Wie werden Targets ausgewählt, Tötungslisten erstellt, Datenpunkte gesammelt, um Menschen als Terroristen zu identifizieren?" erläuterte sie. Der Prozess sei auch hier wie bei Waffensystemen, die selbst Ziele finden und immer neu anvisieren können, "völlig intransparent". Wenn die Gesellschaft genauer wisse, wie Algorithmen funktionierten, wäre sie noch viel vorsichtiger, diese mehr oder weniger eigenständig zum Zug kommen zu lassen.

Skeptisch sah Jürgen Altmann, Physiker an der TU Dortmund, den Stand der Verhandlungen von Regierungsexperten der Genfer Waffenkonvention über einen Bann von Killer-Robotern. Es gebe auf der UN-Ebene zwar eine Mehrheit, einige Staaten wollten aber autonome Waffensysteme weiterentwickeln. Dazu gehörten die USA, die letztere als "Hauptmittel für militärische Überlegenheit deklariert" hätten, Frankreich, Großbritannien und Russland.

Angesichts dieser Lage bekomme man zwar "vielleicht 100 nette Staaten" womöglich inklusive Deutschlands zusammen, die einen einschlägigen Extra-Vertrag mittragen würden, führte Altmann aus. Solange die wichtigsten Militärtechnikländer aber nicht dabei seien, halte eine solche Absprache aber wohl nicht lange. Zudem sei nach fünfjährigen Gesprächen die "Großwetterlage nicht günstig", da selbst alte Abrüstungsverträge gerade gekündigt würden. (bme)