Missing Link: Starke KI in der Rüstung – die Macht über Leben und Tod
Die Bundesregierung klammert starke KI bei der Rüstung aus, weil sie nicht dem aktuellen Stand der Technik entspricht. Das könnte schwerwiegende Folgen haben.
(Bild: Peshkova / shutterstock.com)
Probleme und offene Fragen im Umgang mit Künstlicher Intelligenz (KI) treten bei militärischen Anwendungen besonders deutlich hervor. Schließlich stehen bei Militärtechnologien grundsätzlich Menschenleben auf dem Spiel – nicht nur als Folge von Fehlfunktionen oder Unfällen, sondern als gezielte Anwendung dieser Technologien. Das erfordert einen besonders genauen Blick auf die Rolle, die KI dabei spielen soll.
Es ist daher keine Überraschung, wenn ein Dokument der Bundeswehr jetzt den größten Schwachpunkt der von der Bundesregierung veröffentlichten KI-Strategie quasi ins Scheinwerferlicht rückt: die Nichtbeachtung der starken KI. Auf das Versäumnis wurde an dieser Stelle bereits vor einem Jahr hingewiesen. Nun zeigen sich die ersten Konsequenzen.
Künstliche Intelligenz in den Landesstreitkräften
Das Positionspapier Künstliche Intelligenz in den Landstreitkräften, verfasst vom Amt für Heeresentwicklung, bezieht sich ausdrücklich auf die KI-Strategie der Bundesregierung. "Die Strategie Künstliche Intelligenz der Bundesregierung", heißt es darin, "unterschiedet klar zwischen der Vision einer Superintelligenz – im Dokument als "starke" KI bezeichnet – und der Lösung konkreter Anwendungsprobleme mittels Methoden der Mathematik und Informatik – im Dokument als "schwache" KI bezeichnet. Nicht zuletzt, weil genau hier der technologische Durchbruch erkannt wird, orientiert sich die Bundesregierung und damit auch die Bundeswehr und dieses Positionspapier ausschließlich an den Positionen der "schwachen" KI." Und weiter: "Eine Assoziation mit natürlicher, biologischer Intelligenz (etwa der eines Menschen) ist zu vermeiden, da dies nicht dem aktuellen Stand der Technik entspricht."
Immerhin: Anders als die Bundesregierung versucht das Amt für Heeresentwicklung wenigstens, die Ausklammerung der starken KI zu begründen. Allerdings kann die Begründung nicht überzeugen, da sie das Verhältnis von schwacher und starker KI missversteht. Beide erscheinen in dieser Sichtweise als weitgehend voneinander unabhängige Technologien. Die starke KI wird zudem in einer fernen Zukunft verortet, weswegen eine Beschäftigung mit ihr heute noch nicht erforderlich sei.
Starke KI – schwache KI
Übersehen wird dabei, dass starke KI auf den Errungenschaften der schwachen KI aufbaut. Im englischen Sprachgebrauch, der zwischen allgemeiner KI (Artificial General Intelligence) und beschränkter KI (narrow AI) unterscheidet, wird das deutlicher: Starke KI verallgemeinert die vielen, auf enge Anwendungen wie Objekterkennung, Zielverfolgung oder Sprachverarbeitung beschränkten schwachen KI zu einem großen Ganzen. Es geht um Grundlagenforschung. Starke KI steht für das Bemühen, das Denken selbst zu verstehen, indem es technisch reproduziert wird. Um eine solche generelle Intelligenz zu realisieren, braucht es ein Prinzip, nach dem die Teilfähigkeiten untereinander vernetzt und integriert werden.
"Grundlagen der schwachen KI sind Methoden der Mathematik und Informatik", heißt es im Positionspapier. Soll damit die Ernsthaftigkeit der Forschung unterstrichen werden gegenüber den vermeintlich abgehobenen Spekulationen zur starken KI? Dann ist der Versuch fehlgeschlagen: Denn natürlich arbeiten auch Forschungen zur starken KI vornehmlich mit mathematischen Methoden. Nihat Ay (Max-Planck-Institut für Mathematik in den Naturwissenschaften) erläutert einige davon in diesem Vortrag. Frank Pasemann (Uni Osnabrück) versucht, Kognition mithilfe der Mathematik dynamischer Systeme zu erfassen, während Daniel Polani und Christoph Salge (University of Hertfordshire) sich bei ihrem Ansatz, die drei Robotergesetze Isaac Asimovs in einer KI zu verankern, vornehmlich auf die Informationstheorie stützen.
Es geht nicht um seriöse Forschung gegen spekulativen Futurismus. Es geht um anwendungsorientierte Forschung und Grundlagenforschung. Und es geht um verschiedene Zeithorizonte.
"Zunehmende Dynamik des Gefechtes"
Wer die starke KI von vornherein aus der Betrachtung ausblendet, verzichtet damit auf eine entscheidende Möglichkeit, die technologische Entwicklung im größeren historischen Rahmen einschätzen zu können. Denn die verläuft eindeutig in Richtung starker KI. Serviceroboter, die im Haushalt oder in der Seniorenpflege helfen sollen, werden sich am Markt nur behaupten können, wenn sie immer intelligenter werden. Wenn sie Sprachbefehle nicht nur erkennen, sondern auch verstehen und schließlich sogar selbst ohne explizite Aufforderung erkennen, ob ein Mensch Hilfe braucht. Die wirtschaftliche Konkurrenz wird sie in diese Richtung drängen. Ebenso wird der Rüstungswettlauf eine Beschleunigung des Kriegsgeschehens erzwingen und die Bedeutung von KI beim Einsatz tödlicher Waffen kontinuierlich erhöhen.
Das wird im Positionspapier unter der Überschrift "Zunehmende Dynamik des Gefechtes" auch durchaus als wichtige Triebkraft der Entwicklung erkannt. "Die sich abzeichnenden Entwicklungen in Bezug auf die zukünftige Gefechtsführung führen zu einer Vergrößerung der Wirkbereiche, zu einer Verkürzung von Duell-Zeiten, zu einer höheren Abdeckung der Aufklärung sowie zu entsprechend dynamischeren Führungs- und Logistikstrukturen", heißt es da. "KI hilft dabei, in Gefechten mit erhöhter Dynamik schneller, zielgerichteter und effektiver führen und agieren zu können."
