Seite 2: Die Macht der KI über Leben und Tod steigt

Inhaltsverzeichnis

Ohne die starke KI fehlt aber ein klarer Orientierungspunkt, um die Nutzung von KI bewerten zu können. Die jeweiligen KI-Technologien erscheinen in der eingeschränkten Perspektive der Bundeswehr dadurch als harmlose Werkzeuge, die lediglich bestimmte Fähigkeiten erweitern. Ob das in jedem Einzelfall zulässig ist und mit der erklärten Ablehnung tödlicher autonomer Waffensysteme vereinbar ist, lässt sich dann nur noch durch den Abgleich mit vorgegebenen Normen und (in diesem Fall selbst formulierten) Definitionen klären.

Deutlich wird das im Positionspapier am Beispiel des Einsatzes bewaffneter Drohnenschwärme zur Absperrung von Gebieten und der automatischen Überwachung der Sperre. Aus der Sicht der starken KI erscheint das klar und deutlich als eine Zunahme der Kontrolle tödlicher Waffen durch Künstliche Intelligenz und damit als entschlossener Schritt in Richtung autonomer Waffensysteme oder Killerroboter. Ob so eine Drohnensperre selbst schon als autonom oder noch als automatisch bezeichnet werden kann, ist aus dieser Perspektive unerheblich. Entscheidend ist die Ausrichtung der Entwicklung: Die Macht der KI über Leben und Tod steigt.

Kollateralschaden

Die Verfasser des Positionspapiers halten ein solches System gleichwohl für vertretbar, weil sie tödliche autonome Waffensysteme so definieren, dass sie "in erster Linie dazu bestimmt" seien, "tödliche Gewalt allein gegen Personen zur Wirkung zu bringen". Die Drohnenschwärme dagegen seien "mit Wirkmitteln ausgerüstet, die Gefechtsfahrzeuge oder empfindliche Komponenten von leichten gepanzerten Fahrzeugen bekämpfen können". Zudem werden sie als "automatisch" eingestuft, nicht "autonom".

Die Insassen der Fahrzeuge werden in dem Papier nicht erwähnt. Wenn sie bei einer solchen Aktion getötet werden, müsste das dann nicht konsequenterweise als "Kollateralschaden" definiert werden, weil der Angriff ja dem Fahrzeug selbst gegolten hat?

Menschlicher Geist als bloße Mathematik

Das Beispiel der Drohnensperre unterstreicht: Der Streit um Begriffe und Definitionen führt nicht weiter, sondern endet in Sackgassen. Es ist höchste Zeit, die starke KI in politische und strategische Überlegungen einzubeziehen.

Sicher, der Gedanke, dass Maschinen den Menschen beim Denken bald überflügeln und womöglich eigene Persönlichkeiten herausbilden könnten, kann sehr verstörend sein. Er rüttelt an den Grundfesten der menschlichen Identität. Nachdem Nikolaus Kopernikus uns aus der Mitte des Universums geschleudert, Charles Darwin uns zu einem Tier degradiert und Sigmund Freud uns die Illusion der Selbstkontrolle genommen haben, droht nun die Entzauberung des menschlichen Geistes und dessen Reduktion auf bloße Mathematik.

Rätsel des menschlichen Denkens

Dabei ließe sich die Entwicklung einer dem Menschen überlegenen KI mit dem gleichen Recht auch als größter Triumph des menschlichen Geistes begreifen: Der Mensch versteht und übertrifft sich selbst. Wenn trotzdem keine rechten Triumphgefühle aufkommen wollen, liegt das möglicherweise auch an einem tief verwurzelten Wunsch, dass das menschliche Denken seine Rätselhaftigkeit behalten und niemals vollständig entschlüsselt werden möge.

Dieses Gefühl der Verstörung mag dazu beigetragen haben, dass die Bundesregierung die starke KI bei ihren strategischen Überlegungen komplett ausgeklammert und damit unter anderem der Bundeswehr den Weg zu autonomen Waffensystemen geebnet hat. Dadurch fehlt ihr jetzt eine langfristige Vision, wohin die technologische Entwicklung führen soll. Mit ihrer Orientierung am kurzfristigen wirtschaftlichen und militärischen Wettbewerb wird sie die starke KI nicht verhindern, sondern nimmt lediglich in Kauf, dass deren Entwicklung weitgehend ungeplant und orientierungslos erfolgt.