Künstliche Intelligenz: Papst warnt vor "tödlichen autonomen Waffen"

Papst Franziskus sieht in Killer-Robotern, autonomen Drohnen und vergleichbaren Waffensystemen eine große Bedrohung. "Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen", betonte er in seiner mit Spannung erwarteten Grundsatzrede zu Künstlicher Intelligenz (KI) am Freitagabend auf dem G7-Gipfel in Borgo Egnazia im süditalienischen Apulien. "Wir müssen der menschlichen Kontrolle über den Auswahlprozess von Programmen der Künstlichen Intelligenz einen bedeutenden Raum geben, diesen garantieren und schützen", verlangte der 87-Jährige. Denn: "Die menschliche Würde selbst steht dabei auf dem Spiel."

Auch "in einem Drama wie einem bewaffneten Konflikt" sei es "dringend erforderlich", die Entwicklung und den Gebrauch von Geräten wie "tödlichen autonomen Waffen" zu überdenken, mahnte das Oberhaupt der römisch-katholischen Kirche die versammelten Staats- und Regierungschefs der wichtigen Industriestaaten. Er plädierte klar für ein Verbot des Einsatzes einer solchen Technik. Bis dieses spruchreif sei, bedürfe es "einer proaktiven und konkreten Verpflichtung zur Einführung einer immer größeren und bedeutenden menschlichen Kontrolle".

Es war das erste Mal in der Geschichte des G7-Gremiums, dass ein Papst zu Gast war. Franziskus zweifelte nicht daran, dass das Aufkommen von KI "eine wahrhaft kognitiv-industrielle Revolution darstellt". Diese werde "zur Schaffung eines neuen Gesellschaftssystems beitragen", das "durch komplexe epochale Veränderungen gekennzeichnet ist". So könnte die Schlüsseltechnik etwa "eine Demokratisierung des Zugangs zu Wissen, den exponentiellen Fortschritt der wissenschaftlichen Forschung und die Möglichkeit, ermüdende Arbeiten an Maschinen abzugeben", vorantreiben. Den größeren Teil seiner Ausführungen widmete er aber den Risiken von KI. So könnte diese ihm zufolge auch eine "größere Ungerechtigkeit zwischen fortgeschrittenen und sich entwickelnden Nationen, zwischen herrschenden und unterdrückten sozialen Schichten mit sich bringen". Die "Kultur der Begegnung" drohe durch eine des "Wegwerfens" verdrängt zu werden.

Kritik an KI als Justiz-Entscheidungshilfe

Der rasante technologische Fortschritt macht Künstliche Intelligenz für den Papst "zu einem faszinierenden und zugleich unheimlichen Instrument. Dieses verlange "nach einer Reflexion, die der Situation gerecht wird". Franziskus ist selbst bereits Teil der KI-Mem-Kultur aufgrund eines künstlich erstellten Fotos geworden, auf dem er eine weiße Designer-Polsterjacke im Rapper-Stil trägt.

In seinem Vortrag stellte er nun auf einen massiven Unterschied ab: "Es sollte immer bedacht werden, dass die Maschine in einigen Formen und mit diesen neuen Mitteln algorithmische Auswahlen treffen kann." Dieses Vorgehen beruhe "entweder auf genau definierten Kriterien oder auf statistischen Rückschlüssen". Der Mensch dagegen wähle nicht nur aus, "sondern ist in seinem Herzen zu einer Entscheidung fähig".

KI sei daher darauf ausgelegt, "spezifische Probleme zu lösen", erklärte der Papst. Für Anwender sei die Versuchung aber oft "unwiderstehlich, aus den von ihr vorgeschlagenen spezifischen Lösungen allgemeine, sogar anthropologische Schlüsse zu ziehen". Ein Beispiel sei der Einsatz von Programmen, die Richtern bei Entscheidungen über die Gewährung von Hausarrest für verurteilte Straftäter sollen. Hier werde die KI verwendet, um die Wahrscheinlichkeit der Rückfälligkeit anhand vordefinierter Kategorien vorherzusagen. Dabei hätten einschlägige Systeme Zugang zu privaten Datenkategorien wie ethnische Herkunft, Bildungsniveau oder Kreditlinie. Hier sei nicht nur die Gefahr groß, "einer Maschine de facto das letzte Wort über das Schicksal einer Person zu überlassen". Vielmehr könnte auch "implizit eine Bezugnahme auf die vorgefassten Bewertungen" erfolgen, die KI also Vorurteile oder Stereotypen aus den Trainingsdaten übernehmen.

"Generative" KI ist nicht kreativ, sondern "verstärkend"

Von Wissenssystemen und Bots wie ChatGPT von OpenAI oder Gemini von Google hält Franziskus wenig. "Viele von uns sind beeindruckt von den Anwendungen, die leicht im Netz verfügbar sind, um einen Text zu verfassen oder ein Bild zu einem beliebigen Thema zu erstellen", konstatierte er. "Besonders angetan davon sind Studenten, die davon unverhältnismäßig viel Gebrauch machen, wenn sie Arbeiten anfertigen müssen", konnte er sich einen Seitenhieb nicht verkneifen. Die Hochschüler vergäßen jedoch, dass die sogenannte generative KI streng genommen nicht wirklich "kreativ" ist. Sie durchsuche in Wahrheit Big Data nach Informationen und verpacke sie in dem von ihr gewünschten Stil. Je öfter so ein System einen Begriff oder eine Hypothese wiederholt vorfinde, desto mehr halte es diese für legitim und gültig.

Solche großen Sprachmodelle seien "verstärkend" in dem Sinne, dass sie bestehende Inhalte neu ordneten und zu ihrer Konsolidierung betrügen, führte der Papst aus. Dabei prüften sie aber nicht, ob Fehler oder Vorurteile enthalten seien. Dies berge nicht nur die Gefahr, "Fake News zu legitimieren und den Vorteil einer vorherrschenden Kultur zu stärken", sondern untergrabe auch den Bildungsprozess im Kern. Raum für die eigentlich nötige authentische Reflexion bleibe hier nicht mehr.

Als größten Schwachpunkt bei der Implementierung und Entwicklung dieser Systeme machte Franziskus einen "Mangel an einem Ethos" aus, "das mit der Wahrnehmung des Wertes und der Würde der menschlichen Person verbunden ist". Damit KI zu einem Instrument "für den Aufbau des Guten und einer besseren Zukunft werden können", müsse sie "immer auf das Wohl jedes einzelnen Menschen ausgerichtet sein". Der Vatikan und Tech-Firmen unterzeichneten bereits 2020 zusammen mit der italienischen Regierung einen Aufruf für eine ethische Ausrichtung von Algorithmen. KI dürfe nicht das "technokratische Paradigma" verstärken, ergänzte der Papst nun, wonach sich "die Sicht der Welt auf in Zahlen ausgedrückte und in vorgefertigte Kategorien gefasste Wirklichkeiten beschränkt". (ll)