Künstliche Intelligenz: Pentagon verpasst sich ethische Leitlinien
Das US-Verteidigungsministerium will sicherstellen, dass Waffensysteme mit "unbeabsichtigtem Verhalten" außer Gefecht gesetzt werden können.
Im Cyber Operations Center in Fort Mead.
(Bild: defense.gov)
Nach einer 15-monatigen Konsultationsphase mit führenden Experten aus Industrie, Verwaltung und Wissenschaft hat das Pentagon sich fünf Ethikregeln für den Einsatz von Künstlicher Intelligenz (KI) aufgestellt. Ein Szenario, in dem ein außer Kontrolle geratener Killer-Roboter Amok läuft, soll damit offenbar vermieden werden. Die Technik müsse jederzeit steuerbar sein, lautet eines der Prinzipien.
Das US-Verteidigungsministerium verpflichtet sich, alle KI-Fähigkeiten so zu entwickeln, dass sie "ihre gewünschten Funktionen erfüllen". Es soll jederzeit möglich sein, nicht angestrebten Konsequenzen auf die Spur zu kommen und diese zu vermeiden. Eingesetzte Systeme, die "unbeabsichtigtes Verhalten" an den Tag legen, müssten isoliert und deaktiviert werden können.
Künstliche Intelligenz bringe "neue ethische Unklarheiten und Risiken" mit sich. Pentagon-Personal werde KI daher "verantwortlich" einsetzen. Es werde wohlüberlegte Schritte machen, um "ungewollte Vorurteile" zu minimieren und zu "fairen" automatisierten Entscheidungen zu kommen. Schon gewollte Diskriminierungen mithilfe von Algorithmen sind damit aber nicht ausgeschlossen.
Applaus und Kritik
Die Grundsätze entsprechen laut US-Verteidigungsminister Mark Esper den jüngst vorgestellten Ansätzen des Weißen Hauses für "vertrauenswürdige KI" nach dem Vorbild Europas. Das Joint Artificial Intelligence Center (JAIC) des Ministeriums, das momentan etwa das Großprojekt "Joint Enterprise Defense Infrastructure Cloud" (Jedi) mitbetreut, soll dafür sorgen, dass die Prinzipien eingehalten werden.
Der frühere Google-Chef Eric Schmidt, der den Innovationsbeirat des Pentagons leitet, meint, dass Demokratien imstande seien, neue Technik verantwortungsvoll zu regulieren. Die Forscherin Lucy Suchman, die die Rolle von KI in der Kriegsführung untersucht, befürchtet dagegen, dass das Pentagon sich nur einen ethischen Anstrich verpassen wolle und damit seine Hände in Unschuld zu waschen versuche. So sei etwa das immer wieder vorkommende Wort "angemessen" offen für zahlreiche Interpretationen. (anw)
