Bill of Rights zu KI: USA wollen Diskriminierung durch Algorithmen verhindern

Inhaltsverzeichnis

Die US-Regierung will Künstliche Intelligenz (KI) vertrauenswürdig machen. Das Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses hat dazu am Dienstag einen Entwurf für eine "Bill of Rights" für das KI-Zeitalter veröffentlicht. Die Grundrechtecharta stellt fünf Grundsätze auf, die die Entwicklung, die Nutzung und den Einsatz automatisierter Systeme leiten sollen. Ziel ist es, die Öffentlichkeit vor negativen Auswirkungen von KI-Systemen zu bewahren und Risiken der Schlüsseltechnik von vornherein zu entschärfen.

Die Prinzipien besagen, dass algorithmische Systeme nachweislich sicher und effektiv sein müssen und keine "ungerechtfertigte" Diskriminierung verursachen dürfen. Datenschutz soll direkt in die Technik eingebaut werden (Privacy by Design), auch von Datensparsamkeit ist die Rede. Betroffenen will das Office of Science and Technology Policy (OSTP) die Kontrolle über ihre personenbezogenen Informationen geben: Sie sollten wissen, dass ein automatisiertes System verwendet wird und verstehen, wie und warum es zu welchen Ergebnissen beiträgt. Entwickler und Hersteller müssten dafür aussagekräftige Hinweise und Erklärungen in einfacher Sprache bereitstellen.

Algorithmische Beurteilung verweigerbar

Enthalten ist auch ein Anspruch, den Einsatz einer algorithmischen Beurteilung zu verweigern und stattdessen eine menschliche Alternative zu wählen, "wo dies angebracht ist". Dies soll auf Basis "angemessener Erwartungen" in einem bestimmten Kontext und mit dem Schwerpunkt auf Gewährleistung einer breiten Zugänglichkeit und dem Schutz der Öffentlichkeit vor besonders schädlichen Folgen bestimmt werden. Automatisierte Systeme, die in sensiblen Bereichen wie Justiz, am Arbeitsplatz oder Bildung und Gesundheit verwendet werden, sollen auf spezielle Zwecke zugeschnitten und besonders leicht überprüfbar sein.

"Zu den großen Herausforderungen, denen sich die Demokratie heute gegenübersieht, gehört die Nutzung von Technologien, Daten und automatisierten Systemen in einer Weise, die die Rechte der amerikanischen Öffentlichkeit bedroht", begründet die Regierung von US-Präsident Joe Biden den Schritt. "Allzu oft werden diese Instrumente eingesetzt, um unsere Möglichkeiten einzuschränken und unseren Zugang zu wichtigen Ressourcen oder Dienstleistungen zu verhindern."

"Unsicher, ineffektiv oder voreingenommen"

Für entsprechende Probleme gebe es genügend Nachweise, heißt es in der Charta. Weltweit hätten sich Systeme, die bei der Patientenversorgung helfen sollen, als "unsicher, ineffektiv oder voreingenommen erwiesen". Algorithmen, die bei Einstellungs- und Kreditentscheidungen eingesetzt werden, spiegelten bestehende unerwünschte Ungleichheiten wider und reproduzierten oder generierten "schädliche Voreingenommenheit und Diskriminierung". Die unkontrollierte Sammlung von Daten in sozialen Medien sei genutzt worden, "um die Chancen der Menschen zu bedrohen, ihre Privatsphäre zu untergraben oder ihre Aktivitäten zu verfolgen – oft ohne ihr Wissen oder ihre Zustimmung".

KI-Systeme hätten grundsätzlich das Potenzial, "jeden Bereich unserer Gesellschaft neu zu definieren und das Leben für alle zu verbessern", betont das OSTP. Dafür müsse die Technik aber klug reguliert werden. Nur so könne verhindert werden, dass die Bürgerrechte und die demokratischen Werte unterlaufen werden.

FTC soll Regeln gegen Überwachung prüfen

In einem Faktenblatt kündigt die Regierung zudem Maßnahmen in allen Teilen der Bundesverwaltung an, um die Grundsätze voranzutreiben. Der Fokus soll dabei vor allem auf dem Schutz von Arbeitnehmern und Arbeitgebern, Lehrkräften und Studenten, Patienten und Gesundheitsdienstleistern, Veteranen, Mietern und Hausbesitzer, Technikern, Familien und Gemeinden liegen. Die US-Handelsaufsicht FTC prüft demnach etwa Regeln zur "Eindämmung von kommerzieller Überwachung, algorithmischer Diskriminierung und laxen Datensicherheitspraktiken". Verbraucherschutzstellen gingen parallel gegen "Black-Box-Kreditmodelle" mit komplexen Algorithmen vor.

Die Biden-Administration hatte zuvor eine öffentliche Konsultation zu dem Vorhaben durchgeführt. Erste Prinzipien für vertrauenswürdige KI hatte das OSTP schon 2020 unter dem damaligen Präsidenten Donald Trump vorgestellt, mit denen es ebenfalls etwa den Schutz der Privatsphäre in den Blick nahm.

Forderung nach Gesetzen statt Empfehlungen

Das Center for Democracy & Technology (CDT) begrüßte die Charta prinzipiell. Die zivilgesellschaftliche US-Organisation sprach von einem wichtigen Schritt, "um zu erkennen, auf welche Weise algorithmische Systeme Ungleichheit vertiefen können". Die Initiative wäre aber noch wirksamer, wenn sie auf einem "umfassenden Bundesgesetz" aufbauen würde. Auch andere Kritiker monierten, dass die Charta bislang nur Empfehlungs-Charakter habe und nur schwer durchsetzbar sei.

Die EU ist schon weiter. Die dortigen Gesetzgebungsgremien arbeiten an einer KI-Verordnung, mit der algorithmische Systeme in verschiedene Risikoklassen eingeteilt und solche mit unannehmbaren Gefahren wie Social Scoring untersagt werden sollen. Berichterstatter des EU-Parlaments machen sich auch dafür stark, Predictive Policing und andere stark diskriminierende Praktiken in der Strafverfolgung zu verbieten. Die EU-Kommission hat zudem jüngst eine Richtlinie zur Haftung bei fehlerhafter KI präsentiert.

(axk)