Gesichtserkennung: EU-Abgeordnete für Verbot biometrischer Massenüberwachung
Der Innenausschuss des EU-Parlaments drängt auf strenge Vorgaben für den Einsatz von Künstlicher Intelligenz in Polizei und Justiz sowie auf offene Algorithmen.
(Bild: Haris Mm/Shutterstock.com)
Eine biometrische Identifikation von Personen im öffentlichen Raum etwa durch Videoüberwachung mit automatisierter Gesichtserkennung soll Strafverfolgern in der EU nicht erlaubt werden. Ermittlern müsse es zudem verboten werden, private Gesichtserkennungsdatenbanken zu nutzen, wie sie etwa die US-Firma Clearview AI zusammengetragen hat. Dafür macht sich der Ausschuss des EU-Parlaments für bürgerliche Freiheiten, Justiz und Inneres in einem Berichtsentwurf zum Einsatz Künstlicher Intelligenz (KI) durch Polizei und Justiz stark.
Die Abgeordneten fordern mit den beschlossenen Änderungsanträgen zum ursprünglichen Berichtsentwurf einen Bann biometrischer Massenüberwachung, da diese gegen die EU-Prinzipien der Verhältnismäßigkeit und der Erforderlichkeit verstoße. Untersagt sein sollte jegliche Verarbeitung biometrischer Daten – einschließlich Gesichtsbildern – zu Strafverfolgungszwecken, "die zu einer Massenüberwachung in öffentlich zugänglichen Räumen führt".
"Intelligentes Lügenerkennungssystem"
Die Volksvertreter verlangen auch, die Finanzierung solcher biometrischer Forschung einzustellen. So kritisieren sie etwa das Projekt iBorderCtrl, ein "intelligentes Lügenerkennungssystem" für die Einreise in die EU. Die Kommission soll gegebenenfalls Vertragsverletzungsverfahren gegen Mitgliedsstaaten einleiten, die solche Techniken nutzen.
Zur Gesichtserkennung merkt der Ausschuss an, dass verschiedene Systeme unterschiedliche Auswirkungen haben und es legitime Einsatzzwecke geben könnte. Strafverfolger dürften biometrische Details wie Gang, Fingerabdrücke, DNA oder Stimme zur Identifikation von Personen in öffentlich zugänglichen Räumen aber keinesfalls verwenden.
KI, die diskriminiert
Mit dem Resolutionsentwurf heben die Parlamentarier das Potenzial für Voreingenommenheit und Diskriminierung in den Algorithmen hervor, auf denen Systeme für KI und Maschinenlernen basieren. Da die Ergebnisse von Eingaben wie Trainingsdaten abhingen, sei es wichtig, die Voreingenommenheit des Algorithmus zu berücksichtigen und die Programmroutinen im Sinne der Erklärbarkeit von KI offenzuhalten.
Derzeit seien KI-basierte Identifikationssysteme ungenau und können unter anderem ethnische Minderheiten, LGBTI-Personen (lesbisch, schwul, bisexuell, transgender und intersexuell), Senioren sowie Frauen falsch identifizieren, sorgen sich die Abgeordneten. Darüber seien KI-gestützte Vorhersagen imstande, bestehende Diskriminierungen zu verstärken, was im Kontext von Strafverfolgung und Justiz ein besonders großes Problem darstelle.
Verbot von Social Scoring gefordert
Der Ausschuss fordert ferner ein Verbot der Vergabe von Punkten an Bürger auf der Grundlage von KI ("Social Scoring"). Er betont, dass dies gegen die Grundsätze der grundlegenden Menschenwürde verstoßen würde. Mit solchen statistischen Verfahren, die aus dem Bereich der Bonitätsprüfung stammen, soll das soziale Verhalten von Individuen bewertet werden.
Die EU-Datenschutzbeauftragten sprachen sich vorige Woche für ähnliche Vorgaben aus. Die EU-Kommission will mit ihren geplanten KI-Regeln nur eine biometrische Identifizierung aus der Ferne in Echtzeit prinzipiell verhindern. Ein nachträglicher Einsatz der Technik etwa zur Fahndung wäre davon nicht betroffen. Zudem hat die Brüsseler Regierungsinstitution für die Live-Erkennung Ausnahmen vorgesehen. Viele zivilgesellschaftliche Organisationen verlangen dagegen ein generelles Verbot des Einsatzes biometrischer Erkennungstechniken in der Öffentlichkeit.
Für den Entschließungsentwurf stimmten 36 Ausschussmitglieder. 24 waren dagegen, sechs enthielten sich. Mitte September muss das Parlamentsplenum noch über die Annahme der Resolution entscheiden, das in der Regel der Ausschussempfehlung folgt.
(axk)
