EU-Kommission bringt Verbot automatisierter Gesichtserkennung ins Spiel

Der von der EU-Kommission geplante Regulierungsrahmen für die menschlichen und ethischen Auswirkungen von Künstlicher Intelligenz (KI) könnte dazu führen, dass automatisierte Gesichtserkennung in der Öffentlichkeit zeitweise verboten wird. Dies geht aus dem Entwurf für ein Weißbuch hervor, den die US-Zeitung Politico veröffentlicht hat. Ein Bann könne drei bis fünf Jahre dauern und für private wie staatliche Akteure gelten.

In der Zwischenzeit sollte eine gründliche Methodik entwickelt werden, um die Folgen des Biometrieverfahrens abzuschätzen sowie mögliche Schritte fürs Risikomanagement auszumachen und zu entwickeln, heißt es in dem White Paper . Dies würde die Rechte der Bürger absichern und potenziellen Missbrauch der Technik verhindern.

Sollte die Kommission das Weißbuch mit entsprechenden Auflagen beschließen, wäre dies ein Rückschlag für den Plan von Bundesinnenminister Horst Seehofer (CSU), an 135 Bahnhöfen und 14 Flughäfen Systeme zur Videoüberwachung mit automatisierter Gesichtserkennung zu installieren. Ein Bündnis zivilgesellschaftlicher Organisationen forderte gerade auch ein Verbot der "Hochrisikotechnologie", da diese hohe Falscherkennungsraten aufweise und etwa Frauen und Farbige diskriminiere.

Ausnahmen nur per Gericht

Ausnahmen von dem temporären Bann wären etwa für den Bereich Forschung und Entwicklung sowie "für Sicherheitszwecke" nötig. Letztere müssten gerichtlich angeordnet werden, Gesichtserkennung zur Gefahrenabwehr und Strafverfolgung würde also nicht freigegeben.

Die Autoren des Weißbuchs sprechen zudem von einer weitreichenden Maßnahme, die den Erfolg der Technik insgesamt behindern könnte. Die Kommission ziehe es daher derzeit vor, Vorgaben aus der Datenschutz-Grundverordnung (DSGVO) vollständig umzusetzen. Dieser zufolge dürfen Menschen nicht Gegenstand einer rein maschinenerzeugten Entscheidung wie Profiling sein.

Die Palette der in dem Papier aufgezeigten Handlungsmöglichkeiten ist breit gefasst. Sie reicht von einem Selbstregulierungsansatz mit einem Logo-Programm für vertrauenswürdige KI über sektorenspezifische Auflagen etwa für die öffentliche Verwaltung bis hin zu verpflichtenden Vorschriften für "Hochrisiko-Anwendungen" etwa im Gesundheits- und Transportwesen sowie Polizei und Justiz.

"Gefahren der KI zu wenig berücksichtigt"

Gefahren von Künstlicher Intelligenz für die Cybersicherheit, die Privatsphäre und den Schutz persönlicher Daten habe der EU-Gesetzgeber bislang nicht ausreichend adressiert, ist dem Dokument zu entnehmen. Hier und bei den Haftungsregeln müsse nachgebessert werden. Zu einer möglicherweise erweiterten Verantwortung auch von KI-Entwicklern und Produzenten bleiben die Verfasser aber noch vage. Von Schranken für tödliche autonome Waffensysteme, wie sie eine hochrangige Expertengruppe auf EU-Ebene bereits forderte, ist bislang keine Rede.

Wettbewerbskommissarin Margrethe Vestager soll das fertige Weißbuch dem Zeitplan nach Ende Februar öffentlich vorstellen. Im Anschluss ist eine Konsultation vorgesehen, bevor einzelne, in der Regel mehrere Jahre dauernde Gesetzesinitiativen folgen könnten. Das Weißbuch soll von Mitte Dezember stammen, der neue, als sehr industrienah geltende Binnenmarktkommissar Thierry Breton könnte noch nicht involviert gewesen sein. (anw)