Seite 2: EU-Kommission investiert in KI-Lügendetektor

Inhaltsverzeichnis

Welche ethischen Standards die EU-Kommission tatsächlich an Gesichtserkennung anlegt, sieht man derweil an ihren Förderprojekten: Aus dem EU-Forschungsfördertopf Horizon 2020 finanziert sie seit Jahren das Programm iBorderCTRL. Hinter dem Programm mit dem dystopischen Namen steckt nichts anderes als ein Lügendetektor, der Menschen bei Grenzübergängen mittels biometrischer Daten vom Gesicht ablesen soll, ob sie in Verhören die Wahrheit sagen.

Dass Lügendetektoren auf Pseudowissenschaft basieren und Gesichtserkennungstechnik insbesondere bei nicht-weißen Menschen erhebliche Fehlerquoten aufweist, hat die EU nicht davon abgehalten, das Programm an den EU-Außengrenzen zu testen, woraufhin Journalist*innen von The Intercept prompt solche Fehler durch iBorderCTRL nachweisen konnten. Dem EU-Abgeordneten Patrick Breyer verweigert die EU-Kommission Informationen über die grundrechtliche Evaluation und die Fehlerraten von iBorderCTRL.

Gesichtserkennung auch in Deutschland

Auch deutsche Behörden setzen vermehrt Gesichtserkennung ein. Die Anzahl der Abfragen von Gesichtserkennungsdatenbanken durch Bundespolizei und Kriminalämter nimmt rasant zu. Dennoch ist in Deutschland und Europa bislang eine breite gesellschaftliche Debatte darüber ausgeblieben, wie die immer weitere Verbreitung von Gesichtserkennung im Alltag nicht nur zu falschen Verdächtigungen beitragen kann, sondern auch unser Verhalten im öffentlichen Raum beeinflusst.

Das Gefühl, unter ständiger Beobachtung zu stehen, löst Stress aus und führt zu einem angepassten Verhalten. Wer befürchten muss, dass bei einer Teilnahme an Demonstrationen Gesichter abfotografiert und von der Polizei – oder sogar von Neonazis – mittels Gesichtserkennung zur Enttarnung von Demonstrierenden genutzt werden, wird sich zweimal überlegen, ob die Wahrnehmung des Grundrechts auf Versammlungsfreiheit das Risiko wert ist.

Das ist keine rein theoretische Gefahr: Bei den G20-Protesten in Hamburg hat die Polizei eine umfangreiche Datenbank zur automatischen Gesichtserkennung angelegt. Bei Tests der Software PimEyes durch das Investigativteam von Netzpolitik fand dieses unter anderem auch Fotos der Bundestagsabgeordneten Anke Domscheit-Berg bei der Teilnahme an einer Anti-Überwachungs-Demo. Das Missbrauchspotential von immer größeren, verdachtsunabhängigen Datensammlungen, die sowohl von Behörden als auch von Unternehmen zur Gesichtserkennung genutzt werden, ist also erheblich.