Edit Policy: PimEyes & Gesichtserkennung in Europa – wo bleibt der Aufschrei?
(Bild: Scharfsinn/Shutterstock.com/Diana Levine)
Gesichtserkennung ist eine massive Gefahr für die Grundrechte, aber eine Debatte über ihren Einsatz gibt es in Deutschland und Europa nicht. Anders in den USA.
Gesichtserkennung stellt eine erhebliche Gefahr für unsere Grundrechte dar. Hierzulande muten Debatten über das Thema oft so an, als handele es sich dabei um Zukunftsmusik – oder ein Problem, das in erster Linie Länder mit einem niedrigeren Datenschutzniveau wie die USA oder China betreffe. Dabei breitet sich die automatische Gesichtserkennung in Europa und auch in Deutschland rasant aus. Bundespolizei und Kriminalämter setzen die Technologie bereits seit Jahren ein, Tendenz stark steigend. Die EU-Kommission investiert in unseriöse Startups, die Gesichtserkennung an Europas Außengrenzen als Lügendetektoren einsetzen wollen. Und ein polnisches Clearview-Klon bietet eine frei zugängliche Gesichter-Suchmaschine im Netz an. Wo bleibt der Aufschrei?
Das Geschäft mit biometrischer Massenüberwachung
In einer umfangreichen Recherche [3] hat Netzpolitik kürzlich auf PimEyes aufmerksam gemacht, ein polnisches Gesichtserkennungs-Startup, das die anonyme Suche nach beliebigen Gesichtern in einer Datenbank aus 900 Millionen, augenscheinlich aus öffentlichen Quellen stammenden, Bildern erlaubt. Auch Screenshots aus YouTube-Videos und Instagram-Fotos wurden von der Webseite gesammelt.
Seit Netzpolitik begonnen hat, kritische Fragen zu stellen [4], bewirbt die Firma ihre Dienste als Privatsphäre-Schutz, der ausschließlich die Suche nach eigenen Fotos erlauben soll. Zuvor schlug die Firma Nutzer*innen noch explizit vor, fremde Bilder, etwa von Prominenten, zu suchen. Einen effektiven Schutz gibt es bis heute nicht, der verhindern könnte, dass die Suchmaschine für Stalking oder Überwachung von Mitarbeiter*innen missbraucht wird.
Dass PimEyes nicht ausschließlich zur Suche nach dem eigenen Bild gedacht ist, zeigt sein Geschäftsmodell, basierend auf kostenpflichtigen Premium-Funktionen, die etwa ein Sonderangebot für 100 Millionen Datenbankabfragen pro Monat enthalten.
Der Datenschutzbeauftragte für Baden-Württemberg, Stefan Brink, geht davon aus, dass PimEyes gegen die Datenschutzgrundverordnung verstößt. Da es sich bei biometrischen Daten um besonders schutzwürdige Informationen handelt, hätte die Firma von jeder Person in ihrer Datenbank aus 900 Millionen Gesichtern eine Einwilligung einholen müssen. Dennoch ist es möglich, dass PimEyes schon heute von europäischen Behörden genutzt wird. Der Firma ist nämlich der Coup gelungen, eine Kooperation mit dem schwedischen Unternehmen Safer Society einzugehen, das seinerseits PimEyes in seine Überwachungssoftware Paliscope integriert hat, die es Behörden zur staatlichen Überwachung oder Strafverfolgung anbietet. Auch die europäische Polizeibehörde Europol ist Kundin von Safer Society.
EU-Kommission will Gesichtserkennung nicht bekämpfen
Als Kommissionspräsidentin Ursula von der Leyen ins Amt gewählt wurde, versprachen sich manche ein härteres Durchgreifen gegen Gesichtserkennungs-Technologien. Von der Leyen versprach einen Gesetzesvorschlag zur Regulierung der „künstlichen Intelligenz“ innerhalb von 100 Tagen (die inzwischen bereits verstrichen sind). Kern der europäischen KI-Regulierung sollten hohe ethische Standards sein, die das Vertrauen in die Technologie stärken und den Vorzug gegenüber rein wirtschaftlichen Erwägungen bekommen sollten.
Ein solcher Gesetzesvorschlag ist bislang ausgeblieben. Anfang des Jahres hat die EU-Kommission lediglich ein Strategiepapier zur künstlichen Intelligenz veröffentlicht. Eine Passage, die in einer früheren Entwurfsfassung ein zeitweises Verbot von Gesichtserkennung im öffentlichen Raum vorschlug, wurde aus der Endfassung gestrichen.
EU-Kommission investiert in KI-Lügendetektor
Welche ethischen Standards die EU-Kommission tatsächlich an Gesichtserkennung anlegt, sieht man derweil an ihren Förderprojekten: Aus dem EU-Forschungsfördertopf Horizon 2020 finanziert sie seit Jahren das Programm iBorderCTRL [5]. Hinter dem Programm mit dem dystopischen Namen steckt nichts anderes als ein Lügendetektor, der Menschen bei Grenzübergängen mittels biometrischer Daten vom Gesicht ablesen soll, ob sie in Verhören die Wahrheit sagen.
Dass Lügendetektoren auf Pseudowissenschaft basieren und Gesichtserkennungstechnik insbesondere bei nicht-weißen Menschen erhebliche Fehlerquoten aufweist, hat die EU nicht davon abgehalten, das Programm an den EU-Außengrenzen zu testen, woraufhin Journalist*innen von The Intercept prompt solche Fehler durch iBorderCTRL nachweisen konnten [6]. Dem EU-Abgeordneten Patrick Breyer verweigert die EU-Kommission Informationen [7] über die grundrechtliche Evaluation und die Fehlerraten von iBorderCTRL.
Gesichtserkennung auch in Deutschland
Auch deutsche Behörden setzen vermehrt Gesichtserkennung ein. Die Anzahl der Abfragen von Gesichtserkennungsdatenbanken durch Bundespolizei und Kriminalämter [8] nimmt rasant zu. Dennoch ist in Deutschland und Europa bislang eine breite gesellschaftliche Debatte darüber ausgeblieben, wie die immer weitere Verbreitung von Gesichtserkennung im Alltag nicht nur zu falschen Verdächtigungen beitragen kann, sondern auch unser Verhalten im öffentlichen Raum beeinflusst.
Das Gefühl, unter ständiger Beobachtung zu stehen, löst Stress aus und führt zu einem angepassten Verhalten. Wer befürchten muss, dass bei einer Teilnahme an Demonstrationen Gesichter abfotografiert und von der Polizei – oder sogar von Neonazis – mittels Gesichtserkennung zur Enttarnung von Demonstrierenden genutzt werden, wird sich zweimal überlegen, ob die Wahrnehmung des Grundrechts auf Versammlungsfreiheit das Risiko wert ist.
Das ist keine rein theoretische Gefahr: Bei den G20-Protesten in Hamburg hat die Polizei eine umfangreiche Datenbank zur automatischen Gesichtserkennung [9] angelegt. Bei Tests der Software PimEyes durch das Investigativteam von Netzpolitik [10] fand dieses unter anderem auch Fotos der Bundestagsabgeordneten Anke Domscheit-Berg bei der Teilnahme an einer Anti-Überwachungs-Demo. Das Missbrauchspotential von immer größeren, verdachtsunabhängigen Datensammlungen, die sowohl von Behörden als auch von Unternehmen zur Gesichtserkennung genutzt werden, ist also erheblich.
Aufstand gegen Gesichtserkennung in den USA
In den USA ist der Einsatz von Gesichtserkennung zwar bereits weiter fortgeschritten als in Europa. So setzen Strafverfolgungsbehörden die Gesichtserkennungs-Datenbank des umstrittenen Unternehmens Clearview AI [11] ein. Doch auch der Widerstand aus Zivilgesellschaft und Wissenschaft ist deutlich lauter – und zeigt erste Ergebnisse.
Studien über die diskriminierende Wirkung von Gesichtserkennung, die bei den Gesichtern von Frauen und nicht-weißen Personen sehr viel höhere Fehlerraten produziert als bei weißen Männern, haben die Technologie in Verruf gebracht. Pionierarbeit hat hierbei die Wissenschaftlerin Joy Buolamwini geleistet, deren Studie „Gender Shades“ das Phänomen bereits 2018 nachgewiesen hat [12] und deren Ergebnisse seitdem mehrfach von renommierten Wissenschaftseinrichtungen reproduziert wurden. Buolamwini gründete die Algorithmic Justice League), eine zivilgesellschaftliche Initiative gegen den Einsatz diskriminierender Technologien. [13]
Als es dann tatsächlich zur falschen Festnahme des Afroamerikaners Robert Williams durch Fehler bei der Gesichtserkennung kam [14], war das Problem durch die Vorarbeit von Wissenschaft und Zivilgesellschaft der Presse bereits bekannt. Der Fall machte landesweit Schlagzeilen. Auch der Talkshow-Host John Oliver hat die Gefahren von Gesichtserkennung in einem Video aufgegriffen [15], das allein auf YouTube bereits sieben Millionen Mal gesehen wurde.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung [16].
Der Aufstand lohnt sich
Die Kampagne gegen Gesichtserkennung in den USA hat bereits eine Reihe von Erfolgen vorzuweisen. Mehrere Städte, darunter San Francisco und Oakland, haben die Gesichtserkennung im öffentlichen Raum verboten. Der Bundesstaat Massachusetts berät das Verbot, das mehrere Gemeinden dort bereits beschlossen haben, auf den gesamten Staat auszuweiten. Infolge der Black Lives Matter-Proteste, die Rassismus und Polizeigewalt in den Fokus genommen haben, entzogen Microsoft, Amazon und IBM [17] der US-Polizei (zumindest vorübergehend) den Zugang zu ihren Gesichtserkennungs-Tools.
Dieses Engagement brauchen wir auch in Deutschland und Europa, um der rasanten Ausbreitung und Normalisierung von Gesichtserkennung etwas entgegenzusetzen. In der Initiative Gesichtserkennung Stoppen! [18] haben sich unter anderem der Chaos Computer Club [19], D64 – Zentrum für digitalen Fortschritt [20] (dessen Beirat ich angehöre) und Digitale Gesellschaft e.V. [21] zusammengeschlossen, um ein Verbot von Gesichtserkennung im öffentlichen Raum und dessen Einsatz durch den Staat zu erreichen.
Die Texte der Kolumne "Edit Policy" stehen unter der Lizenz CC BY 4.0. [22]
(mho [23])
URL dieses Artikels:
https://www.heise.de/-4847531
Links in diesem Artikel:
[1] http://volkerconradus.com/
[2] https://creativecommons.org/licenses/by/4.0/
[3] https://netzpolitik.org/2020/gesichter-suchmaschine-pimeyes-schafft-anonymitaet-ab/
[4] https://www.heise.de/news/Angriff-auf-die-Anonymitaet-Polnische-Gesichtssuchmaschine-PimEyes-in-der-Kritik-4840756.html
[5] https://www.euractiv.com/section/digital/opinion/the-eu-is-funding-dystopian-artificial-intelligence-projects/
[6] https://theintercept.com/2019/07/26/europe-border-control-ai-lie-detector/
[7] https://www.euractiv.com/section/digital/news/mep-public-has-a-right-to-know-about-commissions-lie-detector-tech/
[8] https://netzpolitik.org/2020/deutlich-mehr-gesichtserkennung-bei-bundespolizei-und-kriminalaemtern/
[9] https://www.heise.de/news/Polizei-Hamburg-stoppt-G20-Randalier-Fahndung-mit-Gesichtserkennung-4768299.html
[10] https://netzpolitik.org/2020/gesichter-suchmaschine-pimeyes-schafft-anonymitaet-ab/
[11] https://www.heise.de/news/Angriff-auf-die-Anonymitaet-Polnische-Gesichtssuchmaschine-PimEyes-in-der-Kritik-4840756.html
[12] http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
[13] https://www.ajl.org/
[14] https://www.heise.de/news/Gesichtserkennung-Algorithmus-fuehrt-zur-Verhaftung-eines-Unschuldigen-4795970.html
[15] https://www.youtube.com/watch?v=jZjmlJPJgug
[16] https://www.heise.de/Datenschutzerklaerung-der-Heise-Medien-GmbH-Co-KG-4860.html
[17] https://www.forbes.com/sites/larrymagid/2020/06/12/ibm-microsoft-and-amazon-not-letting-police-use-their-facial-recognition-technology/#1f10cef31887
[18] https://gesichtserkennung-stoppen.de/
[19] https://www.ccc.de/
[20] https://d-64.org/
[21] https://digitalegesellschaft.de/
[22] https://creativecommons.org/licenses/by/4.0/deed.de
[23] mailto:mho@heise.de
Copyright © 2020 Heise Medien