Brasilien: Klage gegen Gesichtserkennungssoftware

Die Ombudsstelle des Bundesstaates São Paulo und ihr Pendant auf Bundesebene, sowie eine Gruppe wichtiger zivilgesellschaftlicher Organisationen haben eine gemeinsame Klage eingereicht, um den Einsatz von Gesichtserkennungstechnologien durch die Metro in São Paulo mit ihren vier Millionen Fahrgästen täglich zu verhindern.

Während der Antrag auf Erlass einer einstweiligen Verfügung darauf abzielt, die Erfassung und Verarbeitung biometrischer personenbezogener Daten von U-Bahn-Nutzern zu unterbinden, fordern die Kläger in der Sache selbst, dass der "massive und wahllose" Einsatz von Gesichtserkennungssoftware in den Räumlichkeiten des Unternehmens untersagt wird.

Nach Ansicht der Kläger entspricht das System nicht den gesetzlichen Anforderungen, die im Allgemeines Datenschutzgesetz, im Verbraucherschutzgesetz und anderen Gesetzen und Verordnungen festgelegt sind. Das brasilianische Datenschutzgesetz besagt, dass bei der Verarbeitung personenbezogener Daten die Menschenrechte, die Menschenwürde und Bürgerrechte geachtet werden müssen.

Gesichtserkennungstechnologie diskriminiert

Der zentrale Teil der Klage bemängelt, dass die Gesichtserkennung das Risiko der Diskriminierung schwarzer, nicht-binärer und transsexueller Menschen erhöht, da diese Art von Technologie keine hohe Genauigkeit aufweist und "in ein Umfeld des strukturellen Rassismus eingebettet" ist. Laut der Klage sind selbst die besten Algorithmen bei der Erkennung von Schwarzen und Transgender-Personen ungenau, so dass diese mehr Peinlichkeiten und Rechtsverletzungen ausgesetzt wären. "In Bezug auf schwarze und transsexuelle Menschen gibt es viele öffentliche und berüchtigte Fälle im In- und Ausland, in denen Gesichtserkennungssysteme zu schwerwiegenden Fehlern geführt haben, die auf algorithmischer Diskriminierung beruhen", heißt es in der Klage.

Google, Amazon und andere Technologiefirmen stehen seit Jahren wegen Diskriminierung durch ihre KI-Systeme in der Kritik. Studien haben gezeigt, dass Gesichtserkennungstechnologie farbigen Menschen gegenüber voreingenommen ist. So gibt es dabei etwa immer wieder Schwierigkeiten, People of Color überhaupt zu identifizieren. Facebooks Gesichtserkennung zum Beispiel hielt schwarze Menschen für Affen. Unschuldige Schwarze sind auch bereits aufgrund fehlerhafter Algorithmen verhaftet worden.

Zudem verstoße die Verwendung von Bildern und Daten von Kindern und Jugendlichen ohne die Zustimmung der Eltern oder Erziehungsberechtigten gegen bestehende Gesetze, so die Klage weiter. Anderen Probleme betreffen die Verletzung der Privatsphäre und Überwachung. Länder wie die USA oder Kanada haben den massiven Einsatz von Gesichtserkennungstechnologie aus diesen Gründen eingeschränkt. Im Februar 2021 hat die kanadische Datenschutzbehörde offiziell festgestellt, dass Clearviews Gesichtserkennung in Kanada illegal ist. Die US-Steuerbehörde verzichtete nach Kritik auf Gesichtserkennung für Onlinedienste.

Metro verteidigt sich

In einer Erklärung teilte die Metro mit, dass "die Implementierung des Systems den Anforderungen des allgemeinen Datenschutzgesetzes entspricht". Auch sehe "das elektronische Überwachungssystem (SME3) keine Gesichtserkennung des Bürgers, keine Personifizierung und keinen Aufbau einer Datenbank mit persönlichen Informationen" vor. Es diene "ausschließlich der Betriebsunterstützung und dem Passagierdienst", heißt es in einer Erklärung des Unternehmens, aus der die Tageszeitung Folha de. S. Paulo zitiert. Und weiter: "Damit ist es möglich, Fahrgäste zu zählen, Objekte zu identifizieren, unbegleitete Kinder, unbefugtes Betreten von Bereichen wie dem Gleis, an dem der Zug vorbeifährt, entlaufene Tiere oder sehbehinderte Personen über das System zu überwachen und in diesen Situationen Warnmeldungen zu generieren, damit die Mitarbeiter schnell handeln können."

Die Klage dagegen fordert neben der unverzüglichen Einstellung des Einsatzes von Gesichtserkennungstechnologie die Verurteilung des Unternehmens zur Zahlung einer Entschädigung in Höhe von mindestens 42 Millionen Reais (rund 7,5 Millionen Euro) für kollektive moralische Schäden für die Verletzung der Rechte seiner Fahrgäste.

(akn)