Gesichtserkennung in Großbritannien: Unschuldige verdächtigt

Inhaltsverzeichnis

In Großbritannien wurden mehrere Menschen aufgrund von Fehlern in Gesichtserkennungssoftware zu Unrecht als Kriminelle beschuldigt. Einer der zu Unrecht Beschuldigten ist bei der Antigewaltorganisation "Street Fathers" tätig. Er wurde auf dem Heimweg auf seiner Arbeit von der Polizei angehalten, da diese ihn irrtümlich als gesuchte Person identifiziert hatte. Daraufhin wurde er 20 Minuten lang festgehalten und musste Fingerabdrücke abgeben, obwohl er seine Identität mit mehreren Dokumenten nachweisen konnte. Das berichtet die BBC.

Die Metropolitan Police nutzt Kameras, um Tausende von Gesichtsbildern zu erfassen und diese mit Personen auf einer polizeilichen Beobachtungsliste abzugleichen. Laut Informationen von BBC führte die Metropolitan Police in diesem Jahr bereits 192 Festnahmen aufgrund des Systems durch.

Frau erhält fälschlicherweise Hausverbot

In einem weiteren Fall wurde eine Frau in Manchester des Diebstahls beschuldigt. Die in einer "Home Bargain"-Filiale installierte Gesichtserkennungssoftware "Facewatch" hatte sie fälschlicherweise als verdächtig erkannt. In der Folge erhielt sie ein Hausverbot für alle weiteren Filialen. Facewatch wird in Großbritannien auch in weiteren Läden eingesetzt, um Ladendiebe zu identifizieren.

Gegenüber BBC sagt die Metropolitan Police, dass die Wahrscheinlichkeit, dass die Software Passanten fälschlicherweise bezichtigt, bei eins zu 33.000 liegt. Allerdings sei die Fehlerrate sehr viel höher, wenn jemand erstmal als verdächtig markiert wurde.

Rechtslage gleicht Wildem Westen

Michael Birtwhistle, Forscher beim Ada Lovelace Institute bezeichnet die Rechtslage derzeit laut BBC als "wilden Westen" und vertritt die Ansicht, dass die Technologie noch so neu ist, dass die Rechtslage beim Einsatz solcher Software noch unklar ist. Laut der Bürgerrechtsorganisation Big Brother Watch hat Facewatch acht Verstöße gegen Datenschutzgesetze begangen. Trotzdem setzt sich Chris Philp, der zuständige Staatsminister im Innenministerium, für eine weitere Ausweitung des Einsatzes der umstrittenen Technologie ein.

Bürgerrechtsgruppen äußern große Bedenken hinsichtlich der Genauigkeit der Live-Gesichtserkennung. Immer wieder machen Meldungen die Runde, dass Algorithmen zu Gesichtserkennung gerade bei schwarzen Menschen nicht zuverlässig funktionieren, beispielsweise bei Uber Eats. Die Fälle verdeutlichen, welche Konsequenzen Fehlerkennungen der Gesichtserkennungssysteme für Betroffene haben können. Daher ruft die Organisation "Big Brother Watch" zu einem sofortigen Stopp auf, um Ungerechtigkeit, Verletzung von Bürgerrechten und dem fehlenden gesetzlichen Rahmen entgegenzuwirken. Sie will den Betroffenen dabei helfen, gegen die Home-Bargain-Filiale und die Metropolitan Police zu klagen, bei denen die Software zum Einsatz kommt. Informationen von Big Brother Watch zufolge wollen die Betroffenen unabhängig voneinander klagen, damit anderen so etwas nicht auch passiert.

Silkie Carlo, Direktorin von Big Brother Watch, warnt in einer Pressemeldung davor, dass die Gesichtserkennung zur Normalität wird und mahnt zur Vorsicht. "Live-Gesichtserkennungsüberwachung verwandelt unsere Gesichter in Barcodes und macht uns zu [...] Verdächtigen, die [...] fälschlicherweise beschuldigt, grob misshandelt und gezwungen werden können, den Behörden unsere Unschuld zu beweisen", so Carlo.

Strenge Regulierung durch AI Act

"In Europa haben Datenschutzbehörden Supermärkte wegen der Verwendung von Live-Gesichtserkennung mit Geldstrafen belegt" schreibt Big Brother Watch. Die EU will den Einsatz von Gesichtserkennung von Strafverfolgungsbehörden mit der KI-Regulierung stark beschränken. In den USA hätten zudem mehrere Städte und Bundesstaaten den Einsatz der Live-Gesichtserkennung nach Fehlidentifizierungen verboten. Laut Big Brother Watch hat die Regierung in Großbritannien erst kürzlich angekündigt, bald eine Strategie zur Gesichtserkennung einführen zu wollen.

(mack)