Gesichtserkennung: Amazon verwechselt Abgeordnete mit Gangstern
Bürgerrechtler haben Amazons Gesichtserkennung getestet: Das System habe fälschlicherweise Kongressabgeordnete auf Polizeifotos von Verdächtigen erkannt.
Diese Kongressabgeordneten identifizierte Amazon Rekognition im ACLU-Test als Tatverdächtige.
(Bild: ACLU)
Ein Test des Gesichtserkennungs-Systems von Amazon hat laut den US-Bürgerrechtlern der American Civil Liberties Union (ACLU) eklatante Fehler ergeben: Die ACLU glich mit Amazons Rekognition API Bilder der 535 US-Kongressabgeordneten mit 25.000 öffentlichen verfügbaren Polizeifotos von Verhafteten ab, sogenannten Mugshots. Keiner der Abgeordneten sei tatsächlich auf den 25.000 Fotos abgelichtet gewesen, dennoch wurden 28 Abgeordnete vom System fälschlicherweise darauf erkannt.
Die ACLU sieht das als besorgniserregend an, gerade in Betracht dessen, dass Amazon Rekognition bei Polizeibehörden der USA getestet oder sogar schon eingesetzt wird. "Eine Identifizierung – akkurat oder nicht – könnte Menschen ihre Freiheit oder sogar ihr Leben kosten“, erklärten die Bürgerrechtler. Der Kongress solle daher auf die Bremse treten und ein Moratorium verhängen, das Strafverfolgern die Nutzung von Gesichtserkennung untersagt.
Amazon: Test schlecht eingestellt
Amazon sieht die Ergebnisse der ACLU aber nicht als aussagekräftig an. Die Wahrscheinlichkeitsschwelle, ab der ein Gesicht als erkannt gilt, sei zu großzügig eingestellt gewesen – bei 80 Prozent Wahrscheinlichkeit. Das sei allenfalls eine akzeptable Einstellung, wenn man etwa Fotos von „Hot Dogs, Stühlen, Tieren“ und ähnlichem erkannt haben wolle, erklärte ein Amazon-Sprecher gegenüber dem Online-Medium The Verge. Für die Identifikation von Individuen sei das aber keine angemessen Stufe, Amazon empfehle bei polizeilichen Zwecken mindestens 95 Prozent.
Unter anderem testet die Polizei von Orlando (Florida) den Dienst von Amazon, wie USA Today berichtet. Demnach wurden Bilder von freiwilligen Polizisten als Testobjekte genutzt und mit Filmmaterial aus Überwachungskameras der Stadt abgeglichen.
300.000 Mugshots zum Abgleich
Noch weiter geht eine Polizeibehörde im Bundesstaat Oregon. Dort hat das Sheriff‘s Office Amazon 300.000 Fotos von Festnahmen zum Abgleich zur Verfügung gestellt. Damit können die Beamten sofort erfahren, wo welche Personen vor eine Kamera laufen, die einmal festgenommen worden waren. Zudem können Sheriff-Beamte über ihre Smartphones beliebige Fotos beisteuern. Der Dienst koste die Behörde gerade einmal zwischen 6 und 12 US-Dollar monatlich, schreibt die Washington Post unter Berufung auf einen Sprecher des County.
Derart günstige Preise machen Amazon Rekognition offenbar so attraktiv. Die ACLU gab an, für ihren Test 12,33 US-Dollar Entgelt an Amazon gezahlt zu haben. Wie die Behörden Rekognition konkret einsetzen, wird aber weitgehend geheimgehalten. Als Argument dient eine gegenüber Amazon eingegangene Schweigeverpflichtung (NDA). (axk)
