Großbritannien: Uber Eats entschädigt Opfer nach Problemen mit Gesichtserkennung
In Großbritannien wollte die App von Uber Eats einen Lieferfahrer partout nicht erkennen, schließlich wurde er ausgesperrt. Jahre später bekommt er nun Geld.
Einige der Fotos von Manjang.
(Bild: ADCU)
In Großbritannien hat Uber Eats einem Lieferfahrer eine finanzielle Entschädigung zugesprochen, weil die KI-Gesichtserkennung der zugehörigen App bei ihm immer wieder versagt hat und er zwischenzeitlich sogar ganz gesperrt worden war. Das teilte die britische Gleichstellungsbehörde EHRC mit, die Pa Edrissa Manjang vor Gericht vertreten hat. Der arbeitet demnach seit 2019 für den Lieferdienst und muss dafür eine App benutzen, die von Microsoft bereitgestellte KI-Gesichtserkennung nutzt. Bald sei er mehrfach am Tag zur Verifizierung aufgefordert worden, weil er nicht erkannt worden sei, berichtet The Times. Schließlich sei er als Folge eines automatisierten Vorgangs gar ganz ausgesperrt worden. Wie viel Geld er jetzt bekommt, ist nicht öffentlich.
Keine Vorwarnung, kein Widerspruch möglich
Wie die Equality and Human Rights Commission erklärt, war dem Mann von Uber Eats mitgeteilt worden, dass er von der Plattform ausgesperrt wird, weil es "anhaltende Unstimmigkeiten" bei den Fotos seines Gesichts gegeben habe. Wegen des Rückgriffs auf KI-Technik zur Verifizierung und auf andere automatisierte Prozesse habe man sich entschieden, ihn vor Gericht zu vertreten. Unterstützung gab es auch von der Gewerkschaft der Lieferfahrer und -fahrerinnen (App Drivers and Couriers Union). Immerhin könnten Betroffene damit vollautomatisch um ihre Einkommen gebracht werden, kritisieren beide. Erhoben wurden die Vorwürfe im Herbst 2021, abschließende Anhörungen vor dem zuständigen Gericht waren für November angesetzt. Dem ist die außergerichtliche Einigung nun zuvorgekommen.
Pa Edrissa Manjang zeigt sich mit dem Ergebnis zufrieden, er spricht von einem langen und schwierigen Verfahren. Sein Fall werfe ein Schlaglicht auf potenzielle Probleme, die mit dem Rückgriff auf KI einhergehen und vor allem gering bezahlte Beschäftigte treffen. Er selbst wurde längst wieder als Lieferfahrer zugelassen und arbeitet weiter für Uber Eats. Die EHRC weist Unternehmen wie Uber darauf hin, dass angesichts einer zunehmenden Automatisierung immer sichergestellt werden müsse, dass die Angestellten vor gesetzeswidriger Diskriminierung geschützt sind. Im Fall von Manjang sei man außerdem auch besorgt, dass er vorab nicht auf die drohende Deaktivierung hingewiesen worden war und ihm keine Möglichkeit aufgezeigt wurde, dagegen vorzugehen.
Dass Systeme zur automatischen Gesichtserkennung vor allem bei schwarzen Menschen Probleme haben, ist nicht neu. Vor allem in den USA sorgen immer wieder haarsträubende Fälle für Aufmerksamkeit. So wurde ein Mann im US-Bundesstaat Georgia vor anderthalb Jahren eine Woche lang inhaftiert, weil er per Gesichtserkennung mit einem Dieb zwei Bundesstaaten weiter verwechselt worden war. 2021 war Facebook in den Schlagzeilen, weil der Algorithmus des sozialen Netzwerks Videoaufnahmen schwarzer Menschen mit Affen in Verbindung gebracht hat. Dabei wurde schon lange vorher darauf hingewiesen, dass Algorithmen zur Gesichtserkennung bei manchen Menschengruppen systematisch schlechter funktionieren und deshalb Diskriminierung verfestigen können.
(mho)