Patente von Uber: Algorithmen sollen gefährliche Fahrer identifizieren

Nach dem Muster "vorausschauender Polizeiarbeit" (Predictive Policing) oder der automatisierten Bewertung von Versicherungsnehmern arbeitet Uber offenbar an algorithmischen Systemen, um das Risiko von Fahrern unter dem Aufhänger der Sicherheit auch der Passagiere maschinell einzuschätzen und gefährliche Personen am Steuer auszumachen. Darauf verweisen US-Patente, die der kalifornische Fahrtenvermittler zwischen 2019 und Sommer 2021 erhalten hat.

Die gewerblichen Patente deuten zusammengenommen auf Experimente für die Überwachung und Vorhersage des Verhaltens individueller Fahrer mit Systemen für Künstliche Intelligenz (KI), erklärt das Online-Magazin The Intercept. Ein einschlägiges Patent basiert auf maschinellem Lernen und dem Feedback von Passagieren. Schon ein "starker Akzent" in der Aussprache eines Fahrers wird dabei mit einer "geringen Qualität" der Dienstleistung gleichgesetzt.

Ein anderes Patent zielt auf die Vorhersage von Sicherheitsvorfällen mithilfe von Wahrscheinlichkeitsmodellen ab, wonach ein Fahrer in gefährliche Manöver oder zwischenmenschliche Konflikte verwickelt sein könnte. Dabei werden Faktoren wie psychometrische Tests zur Bestimmung der "Vertrauenswürdigkeit" der Person am Steuer, die Überwachung ihrer Profile in sozialen Netzwerken und die Verwendung "offizieller Quellen" wie Polizeiberichte genutzt, um Verzerrungen zu vermeiden.

Leistungs- und Verhaltensbewertung

Einige der mit den Patenten offengelegten Systeme bewerten die Leistung von Fahrern anhand von Informationen aus ihren Smartphones. Darunter ist eines, das deren Augen- und Kopfbewegungen mit Handykameras verfolgt. Bei einem weiteren Patent geht es darum, Gemüts- und Verhaltenszustände wie wütend, betrunken oder schläfrig zu erkennen und auf dieser Basis einen "Anomalien-Score" zu berechnen.

Weitere der beschriebenen Techniken zielen darauf ab, das Verhalten der Fahrer unter Einsatz von Kameras zu kontrollieren und den "Ablenkungsgrad" mithilfe eines Aktivitätsprotokolls zu ermitteln. Dabei wird aufgezeichnet, was sonst noch auf den Mobiltelefonen passiert, ob also etwa ein Anruf getätigt oder eine Straßenkarte aufgerufen wird.

Ein anderes Patent geht auf ein System ein, über das Rückmeldungen von Beförderten und Handy-Metadaten kombiniert werden. Es wertet den "Fahrzeugbetrieb" und das "zwischenmenschliche Verhalten" aus. Beim Übermitteln eines Sicherheitsberichts werden für die Bewertung das Uber-Profil des Fahrers, die Fahrtdauer, die zurückgelegte Strecke, GPS-Standortdaten und die Geschwindigkeit einbezogen. Herauskristallisieren sollen sich so Risiken wie "körperliche Auseinandersetzungen" oder "aggressives Fahren".

Die Patente spiegeln auch Verfahren wider, die in Amazon-Lieferwagen einziehen. Der Versandhändler kündigte im Februar Pläne zur Installation von Videokameras an, die mithilfe von KI die Handbewegungen, die Fahrfähigkeiten und die Mimik der Fahrer verfolgen. Auch hier geht es um eine "Sicherheitsbewertung", die selbst die Kündigung Betroffener zur Folge haben könnte. Zusteller beklagen, sie würden zu Unrecht abgestraft.

Jeremy Gillula, Datenschutzingenieur bei Google, bezeichnete den Ansatz gegenüber dem Magazin als äußerst bedenklich. Daniel Kahn Gillmor von der Bürgerrechtsorganisation American Civil Liberties Union forderte, die Berge an Nutzerdaten zu reduzieren, auf denen Uber sitze. Diese vergrößerten sich aktuell mit jedem gefahrenen Kilometer. Ein Uber-Sprecher erklärte, das Unternehmen suche "immer nach Wegen, wie unsere Technik dazu beitragen kann, das Uber-Erlebnis zu verbessern". Derzeit habe man aber noch keine Produkte im Einsatz, die mit den erwähnten Patenten zusammenhingen.

(olb)