Amazon: Gesichtserkennung durch Polizei eingeschränkt – per Vertrag

Inhaltsverzeichnis

Das FBI nutzt Amazon Rekognition; das ist ein Bildanalysedienst von Amazon.com, der auch Gesichtserkennung erlaubt. Öffentlich wurde das durch ein Dokument des US-Justizministeriums. Die Mitteilung sorgt für Stirnrunzeln. Hat Amazon nicht öffentlich mitgeteilt, der Polizei keine Gesichtserkennungssysteme zu verkaufen? Hintergrund war ausufernde Überwachung von Menschen und der Umstand, dass Gesichtserkennung systematisch rassistisch ist. Für die Betroffenen kann das schlimme Folgen haben.

Daher hat Amazon 2019 die Kooperation mit Polizeidienststellen bei Gesichtserkennung für strafrechtliche Ermittlungen ausgesetzt – zunächst für ein Jahr, 2020 dann ohne zeitliche Beschränkung. "Wir haben ein Moratorium für Polizeidienststellen für die Nutzung der Gesichtserkennung von Amazon Rekognition in Verbindung mit strafrechtlichen Ermittlungen im Juni 2020 gesetzt", bestätigt ein Amazon-Sprecher nun heise online, "Zu unterstellen, wir hätten dieses Moratorium gelockert, ist falsch." Das Moratorium gilt nur für strafrechtliche Ermittlungen und ausdrücklich nicht für Gesichtserkennung zwecks Auffindung vermisster Personen.

Auffangklausel

"Rekognition ist ein Bild- und Video-Analysedienst, der viele Leistungsmerkmale für Analyse und Vergleich (abseits Gesichtserkennung) aufweist", führte der Sprecher weiter aus, "Nichts in der Offenlegung des US-Justizministerium deutet an, dass das FBI das Moratorium in irgend einer Weise verletzt." Das stimmt, doch schließt die kurz gehaltene Offenlegung des US-Justizministeriums solche Nutzung auch nicht aus.

Das Dokument formuliert es so: "Amazon Rekognition bietet vortrainierte und anpassbare Fähigkeiten der Computer Vision, um Informationen und Erkenntnisse aus rechtmäßig beschafften Bildern und Videos zu extrahieren. (Beim FBI ist es) derzeit in der Einführungsphase, um (Darstellungen) mit Nacktheit, Waffen, Sprengstoff und anderen identifizierenden Informationen zu erkennen und zu beurteilen." Unter "andere identifizierende Informationen" könnte alles Mögliche fallen, nicht zuletzt Gesichter – und für die Suche nach Vermissten gestattet Amazon deren Abgleich ja. Für die Interpretation dieser Offenlegung verweist Amazon auf das Justizministerium; heise online hat dort eine Erklärung erbeten.

Amazons Vertragsbedingungen

Der Amazon-Sprecher hat heise online zudem auf mehrere Richtlinien und Vertragsbedingungen hingewiesen, darunter die Amazon Web Services Service Terms. Abschnitt 50.9. lautet: "Amazon hat ein Moratorium für die Nutzung der Gesichtsvergleichsfunktion von Amazon Rekognition durch Polizeidienststellen in Zusammenhang mit strafrechtlichen Ermittlungen erlassen. Dieses Moratorium gilt nicht für die Verwendung der Gesichtsvergleichsfunktion von Amazon Rekognition zur Identifizierung oder Lokalisierung von vermissten Personen." Was genau "Polizeidienststellen" sind, definiert das Dokument nicht.

Der vorhergehende Abschnitt 50.8. enthält Vorgaben für den Einsatz von Gesichtserkennung durch "Strafverfolgungsbehörden", die Amazon als Regierungseinrichtungen definiert, deren "primärer Zweck und Aufgabe strafrechtliche Ermittlungen, Festnahme und Strafverfolgung" sind. Amazon warnt diese Anwender, dass die Gesichtserkennung keine definitive Identifikation einer Person bietet und daher unabhängige Überprüfung unerlässlich ist. Strafverfolgungsbehörden müssen ihre Mitarbeiter einschlägig schulen und den Einsatz von Gesichtserkennung samt Beschreibung von Vorkehrungen zum Schutz von Bürgerrechten offenlegen. Dauerhafte Überwachung von Menschen mit Amazons Gesichtserkennung erlaubt der Konzern nur unter außergewöhnlichen Umständen (bei Gefahr von Personenschäden) oder aber mit Durchführung einer unabhängigen Prüfung zum Schutz von Bürgerrechten (beispielsweise einem Durchsuchungsbeschluss).

FBI verweist auf Protokolle und Aufsicht

Sollte eine Polizeidienststelle Amazon Rekognition zur Gesichtserkennung für strafrechtliche Ermittlungen einsetzen, würde es wohl Amazons Vertragsbedingungen verletzen. Technisch schränkt Amazon vertragswidrige Gesichtserkennung offenbar nicht ein.

Das wäre auch schwierig, weil automatisch schwerlich erkennbar ist, ob eine bestimmte Gesichtsfahndung einer Vermisstenmeldung oder einem Mordfall dient. Im jüngsten Privacy Impact Assessment aus dem Jahr 2018 versichert das FBI, dass nur ausgewählte Mitarbeiter Zugriff auf Gesichtserkennungssysteme erhalten, dass diese Personen erhebliche Schulungen für Systemsicherheit und Datenschutz durchlaufen haben, dass sie ihre Zugriffe manuell protokollieren, und dass FBI-Ermittlungen grundsätzlich unter "Aufsicht und Compliance" fallen.

Amazon bietet übrigens Unterstützung bei der Formulierung einschlägiger Vorschriften an, wie Amazons Sprecher heise online mitgeteilt hat: "Wie wir schon oft gesagt haben, und weiterhin stark glauben, müssen Unternehmen und Regierungseinrichtungen bestehende und neue Technik verantwortungsvoll und legal einsetzen. Wir glauben auch, dass Regierungen Regeln für den ethischen Einsatz von Gesichtserkennungstechnik erlassen sollten, und wir sind bereit, auf Anfrage beim Entwurf angemessener Regeln zu helfen."

• Offenlegung genutzter KI-Systene durch das US-Justizministerium
• Privacy Impact Assessment des FBI zu Gesichtserkennung aus 2018

(ds)