Racial Profiling: IBM verzichtet auf biometrische Gesichtserkennung

IBM hat sich nach dem gewaltsamen Tod des Schwarzamerikaners George Floyd für einen "verantwortungsvollen" Einsatz von Technik insbesondere zur Strafverfolgung ausgesprochen. Der US-Konzern selbst werde keine Software zur automatisierten Gesichtserkennung mehr anbieten, erklärte IBM-Chef Arvind Krishna in einem am Montag veröffentlichten Brief an Mitglieder des US-Kongresses der Demokraten. Es sei an der Zeit, einen "nationalen Dialog" zu führen, ob die Biometrietechnik von Polizeibehörden noch angewendet werden sollte.

Krishna gelobt in dem Schreiben , dass IBM insgesamt den Einsatz sämtlicher Technik nicht mehr unterstützen und dulden werde, die Massenüberwachung, rassistische Behördenkontrollen ("Racial Profiling") und Menschenrechtsverstöße ermöglichten. "Künstliche Intelligenz ist ein mächtiges Werkzeug, das den Strafverfolgungsbehörden helfen kann, die Sicherheit der Bürger zu gewährleisten." Anbieter und Nutzer solcher Systeme seien jedoch gemeinsam dafür verantwortlich, dass die Technik auf Voreingenommenheit getestet und auditiert wird.

"Mehr Transparenz und Zurechenbarkeit"

Weiter fordert Krishna, dass die Polizei mehr Technik nutzen sollte, die Transparenz und Zurechenbarkeit ihrer Arbeit fördern. Er unterstützt zudem einen Gesetzentwurf der Demokraten, laut dem Polizeimissbrauch in einer bundesweiten Datenbank registriert werden soll. Es sei auch richtig, tödliche Einsätze besser zu analysieren und in einer Reform die allgemeine "Immunitätsdoktrin" für Strafverfolger aufzuheben.

Gängige Algorithmen stehen immer wieder in der Kritik, da sie etwa rassistische oder sexistische Vorurteile verstärken könnten. IBM hat laut einem vom US-Sender CNBC zitierten Insider keine großen Umsätze mit Technik zur Gesichtserkennung gemacht. Den Beschluss habe die Konzernspitze so anhand geschäftlicher und ethischer Überlegungen auf Basis des Wertekanons des Unternehmens gefasst. Laut anderen Medienberichten hat IBM darüber hinaus entschieden, auch Forschung und Entwicklung der Gesichtserkennung einzustellen.

Senator Edward Markey zeigte sich parallel besorgt, dass Polizeikräfte in Städten, in denen Menschen gegen die Ermordung von Floyd protestieren, Zugang zu der Gesichtserkennungstechnik des New Yorker Startups Clearview AI haben. Demonstranten im ganzen Land nutzten ihre verfassungsrechtlich verbrieften Rechte und gingen gegen Rassenungerechtigkeit auf die Straße, schrieb der Demokrat in einem Brief an Clearview-Geschäftsführer Hoan Ton-That. Dabei sei es wichtig, dass die Strafverfolger keine technischen Hilfsmittel einsetzten, "um die Redefreiheit zu ersticken oder die Öffentlichkeit zu gefährden". Clearview müsse Auskunft geben über eine möglicherweise verstärkte Nutzung ihrer App in jüngster Zeit sowie über neugewonnene Kunden.

(anw)