Künstliche Intelligenz: Vestager warnt vor Rassismus bei Predictive Policing

Margrethe Vestager sieht neben Chancen auch Gefahren der Künstlichen Intelligenz (KI). Sie könne Menschen diskriminieren und Vorurteile verstärken, "die bereits in unserer Gesellschaft verbreitet sind", warnte die für die Digitalpolitik zuständige Vizepräsidentin der EU-Kommission am Dienstag zur Eröffnung des European AI Forum. "Frauen wird möglicherweise keine Führungsposition angeboten, weil sie in der Vergangenheit weniger solche Stellen bekommen haben als Männer."

"Migranten und Menschen, die bestimmten ethnischen Gruppen angehören, könnten durch Techniken der vorausschauenden Polizeiarbeit ins Visier genommen werden, die die gesamte Aufmerksamkeit der Strafverfolgungsbehörden auf sie lenken", verwies Vestager auf den zunehmenden Einsatz von Methoden des Predictive Policing. Ganz in diesem Sinne hatte zuvor die Polizei in Los Angeles beschlossen, ihr Programm PredPol nicht mehr einzusetzen.

Leben und Tod

KI könne auch das Verhalten von Produkten verändern, "nachdem wir sie gekauft haben", sagte Vestager. "Wenn ein Musikstreaming-Dienst mir ein Lied empfiehlt, das mir nicht gefällt, kann ich damit leben. Aber wenn mein selbstfahrendes Auto Entscheidungen darüber trifft, wessen Leben im Falle eines Unfalls verschont bleiben soll, würde ich mir mehr Kontrolle über solche Entscheidungen wünschen." Die Kommission fordere daher über ihr Weißbuch zur Künstlichen Intelligenz, risikoreiche Anwendungen angemessen zu regulieren. KI-Produkte müssten "technisch robust und sicher" sein und auf der Grundlage zuverlässiger Daten trainiert werden. An einem gewissen Punkt sollte auch der Mensch im Spiel sein und letztlich eine Entscheidung treffen.

Zum Thema siehe auch:

• Wie KI das menschliche Handlungsvermögen untergräbt
• Wer bändigt die Künstliche Intelligenz?
• Predictive Policing – die Kunst, Verbrechen vorherzusagen
• Predictive Policing - Verbrechensvorhersage zwischen Hype und Realität
• Predictive Policing: Die deutsche Polizei zwischen Cyber-CSI und Minority Report

Wenn KI richtig entwickelt und genutzt werde, könne sie aber auch "Wunder wirken für unsere Wirtschaft und unsere Gesellschaft", meinte Vestager. Mit der Technik könnten Krisen etwa im Gesundheitssystem wie die aktuelle Coronavirus-Pandemie bewältigt und die nächste Krise vorhergesagt werden. KI könne zudem helfen, "betrügerische Transaktionen auf E-Commerce-Marktplätzen zu erkennen" sowie "bis 2050 klimaneutral zu werden".

Fast 1200 Personen oder Organisationen haben an der Konsultation zu dem Weißbuch teilgenommen. Verspätet hatte sich Anfang der Woche auch die Bundesregierung noch in das Konsultationsverfahren eingebracht und vorgeschlagen, für KI-Systeme mit hohem Risiko ein Register sowie eine Meldepflicht für Unfälle einzuführen. Bürgerrechtsorganisationen wie Access Now oder European Digital Rights (EDRi) fordern in ihren Eingaben dagegen ein klares Verbot KI-getriebener Hochrisikotechnologien wie Predictive Policing oder biometrischer Gesichtserkennung. Derartige Instrumente zur unterschiedslosen Massenüberwachung könnten durch keinerlei Kautelen in Einklang mit den Menschenrechten gebracht werden.

(anw)