EU-Parlament: Verhandlungsführer fordern Verbot von Predictive Policing
Die Berichterstatter für die KI-Verordnung haben ihre Empfehlungen festgezurrt. Das oft geforderte Aus für biometrische Massenüberwachung ist noch nicht dabei.
(Bild: Daniel AJ Sokolov)
Methoden der Algorithmen-getriebenen "vorausschauenden Polizeiarbeit" sollen in der EU untersagt werden. Für ein entsprechendes Verbot von Predictive Policing machen sich die beiden Berichterstatter im EU-Parlament für die geplante Verordnung für Künstliche Intelligenz (KI), der Sozialdemokrat Brando Benifei und der Liberale Dragoș Tudorache stark. Sie führen die Verhandlungen über das Dossier für die Ausschüsse für bürgerliche Freiheiten, Justiz und Inneres sowie für Verbraucherschutz.
Die beiden Abgeordneten haben am Montag ihre Empfehlungen für Änderungen am Entwurf der EU-Kommission für die KI-Regeln abgesteckt. Die anderen Ausschussmitglieder können weitere Korrekturvorschläge machen, bevor die zwei Gremien die Position des Parlaments festlegen, die im Plenum bestätigt werden muss.
Benifei bezeichnete das vorgeschlagene Aus für Predictive Policing gegenüber dem Online-Magazin "Euractiv" als "wichtigen Schritt, um gegen stark diskriminierende Praktiken" in der Strafverfolgung vorzugehen. "Migranten und Menschen, die bestimmten ethnischen Gruppen angehören, könnten durch Techniken der vorausschauenden Polizeiarbeit ins Visier genommen werden", hat auch die für Digitales zuständige Vizepräsidentin der Kommission, Margrethe Vestager, gewarnt. Die Brüsseler Regierungsinstitution konnte sich aber nicht auf ein generelles Verbot von KI-Software wie PredPol oder Precobs verständigen.
Kampf um Gesichtserkennung im öffentlichen Raum
Der Bürgerrechts-Dachverband European Digital Rights (EDRi) begrüßte den Vorschlag der Verhandlungsführer. EDRi hat wiederholt zusammen mit anderen zivilgesellschaftlichen Institutionen rote Linien für KI-Überwachung sowie für Social Scoring gefordert. Sie seien "in einer demokratischen Gesellschaft inakzeptabel". Die Bürgerrechtsorganisation unterstützt dazu die EU-Bürgerinitiative "Reclaim your Face" gegen biometrische Massenüberwachung wie automatisierte Gesichtserkennung in öffentlichen Räumen.
An dieser Front sind die Berichterstatter noch nicht auf einem grünen Zweig, obwohl das EU-Parlament als Ganzes bereits im Oktober ein Verbot gefordert hat. Ermittlern soll laut der damals angenommenen Resolution untersagt werden, private Gesichtserkennungsdatenbanken zu nutzen, wie sie etwa die US-Firma Clearview AI zusammengetragen hat. Die Kommission hat lediglich einen grundsätzlichen Bann "biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum" vorgeschlagen. Die gezielte Suche etwa nach Terroristen oder vermissten Kindern mit Gesichtserkennung soll erlaubt bleiben.
Kinder, Gesundheit, Versicherungen, Deepfakes und Wahlen
Mit der KI-Verordnung sollen einschlägige Systeme generell in Risikoklassen eingeteilt und solche mit unannehmbaren Gefahren wie Social Scoring untersagt werden. Für Behörden sieht der Berichtsentwurf der Verhandlungsführer laut "Euractiv" umfangreichere Auflagen und Transparenzanforderungen für Hochrisikoanwendungen vor, einschließlich deren Aufnahme in eine EU-weite Datenbank – auch ein Wunsch der deutschen Bundesregierung.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Zur Liste der risikoreichen Dienste hat das Duo KI-Systeme, die für Interaktion mit Kindern, medizinische Triage, Versicherungen, Deepfakes und Algorithmen mit potenziellen Auswirkungen auf demokratische Prozesse entwickelt wurden, hinzugefügt. Dazu zählen Programme, die für Wahlkampagnen oder das Auszählen elektronisch abgegebener Stimmen verwendet werden.
Klagerecht für Verbraucherschützer
Die zwei Volksvertreter verständigten sich darauf, die Definition von KI möglichst breit zu fassen. Sonderregeln für eine "Allzweck-KI", die Systeme für verschiedene Aufgaben trainieren kann, wollen sie nicht. Für die Durchsetzung sollen zum Teil nationale Behörden zuständig sein. KI-Anwendungen, die tiefgreifende Auswirkungen auf Verbraucher und weitreichende gesellschaftliche Folgen haben könnten, sollen einheitlich auf EU-Ebene kontrolliert werden. Verbraucherschutzorganisationen sollen Klage führen dürfen.
"Der Text sorgt für mehr Klarheit bei der Aufteilung der Verantwortung zwischen Anbietern und Nutzern", warb Tudorache für den Kompromissvorschlag, "Unser Ansatz war es, diese Verordnung wirklich menschenzentriert zu gestalten", betonte Benifei. Er sieht noch Luft nach oben, etwa bei der Verbotsliste. Der Berichtsentwurf soll in der ersten Maihälfte in beiden Ausschüssen erstmals beraten werden, die Parlamentslinie im Spätherbst stehen.
(ds)
