KI-Verordnung: So reagieren Bürgerrechtler auf die neue Regelung

Die Position zur geplanten Verordnung für Künstliche Intelligenz (KI), die federführende Ausschüsse des EU-Parlaments am Donnerstag abgesteckt haben, stößt auf ein geteiltes Echo. Die knapp 80 zivilgesellschaftlichen Organisationen des Bündnisses "Reclaim Your Face", das einen Bann biometrischer Massenüberwachung fordert, verbuchen die Entscheidung als großen Erfolg. Die Abgeordneten schickten mit ihrer Verbotsliste für Predictive Policing sowie Systeme zur Erkennung von Emotionen und zur biometrischen Kategorisierung und Identifizierung in öffentlichen Räumen "eine weltweit bedeutsame Botschaft an Regierungen und KI-Entwickler", freut sich etwa Sarah Chander, Politikberaterin bei der Dachgesellschaft European Digital Rights (EDRi).

Bei der Bürgerrechtsorganisation feiert man einen "historischen Schritt zum Schutz der Menschen in der EU vor zahlreichen Praktiken" der biometrischen Durchleuchtung sowohl durch den Staat als auch durch private Akteure. Entwickler könnten anhand des Kompromisses aber selbst entscheiden, "ob ihr System 'signifikant' genug ist, um als hochriskant zu gelten". Die Denkfabrik AlgorithmWatch begrüßte ebenfalls, dass das EU-Parlament "ein starkes Signal" sende. Fernerkennungsverfahren "dringen in unsere Privatsphäre ein und sind ein Nährboden für Diskriminierung". Jetzt komme es darauf an, in den Verhandlungen mit den Mitgliedsstaaten nicht hinter den Beschluss zurückzufallen, hob Konstantin Macher vom Datenschutzverein Digitalcourage hervor. Mitglieder der Ampel hätten sich hier "entgegen dem Koalitionsvertrag für weitreichende Ausnahmen starkgemacht".

Eine Kampfansage an die EU-Regierungen?

Auch der EU-Abgeordnete Patrick Breyer (Piratenpartei) wertete die Abstimmung als "Durchbruch für die Bewegung, die eine dystopische Zukunft biometrischer Massenüberwachung in Europa nach chinesischem Vorbild verhindern will". Bei der bevorstehenden Plenarabstimmung müsse die Liste der Verbote unethischer Technik noch ergänzt werden um die Verhaltensanalyse in der Öffentlichkeit, mit der Betroffene leicht wegen angeblich "abnormaler" Aktivitäten automatisiert angeschwärzt würden. Auch so sei die Ausschussempfehlung aber eine "Kampfansage" an die EU-Regierungen. Grünen-Digitalexpertin Alexandra Geese lobte, die EU habe ChatGPT mit den Beschlüssen "eingefangen, auch wenn das Zähmen des Chatbots noch viel Kraft und Zeit kosten wird". Bei KI werde künftig klar "zwischen Wunderwerkzeugen und Höllensystemen" differenziert.

Digitalverbände wie der Bitkom und der eco warnen dagegen davor, KI und Entwickler durch ein Übermaß an Regulierung aus Europa zu vertreiben. Durchbrüche bei generativer KI wie ChatGPT hätten angedeutet, welch enormes Potenzial die Technologie habe. Die risikoreiche Einstufung der Empfehlungssysteme von Online-Plattformen und die unnötige Aufnahme urheberrechtlicher Anforderungen in das KI-Gesetz würden die Kosten "für erfolgreiche Unternehmen erhöhen und sich nachteilig auf die Innovation auswirken", befürchtet die Computer & Communications Industry Association (CCIA).

Bürger fürchten Risiken

Laut den Ergebnissen einer repräsentativen Umfrage des TÜV-Verbands sind aber 80 Prozent der Bundesbürger der Ansicht, dass beim Einsatz von KI derzeit nicht abschätzbare Risiken bestehen. Fast zwei Drittel befürchten, dass die Technologie für Menschen nicht mehr beherrschbar ist (65 Prozent) oder dass sie ohne ihr Wissen manipuliert werden könnten (61 Prozent). 76 Prozent haben Bedenken, dass KI persönliche Daten nicht ausreichend schützt. Der Verband sieht in der Verordnung die Chance, eine ethische und sichere KI-Nutzung zu erreichen. Die Free Software Foundation Europe (FSFE) applaudierte, da gemeinnützige Organisationen und kleine Freie-Software-Projekte von den Vorschriften weitgehend ausgenommen würden.

(mki)