KI-Verordnung: EU-Parlament stimmt gegen Echtzeit-Gesichtserkennung
Die EU-Abgeordneten haben im Plenum ihre Position zur geplanten KI-Verordnung mit einem weitgehenden Verbot biometrischer Massenüberwachung angenommen.
(Bild: Svetlana Turchenick/Shutterstock.com)
Das Störfeuer von Mitte-Rechts verfing letztlich nicht: Das EU-Parlament hat am Mittwoch seine Linie für eine Verordnung zur Regulierung von Künstlicher Intelligenz (KI) abgesteckt und sich dabei für ein weitgehendes Verbot biometrischer Massenüberwachung im öffentlichen Raum ausgesprochen. Für diese Position im Einklang mit der Empfehlung der federführenden Ausschüsse sitmmten 499 Abgeordnete bei 28 Nein-Stimmen und der recht großen Zahl von 93 Enthaltungen. KI soll künftig demokratischen Spielregeln folgen, die Grundrechte der Bürger wahren und dem Allgemeinwohl dienen.
Der in den Ausschüssen vorab nach langem Hin und Her festgezurrte Kompromiss wackelte in den vergangenen Tagen noch einmal gehörig. Die konservativen Fraktionen der Europäischen Volkspartei (EVP), der CDU und CSU angehören, scherte bei den vereinbarten Klauseln gegen biometrische Massenüberwachung aus und stellte einen eigenen Gruppenantrag dagegen. Im Kern wollte die Mitte-Rechts-Fraktion mit dieser Kampfabstimmung zurück zum ursprünglichen Entwurf der EU-Kommission, der die Echtzeitnutzung biometrischer Systeme in drei Fällen ermöglichen würde: um eine vermisste Person zu finden, terroristische Anschläge zu verhindern oder schwere Straftaten zu verfolgen. Ihr Anliegen fand aber keine Mehrheit.
Echtzeit-Nutzung untersagt
Laut dem im Plenum festgezurrten Kurs soll der Einsatz KI-gestützter Techniken wie automatisierter Gesichtserkennung auch im Nachgang zur Fahndung nach Tätern nur bei schweren Straftaten mit gerichtlicher Anordnung zulässig sein. Maßnahmen wie die umstrittene nachträgliche biometrische Suche der Hamburger Polizei nach Randalierern beim G20-Gipfel dürften damit zumindest erschwert werden. Eine Echtzeit-Nutzung wird generell untersagt.
Ein Bann soll zudem gelten für "das wahllose und ungezielte Sammeln biometrischer Daten aus sozialen Medien oder Überwachungsvideos, um Datenbanken zur Gesichtserkennung zu erstellen oder zu erweitern". Eine solche Praxis, wie sie etwa das US-Unternehmen Clearview AI an den Tag legt, trägt laut den Volksvertretern zum Gefühl einer inakzeptablen Massenüberwachung bei. Auch "Predictive Policing" sowie Emotionserkennung sollen in Bereichen wie Strafverfolgung, Grenzkontrolle, Arbeit und Bildung verboten werden, Social Scoring komplett.
Was für ChatGPT gilt
Neue Dienste wie ChatGPT werden zwar nicht von vornherein als Hochrisiko-Technologie eingestuft, sollen aber streng reguliert werden. Betreiber von KI-Basismodellen, die auf einer umfangreichen Menge nicht-kategorisierter Daten im großen Stil trainiert wurden und auf eine allgemeine Ausgabe ausgelegt sind, müssen dem Kompromiss nach vorhersehbare Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit unter Einbeziehung unabhängiger Experten prüfen und gegebenenfalls abmildern. Trainingsdaten sind weitgehend offenzulegen, damit Experten etwa die Genauigkeit der Quellen, mögliche Verzerrungen und dagegen ergriffene Schritte begutachten können.
Basismodelle sollen auch während ihrer gesamten Laufzeit ein angemessenes Niveau an Leistung, Interpretierbarkeit, Korrigierbarkeit, Sicherheit und IT-Security aufweisen. Fallen sie in die Kategorie der generativen KI, müssten sie weitere Transparenzauflagen erfüllen und angemessene Sicherheitsvorkehrungen gegen die Erzeugung von Inhalten treffen, die gegen EU-Recht verstoßen beziehungsweise Desinformation und "Fake News" verbreiten. Dabei geht es um Systeme wie ChatGPT, DALL-E, Stable Diffusion und Midjourney, die neue Texte, Bilder, Musik oder Videos auf Basis vorhandener, oft urheberrechtlich geschützter Werke generieren. Sie müssten ihre Modelle gegebenenfalls auch bereinigen.
"Historische Abstimmung"
Hersteller generativer KI-Modelle wie OpenAI wollen die Volksvertreter zudem verpflichten, "eine hinreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Trainingsdaten zu dokumentieren und öffentlich zugänglich zu machen". Sie müssten so etwa anführen, ob wissenschaftliche Aufsätze, Fotos im Web oder Songs spezieller Künstler eingeflossen sind. Urhebern und Verwertern soll diese Offenlegung ermöglichen, Lizenzgebühren, Tantiemen oder Schadenersatz zu verlangen. Ferner müssten Betreiber generativer Basismodelle transparent machen, dass deren Inhalte von KI und nicht von Menschen erstellt wurden.
Berichterstatter Brando Benifei von den Sozialdemokraten sprach von einer "historischen Abstimmung", die eine klare Botschaft an die restliche Welt sende. Europa gehe voraus und gebe eine "konkrete Antwort auf die Risiken, die die KI mit sich bringt". Das KI-Gesetz werde "weltweit den Ton bei der Entwicklung und Steuerung der Künstlichen Intelligenz angeben", zeigte sich auch der Mitverhandlungsführer Dragos Tudorache von den Liberalen überzeugt. Die Technologie biete enorme Vorteile und könne Gesellschaften radikal verändern. Dafür sei es aber wichtig, sie in die richtigen Bahnen zu lenken. Die noch ausstehenden Verhandlungen mit dem EU-Ministerrat über einen finalen Kompromiss sollen dem Rumänen zufolge noch am Mittwochabend starten. Die Linie der Mitgliedsstaaten weicht von der des Parlaments noch an entscheidenden Punkten ab.
(mki)
