EU-Ausschuss unterstützt Verbot von Deepfake-fähigen KI-Systemen - mit Ausnahmen

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Die EU-Ausschüsse für Binnenmarkt und Bürgerrechte haben am Mittwoch den geplanten Änderungen des sogenannten Omnibus-Pakets zugestimmt. Damit sollen Hochrisiko-KI-Systeme reguliert, aber auch bestimmte Deepfakes verboten werden. Dazu gehört die KI-Generierung von Inhalten, die Kindesmissbrauch und intime Situationen zeigen, sowie sexuelle Handlungen, die nicht einvernehmlich sind. Gemeint ist nicht nur die fehlende Erlaubnis des Aktes, sondern die fehlende Erlaubnis, solche Bilder künstlich zu erzeugen.

Der sogenannte Omnibus AI Act ist Teil der Simplifizierung-Agenda, bei der die EU aktuell mehrere bestehende Gesetze auf ihre Aktualität und Umsetzbarkeit betrachtet. In diesem Fall geht es vor allem um bisher fehlende Standards und Werkzeuge für Hochrisiko-KI, die noch ausgearbeitet werden müssen. Anfang dieser Woche hatte der Europäische Rat den Änderungen des Omnibus AI Acts mit einer Fristverlängerung für Hochrisiko-KI-Systeme und dem Deepfake-Verbot bereits zugestimmt.

Jetzt haben die EU-Ausschüsse für Binnenmarkt und Bürgerrechte die vorgeschlagenen Änderungen mit großer Mehrheit ebenfalls durchgewinkt. 101 EU-Abgeordnete stimmten laut EU-Mitteilung dafür und nur 9 dagegen, bei 8 Enthaltungen. Zu den Regelungen gehört auch, dass KI-generierte Inhalte früher als zunächst vorgesehen mit Wasserzeichen versehen sein müssen. Ursprünglich wurde den KI-Anbietern dafür eine Frist bis zum 2. Februar 2027 eingeräumt, jetzt sollen sie dies bis zum 2. November 2026 umsetzen.

Verbot KI-generierter Deepfakes ohne Zustimmung

Gar nicht mehr sehen wollen die EU-Parlamentarier sogenannte Nacktbildgeneratoren. Auslöser dieser Initiative waren massenhaft erstellte Bilder mit sehr fragwürdigen Inhalten, die Menschen mit dem Bildgenerator von Grok gemacht hatten. Die Bilder posteten viele bei X. Grok ist der Bildgenerator von Elon Musks xAI, dem auch X gehört. Nutzer hatten der KI aufgetragen, bekannte Persönlichkeiten in aufreizenden Posen oder bei sexuellen Handlungen darzustellen, was Grok zunächst befolgte.

Andere KI-Systeme verweigern solche Anweisungen, deshalb sollen diese von dem geplanten Verbot ausgenommen werden. Wenn diese KI-Angebote effektive Sicherheitsmaßnahmen gegen eine solche Bild- oder Videogenerierung haben, würde das Verbot nicht dafür gelten. Offen ist jedoch, ob und wie die KI-Anbieter dies der EU nachweisen sollen. Unklar bleibt auch, wie KI-Systeme verifizieren können, ob die abzubildenden Personen der Darstellung zugestimmt haben oder nicht.

Abstimmung im EU-Parlament nächste Woche

Kim van Sparrentak, niederländische Umweltwissenschaftlerin und EU-Parlamentsmitglied der Grünen-Fraktion, begrüßt das Gesetz trotzdem. „Dies ist ein großer Erfolg, insbesondere für Frauen und Kinder in Europa“, sagte sie laut France 24. „Schon zu viele Menschen sind eines Tages verzweifelt aufgewacht, nachdem sie Nacktfotos von sich selbst gefunden hatten und sich verletzt, eingeschüchtert und gejagt fühlten.“ Der an den KI-Gesetzen mitarbeitende irische EU-Parlamentarier Michael McNamara fügte hinzu, das Verbot zielt darauf ab, „Nacktdarstellungs-Apps ohne Einwilligung, die einigen wenigen viel Leid und Profit gebracht haben“, auszumerzen.

Nachdem die beiden EU-Ausschüsse den Änderungen der Omnibus-KI-Gesetze zugestimmt haben, wird das EU-Parlament voraussichtlich am 26. März darüber abstimmen. Sollte sich auch dieses Plenum anschließen, beginnen die Verhandlungen mit dem EU-Rat.

(fds)