Kommentar zum AI Act: Wir brauchen einen EU-Act für politische Intelligenz

Inhaltsverzeichnis

Seit anderthalb Wochen kursiert ein Papier mit dem Trilog-Kompromiss zum AI Act. Die knapp 900 Seiten mit Tausenden von Änderungen sind so kompliziert und unübersichtlich geschrieben, dass selbst Rechts- und IT-Experten sie in wenigen Tagen kaum erfassen und ihre Auswirkungen überblicken können. Wie sollen das Parlamentarier schaffen, die morgen vielleicht über die Größe von Milchtüten und übermorgen über die Abschottung des Mittelmeers durch Sicherheitsdienste abstimmen?

Ein Kommentar von Hartmut Gieselmann

Redakteur Hartmut Gieselmann, Jahrgang 1971, ist seit 2001 bei c't. Er leitet das Ressort Anwendungen, Datenschutz & Internet und bearbeitet unter anderem aktuelle Themen rund um die Bereiche Medizin-IT, Netzpolitik und Datenschutz.

Ich war dankbar für die ehrliche Einschätzung von Kai Zenner, Büroleiter von Axel Voss, der auf deutscher Seite maßgeblich an den Verhandlungen zum AI Act beteiligt war. Seine Kernaussage im Interview mit meiner Kollegin Eva-Maria Weiß spricht Bände: "Es geht nur noch darum, immer mehr und immer schneller Gesetze zu verabschieden. Die Qualität ist nachrangig." Das deckt sich mit Stimmen, die am Montagabend bei einer Informationsveranstaltung der EAID (Europäische Akademie für Informationsfreiheit und Datenschutz) in Berlin zu hören waren. Tenor (sinngemäß): "Der AI Act hat zwar große Mängel, aber wir müssen ihm jetzt zustimmen, weil im Juni ein neues Parlament gewählt wird und sich die politischen Mehrheitsverhältnisse wahrscheinlich zum Schlechteren ändern. Und die Entscheidungsprozesse in der EU sind mittlerweile so schwierig, dass man nicht mehr auf bessere Kompromisse hoffen kann".

Angst vor dem Wähler

Da wird also ein Gesetz verabschiedet, von dem man weiß, dass es schlecht ist und für das man mehr Zeit bräuchte. Und der Grund dafür ist die Angst vor dem Unmut des Volkssouveräns, vulgo des Wählers und die Kapitulation vor den überkomplexen Prozessen der EU. Das ist in meinen Augen eine Bankrotterklärung.

Es ist ein Festhalten an einer Politik des kleineren Übels, da geht es der EU nicht anders als Deutschland. Doch je mehr die derzeit regierenden Fraktionen aus Christdemokraten (EVP), Sozialdemokraten (S&D), Liberalen (Renew Europe) und Grünen (EFA) wider besseres Wissen die eigenen Reihen zur Geschlossenheit verdammen, desto mehr Unzufriedene werden in die Arme der Rechtspopulisten bis Postfaschisten (EKR und ID) getrieben, die europaweit als einzige lautstarke Opposition wahrgenommen werden und Ergebnisse von 20 bis 30 Prozent erzielen. Die Linke (GUE/NGL) versucht derweil, aus ihren Ruinen aufzuerstehen und wird wohl noch einige Zeit brauchen, bis sie als Oppositionskraft wieder mehr Gewicht bekommt.

Mehr Demokratie wagen heißt, Widersprüche nicht unter den Teppich zu kehren, sondern sie offen auszutragen. Sonst tun das andere.

Intransparenter Trilog

Das Kernproblem sind die intransparenten Trilogverhandlungen hinter geschlossenen Türen. Die mögen adäquat sein, um technische Feinheiten wie den Krümmungsgrad von Bananen zu regeln. Bei weitreichenden Entscheidungen wie dem KI-Gesetz, das den Alltag so vieler Menschen betrifft, muss es wie früher mindestens zwei öffentliche Lesungen der Entwürfe und Zeit für Debatten geben. Und die geheimen Marathonsitzungen des Rates, die sich über Tage und Nächte hinziehen, müssen im Lichte der Öffentlichkeit stattfinden.

Es gibt gute Transparenzansätze, aber man muss sie suchen. So ist der von Frag den Staat veröffentlichte Schriftwechsel zwischen dem Bundesministerium für Wirtschaft und Klimaschutz (BMWK) und dem deutschen KI-Einhorn Aleph Alpha durchaus aufschlussreich. Zum einen weisen die KI-Entwickler zu Recht auf Unsinnigkeiten im KI-Gesetz hin, wenn dort etwa die Kennzeichnung von KI-generierten Texten durch Wasserzeichen gefordert wird. Zum anderen verfolgen sie natürlich auch ihre eigene Agenda. So fordern sie unter anderem, dass die bisherigen, für sie positiven Regelungen zum Urheberrecht nicht angetastet werden.

Als 2019 die EU-Richtlinie 790 verabschiedet wurde, die in Deutschland zum umstrittenen § 44b UrhG führte, der alle Inhalte für das KI-Training freigibt, solange die Urheber nicht "maschinenlesbar" widersprochen haben, war ChatGPT noch drei Jahre entfernt und die Tragweite dieses Opt-Outs war vielen vermutlich nicht bewusst. An dieser Stelle besteht dringender Nachbesserungsbedarf, der eigentlich durch den AI Act erfüllt werden sollte. Ob die jetzigen Ausführungen im AI Act (zu lesen im Abschnitt Recital 60 i und k ab Seite 180) dafür ausreichend sind oder ob sich KI-Entwickler einfach unter Berufung auf Geschäftsgeheimnisse gegen eine ausreichende Offenlegung ihres Trainingsmaterials wehren können, wird man erst nach einer genaueren Analyse des finalen AI Act beurteilen können.

Zumindest habe ich mich bei der Lektüre der knapp 900 Seiten gewundert, warum die Vorgabe des Parlaments zu Artikel 28 B (Punkt 4 Seite 463) in dem Einigungsentwurf nicht mehr enthalten ist. Diese hatte den KI-Entwicklern explizite Vorgaben sowie Transparenz- und Nachweispflichten fürs Training mit urheberrechtlich geschütztem Material gemacht. Natürlich ist es sinnvoll, dass sich das BMWK mit Wirtschaftsvertretern wie Aleph Alpha austauscht. Bleibt zu hoffen, dass sie im gleichen Maße auch mit Vertretern von NGOs, Künstlern, Autoren und Verlagen sprechen. Diese sind von den Auswirkungen des AI Act mindestens ebenso betroffen wie heimische KI-Startups.

Unreguliertes Höchstrisiko

Ein weiteres Beispiel ist der Einsatz von KI-Systemen für die Echtzeit-Überwachung mithilfe biometrischer Merkmale. Eigentlich sollte der AI Act die Bürger vor automatisierten Anwendungen mit hohem Risiko schützen. Doch ausgerechnet in den Bereichen mit dem höchsten Risiko, dem Militär und der nationalen Sicherheit, greift der AI Act nicht. Polizei und Armee können KI-Systeme also weiterhin unabhängig der Regulationen im AI Act einsetzen.

So ist, wenn ich die aktuelle Fassung richtig lese, die automatisierte Auswertung von Gefühlsregungen und die Überwachung und Erkennung von Personen anhand biometrischer Merkmale (Gesicht, Gang etc.) erlaubt, wenn eine nationale Behörde oder ein Richter zustimmt oder diese Überwachungsmaßnahmen der Sicherheit dienen.

Fataler Endspurt

An diesen neuralgischen Punkten kommt es auf den genauen Wortlaut und die Übersetzung in die jeweiligen Sprachen an. Anhand des geleakten Entwurfs lassen sich Schlupflöcher und Interpretationsspielräume kaum abschätzen. Umso erschreckender sind Berichte, wie der des eingangs erwähnten Kai Zenner, dass die Entscheider zum Teil nur wenige Minuten Zeit hatten, um neue Formulierungen im AI Act zu prüfen.

Da kann nur Murks herauskommen. Und es ist eine Missachtung des Parlaments, wenn ein derartiger Zeitdruck offenbar bewusst instrumentalisiert wird, um politische Interessen durchzudrücken. Wie aus Kreisen zu hören ist, drückt vor allem die belgische Regierung für den "Endspurt" aufs Tempo. Sie besteht ähnlich der deutschen Ampel aus einem breiten "Vivaldi-Bündnis" aus Liberalen, Grünen, Christ- und Sozialdemokraten. Unter ihrer Ratspräsidentschaft sollen noch bis Ende April über 100 Gesetzvorhaben durchgedrückt werden, berichtet die Deutsche Welle.

Viel wichtiger als ein Gesetz, das uns vor der Willkür von Maschinen und Algorithmen schützt, wäre daher ein Gesetz, das die Bürger vor übereilten und schlechten Gesetzen schützt, die hinter verschlossenen Türen verhandelt werden und von unvorbereiteten Parlamentariern in zu kurzer Zeit verabschiedet werden sollen. Der Wechsel der Legislaturperiode darf nicht als Druckmittel für übereilte Entscheidungen missbraucht werden. Vielmehr sind Übergangsregelungen notwendig, die es ermöglichen, auch nach einer Europawahl noch unfertige Gesetzesvorschläge über die Ziellinie zu bringen.

Die Entscheidungsträger brauchen längere Mindestfristen für ausreichende Prüfung und Beratung, damit sie nicht völlig übermüdet einem faulen Kompromiss zustimmen, nur um nach einer dreitägigen Marathonsitzung endlich nach Hause fahren zu können. Von jedem Busfahrer wird erwartet, dass er ausgeschlafen zur Arbeit kommt und regelmäßig Pausen einlegt. Das sollte erst recht für diejenigen gelten, die gewählt wurden, um Europa zu lenken.

(hag)