AI Act geleaked: 900 Seiten regeln künftig KI

Inhaltsverzeichnis

Die (vorläufig) finale Fassung des AI Acts ist geleaked worden. Es handelt sich beim Leak um das noch nicht in ein Gesetz gegossene Ergebnis der Trilogverhandlungen zwischen EU-Kommission, Rat und Parlament. Dieses 900-seitige Dokument enthält vier Spalten. Sie unterteilen sich wie üblich in die Wünsche und Standpunkte der verschiedenen Entscheider, sprich, eine Spalte enthält den Entwurfstext der EU-Kommission, zwei Spalten die Wünsche von Parlament und Rat. Die rechte Spalte ist die Textfassung, auf die man sich geeinigt hat.

Die Änderungen wurden im Grunde bei den letzten Trilog-Verhandlungen beschlossen, nun ging es darum, diese schriftlich endgültig zu fixieren. Und das hat ganz offensichtlich für deutlich mehr Streit gesorgt, als geplant und auch gehofft war. Formal müssen die Staaten der Fassung noch zustimmen.

AI Act mit Blick auf den Markt oder die Menschen

Schon die ersten Sätze oder ein grober Blick auf das Dokument des AI Acts zeigen das. Änderungen gibt es noch und nöcher, beginnend am Einstieg, in dem erklärt wird, was die Absicht des AI Acts ist, also etwas wirklich Grundlegendem. In der bisherigen Fassung heißt es, dass der AI Act den Markt im Blick hat und diesen quasi zu seinen Gunsten regulieren soll, also den Marktteilnehmern durch Regulierung Sicherheit geben.

Das Parlament wünschte sich nun eine Änderung, nämlich, dass der Mensch im Vordergrund steht. Konkret heißt es da: „Ziel dieser Verordnung ist es, die Einführung von menschenzentrierter und vertrauenswürdiger künstlicher Intelligenz zu fördern und ein hohes Maß an Schutz der Gesundheit, der Sicherheit, der Grundrechte, der Demokratie und der Rechtsstaatlichkeit sowie der Umwelt vor schädlichen Auswirkungen von Systemen der künstlichen Intelligenz in der Union zu gewährleisten und gleichzeitig die Innovation zu fördern und das Funktionieren des Binnenmarktes zu verbessern.“

Herausgekommen ist ein Kompromiss, bei dem der funktionierende Markt das oberste Ziel bleibt, das in der Folge die Ziele hat, die das Parlament sich gewünscht hat.

Sicherheit für die Gesundheit und "grüne KI"

Bekanntlich steckt der Teufel oft in den Details. Dass um vermeintliche Kleinigkeiten gerungen wurde, zeigt dieses Beispiel: Kommission und Endfassung schreiben von „high level of protection of health“, das Parlament erhoffte sich einfach nur „protection of health“.

Allerdings gibt es einen komplett neuen Absatz, in dem es heißt, dass hochriskante KI-Systeme Regulierung bedürfen, um öffentliche Interessen wie etwa die Gesundheit zu schützen. Diese Regeln gilt es aber eben nun auch erst noch auszuarbeiten. Der AI Act schafft hier die Voraussetzungen und sagt, was enthalten sein sollte.

Das Parlament hat auch einen Absatz vorgeschlagen, in dem es eine „grüne KI“ verlangt. Ein Halbsatz dazu hat es in die Abschlussfassung geschafft.

Zig Regulierungen für den Einsatz biometrischer Daten

Größter Streitpunkt bei den gesamten Verhandlungen war und ist die Nutzung biometrischer Daten. Diese wird zu Beginn der aktuellen Fassung mit einem Verweis auf die Datenschutzgesetze und den Datenschutzausschuss recht kurz behandelt. Dabei hatten auch hier die Parlamentarier eine deutlich differenziertere Variante vorgelegt, in der sie beispielsweise geschrieben haben, dass der AI Act nicht das Recht auf Privatsphäre und die eigenen Daten aushebeln könne.

Um zu erklären, warum dieses Paper 900 Seiten hat: Es gibt einen Abschnitt zum Einsatz von Emotions-Erkennungssystemen, darin enthalten ist, welche Emotionen es gibt. Solche Systeme sind vielfach verboten. Ausgenommen sind aber beispielsweise Fahrassistenzsysteme, die erkennen, ob ein Fahrer müde ist. Auch das wird en détail festgehalten.

So kommt denn auch der Begriff "biometrisch" 329 Mal vor. Es gibt allerlei Ausnahmen, aber auch Verbote, Absätze, in denen erklärt wird, dass andere Gesetze greifen und wann welche Zustimmung eingeholt werden muss. Letzteres offensichtlich seltener als es zunächst hieß. Alles in allem sorgt für Unmut bei vielen Bürgerrechtsorganisationen und auch bei manchen Regierungen, dass deutlich mehr Einsatzzwecke für die automatische Gesichtserkennung erlaubt sind, als es zunächst hieß. Es gibt einen Austausch vom Wort „Echtzeit“ durch „remote“. Nachträgliche Fernidentifikation ist fast immer möglich. Die Suche nach Straftätern und Verdächtigen ist kaum eingeschränkt, aber auch die Suche nach vermissten Kindern ist eine Ausnahme.

General Purpose AI statt Foundation Models

Im vergangenen Jahr hieß es noch, dass sogenannte Basismodelle oder Foundation Models im AI Act reguliert werden sollen. Darunter fallen KI-Systeme, auf denen etwa ChatGPT und Bildgeneratoren basieren. Stattdessen gibt es nun einen neuen Absatz, der sich mit General Purpose AI beschäftigt.

Dazu heißt es, dass Anbieter solcher Modelle sicherstellen müssen, dass ihre Produkte als solche gekennzeichnet werden. Text, Audio, Bilder und Video müssen also als KI-generiert markiert werden. Konkret steht im AI Act: "Die Anbieter stellen sicher, dass ihre technischen Lösungen wirksam, interoperabel, robust und zuverlässig sind, soweit dies technisch machbar ist, wobei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Kosten der Implementierung und der allgemein anerkannte Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann, berücksichtigt werden."

(emw)