Gutachter: EU-Kommission will eine "uferlose Sonderrechtszone" für KI

Die EU-Kommission verspricht mit dem geplanten Paket für einen "digitalen Omnibus" einen Befreiungsschlag gegen Bürokratie. Doch der Widerstand gegen das Vorhaben wächst ständig. Rechtsexperten der Kanzlei Spirit Legal warnen in einem Gutachten im Auftrag des Bundesverbands der Verbraucherzentralen (vzbv) nun eindringlich davor, dass der Entwurf einen systematischen Bruch mit den Prinzipien der Datenschutz-Grundverordnung (DSGVO) darstelle und die Privatsphäre von hunderten Millionen Verbrauchern gefährde.

Im Zentrum der Kritik steht der vorgesehene Artikel 88c, der spezielle Erleichterungen für die Datenverarbeitung im Kontext von Künstlicher Intelligenz (KI) vorsieht. Die Gutachter Peter Hense und David Wagner warnen hier vor einer "uferlosen Sonderrechtszone". Da der Begriff des KI-Systems extrem weit gefasst sei, könnten Unternehmen künftig fast jede automatisierte Datenverarbeitung als KI-relevant deklarieren, um strengen Datenschutzregeln zu entgehen. Damit würde die technikneutrale Logik der DSGVO durch ein technologiespezifisches Privileg ersetzt, das vor allem Diensteanbietern nütze.

Für alarmierend halten die Juristen die geplante Aufweichung beim Umgang mit sensiblen Daten wie Gesundheitsinformationen oder politischen Ansichten. Der Entwurf suggeriere, dass deren Verarbeitung umso eher gerechtfertigt sei, je größer die Datenmengen sind. Das verkehre den Grundsatz der Datensparsamkeit ins Gegenteil: Massenhaftes Absaugen von Informationen werde belohnt, solange es dem Training von KI-Modellen diene. Die Gutachter sehen darin gefährliche Vorrechte für Big-Tech-Konzerne.

Digitale Souveränität der jungen Generation

Die Autoren bemängeln zudem, dass wesentliche Schutzmechanismen lediglich in die rechtlich unverbindlichen Erwägungsgründe verschoben würden. Ein Beispiel sind technische Opt-out-Verfahren, mit denen Nutzer der Verwendung ihrer Daten widersprechen können. Ohne Verankerung im verbindlichen Normtext fehle den Aufsichtsbehörden die Handhabe, Verstöße effektiv zu sanktionieren. Gerade beim Web-Scraping würden so Daten von Personen erfasst, die oft gar keine Möglichkeit hätten, von ihrem Widerspruchsrecht überhaupt Kenntnis zu erhalten.

Um diesen Fehlentwicklungen entgegenzuwirken, bringen die Gutachter eine spezifische Rechtsgrundlage fürs KI-Training ins Spiel. Unternehmen sollten erst dann auf personenbezogene Informationen zugreifen dürfen, wenn sie nachweisen können, dass ihr Ziel nicht auch mit anonymisierten oder synthetischen Daten erreicht werden könne. Zudem müsse gewährleistet werden, dass KI-Modelle keine persönlichen Informationen in ihren Antworten reproduzieren ("Data Leakage"). Dafür seien strenge technische Standards bereits im Trainingsprozess nötig.

Ein Kapitel widmet sich dem Schutz vulnerabler Gruppen. Da Minderjährige die Tragweite der Datenverarbeitung für KI oft nicht überblicken könnten, plädieren die Verfasser für eine ausdrückliche Einwilligungspflicht der Eltern. Zudem sollten Betroffene mit Erreichen der Volljährigkeit ein voraussetzungsloses Recht erhalten, die weitere Nutzung ihrer Daten in bestehenden Modellen zu untersagen. Ohne solche Leitplanken drohe die digitale Souveränität der nächsten Generation dauerhaft verloren zu gehen.

Vertrauensverlust als wirtschaftliches Risiko

Die politische Dimension dieser Erkenntnisse ist laut vzbv-Vorständin Ramona Pop enorm. Sie warnt davor, dass die Kommission unter dem Deckmantel der Innovation vor allem US-amerikanischen Plattformen einen Freibrief ausstellen wolle. Big Tech könnte juristische Grauzonen leicht ausnutzen, während europäische Firmen und Verbraucher das Nachsehen hätten. Echte Rechtssicherheit entstehe nur durch klare Regeln. Brüssel schlage dagegen vage Ausnahmetatbestände vor, die erst über Jahre gerichtlich geklärt werden müssten.

Dass Datenschutz kein Hemmschuh, sondern ein Wirtschaftsfaktor ist, belegen aktuelle Ergebnisse einer repräsentativen Online-Befragung für den vzbv. Für 87 Prozent der Verbraucher ist demnach Vertrauen die Grundvoraussetzung für die Nutzung digitaler Dienste. Die DSGVO fungiert dabei als wichtiger Anker: Über 60 Prozent der Befragten vertrauen Unternehmen eher, wenn diese nachweislich europäische Vorschriften einhalten. Eine Verwässerung dieser Standards riskiert so auch die gesellschaftliche Akzeptanz neuer Technologien.

Der Digital-Omnibus wird nun im EU-Rat und im Parlament beraten. Die Einwände aus der Zivilgesellschaft sind kaum überhörbar. Das Paket steht im Verdacht, primär auf massiven Druck der US-Regierung zurückzugehen, anstatt europäische Bürger- und Wirtschaftsinteressen zu vertreten. Betroffenenrechte würden unter dem Deckmantel von "Vereinfachungen" abgeschwächt, heißt es. KI-Firmen wolle die Kommission einen Blankoscheck ausstellen, um europäische Daten abzusaugen.

(nen)