Datenschützer fordern Stärkung der Betroffenenrechte bei Sprachmodellen und mehr
Die Datenschützer der Länder fordern spezifische Regeln beim Einsatz von KI. Gerade beim Training von KI-Modellen kann es ansonsten zu heiklen Vorfällen kommen.
(Bild: chana/Shutterstock.com)
Wiederholt haben sich die Datenschützer der Länder getroffen, um über den Einsatz von Künstlicher Intelligenz zu beraten – einer zentralen Herausforderung für den Datenschutz. Gerade beim Training generativer KI-Modelle kann es zu kritischen Vorfällen kommen, da oft auch personenbezogene Daten verarbeitet werden. Als prominentes Beispiel nannten Datenschützer den Fall eines Gerichtsreporters aus Baden-Württemberg, der durch Microsofts Copilot zum Kriminellen gemacht wurde.
"Die Nutzung Künstlicher Intelligenz betrifft in der Mehrzahl der Fälle auch die Anforderungen der Datenschutz-Grundverordnung", sagte Hessens Datenschutzbeauftragter, Prof. Dr. Alexander Rossnagel, der seit Mai auch den Vorsitz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) innehat. Wichtig sei den Datenschützern zufolge unter anderem eine "sorgfältige Analyse". Bisher fehle es an spezifischen Datenschutzanforderungen.
Konkret geht es zum Beispiel um die "Rechte der betroffenen Personen – etwa auf Berichtigung oder auf Löschung: Wie kann man diese Rechte in einem LLM umsetzen, wenn dieses nicht deterministisch gesteuert wird? Es gibt in diesen Systemen keinen Befehl für Berichtigungen oder Löschungen bestimmter Informationen", so Rossnagel gegenüber heise online. Bisher sei ungeklärt, welche Maßnahmen die Betroffenen fordern können, "um zumindest funktional einer Berichtigung oder Löschung nahe zu kommen". In der Vergangenheit hatte es aufgrund dieser Problematik bei großen Sprachmodellen auch von der Bürgerrechtsorganisation Noyb Kritik gegeben.
Sorge um Vernachlässigung des Datenschutzes
Einig waren sich die Datenschutzbehörden in ihrer Sorge, "dass die bisherigen Ankündigungen der digitalpolitischen Schwerpunkte für die jetzt beginnende europäische Legislaturperiode den Datenschutz vernachlässigen", heißt es von den Datenschützern (PDF).
Der Einsatz von KI bringe "grundlegende Veränderungen der Durchsetzungsbedingungen für die Rechte und Freiheiten der Bürgerinnen und Bürger" mit sich. Daher sei eine sorgfältige Analyse und Diskussion über spezifische datenschutzrechtliche Anforderungen notwendig.
Arbeitskreis Künstliche Intelligenz
Für ihr Vorhaben und als Reaktion auf neue Herausforderungen planen die Datenschützer bis Ende des Jahres auch, einen Arbeitskreis einzurichten, der sich mit dem Thema KI beschäftigt.
Darüber hinaus beschäftigten sich die Datenschützer auch mit der derzeit viel diskutierten biometrischen Gesichtserkennung "im Zusammenhang mit repressiver Videoüberwachung durch die Sicherheitsbehörden" – also im Bereich der Strafverfolgung. Ein weiteres Thema war das Gesundheitsdatennutzungsgesetz und entsprechende Änderungen an den Krankenhausgesetzen der verschiedenen Bundesländer, um Forschung und Datenschutz in Einklang zu bringen.
Antwort von Alexander Roßnagel ergänzt.
(mack)