Warum sich Datenschutzbehörden mit ChatGPT und Co. schwertun
Die deutschen Datenschutzbehörden haben eine "Orientierungshilfe" zum Umgang mit generativer Sprach-KI veröffentlicht. Vieles bleibt jedoch schwammig.
(Bild: Chokniti Khongchum/Shutterstock.com)
- Holger Bleich
Den Siegeszug generativer Künstlicher Intelligenz (KI) haben die Macher der Datenschutz-Grundverordnung (DSGVO) 2016 nicht vorhersehen können. Deshalb spielt KI in dem Regelwerk kaum eine Rolle. Der Gesetzgeber ging vom klassischen Input-Output-Schema aus: Personenbezogene Daten werden erhoben, gespeichert, verarbeitet und ausgegeben. Lediglich Art. 22 DSGVO beschäftigt sich rudimentär mit KI. Er legt fest, dass automatisierte Verarbeitungen und Entscheidungen, die Menschen betreffen, immer auch von Menschen abgesegnet werden müssen.
Generative KI-Modelle, insbesondere Large Language Models (LLMs) wie GPT, stellen die europäischen Datenschutzbehörden deshalb vor Herausforderungen, die sie kaum in den Griff bekommen können. Als besonders problematisch erweisen sich Modelle, die nicht lokal arbeiten, sondern bei einem Anbieter liegen, der den Zugang über ein Webfrontend und/oder ein API gewährleistet. In aller Regel weiß niemand genau, welche personenbezogenen Daten zum Training dienen, wie das Modell sie genau verarbeitet und welcher Output entstehen könnte. Nicht einmal die Anbieter selbst können da immer Auskunft geben.
Unter solchen Umständen fällt es Unternehmen und Behörden schwer, LLM-Chatbots DSGVO-konform einzusetzen. Was müssen sie beachten, um nicht in Konflikt mit ihren Mitarbeitern, Kunden und den zuständigen Datenschutzbehörden zu geraten? Es fehlen Leitplanken für die sogenannte Compliance, also konkrete Anforderungskataloge, die man abarbeiten kann.
Das war die Leseprobe unseres heise-Plus-Artikels "Warum sich Datenschutzbehörden mit ChatGPT und Co. schwertun". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.Immer mehr Wissen. Das digitale Abo für IT und Technik.
Fahrrad-Navigation: Acht iPhone-Apps im Test
UpdateWas 100 Kilometer mit dem Elektroauto wirklich kosten
Zettelkastenmethode: Mit diesem Workflow organisieren Sie Ihre digitalen Notizen
Kühlen mit der Wärmepumpe: Wenn die Fußbodenheizung Kälte liefert
Externe Tastaturen fürs Tablet – eine Kaufberatung