Datenschutzcheck: Erste behördliche Handreichung zum Umgang mit Sprach-KI
Der Hamburgische Datenschutzbeauftragte hat eine Checkliste veröffentlicht, die die Voraussetzungen für den Einsatz von KI definieren soll.
![](https://heise.cloudimg.io/width/610/q85.png-lossy-85.webp-lossy-85.foil1/_www-heise-de_/imgs/18/4/5/1/0/1/3/9/MicrosoftTeams-image-f9d50480c533107d.jpeg)
(Bild: Shutterstock - Day Of Victory Studio)
- Joerg Heidrich
ChatGPT & Co. gehören in Unternehmen, Universitäten, Schulen und vielen anderen Organisationen bereits zum Arbeitsalltag. Dabei ist längst nicht rechtlich geklärt, unter welchen Voraussetzungen generative KI überhaupt eingesetzt werden darf. Juristen stochern oft im Nebel, wenn sie Large Language Models (LLM) einschätzen sollen. Dies gilt insbesondere für die datenschutzrechtliche Bewertung von fremdgehosteten LLMs wie ChatGPT von OpenAI, auf die man über ein Webfrontend, ein API oder innerhalb einer anderen Software zugreift.
Das Problem: Unternehmen wie OpenAI betreiben ihre IT-Infrastruktur meist in Cloudumgebungen US-amerikanischer Provider. Woher die für das Training verwendeten Daten genau stammen, ist oft unklar. Und niemand kann darauf vertrauen, dass die von Nutzern mit ihren Fragen mitgegebenen Informationen nicht auch als Trainingsdaten fungieren. De facto handelt es sich bei den KI-Tools der US-Anbieter häufig um regelrechte Blackboxes – ein Umstand, der Datenschützern wenig behagt und der sich nur schwer mit den Vorgaben der Datenschutz-Grundverordnung (DSGVO) vereinbaren lässt.
Hinzu kommt, dass die Sprach-KIs zum Fabulieren neigen und bisweilen falsche Informationen ausspucken, die sich direkt auf einzelne Personen beziehen. Im Sommer 2023 machte beispielsweise ein Fall Schlagzeilen, in dem der Bürgermeister einer australischen Stadt von ChatGPT als Krimineller dargestellt und mit einem Bestechungs- und Korruptionsskandal in Verbindung gebracht wurde. Tatsächlich aber war er an der Aufdeckung eines solchen Skandals beteiligt. Abgesehen von der Verletzung des Persönlichkeitsrechts des Bürgermeisters verstoßen solche Falschmeldungen auch gegen die Bestimmungen der DSGVO.
Das war die Leseprobe unseres heise-Plus-Artikels "Datenschutzcheck: Erste behördliche Handreichung zum Umgang mit Sprach-KI". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.