Berliner Datenschutz: KI-Chatbots sorgen für eine Beschwerdeflut

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Bei der Berliner Datenschutzbeauftragten, Meike Kamp, sind die Fallzahlen für das Jahr 2025 alarmierend hoch. „Von Januar bis einschließlich November 2025 erreichten die Behörde 8.436 Eingaben. Darunter fallen 2.644 förmliche Beschwerden und 5.772 Anfragen betroffener Personen nach einer Beratung, zum Beispiel wie die eigenen Rechte auf Auskunft oder Löschung von Daten geltend gemacht werden können“, heißt es von der Behörde. Die Zahlen für Dezember sind dabei noch nicht einberechnet. „Im Vergleich zu 2024 stellt das einen Anstieg von rund 50 Prozent dar“, erklärt Kamp.

Schwerpunkte der Beschwerden sind der Bank- und Finanzsektor, Inkassounternehmen, die aufgezwungene Nutzung mobiler Apps sowie Videoüberwachung und die Folgen von Identitätsdiebstählen. Kamp sieht die Gründe für den starken Zuwachs auch in einer zunehmenden Sensibilisierung der Bevölkerung und der fortschreitenden Digitalisierung. Doch ein Hauptgrund sind KI-Chatbots: „Wir erhalten immer mehr Eingaben, die offensichtlich mithilfe von KI-Chatbots erstellt werden. Das bedeutet, dass auf die Frage, wer in Datenschutzfragen helfen kann, das Angebot unserer Behörde über KI sichtbarer wird“, erklärt die Datenschutzbeauftragte.

Kehrseite der KI-Hilfe

Doch der Einsatz von KI bei der Formulierung von Beschwerden hat auch eine Schattenseite. Kamp warnt vor falschen Erwartungen, die durch die Prognosen von Chatbots geweckt werden. „Wir haben schon erlebt, dass die Aussagen und vor allem die Einschätzungen der Rechtslage oft unvollständig oder schlicht falsch sind“, so Kamp. „Teilweise wurden wir sogar schon mit von der KI frei erfundenen Gerichtsurteilen oder nicht existenter juristischer Literatur konfrontiert.“ Kamp rät daher, die Ergebnisse von KI-Anwendungen stets kritisch zu prüfen.

Datenschutz als Reaktion auf die Macht der Konzerne

Während KI Bürgern auch als Werkzeug bei der Rechtsdurchsetzung helfen kann, ist sie selbst Gegenstand datenschutzrechtlicher Bedenken. Der Philosoph Rainer Mühlhoff sieht KI weniger als Werkzeug, sondern vor allem als Machtinstrument, das eine neue Form der „Vorhersagemacht“ etabliert. Diese Fähigkeit, unbekannte Informationen über Individuen vorherzusagen, gehe weit über klassische Datenschutzvorstellungen hinaus.

Konkrete Beispiele wie das Vorgehen von Meta, persönliche Informationen für das KI-Training zu verwenden, verdeutlichen die Problematik. Laut der Juniorprofessorin Paulina Jo Pesch gestalte Meta den Widerspruch gegen die Datennutzung absichtlich kompliziert und intransparent. Selbst Kinder und Jugendliche seien betroffen, da Altersangaben in sozialen Netzwerken kaum effektiv kontrolliert werden und ihre Daten somit ins KI-Training einfließen können.

(mack)