Datenschutz heißt mitnichten, dass "Daten" geschützt werden. Es ist somit ein ziemlich missverständlicher Begriff.
Der Sinn und Zweck von Datenschutz ist es, dass Menschen davor geschützt werden, dass Daten über sie falsch oder missbräuchlich verwendet werden, und die Betroffenen dadurch Nachteile haben. Das geht am einfachsten dadurch dass Daten gar nicht erst erhoben werden dürfen (Grundprinzip "Datensparsamkeit"). Sollten sie doch für einen Anwendungsfall notwendig sein, ist zu verhindern dass diese Daten in anderen Fällen benutzt werden.
Und selbstverständlich hat jeder ein Recht darauf, falsche Daten zu berichtigen, und ggf. auch zu löschen. Das Recht auf Vergessen-werden ist ein Menschenrecht.
Das ist gut und richtig so!
Wenn jetzt eine neue Technik wie LLM (= angewandte Statistik - ich weigere mich das `künstliche Intelligenz´ zu nennen) kommt, so ist diese selbstverständlich auch allen Menschenrechten unterworfen. Warum zur Hölle sollte es damit möglich sein, anderen Menschen Nachteile zu bringen nur damit die Betreiber und Benutzer Geld verdienen (oder sparen) können?
Wenn eine halluzinierende Technik auch mit Nachtrainieren nicht davon abgehalten werden kann, falsche personenbezogene Daten zu erfinden, ist das doch nicht unser Problem. Das müssen die Betreiber lösen, und zwar fix. Notfalls eben indem man eine Datenbank dahinter schaltet in der jeder das Recht hat, Daten über sich zu korrigieren (sofern es überhaupt ein Recht gibt diese Daten zu verarbeiten und zu verbreiten), oder eben einen Sperr-Eintrag zu setzen der jegliche Ausgabe von halluzinierten Daten verhindert. Jegliche LLM-Ausgabe muss dann erstmal durch den datenbankbasierten Filter - und wenn das die Sache teurer, ineffizienter, langsamer und sogar unwirtschaftlich macht, dann ist das eben so.
Woran niemals gerĂĽttelt werden darf, ist dass Datenschutz (Menschenschutz) Vorrang hat.
Basta.