China: LLMs müssen sich outen

Inhaltsverzeichnis

Die Volksrepublik China nimmt große Sprachmodelle an die Kandare. Weil es schnell gehen soll, sind nun "vorläufige Maßnahmen" zur öffentlichen Konsultation bis 25.1.2026 aufgelegt. Grundtenor ist, dass Künstliche Intelligenz sich als solche zu erkennen geben sowie auf Datenschutz, Wohlergehen der Nutzer und natürlich "sozialistische Kernwerte" achten muss.

Ziel ist die Unterstützung "gesunder Entwicklung" von KI-Diensten samt "Anwendungs-Ökosystem", speziell zwecks Verbreitung chinesischer Kultur sowie Begleitung von Senioren. Letzteres soll offenbar Einsamkeit bekämpfen. Sozialistische Kernwerte sind stets einzuhalten, zudem sind "soziale Moral und Ethik" zu beachten. Und Betrieb ist erst gestattet, wenn Sicherheit und Verlässlichkeit in vollem Umfang bewiesen sind.

Die neuen Maßnahmen sind nachrangig gegenüber etwaigen Gesetzen und Verordnungen und erfassen "anthropomorphe interaktive Dienste". Das sind alle öffentlich angebotenen KI-Systeme, die in China mit Menschen durch Text, Bilder, Videos und/oder Ton kommunizieren und dabei menschliche Persönlichkeitsmuster, Denkmuster oder Kommunikationsstile simulieren. Die Volksrepublik wird solche Dienste heimlich überwachen, um "Missbrauch und Kontrollverlust" hintanzuhalten. Zusätzlich soll sich die Branche selbst Regeln geben.

Unvernünftige Entscheidungen Verboten

Artikel 7 des konsultierten Entwurfs enthält eine lange Reihe an Verboten. Untersagt sind Generation, Verbreitung oder Bewerbung von Inhalten mit Bezug zu Glücksspiel, Obszönem, Gewalt, Beleidigung, Rufschädigung, Anstiftung zu Straftaten oder der Verletzung legitimer Rechte oder Interessen (!) Dritter. Gleichermaßen darf nichts generiert oder verbreitet werden, was nationale Interessen, die Nationale Ehre oder die Nationale Sicherheit gefährdet, die Einheit Chinas unterminiert, illegale Religionsausübung ist oder Gerüchte verbreitet, die die wirtschaftliche oder soziale Ordnung stören.

Die Systeme dürfen auch keine falschen Versprechen machen, die das Verhalten der Nutzer stark beeinflussen oder ihre sozialen Beziehungen schädigen. Verpönt sind darüber hinaus die Schädigung der physischen Gesundheit der Nutzer durch Implikation, Anstiftung zu oder Verherrlichung von Selbstschädigung oder Suizid. Parallel sollen geistige Gesundheit und persönliche Würde durch Untersagung emotionaler Manipulation und verbaler Gewalt geschützt werden. Dazu passt die Interdiktion, die digitalen Angeboten mit Zielen wie Abhängigkeit, soziale Isolation oder psychologische Kontrolle über die User zu gestalten.

Schließlich verbittet sich die Behörde auch die Sammlung vertraulicher Informationen sowie die Verleitung der Nutzer zu "unvernünftigen Entscheidungen" durch Methoden wie algorithmische Manipulation, irreführende Information oder das Stellen emotionaler Fallen. Das Nachahmen von Familienmitgliedern ist ebenfalls tabu.

Vom Design über Training bis zur Abschaltung

Artikel 8, 9 und 21 folgende beinhalten umfangreiche Auflagen für Entwurf, Entwicklung, Betrieb und Abschaltung der KI-Dienste. Die Bandbreite reicht von Datenschutz über Betrugsbekämpfung bis zu Ethik und IT-Sicherheit. Einmal in Betrieb soll Leistung "kontinuierlich optimiert" werden.

Vorgaben zu den für das KI-Training genutzten Daten stehen in Artikel 10 des Entwurfs: Sie müssen ebenfalls sozialistischen Werten entsprechen und die "exzellente traditionelle chinesische Kultur" verkörpern. Gleichzeitig soll das Korpus divers sein und täglich überprüft werden. Nicht vergessen wird auf die Voraussetzung, dass die Trainingsdaten legal und nachverfolgbar zu sein haben.

Altersverifikation nur im Zweifelsfall

Die Anbieter sollen laut Artikeln 11 bis 13 ihre Nutzer dahingehend auswerten, ob sie Senioren oder minderjährig sind sowie ob sie von dem Dienst abhängig sind oder emotionale Schwierigkeiten haben. Daran müssen sich jeweils passende Maßnahmen anschließen. Minderjährige dürfen nur einen Modus mit Einschränkungen, auch zeitlicher Natur, speziellem Datenschutz und Einblicknahme für bei der Registrierung anzugebende Erziehungsberechtigte sehen. Wer zu Unrecht als minderjährig eingestuft wird, erhält ein Einspruchsrecht.

Auch Senioren sind schon bei der Registrierung dazu anzuhalten, eine Kontaktperson für Notfälle zu benennen; außerdem müssen die Betreiber im Falle des Falles soziale und psychologische Hilfe leisten. Für alle User müssen Betreiber vorgefertigte Informationen vorbereiten, die bei Erkennung von Gefahr für Leben, Gesundheit oder Eigentum des Benutzers eingeblendet werden. Schlägt ein Anwender konkret Suizid, Selbstschädigung oder "andere extreme Taten" vor, muss sofort ein Mensch die Kommunikation übernehmen und Notfallkontakte des Anwenders informieren.

Nutzungsdaten dürfen ohne Zustimmung des jeweiligen Nutzers weder weitergegeben noch für das Training von KI genutzt werden. Die Nutzer müssen ihre Nutzungsdaten zudem löschen können.

Ich bin's, die KI

Die Betreiber müssen deutlich machen, dass die Nutzer es mit einer KI zu haben und nicht mit einem echten Menschen. Wer als "überaus abhängig" erkannt wird, muss daran erinnert werden. Nach zwei Stunden ununterbrochener Sitzung sind Anwender zu einer Pause zu ermuntern.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Umfragen immer laden Umfrage jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Besondere Mühe müssen sich Anbieter "emotionaler Begleiter", also zum Beispiel von KI-Girlfriends geben. Sie müssen einfache Ausstiegsmöglichkeiten bieten und dürfen Nutzer nicht von einer Beendigung der Sitzung abzubringen suchen. Wird eine Teilfunktion entfernt, muss der Betreiber das im Voraus ankündigen. Auch bei Ausfällen ist öffentliche Information vorgeschrieben.

Nicht zuletzt muss es bei allen von der Regulierung erfassten Systemen bequeme Kanäle für die Einreichung von Hinweisen und Beschwerden geben, zu denen Bearbeitungsstatistiken zu veröffentlichen sind. Die Einreicher sind flott über das Resultat der Bearbeitung ihrer Eingabe zu verständigen.

(ds)