Zum Schutz oder zur Zensur? China erlässt Gesetz für Deepfakes

Als erstes Land setzt China ein Gesetz zur Regelung von Deepfakes in Kraft. Damit prescht die Volksrepublik gegenüber Europas Digital Services Act vor.

In Pocket speichern vorlesen Druckansicht 16 Kommentare lesen
Close,Up,Waving,Flag,Of,China.,Flag,Symbols,Of,China.

(Bild: muhammadtoqeer/Shutterstock.com)

Lesezeit: 5 Min.
Von
  • Martin Kölling

China geht bei der Regulierung von Deepfakes voran. Seit dem 10. Januar sind die "Vorschriften für die Verwaltung von Internet-Informationsdiensten in der Tiefensynthese" in Kraft, die die künstliche Erzeugung real wirkender Inhalte mit realen und virtuellen Personen regelt. Taiwan, England, Wales und einige US-Staaten gehen zwar schon gegen die Verwendung von künstlich erstellten Pornos vor, die reale Personen darstellen, die Europäische Union ist dabei, ihren Digital Services Act anzupassen. Aber Chinas Vorstoß ist das erste geltende Gesetz, das Phänomen von Deepfakes und mit KI erstellten Inhalten umfassend regelt.

Anbieter von Diensten zur Erzeugung von Deepfakes müssen die Datensicherheit garantieren und dürfen personenbezogene Daten nicht unrechtmäßig ohne Zustimmung der Betroffenen verarbeiten. Darüber hinaus müssen nicht nur Deepfakes deutlich gekennzeichnet werden, um die Verwirrung der Öffentlichkeit oder falsche Impersonalisierung zu vermeiden. Die Regierung wirft ein deutlich weiteres Netz aus, wahrscheinlich um das Gesetz zukunftssicher zu machen.

"Dienste, die intelligente Dialoge, synthetische menschliche Stimmen, die Erzeugung von Gesichtern, immersive mimetische Szenen und andere Funktionen bereitstellen, die Informationsinhalte erzeugen oder wesentlich verändern, sollten deutlich gekennzeichnet werden", schreibt Chinas Gesetzgebung nun vor. "Jede Organisation oder Person ist verpflichtet, keine technischen Mittel einzusetzen, um das betreffende Logo zu löschen, zu manipulieren oder zu verbergen."

Das staatliche Internet-Informationsbüro, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit, die das Gesetz gemeinsam erstellt haben, begründen die Regelung mit Punkten, die auch Gesetzgeber in anderen Ländern bewegen: Die neuen Möglichkeiten seien von "einigen skrupellosen Personen" dazu genutzt worden, illegale und unerwünschte Information zu verbreiten und "den Ruf und die Ehre anderer zu verleumden und zu schädigen" oder zu betrügen.

Chinas Vorpreschen hat aber auch industriepolitisch Reichweite. Zum einen hofft die Regierung, durch rechtliche Klarheit die Entwicklung der eigenen Industrie zu fördern. Künstliche Intelligenz ist schließlich eine der Technologien, in denen Chinas Kommunistische Partei den Rivalen USA schlagen will. Zum anderen will die Regierung stärker bei der Entwicklung von Standards mitspielen, erklärt die Kanzlei Dezan Shira & Associates. "Noch wichtiger ist, dass die neuen Leitlinien bei einem Erfolg in China einen politischen Rahmen schaffen können, auf dem andere Länder aufbauen oder den sie übernehmen könnten."

Post aus Japan

Japan probiert mit Elektronik seit jeher alles Mögliche aus - und oft auch das Unmögliche. Jeden Donnerstag berichtet unser Autor Martin Kölling an dieser Stelle über die neuesten Trends aus Japan und den Nachbarstaaten.

Die Ironie: Was im Ausland wie Schutz der Bürger und ihrer Privatsphäre gesehen werden könnte, hat im chinesischen Kontext mit seiner strikten Zensur und harten Strafen für vermeintliche Aufrührer auch eine klare unterdrückerische Note. Die Initiatoren betonen, dass die Erzeugung von Deepfakes nicht für Aktivitäten genutzt werden darf, die durch Gesetze und Verwaltungsvorschriften verboten sind. Ein beliebter Vorwurf, um Systemabweichler wegzusperren, ist dabei die Störung öffentlicher Ordnung.

Die Aufzählung der Ziele stellt dann endgültig klar, dass Bürgerrechte in China nicht an vorderster Front stehen. Es ging darum, "die Verwaltung von Internet-Informationsdiensten in Tiefensynthese zu stärken, die sozialistischen Grundwerte zu fördern, die nationale Sicherheit und die sozialen öffentlichen Interessen zu schützen und die legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen zu wahren."

China nimmt dabei die Anbieter dieser Dienste in die Pflicht, die Vorschriften einzuhalten. Die EU geht in ihrem Digital Services Act (DSA) nach Größe der Unternehmen gestaffelt vor. Bei Deepfakes sind Plattformen wie Google am Haken, wenn jüngste Revisionen des DSA erst einmal in Kraft treten.

Im Dezember hat das Europa-Parlament den folgenden Artikel 30a ergänzt: "Wenn eine sehr große Online-Plattform feststellt, dass es sich bei einem Inhalt um einen generierten oder manipulierten Bild-, Audio- oder Videoinhalt handelt, der bestehenden Personen, Gegenständen, Orten oder anderen Einheiten oder Ereignissen deutlich ähnelt und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheint (Deep Fakes), muss der Anbieter den Inhalt in einer Weise kennzeichnen, die darüber informiert, dass der Inhalt nicht authentisch ist, und die für den Empfänger der Dienste deutlich sichtbar ist." Eine Zustimmung der im Deepfake dargestellten Person ist demnach nicht erforderlich, wohl aber die Kennzeichnung.

Zudem fügte das Parlament einen Satz zu Artikel 63 hinzu, der hauptsächlich die Transparenz großer Werbeplattformen erhöhen soll. "Darüber hinaus sollten sehr große Online-Plattformen alle bekannten gefälschten Videos, Audiodateien oder sonstigen Dateien kennzeichnen". Das Online-Branchenmedium Unite.ai urteilte, dass sich die Gesetzgebung damit "auf die wachsende Praxis der 'legitimen Deepfakes'" vorbereitet. Bei dieser Form haben die Macher die Erlaubnis und die Rechte für beispielsweise Faceswapping in Werbe- oder Werbematerial gesichert. Sowohl in China als auch in Europa dürften dies nicht die letzten gesetzlichen Schritte bleiben. Denn die Technik steht noch ganz an ihrem Anfang.

(jle)