Klare Kante: So will der Rechtsstaat gegen Deepfakes und Tech-Giganten aufrüsten
Zwischen Grok-Pornos, IP-Adressen und der Macht der Algorithmen: Justizministerin Hubig und Medienanwalt Schertz debattierten über die „wehrhafte Demokratie“.
UDL Digital Talk zum Thema „Wehrhafte Demokratie im KI–Zeitalter“ mit Prof. Dr. Christian Schertz, Rechtsanwalt, Moderator Cherno Jobatey und Dr. Stefanie Hubig, Bundesministerin der Justiz und für Verbraucherschutz. (vlnr)
(Bild: Stefan Krempl)
Beim „UdL Digital Talk“ im Berliner Basecamp trafen am Dienstag zwei Welten aufeinander, die denselben Gegner im Visier haben, aber über die Art der Bewaffnung stritten: Die Politik, vertreten durch Bundesjustizministerin Stefanie Hubig (SPD), und die juristische Praxis in Gestalt des prominenten Rechtsanwalts Christian Schertz. Dringlicher Aufhänger des Abends: Die Demokratie soll wehrhaft bleiben. Doch im Zeitalter von KI muss sie nach Auffassung beider Diskutanten lernen, schneller und entschlossener „klare Kante“ zu zeigen.
Schertz ließ keinen Zweifel daran, dass er den deutschen Rechtsstaat für einen der besten weltweit hält und viele Nationen die Bundesbürger um das Grundgesetz beneideten. Doch die Bewunderung für das Fundament schlug schnell in Alarmstimmung um, als es um den Alltag im Netz ging. Wutbürger, Deepfakes und Fake News bilden eine toxische Mischung, die „Deutschlands bekanntester Anwalt“ als „große Gefahr für die Demokratie“ bezeichnet. Besonders das Phänomen der KI-generierten Inhalte, wie sie etwa durch Elon Musks Tool Grok über X ermöglicht werden, bereitet beiden Sorgen. Hier verbreiteten sich Phänomene, die Menschen – laut Hubig zu 90 Prozent Frauen – digital „entkleiden“ können.
Die Schilderungen aus der Kanzleipraxis von Schertz klangen wie ein Kampf gegen Windmühlen. Wenn Mandanten wie Günther Jauch oder Markus Lanz in täuschend echten Deepfake-Videos für Kniesalben oder dubiose Finanzprodukte werben, ist dies längst ein großes Geschäft. „Der Staat muss jetzt handeln“, forderte Schertz, da die Rechtsdurchsetzung gegenüber den US-Tech-Giganten oft ins Leere laufe. Selbst wenn Google & Co. rechtswidrige Inhalte löschten, ploppten diese sofort an anderer Stelle wieder auf. Plattformbetreiber sollten daher gezwungen werden, Filter dagegen einzusetzen.
In den USA stehe die „Freedom of Speech“ über allem, monierte der streitbare Anwalt. Das reiche bis hin zu erlaubten Koran-Verbrennungen. Europa komme indes aus einer humanistischen Rechtstradition, die das Individuum und seine Würde stärker schütze. Doch faktisch säßen die Konzerne mit ihren EU-Niederlassungen in Irland. Eine Zustellung von Klageschriften sei dorthin oft kaum möglich, seit das Digitale-Dienste-Gesetz das NetzDG in den meisten Punkten abgelöst habe.
Videos by heise
Vorratsdatenspeicherung schützt Anonymität?
Die Ministerin hielt dagegen, der Staat könne sich nicht an der Geschwindigkeit krimineller Energie messen lassen. Er müsse aber besser werden. Sie betonte die feine Linie zwischen Kunst- und Meinungsfreiheit einer- und strafbaren Inhalten andererseits. Auch Meinungen, die einem nicht gefallen, seien vom Grundgesetz geschützt, solange sie nicht die Grenze zur Strafbarkeit überschreiten. Um hier Lücken zu schließen, arbeite ihr Haus derzeit an einem Digitale-Gewalt-Schutzgesetz.
Besonders im Fokus steht laut der ausgebildeten Richterin aber die EU-Ebene: Kommissionspräsidentin Ursula von der Leyen untersuche bereits Verfahren gegen die Plattform X wegen Grok. Hubig erläuterte ferner: Gerichtliche Anordnungen könnten künftig dazu führen, Accounts bei wiederholten Rechtsverletzungen für eine gewisse Zeit komplett zu sperren.
Ein weiterer kontroverser Punkt war die Frage nach der Identität im Netz. Schertz sprach sich offensiv für eine Klarnamenpflicht aus: wer „hated“, solle auch seinen Namen nennen. Hubig plädierte dagegen dafür, dass Anonymität im Netz grundsätzlich möglich bleiben müsse.
In ihrer Argumentation verbarg sich aber ein logischer Widerspruch: Um Straftaten verfolgen zu können, setzt die Sozialdemokratin auf die Vorratsdatenspeicherung von IP-Adressen. Sie suggerierte, dass User anonym bleiben könnten, auch wenn der Staat das unterschiedslose Protokollieren von Nutzerspuren anordne. Faktisch würde eine solche flächendeckende Aufbewahrung von Internetkennungen Datenschützern zufolge aber den digitalen Menschen gläsern machen und das Versprechen untergraben, online unsichtbar unterwegs zu sein.
Mit Fake-Accounts auf Social Media
Stark menschelte es beim Eingeständnis beider Podiumsteilnehmer, selbst mit „Fake-Accounts“ auf Instagram zu „lurken“. Schertz tut dies, um diskret zu verfolgen, was seine Mandanten aus Show und Politik so von sich geben. Auch Hubig outete sich als heimliche Mitleserin ohne eigene Posts. Im Kontext der Debatte über Überwachung und Identifizierung warf diese Beichte ein bezeichnendes Licht auf ambivalente Haltungen der Akteure.
Die Diskussion drehte sich auch um die Grundfesten der Demokratie. Schertz warnte davor, die Volksherrschaft ihren Feinden zu überlassen. Bei der aktuellen Situation handle es sich um die „letzte Patrone der Demokratie“. Der Jurist warb für ein AfD-Verbotsverfahren, um die vorhandenen rechtsstaatlichen Instrumente zu nutzen. Hubig zeigte sich vorsichtiger. Ein solches Verfahren sei „das Schärfste des Grundgesetzes“ und müsse extrem gut vorbereitet sein, da die Konsequenzen eines Scheiterns verheerend wären. Die Politik müsse zunächst die Entscheidung des Oberverwaltungsgerichts abwarten, ob die Partei bundesweit als gesichert rechtsextrem eingestuft wird.
Hubig will kein Palantir
Die Ressortchefin richtete den Blick zugleich auf die individuelle Verantwortung. Die KI-Entwicklung verlaufe etwa bei großen Sprachmodellen wie ChatGPT so schnell, dass Medienkompetenz zur Überlebensfrage für die Demokratie werde. Wer Ergebnisse einer KI ungeprüft übernehme, liefere sich Algorithmen aus, die nur noch so täten, als würden sie die Wahrheit „konservieren“. Hubig mahnte: alle auf den Rechtsstaat setzenden Bürger müssten sich gemeinsam wehren. Sie gab zu bedenken: „Demokratische Freiheiten sind hart erkämpfte Rechte.“
Hubig verlangte auch: „Wir müssen viel stärker auf unsere europäischen Kenntnisse setzen.“ Mit Blick auf US-Unternehmen wie Palantir unterstrich sie, dass deren Demokratieverständnis nicht mit europäischen Werten vereinbar sei. Es sei daher folgerichtig, dass die Bundesregierung auf den Einsatz solcher Software verzichte. Das sei auch eine langjährige Forderung der SPD. Angesichts der Fortschritte großer Sprachmodelle müsse Europa nun zügig eigene Tools und Programme entwickeln. Generell gelte es im IT-Bereich, die Abhängigkeit von Giganten wie Microsoft nachhaltig zu verringern.
(afl)
