Deepfakes im Visier von AI Act und deutschem Strafrecht

Inhaltsverzeichnis

Das Missbrauchspotenzial KI-erzeugter Medien beginnt erst langsam ins allgemeine Bewusstsein vorzudringen. Phänomene wie Deepfake-Videosequenzen, elektronisch nachgeahmte Stimmen und nicht zuletzt von KI-Tools ausgespuckte scheinbar authentische Fotos bilden einen fruchtbaren Nährboden für Kriminalität verschiedener Art. Bequeme anonyme Internetverbreitungswege wie Social-Media-Plattformen begünstigen das.

Auf die rasante Entwicklung der audiovisuellen KI-Technik und auf deren Auswirkungen ist die Gesellschaft in Deutschland derzeit schlecht vorbereitet. Bildungseinrichtungen haben kaum Konzepte, um digitale Medienkompetenz im Zusammenhang mit KI-erzeugten Inhalten zu vermitteln. Gleichzeitig mangelt es an technischen Methoden, KI-Material zuverlässig zu erkennen. Die wenigen Detektionswerkzeuge, die es gibt, arbeiten alles andere als verlässlich. Zudem veralten sie schnell, weil die KI-Technik so schnell voranschreitet.

c't kompakt

• KI-Tools liefern täuschend echt wirkendes Bild-, Audio- und Videomaterial, das ein hohes Missbrauchspotenzial aufweist.
• Die europäische KI-Verordnung verlangt ab August 2025 eine Kennzeichnung KI-erzeugter Bilder.
• Ein deutscher Gesetzentwurf des Bundesrats bedroht die Verbreitung und Veröffentlichung von Deepfakes mit harten Strafen, gilt aber angesichts der anstehenden Neuwahl des Bundestags zunächst als gescheitert.

Mehr zu KI-Bildgeneratoren

• Kennzeichnungspflichten bei KI-erzeugten Bildern
• Midjourney, Firefly und Ideogram: So gut ist Schrift der KI-Bildgeneratoren
• KI-Bildgenerator: Wie man Stable Diffusion XL feintunen kann
• Logo-Design ohne Textfehler mit Ideogram
• KI-Bilder mit Midjourney ergänzen und manipulieren
• Midjourney: Künstlerische Stile mit den richtigen Prompts simulieren
• KI-Bildgeneratoren: Fantastische neue Welten
• Einsteiger-Guide KI: Wie KI funktioniert und wo sie praktisch helfen kann
• Adobe Firefly Beta im Test: Midjourney-Konkurrent für Kreative
• Einsteiger-Guide für Stable Diffusion: Top-Bilder erzeugen per KI-Bildgenerator
• Tipps für die besten Ergebnisse mit KI-Bildgeneratoren

Desinformationskampagnen und manipulierte Bilder beeinflussen bereits jetzt demokratische Prozesse und die öffentliche Meinungsbildung massiv. KI-erzeugte Inhalte spielen etwa in Wahlkämpfen bereits vielfach eine wichtige Rolle, besonders auf Social-Media-Plattformen wie TikTok oder X. Sie können satirischen Charakter haben, aber viele Betrachter nehmen nicht als solche gekennzeichnete Satiremotive schnell für bare Münze.

Das war die Leseprobe unseres heise-Plus-Artikels "Deepfakes im Visier von AI Act und deutschem Strafrecht". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.