Jugendschutz: KI kündigt sich als Problem an

Inhaltsverzeichnis

Eines sei klar, befand Stefan Glaser, Leiter von jugendschutz.net: Fast alle Alterskohorten Heranwachsender nutzten das Internet in irgendeiner Art und Weise, Mittelpunkt stünden audiovisuelle Angebote. "Wenn wir über Schutz und Teilhabe sprechen, müssen wir also von dieser Situation ausgehen, dass Dienste auch von jenen genutzt werden, für die sie eigentlich nicht gemacht sind", sagte der Leiter der als gemeinsamem Kompetenzzentrum von Bund und Ländern Organisation zur Vorstellung des Jahresberichts in Berlin.

Dadurch entstünden sehr unterschiedliche Probleme, die bei der Stelle aufliefen. Die lang etablierte Organisation arbeitet mit Hinweisen von Dritten, die sie prüft und anschließend an die Betreiber über eigene, direkte Kanäle meldet. Insgesamt 45.963 Meldungen an Jugendschutz.net wurden von den Mitarbeitern ausgewertet. 7645-mal wurden dabei Verstöße gegen Rechtsvorschriften festgestellt und reagiert – wobei sich hinter einem solchen "Fall" auch viele zusammenhängende Medien befinden können.

Zwei Drittel der Fälle betrafen sexualisierte Gewalt, 12 Prozent Pornografie und Sex, 11 Prozent politischen Extremismus, 5 Prozent selbstgefährdende Inhalte und zwei Prozent Cybermobbing. Über 3000-mal kontaktierte die Organisation Anbieter, in der Regel mit Erfolg, mehr als 3500-mal wurden Fälle an die Strafverfolgungsbehörden übergeben.

Jugendliche Täter zunehmendes Problem

Auch die Jugendschützer kämpfen dabei mit einem Problem: Bei insgesamt 3582 Fällen von kinder- und jugendpornografischen Inhalten seien immer häufiger Inhalte dabei, bei denen die Täter noch minderjährig seien und sich gegenseitig etwa Fotos zukommen ließen, die seit 2021 unter den entsprechenden Strafgesetzbuch-Paragrafen 184b fallen. Diese Regelung wollte die Ampelregierung eigentlich längst reformiert haben.

Zudem finde jugendschutz.net zunehmend Inhalte, die über Videochats mit Minderjährigen entstehen. Bei denen liege der Verdacht nahe, dass die Ersteller über das sogenannte Cybergrooming, das gezielte Erschleichen von Vertrauen Minderjähriger und anschließenden Remote-Missbrauch nahezu anonym ihre Taten begehen könnten.

Hamas-Überfall und Folgen im Kinderzimmer

Die Verbreitung von Extremismus und Hassinhalten sei ein weiteres wichtiges Thema im Berichtszeitraum gewesen, sagte Glaser – insbesondere nach dem Überfall der Hamas auf Israel und den danach folgenden Ereignissen. Besonders problematisch sei dabei, dass Kinder und Jugendliche audiovisuelle Plattformen auch nutzten, um sich über das Weltgeschehen auf dem Laufenden zu halten.

Stark gewalthaltige und emotionale und zum Teil auch falsche oder diskriminierende Inhalte könnten "durchaus radikalisierende Wirkung entfalten, so Glaser. Bei Hass gegen Muslime, Hass gegen Juden und die Herabsetzung anderer Gruppen würden inzwischen verstärkt auf KI gesetzt – und sei zunehmend schwer als solches zu erkennen. Modifizierte Propaganda hinterlasse bei diesen eindrückliche Wirkung, so der Leiter von jugendschutz.net. Insbesondere Telegram sei aufgrund seiner unzureichenden Inhaltemoderation eine Ausweichplattform für Extremisten, die Inhalte fänden jedoch auch ihren Weg auf andere Plattformen.

Die Meldesysteme der Anbieter seien trotz einschlägiger neuer Gesetzgebung dabei nach wie vor nicht effizient: Während Meldungen, die jugendschutz.net als normaler User eingereicht habe, oft nicht zum Erfolg führten, hätten die Anbieter bei Meldungen durch Jugendschuz.net in fast allen Fällen dann Maßnahmen ergriffen – bei Instagram betrug der Unterschied etwa 60 Prozent.

Jugendmedienschutzpolitiker sehen Altersverifikation als Schlüssel

Für die rheinland-pfälzische Jugendministerin Katharina Binz (Grüne) ist das Teil eines größeren Gesamtbildes: Die Plattformen müssten ihrer Verantwortung nachkommen -- und die rechtlichen Rahmenbedingungen konsequent angewandt werden. Dass dies bislang nicht immer der Fall ist, illustrierte Marc-Jan Eumann, Direktor der Medienanstalt Rheinland-Pfalz und Vorsitzender der Kommission für Jugendmedienschutz (KJM) am Beispiel der Pornoplattformen: Diese hätten bis heute – trotz Pflicht aus dem Jugendmedienstaatsvertrag und dem DSA – keine wirksamen Altersprüfsysteme. Dabei gebe es längst funktionierende und sogar datensparsame Umsetzungen: "Es gibt für Anbieter keine Ausreden bei verlässlichen und einfach zu implementierenden Altersverifikationssystemen mehr", sagte Eumann in Berlin.

Das gelte auch für andere Plattformen, die aufgrund der Altersstruktur ihrer Nutzerschaft eigentlich verlässlich herausfinden müssten, welcher Altersgruppe ihre Nutzer zuzuordnen seien – etwa, um bestimmte, altersgerechte Voreinstellungen für sie zu treffen wie etwa nicht öffentliche Profile. Im Prinzip sieht das auch der Digital Services Act vor, in der Praxis kommt das aber bislang nur selten vor.

Familienministerin hofft auf DSA

Das Internet sei für Kinder und Jugendliche ein wichtiger, oftmals ihr einziger Informationsraum – allerdings mit vielen Problemen, sagte Lisa Paus (Grüne). Sie hätten ein Recht auf eine sichere und unbeschwerte Teilhabe an der digitalen Welt, so die Bundesfamilienministerin. Die Plattformen seien mit dem DSA zum Handeln verpflichtet worden, sie begrüße die ersten Verfahren der EU-Kommission als Aufsichtsbehörde ausdrücklich. Allerdings würden die Durchsetzungsstrukturen derzeit erst noch aufgebaut, sagte die Familienministerin: "Das Gesetz haben wir jetzt, jetzt ist die Frage, inwieweit wir in der Lage sind, das Recht auch durchzusetzen."

Zugleich hoffte sie auf Fortschritte bei den Verhandlungen zur CSAM-Verordnung zur Bekämpfung von Inhalten, die sexuellen Missbrauch wiedergeben. Im Zuge dieser Beratungen habe das BMFSFJ ein Konzept für grundrechtsschonende Altersverifikationssysteme in Auftrag gegeben, das noch in diesem Jahr vorgelegt werden solle. Sie sei zuversichtlich, erklärte Paus, dass das Dossier bald abgeschlossen werden könne.

Auch Medienkompetenz soll helfen

Auch die Frage, wie man Medienkompetenz an die oft jungen Nutzer bringen könne, beschäftigt die Ministerinnen, die Aufsicht und jugendschutz.net. Paus kündigte an, dass das BMFSFJ gerne länderübergreifende, gemeinsame Mindeststandards für Medienkompetenzvermittlung an Schulen sehen würde und darauf hinarbeite.

Einen Appell an die Medienkompetenz der Eltern richtete derweil Marc-Jan Eumann: "Stellen sie kein einziges Bild Ihrer Kinder mit Namen und unverpixelt ins Netz", forderte er die Bürgerinnen und Bürger auf, nicht nur im Hinblick auf die Verarbeitung durch KI-Systeme. "Wir brauchen ein Störgefühl, wenn ein Bild im Netz ein Kind zeigt, und dann im schlimmsten Fall auch noch mit Namen."

(anw)