Knuddels arbeitet mit Bundeskriminalamt und KI gegen Cybergrooming

Inhaltsverzeichnis

Für den besseren Schutz von Minderjährigen im Internet arbeiten das Bundeskriminalamt (BKA) und die Betreiber der Chatcommunity "Knuddels" zusammen. Zu den Maßnahmen gehört beispielsweise ein selbst entwickelter KI-Filter. Dieser erlaube Textanalysen ohne den Einsatz von Drittanbieter-Diensten und werde konstant weiterentwickelt, wie der Geschäftsführer der Knuddels GmbH & Co. KG Holger Kujath heise online mitgeteilt hat. Durch die gemeinsamen Maßnahmen würden die Mitglieder sensibler auf mögliche Verstöße gegen die Knuddels-Richtlinien reagieren und zunehmend einen in den Chat integrierten Meldebutton nutzen. Nach der Meldung prüfen die Mitarbeiter von Knuddels dann einen möglichen Verstoß.

Knuddels, bei dem über eine Million Nutzer ab 16 Jahren registriert sind, richtet sich vor allem an ein jüngeres Publikum und stand nach seiner Gründung im Jahr 1999 immer wieder aufgrund seines Missbrauchspotentials in der Kritik. Immer wieder kommt es dazu, dass sich Erwachsene als Gleichaltrige ausgeben, um in Kontakt mit Minderjährigen zu treten. Die Zahl der Verdachtsfälle stieg demnach mit Start der Kooperation und dem Einsatz des KI-Filters zunächst an, inzwischen sei allerdings ein erster Rückgang der Fälle zu erkennen. Zwar sei es noch zu früh für eine endgültige Einschätzung, allerdings werde das Ergebnis als ein positives Signal gewertet.

Verdachtsfälle schneller verfolgen

Grundsätzlich sperrt Knuddels alle Accounts permanent, die der Dienst beim BKA anzeigt. Auch die Bestandsdaten des Accounts und möglicherweise vorhandene Mobilfunknummern werden zur Unterstützung der Ermittlungen weitergegeben, teilte der Knuddels-Sprecher mit. "Die Kooperation mit dem BKA ist für uns von Knuddels ein großer Schritt, um die Sicherheit auf der Plattform weiter zu verbessern", heißt es. Mit dem Pilotprojekt wolle man "Verdachtsfälle noch schneller und sicherer" verfolgen. Auch die Mitglieder der Plattform reagieren nach Aussagen von Kujath "sehr positiv auf die Zusammenarbeit und unterstützen das Projekt".

"Unsere mit Knuddels vereinbarten Maßnahmen verbinden Prävention und Repression", erläutert Nadya Wagner, Leiterin der Zentralstelle für die Bekämpfung von Sexualdelikten zum Nachteil von Kindern und Jugendlichen im Bundeskriminalamt. Ziel sei es, zu verdeutlichen, dass strafrechtliche Grenzen auch im digitalen Raum gelten. Die Zentralstelle des BKA prüfe die Hinweise, bei strafbaren Inhalten würden "konsequent Ermittlungsverfahren von den örtlich zuständigen Strafverfolgungsbehörden eingeleitet". Eltern sollten mit ihren Kindern zudem nur "altersgemäße und der jeweiligen Medienkompetenz der Kinder entsprechende Angebote auswählen".

Meldungen mit Deutschlandbezug

Da in den USA die Anbieter von Telekommunikationsdiensten rechtlich zur Meldung von Hinweisen auf Cybergrooming oder Kinderpornografie an das "National Center for Missing and Exploited Children" (NCMEC) verpflichtet sind, habe das BKA eigenen Angaben zufolge 2022 rund 136.000 Meldungen mit Deutschlandbezug erhalten. In der EU ist mit der umstrittenen Chatkontrolle oder auch CSA-Verordnung (CSA steht für Child Sexual Abuse, zu Deutsch Kindesmissbrauch) Ähnliches geplant. Das gemeinsame Vorgehen mit Anbietern wie Knuddels habe für das BKA Modellcharakter: "Wir setzen beim Schutz von Kindern und bei der Bekämpfung von sexualisierter Gewalt im Internet auf eine gute Zusammenarbeit mit Providern und Diensteanbietern", sagte Wagner.

Soziale Netzwerke müssten melden

Seit dem 1. Februar 2022 sind soziale Netzwerke mit mehr als zwei Millionen registrierten Nutzern in Deutschland nach dem Netzwerkdurchsetzungsgesetz (NetzDG) verpflichtet, bestimmte als rechtswidrig einzuordnende Inhalte dem BKA zu übermitteln. Jedoch sind derzeit Klageverfahren der Telemediendienstanbieter Google, Meta, Twitter und TikTok gegen die Bundesrepublik Deutschland beim Verwaltungsgericht Köln anhängig. Die Anbieter der Dienste wollen keine Meldungen an das BKA übermitteln und haben dies auch noch nicht getan, wie ein Sprecher des BKA heise online auf Anfrage mitgeteilt hat.

Unabhängig davon sei die zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) des BKA zum 1. Februar 2022 "auf Grundlage der Zentralstellenfunktion des BKA gemäß § 2 des Bundeskriminalamtsgesetzes" nun mit freiwilligen Kooperationspartnern im Wirkbetrieb. Inzwischen arbeitet das BKA zusammen "mit der Meldestelle 'HessengegenHetze' des CyberCompetenceCenters [Hessen3C] des Hessischen Ministeriums des Innern und für Sport, der Meldestelle 'REspect!' der Jugendstiftung im Demokratiezentrum Baden-Württemberg, den Landesmedienanstalten der Bundesländer und der Generalstaatsanwaltschaft München", sagte der BKA-Sprecher.

Bislang seien auf diesem Weg knapp 10.500 Meldungen (Stand 30. Juni 2023) übermittelt worden. Etwa Dreiviertel davon seien strafrechtlich relevant gewesen. In rund 88 Prozent der abschließend bearbeiteten Fälle konnte die ZMI BKA entweder eine örtlich zuständige Strafverfolgungsbehörde in einem Bundesland (bei etwa 78 Prozent) oder einen möglichen Aufenthaltsort des mutmaßlichen Verfassers im Ausland (etwa 10 Prozent) feststellen.

(mack)