Neue KI-Erkennung: Meta schaut bei Kindern und Jugendlichen genauer hin

Inhaltsverzeichnis

Meta will künftig in Europa per Künstlicher Intelligenz (KI) besser erkennen, ob Kinder und Jugendliche beim Alter gelogen haben. Mittels der neuen Software sollen Kinder unter 13 Jahren von den Plattformen entfernt und Teenager in die geschützte Kontoart transferiert werden. Die Einführung in Deutschland, 26 weiteren EU-Ländern und Brasilien erfolgt auf Threads und Instagram ab sofort und auf Facebook ab Juni. Die Technik hat Meta bereits in den USA, Großbritannien, Kanada und Australien im Einsatz. Meta sendet künftig außerdem Benachrichtigungen an Eltern, damit diese das Alter ihrer Kinder in Meta-Apps überprüfen und bestätigen können.

Wer als Kind bislang bei den Meta-Plattformen beim Alter gelogen hat, musste vor allem bei Texten vorsichtig sein. Der Post über den eigenen 11. Geburtstag oder die Gratulation von Freunden konnten verräterische Signale sein, die Metas Prüfer auf den Plan riefen. Ab sofort werden auch Bilder ausgewertet. Die Geburtstagstorte mit der 11 oder Ballons mit der Alterszahl werden jetzt ebenfalls als Indizien herangezogen. Damit nicht irrtümlich das 10-jährige Firmenjubiläum zum Ausschluss führt, wertet die KI verschiedene Signale aus. Auch der Sprachgebrauch, das Verhalten auf der Plattform oder die Accounts, denen jemand folgt, gehen in die Bewertung ein. Darüber hinaus werden die Erkennungsmechanismen auf weitere Bereiche ausgeweitet, darunter Kommentare und Video-Inhalte wie Reels. Auch Klassenstufen-Angaben können als Alterssignal genutzt werden.

Meta vertraut auf die Software

Inwieweit noch menschliche Prüfer eine Rolle spielen, lässt Meta offen. Man arbeite mit beidem, ist zu hören. Die Tendenz scheint aber zu sein, erstmal der KI zu vertrauen und zu reagieren, wenn jemand Einspruch gegen eine falsche Entscheidung erhebt. Das setzt ein hohes Vertrauen in die Erkennungsrate voraus, damit es nicht zu einem Sturm der Entrüstung kommt.

Ergibt die Analyse, dass ein Konto möglicherweise einer unter 13-jährigen Person gehört, wird der Zugang gesperrt. Betroffene können sich dann durch verschiedene Dokumente verifizieren. Gelingt der Nachweis, dass das Alter korrekt war, wird das Konto wieder freigeschaltet – andernfalls deaktiviert.

Bereits Millionen Teenager erkannt

Das zweite Update betrifft Teenager zwischen 13 und 17 Jahren, die sich bei der Anmeldung als Erwachsene ausgegeben haben. Für sie setzt Meta ebenfalls eine KI-gestützte Erkennung ein, die Verhaltensmuster auf der Plattform, gefolgte Accounts und weitere Nutzungssignale auswertet.

Stuft das System einen Nutzer als wahrscheinlichen Teenager ein, werden automatisch dieselben Schutzeinstellungen aktiviert, die für reguläre Teenager-Konten gelten. Diese sogenannten Teen Accounts sind seit einiger Zeit das Standard-Profil für alle Minderjährigen auf Instagram und Facebook.

Die Technologie hat Meta zunächst in englischsprachigen Märkten – USA, Großbritannien, Kanada und Australien – getestet. Dabei sollen bereits mehrere Millionen Konten identifiziert und in die entsprechenden Schutzeinstellungen überführt worden sein, wie Meta in einem Blogpost beschreibt.

Eltern lockern Teenager-Accounts kaum

Teen Accounts sehen unter anderem ein standardmäßig privates Profil vor sowie eingeschränkte Kontaktmöglichkeiten auf bereits bestätigte Kontakte, ein tägliches Nutzungslimit von 60 Minuten sowie einen Ruhemodus zwischen 22 und 7 Uhr, in dem Benachrichtigungen stummgeschaltet sind. Nutzer unter 16 Jahren können diese Einstellungen nicht eigenständig lockern – dafür ist die Zustimmung der Eltern über die Elternaufsichtsfunktion erforderlich. Statistiken Metas zeigen, dass 97 Prozent der 13- bis 15-jährigen Nutzer ihre Standardeinschränkungen beibehalten haben.

Darüber hinaus sind Inhaltsfilter aktiv, die sich an Film-Altersfreigaben orientieren. Meta hat seine entsprechenden Richtlinien so ausgerichtet, dass Teenager auf Instagram keine Inhalte zu sehen bekommen, die in einem ab 13 Jahren freigegebenen Film nicht vorkommen würden – in Deutschland entspricht das in etwa FSK 12, mit einzelnen zusätzlichen Einschränkungen, etwa für riskante Stunts, die viral gehen könnten. Eltern können über die Elternaufsicht einen noch restriktiveren Filter aktivieren. Außerdem kann Meta ganze Accounts für Minderjährige unsichtbar machen, wenn diese wiederholt Inhalte veröffentlichen, die nicht für Jugendliche geeignet sind.

Eine Reaktion auf die EU-Kommission?

Als Reaktion auf ein laufendes Verfahren der EU-Kommission will Meta die neuen Maßnahmen nicht verstanden wissen. Mit den vorläufigen Feststellungen der Kommission, in welchem Umfang unter 13-Jährige doch Zugriff auf die Plattform nehmen, sei man inhaltlich nicht einverstanden. Die Kommission beziffert den Anteil unter 13-Jähriger auf den Plattformen auf rund 12 Prozent und argumentiert, dass die bisherigen Schutzmaßnahmen nicht greifen.

Weiterhin plädiert Meta dafür, Altersverifizierung auf Betriebssystem- oder App-Store-Ebene zu verankern – eine Forderung, die von den größten Plattformbetreibern Apple und Google abgelehnt wird. Die einmalige Verifizierung bei der Einrichtung eines Geräts solle verpflichtend an alle Dienste weitergegeben werden. Die EU-App zur Altersverifizierung sieht Meta als möglichen Baustein, verweist aber darauf, dass diese für viele Nutzergruppen – darunter Kinder unter 16, für die die Online-Ausweisfunktion (eID) des Personalausweises in Deutschland erst ab diesem Alter aktiv ist – noch nicht nutzbar sei.

(mki)