Meta schaltet KI-Charaktere für Teenager ab, zumindest vorerst

Altersverifikation im Internet sorgt seit jeher für Diskussionen. Meist handelt es sich um eine simple Selbstabfrage, die kaum Schutz bietet. Plattformen wie Instagram werten das Verhalten von Nutzern aus und wandeln Konten bei Bedarf in Teen-Konten um. Der Meta-Konzern, zu dem Apps wie Instagram, Facebook und WhatsApp gehören, muss sich aber weiterhin Klagen stellen, mit denen Einrichtungen und Eltern gegen den unzureichenden Schutz von Kindern und Jugendlichen vorgehen.

Nun will Meta den Zugang von Teenagern zu seinen KI-Charakteren vorübergehend in all seinen Apps weltweit pausieren. Das erklärte der Konzern in einer Mitteilung auf seiner Webseite. Bis das neue Kinderschutzmodell stehe, pausiere man diesen Teil der Apps.

Der Schritt kommt kurz vor Beginn eines Verfahrens gegen Meta in New Mexico. In dem wird das Unternehmen beschuldigt, sich nicht genug um den Schutz von Kindern vor sexueller Ausbeutung in seinen Apps zu kümmern. Das IT-Nachrichtenportal TechCrunch hatte zuvor über den Schritt von Meta berichtet.

Die Ursachen mentaler Probleme

Erst vergangene Woche hatte das Unternehmen ähnliche Anschuldigungen zurückgewiesen und erklärt, dass sich mentale Probleme von Kindern und Jugendlichen nicht direkt auf die Social-Media-Nutzung zurückführen ließen. Die Herausforderungen, mit denen Jugendliche konfrontiert sind, auf einen einzigen Faktor zu beschränken, ignoriere die wissenschaftliche Forschung und die vielen Stressfaktoren, die junge Menschen heute betreffen, schreibt Meta in seiner Stellungnahme zum Thema Jugendschutz.

Man teile aber die Bedenken der Eltern über sichere, altersgerechte Erfahrungen von Teenagern in sozialen Medien. So bekommen Jugendliche über die sogenannten Teen-Accounts weniger sensible Inhalte und weniger unerwünschte Kontakte zu sehen und sie verbringen nachts weniger Zeit auf Instagram, erklärte das Unternehmen auf seiner Webseite als Reaktion auf diverse gerichtliche Auseinandersetzungen.

Teen-Konten

Ende 2024 hatte der Meta-Konzern mehr Schutzfunktionen und elterliche Kontrollmöglichkeiten für die Instagram-Konten Minderjähriger in Europa freigeschaltet. Mit Einführung der Teen-Konten wurden uner anderem vorhandene Konten von Teenagern unter 16 Jahren automatisch auf privat umgestellt.

Vorwürfe gibt es auch gegenüber KI-Betreibern wie OpenAi. Das Unternehmen hatte Ende September einen Jugendschutz für ChatGPT eingeführt. Sofern der ChatGPT-Account eines Jugendlichen mit dem eines erwachsenen Familienmitgliedes verknüpft ist, greifen die Jugendschutzbestimmungen des Anbieters. Kinder und Jugendliche können dann unter anderem keine sexuellen, romantischen oder gewaltverherrlichenden Rollenspiele mehr mit ChatGPT führen.

(uk)