OpenAI führt Jugendschutz für ChatGPT ein

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Kinder und Jugendliche können keine sexuellen, romantischen oder gewaltverherrlichenden Rollenspiele mehr mit ChatGPT führen. Das ist nur ein Teil der neuen Sicherheitsmaßnahmen für Minderjährige, die OpenAI einführt. Sie gelten ab sofort und auch in Deutschland. OpenAI hat zudem eine Webseite mit Hilfestellungen und Ideen für den Umgang mit KI von Jugendlichen für Eltern bereitgestellt.

Grundsätzlich muss der ChatGPT-Account eines Jugendlichen zunächst mit dem eines erwachsenen Familienmitgliedes verknüpft werden. Erst dann greifen die Jugendschutzbestimmungen. Neben den Rollenspielen werden auch weitere unpassende Inhalte gefiltert und nicht mehr im Chatbot angezeigt. Dazu gehören etwa virale Challenges und extreme Schönheitsideale, schreibt OpenAI im Blogbeitrag.

Eltern können außerdem über die Einstellungen der Konten von Jugendlichen bestimmen. So ist es etwa möglich, die Gedächtnis-Funktion auszuschalten, die sich bisherige Unterhaltungen und weitere Informationen zu einem Nutzer oder einer Nutzerin merkt und auf Basis dessen Inhalte anpasst. Der Sprachmodus lässt sich ebenfalls an- oder ausschalten. Das gilt auch für die Bildgenerierung sowie die Weitergabe von Daten an OpenAI.

Damit Kinder und Jugendliche nicht nachts oder in der Schule ständig am Chatten sind, können Eltern Sperrzeiten einstellen.

OpenAI schützt Privatsphäre – auf eigene Art

"OpenAI ist bewusst, dass Jugendliche ChatGPT auch in schwierigen Zeiten nutzen, und hat deswegen ein System für Mitteilungen an die Eltern eingerichtet, wenn ernsthafte Probleme vermutet werden." Hintergrund sind Vorwürfe, Jugendliche führten zu enge vermeintliche Beziehungen mit dem Chatbot sowie eine Klage, in der Eltern OpenAI Beihilfe zum Suizid vorwerfen. Laut OpenAI habe man an der Mitteilungsfunktion mit Experten aus dem Bereich mentale Gesundheit, Pädagogik und Beratung zusammengearbeitet. Eltern bekommen jedoch nicht die Chance, alle Chats, die ihre Kinder führen, zu lesen. Man nehme die Privatsphäre der Jugendlichen ernst, schreibt OpenAI. Dabei ist es keine Standardeinstellung, dass bei Jugendlichen die Chats nicht an OpenAI gesendet werden – diese Form von Privatsphäre ist also nicht gemeint.

Für die Zukunft arbeitet OpenAI daran, dass Nutzer unter 18 Jahren automatisch erkannt werden. Für sie sollen dann Jugendschutzmaßnahmen greifen.

Gerade erst hatte ChatGPT-Produktchef Nick Turley bei X geschrieben, dass für alle ChatGPT-Nutzer neue Sicherheitsmaßnahmen verfügbar gemacht werden. Bei besonders sensiblen und emotionalen Themen wechselt im Hintergrund das Modell. Es gibt nun ein extra für solche Fälle abgestimmtes GPT-5, das den Zusatz chat-safety trägt und dies auf Nachfrage auch sagt.

Siehe auch:

• ChatGPT bei heise Download

(emw)