OpenAI führt KI-gestützte Altersschätzung ein

OpenAI hat die weltweite Einführung einer KI-gestützten Altersschätzung für seinen KI-Chatbot ChatGPT angekündigt. Das teilte das US-Unternehmen am Dienstag auf seiner Website mit. Mittels eines dedizierten KI-Models wolle man künftig Verhaltensmuster und Marker auf der Kontoebene analysieren, um zu ermitteln, ob ChatGPT-Nutzer minderjährig sind. Die Funktion wird laut OpenAI in wenigen Wochen in der EU verfügbar sein.

Die KI-gestützte Einschätzung des Nutzeralters soll den Schutz von Personen unter 18 Jahren verbessern und sie vor potenziell sensiblen oder schädlichen KI-generierten Inhalten schützen, schreibt OpenAI auf seiner Website. Dafür analysiert das zum Einsatz kommende KI-Modell Daten wie die typischen Nutzungszeiten von ChatGPT, Verhaltensmuster der Nutzenden, den Zeitpunkt, seit wann ein Konto existiert und ob diese Daten mit dem angegebenen Alter der Nutzer übereinstimmen.

Sofern eine Einschätzung auf unter 18 Jahre erfolgt ist, ergreift ChatGPT in der Folge automatisch zusätzliche Schutzmaßnahmen. Für als minderjährig eingestufte Nutzer sollen künftig Inhalte mit grafischer Gewalt, Selbstverletzung, sexualisierten oder romantisierten Rollenspielen, extremen Schönheitsidealen, stigmatisierenden Körperbildern oder schädlichen Internet-Challenges eingeschränkt werden.

Nutzer, die fälschlicherweise als minderjährig eingeschätzt wurden, müssen ihr Alter manuell nachweisen. Das soll OpenAI zufolge über den Drittanbieter Persona per Live-Selfie oder Ausweisfoto möglich sein.

Öffentlicher Druck und eigene Pläne

Die vorgestellten Maßnahmen zum Schutz von Minderjährigen sind Teil des im November 2025 von OpenAI vorgestellten „Teen Safety Blueprints“ und der im Dezember um „Unter-18-Prinzipien“ aktualisierten Modellspezifikationen. Beide Schritte erfolgten auch vor dem Hintergrund zunehmenden öffentlichen Drucks. ChatGPT steht seit Längerem in der Kritik, Minderjährige nicht ausreichend zu schützen und ungesunde Beziehungen von Jugendlichen zu Chatbots zu tolerieren. Besonders dramatisch war der Fall eines 16-Jährigen aus Kalifornien, der Suizid beging, nachdem er sich zuvor ausgiebig mit ChatGPT über Methoden zur Selbsttötung unterhalten hatte.

Zudem plant OpenAI einen Erwachsenenmodus, der erotische Gespräche mit dem ChatGPT für verifizierte Erwachsene ermöglichen soll. Mit der Bekanntgabe der KI-basierten Altersschätzung macht ChatGPT nun deutlich, wie die dafür nötige strikte Zielgruppentrennung erfolgen soll.

(rah)