klicksafe-Broschüre zum Safer Internet Day: Aufwachsen mit künstlicher Nähe
Unkritisch und jederzeit erreichbar: Warum KI-Chatbots und -Begleiter für Heranwachsende gefährlich sein können, erklärt klicksafe zum Safer Internet Day.
(Bild: klicksafe)
KI-Chatbots und -Begleiter wirken empathisch und allwissend, weil sie darauf trainiert werden, so zu wirken. Dass dadurch insbesondere Kinder und Jugendliche ungesunde Beziehungen zu ihnen aufbauen können, wird durch eine neue Broschüre von klicksafe und der Nummer gegen Kummer aufgegriffen. Sie wurde einige Tage vor dem diesjährigen Safer Internet Day (10. Februar) veröffentlicht und unterfüttert damit das Kampagnenthema „Aufwachsen mit künstlicher Nähe“ mit tiefergehendem Informationsmaterial und Handlungsempfehlungen.
Gefühl von Vertrautheit und Verständnis
Die Broschüre mit dem Titel „Mein Kind und KI: Aufwachsen mit künstlicher Nähe“ richtet sich an Eltern, kann aber auch als Handreichung in Bildungseinrichtungen für junge Kinder genutzt werden. Für Lehrkräfte ab der Sek I hat klicksafe in Zusammenarbeit mit der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) passendes Unterrichtsmaterial mit dem Titel „KI and me. Wie künstliche Intelligenz unser Leben prägt“ herausgegeben, das noch mehr in die Tiefe geht.
Die Eltern-Broschüre erklärt, was KI-Chatbots und -Begleiter sind und in welcher Form sie eine Gefahr darstellen können. KI-Chatbots wie etwa ChatGPT (OpenAI) oder Gemini (Google) sind demnach Systeme, die „menschliche Konversationen simulieren sollen – schriftlich beziehungsweise mündlich. Sie beantworten Fragen und geben Tipps und Ratschläge für alle Lebenslagen.“ KI-Begleiter simulieren ebenfalls menschliche Gespräche, „sind jedoch stärker auf Beziehung, emotionales Feedback und kontinuierliche Interaktion mit den Nutzenden ausgelegt“. Sie schlüpfen unter anderem in die Rollen von bekannten Spiel- oder Filmfiguren. Anbieter solcher Begleiter oder auch Tools für die Erstellung eigener Begleiter sind beispielsweise Character.AI, nomi.AI oder Replika.
Videos by heise
Mittlerweile sind sowohl KI-Chatbots als auch -Begleiter so weit ausgereift, dass sie Antworten geben können, „die sehr natürlich und menschenähnlich wirken“, erklärt die Broschüre. Sie sind mittlerweile zudem in der Lage, „die emotionalen Zustände der Nutzenden zu interpretieren und darauf zu reagieren.“ Das wirke menschenähnlich. Hinzu komme aber noch, dass sie stets verfügbar sind – „unabhängig von Uhrzeit, Laune oder Energie“ und die Antworten sind auf die Person „zugeschnitten, bestätigend, meist freundlich, vorurteilsfrei und geduldig.“ Erziehungsberechtigte dürften an dieser Stelle aufmerken: Immer Zeit und Nerven auch für kritische Gespräche haben? Immer geduldig und bestätigend sein? Genau hier liegt der Knackpunkt: Dass Bezugspersonen für Kinder und Jugendliche nicht immer verfügbar und zustimmend sein können, könnte die Heranwachsenden dazu verleiten, sich eher an die unkritischen Bots und Begleiter zu wenden. Wer so aufwächst, dem könnten echte soziale Kontakte dann „im Vergleich anstrengender erscheinen“, weil sie konfliktgeladener und nicht einfach wegzuklicken sind. Schlussendlich bestehe das Risiko, dass für manche Menschen echte Beziehungen in den Hintergrund rücken oder sogar teilweise durch KI-Interaktionen ersetzt werden könnten.
Wie funktioniert das? Wie wirkt das? Wie nutze ich das?
klicksafe und die Nummer gegen Kummer raten in der Broschüre nun aber nicht, dass Kinder und Jugendliche keinerlei KI-Chatbots oder -Begleiter nutzen sollten, sondern empfehlen die offene Thematisierung und Beobachtung durch Eltern. Erziehungsberechtigte und andere Bezugspersonen sollten mit den Kindern darüber sprechen, wie Chatbots und Begleiter funktionieren, was sie können und nicht können; sie sollten sich dazu selbst informieren und Bots und Begleiter auch ausprobieren. Zudem sollten sie mit den Heranwachsenden Regeln zur Nutzung besprechen und Jugendschutzeinstellungen vornehmen. Und nicht zuletzt müsse der Datenschutz thematisiert werden. KI-Begleiter werben damit, dass sie wie ein bester Freund sein können, dem man alles anvertrauen kann – genau das kann aber dazu verleiten, besonders sensible Daten preiszugeben.
(Bild: nomi.ai)
Live-Aktion am Safer Internet Day
Neben dem Lehr- und Informationsmaterial bietet klicksafe am Safer Internet Day eine „klicksafe Schulstunde“ an, die live in Klassenzimmer gestreamt werden kann. Sie ist für Jugendliche ab der Klassenstufe 7 gedacht, die sich dann interaktiv mit dem Einfluss von KI und Chatbots auf Kommunikation, Beziehungen und Alltag auseinandersetzen können. Schon im vergangenen Jahr nahmen nach Angaben von klicksafe jeweils mehrere zehntausend Schülerinnen und Schüler an einer solchen Schulstunde teil.
(kbe)
