Aktuell

KÜNSTLICHE INTELLIGENZ

Chatbot schult einfühlsame Mitarbeiter

Die US-Organisation „Trevor Project“ will jungen Menschen aus der LGBTQ-Community helfen. Neue Mitarbeiter sollen demnächst vom Chatbot „Riley“ geschult werden. Er basiert auf dem KI-System GPT-2 und wurde mit Tausenden Transkripten vergangener Rollenspiele trainiert, um zu erkennen, ob Mitarbeiter einfühlsam und schützend vorgehen. Es soll zudem feststellen, welche Klienten besonders gefährdet sind.

In bestimmten Umgebungen könnten KI-Systeme bereits treffsicherer als Menschen das Suizidrisiko von Personen vorhersagen, sagt Thomas Joiner, Psychologie-Professor an der Florida State University. Und sogar im tatsächlichen Leben, mit mehr Variablen, schneiden KI-Systeme wie Riley offenbar immer noch annähernd so gut ab wie ihre menschlichen Kollegen.

KI-Systeme können mitunter einfühlsamer sein als Menschen.

Foto: Unsplash

Allerdings sind solche Systeme auch dafür bekannt, mitunter rassistische, sexistische oder homophobe Aussagen aus ihren Trainingsdaten zu übernehmen. Insbesondere bei sensiblen Themen kommt der Bot daher nur als Unterstützung für menschliche Berater in Frage – nicht als deren Ersatz. Das Vorhaben wird von Google unterstützt.

Abby Ohlheiser, Karen Hao, Ben Schwan