USA: Ess-Störungs-Verband zieht Chat-Bot zurück, der Menschen ersetzen sollte
Eine US-Organisation, die sich dem Kampf gegen Ess-Störungen widmet, wollte die Angestellten ihrer Hilfe-Hotline durch einen Chatbot ersetzen. Das ging schief.
(Bild: 23 estudio/Shutterstock.com)
Eigentlich wollte die gemeinnützige US-Organisation National Eating Disorders Association (NEDA) ihre im März gekündigten Mitarbeiter der Ess-Störungs-Hotline zum 1. Juni komplett durch einen Chatbot namens Tessa ersetzen. Doch den musste der US-Verband nun kurzfristig von seiner Seite nehmen. Der Bot hatte offenbar Empfehlungen zur Gewichtsabnahme gegeben, die laut kritischen Social-Media-Postings für Betroffene von Ess-Störungen schädlich sein könnten.
"Alles, was mir Tessa vorgeschlagen hat, waren Dinge, die zur Entwicklung meiner Ess-Störung geführt hatten", beschrieb etwa die Aktivistin Sharon Maxwell in einem Instagram-Posting ihre Erfahrungen nach einem Chat mit Tessa. Tessa habe ihr unter anderem zu einer gezielten Gewichtsabnahme geraten und empfohlen, 1 bis 2 Pfund pro Woche abzunehmen. Sie solle Kalorien zählen und auf ein Defizit von 500 bis 1000 Kalorien pro Tag hinarbeiten, sich wöchentlich messen und wiegen sowie ihre Ernährung einschränken. "Dieser Roboter verursacht Schaden", so ihr Fazit.
Antworten, die die Störung fördern
Auch die Psychologin Alexis Conason kam nach einem Probechat zu einem ähnlichen Resultat. "Stellen Sie sich vor, dass gefährdete Menschen mit Ess-Störungen einen Roboter um Hilfe bitten, weil das alles ist, was sie zur Verfügung haben, und dass sie Antworten erhalten, die die Ess-Störung weiter fördern", schrieb sie auf Instagram. Die Fragen und Kommentaren, die sie beim Test in den Chatbot eingegeben habe, seien diejenigen, mit denen viele ihrer Klienten mit Gewichtsproblemen zu ihr kämen, erklärte Conason dem Onlinemagazin Daily Dot. Die Behandlung von Ess-Störungen sei "sehr nuanciert". Ein Chatbot könne einfach nicht mit der Unterstützung mithalten, die geschulte Mitarbeiter und Freiwillige bieten könnten.
NEDA teilte auf die Kritik mit, dass Tessa untersucht und "bis auf Weiteres" vom Netz genommen werde. "Wir sind gestern Abend darauf aufmerksam geworden, dass die aktuelle Version des Tessa Chatbots möglicherweise Informationen weitergegeben hat, die schädlich waren und nichts mit dem Programm zu tun hatten", heißt es in der Erklärung der NEDA vom Dienstag.
Vorwurf schnell wieder gelöscht
Man bedanke sich bei den Community-Mitgliedern, die darauf aufmerksam gemacht und ihre Erfahrungen geteilt hätten. Allerdings sei Dankbarkeit nicht die erste Reaktion gewesen, wie Daily Dot schreibt. So habe NEDAs Vize-Kommunikations-Chefin in Kommentaren zu den Postings von Sharon Maxwell zunächst den Vorwurf der Lüge erhoben. Nachdem Maxwell Screenshots teilte, habe die NEDA-Sprecherin einen Fehler eingestanden, dann aber ihre Kommentare gelöscht.
In einer Stellungnahme an Daily Dot erklärte NEDA-Chefin Liz Thompson, dass Tessa ein "algorithmisches Programm und kein hochfunktionales KI-System" sei. Mehr als 2.500 Menschen hätten bereits mit Tessa gechattet, bevor die kritischen Berichte über problematische Empfehlungen zur Gewichtsabnahme erschienen waren.
Bereits mit der Entscheidung vom März, die Hotline-Angestellten zu feuern und durch einen Bot zu ersetzen, hatte der US-Verband für Kontroverse gesorgt. Zuvor hatten sich die Beschäftigten in einer Abstimmung entschieden, sich gewerkschaftlich zu organisieren. Zwei Wochen darauf seien dann die Kündigungen erfolgt. "Hier geht es schlicht und einfach darum, Gewerkschaften zu zerschlagen", kritisierte eine der Gekündigten.
(axk)
