KI: Anzügliche Chatbots von Meta haben Promis und Minderjährige imitiert
Auf Facebook, Instagram & WhatsApp wurden laut Reuters Chatbots verbreitet, die sich unerlaubt als Promis ausgegeben und anzügliche Nachrichten versendet haben.
Gleich zwei Chatbots einer Meta-Mitarbeiterin haben sich dem Bericht zufolge als Taylor Swift ausgegeben.
(Bild: Brian Friedman/Shutterstock.com)
Der US-Konzern Meta hat die Erschaffung von KI-Chatbots ermöglicht, die wie Prominente ausgesehen und anzügliche Nachrichten sowie Bilder geschickt haben. Das hat die Nachrichtenagentur Reuters herausgefunden und erklärt, dass es sich bei den meisten davon um benutzergenerierte Figuren gehandelt hat, die verbreitet wurden. Mindestens drei davon stammten demnach aber von einer Teamleiterin bei Meta selbst, zwei hätten sich als Taylor Swift ausgegeben und eine als Lewis Hamilton. Gleich mehrere ihrer Chatbots seien für anzügliche Konversationen prädestiniert gewesen. Meta hat es Nutzern und Nutzerinnen dem Bericht zufolge auch erlaubt, Chatbots von minderjährigen Prominenten zu erstellen. Einer habe auf Anfrage ein KI-generiertes Oben-ohne-Bild verschickt.
Meta entfernt Chatbots
Wie Reuters weiter schreibt, hat der Sprecher von Meta dem Bericht nicht widersprochen und stattdessen eingestanden, dass die hauseigenen KI-Werkzeuge keine "intimen Bilder" erwachsener Promis und überhaupt keine Bilder von prominenten Jugendlichen habe erstellen dürfen. Teilweise seien hier Metas eigene Vorgaben nicht eingehalten worden. Gleichzeitig habe er aber erklärt, dass Meta die Erschaffung von KI-Kopien von Promis erlaube, solange sie als "Parodie" gekennzeichnet seien. Laut Reuters sei das für einige der Fall gewesen, für andere nicht. Kurz vor der Veröffentlichung des Berichts am Wochenende hat Meta demnach mehrere der Chatbots gelöscht, darunter waren demnach sowohl solche, die als Parodie gekennzeichnet waren, als auch welche ohne diesen Hinweis.
Mit der Verbreitung der KI-Imitationen könnte Meta gegen Gesetze verstoßen haben, zitiert Reuters die Einschätzung eines Rechtsexperten. Die rechtlichen Vorgaben hierzu würden aber auf bundesstaatlicher Ebene formuliert, in diesem Fall könnte etwa gegen kalifornisches Recht verstoßen worden sein. Meta steht bereits im Zentrum scharfer Kritik, seit Reuters publik gemacht hat, welche rassistischen Äußerungen der Facebook-Konzern bei seinen KI-Chatbots für akzeptabel hält. Auch anzügliche Unterhaltungen mit Minderjährigen hat man demnach bei Meta tolerieren wollen und diese Haltung erst nach der Anfrage der Nachrichtenagentur revidiert. Geteilt wurden die Chatbots laut Reuters auf Facebook, Instagram und WhatsApp.
Videos by heise
Welche Folgen die neue Enthüllung zu Meta KI-Chatbots haben wird, ist noch nicht absehbar. Bei der davon betroffenen US-Schauspielerin Anne Hathaway prüft man demnach Konsequenzen, andere hätten sich nicht geäußert. Die Chatbots der Meta-Mitarbeiterin wurden laut Reuters inzwischen entfernt, der Sprecher habe erklärt, dass sie Teil eines Produkttests gewesen seien. Dafür hätten sie aber sehr weite Verbreitung gefunden, schreibt Reuters noch. Einer habe mehr als 10 Millionen Interaktionen angesammelt. Die Nachrichtenagentur listet auch weitere ihre Kreationen auf, darunter eine anzügliche Bibliotheksbesucherin und einen antiken Römer, der angeboten habe, Nutzerinnen als 18-jährige Bäuerinnen zu behandeln, die in die "Sexsklaverei" verkauft würden.
(mho)
