"Fiktives Ereignis": Meta AI weiß nichts von Schüssen auf Trump
KI-Sprachmodelle produzieren gerne Unsinn: Meta AI meint, das Attentat auf Donald Trump habe nicht stattgefunden. Der Konzern erklärt das mit Halluzinationen.
Donald Trump bei einem Besuch einer Schiffswerft in Wisconsin 2020.
(Bild: Weißes Haus)
Der Facebook-Konzern Meta hat sich nach Kritik zu Falschaussagen seines Chatbots Meta AI geäußert, der vereinzelt das Attentat auf den ehemaligen US-Präsidenten Donald Trump am 13. Juli geleugnet hatte. Auf die Frage, warum es keine Informationen über den Vorfall gebe, hatte die KI den Anschlag ein "fiktives Ereignis" bezeichnet. Dafür war das Meta vor allem aus dem Lager von Trumps Anhängern scharf angegriffen worden.
Meta: "Halluzinationen"
Der in Erklärungsnot geratene Konzern äußerte sich nun in einem Blogpost zu den Vorfällen. Zunächst sei der Chatbot trainiert worden, sich zu dem Attentat nicht zu äußern, um keine Spekulationen oder Verschwörungstheorien zu verbreiten, heißt es darin. Später sei die KI zwar mit einigen Informationen über das Attentat ausgestattet worden, was "in wenigen Fällen" zu Falschaussagen geführt habe. Dies sei zwar "unglücklich", aber keine Absicht gewesen. Meta erklärt den Fehler mit "Halluzinationen" des Chatbots.
Halluzinationen sind seit Längerem ein Problem von KI-Sprachmodellen. Dabei erfinden sie Zusammenhänge und geben diese als Fakten wider. Bisher wurde in der Branche noch keine Lösung für das Problem gefunden.
Übereifrige Fake-Erkennung
In einem anderen Fall hatte Metas automatische Fake-Erkennung das ikonische Foto, das Trump unmittelbar nach dem Attentat mit erhobener Faust zeigt, fälschlicherweise mit einem Faktencheck-Label versehen. Ein solches Label wird normalerweise Inhalten zugewiesen, die genauer auf ihre Wahrheit überprüft werden sollen.
Meta erklärt den Vorfall damit, dass zunächst ein verändertes, aber ähnliches Foto im Umlauf gewesen sei, das die automatischen Systeme korrekt mit einem Label versehen hatten. Da sich Original und veränderte Fassung stark ähnelten, hätte das System in Folge auch das echte Bild mit dem Label versehen.
Ein Attentäter hatte den ehemaligen US-Präsidenten und aktuellen Präsidentschaftskandidaten Donald Trump auf einer Wahlkampfveranstaltung im Bundesstaat Pennsylvania am 13. Juli angeschossen. Dabei verletzte er Trump mit einem Streifschuss am Ohr und tötete einen der Zuschauer. Kurz darauf wurde der Schütze von einem Mitarbeiter des Secret Service getötet.
(vbr)