BBC warnt vor fehlerhaften KI-Nachrichtenzusammenfassungen

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

KI-Tools wie ChatGPT oder Copilot können das Leben erleichtern, etwa indem sie Zusammenfassungen nach Nachrichten erstellen. Die Ergebnisse seien jedoch mit Vorsicht zu genießen, warnt die BBC.

Für eine Studie ließ die BBC die Systeme ChatGPT, Copilot, Gemini und Perplexity AI Nachrichten von ihrer Website auswerten. Dann wurden den Systemen Fragen dazu gestellt. Journalisten, die sich dem jeweiligen Thema auskannten, bewerteten dann die Antworten.

Dabei hätten mehr als die Hälfte der Antworten (51 Prozent) "erhebliche Probleme in irgendeiner Form" aufgewiesen, berichtet die BBC. Die Studienautoren fanden in jeder fünften Antwort (19 Prozent), die sich auf die BBC bezog, sachliche Fehler, wie falsche Tatsachenbehauptungen, Zahlen und Daten.

Sunak und Sturgeon sind noch im Amt

Dazu gehörte etwa, dass sowohl ChatGPT als auch Copilot der fälschlichen Meinung waren, dass Ex-Premierminister Rishi Sunak und die ehemalige schottische Regierungschefin Nicola Sturgeon noch im Amt seien. Von Gemini stammte die falsche Aussage, das Gesundheitssystem NHS empfehle nicht das Dampfen als Hilfe zur Raucherentwöhnung.

Die KI-Systeme schnitten in der Studie unterschiedlich ab: So lieferten laut BBC das Microsoft-System Copilot und Gemini von Google mehr Fehler als ChatGPT von OpenAI oder Perplexity.

"Bei KI-Assistenten kann man sich derzeit nicht darauf verlassen, dass sie genaue Nachrichten liefern, und es besteht das Risiko, dass sie das Publikum täuschen", schreiben die Autoren. "Das Ausmaß und der Umfang von Fehlern und Verzerrungen von vertrauenswürdigen Inhalten sind unbekannt." Die Studie könne hier jedoch "nur an der Oberfläche des Problems kratzen".

Die BBC schließt KI-Chatbots normalerweise von ihrer Website aus. Für die Dauer der Studie hatte sie den Ausschluss aufgehoben.

Deborah Turness, Chefin von BBC News and Current Affairs, rief in einem Blogbeitrag die Anbieter auf, wie Apple ihre KI-generierten Zusammenfassungen von Nachrichten abzuschalten. Ende vergangenen Jahres beschwerte sich die BBC bei Apple über eine Falschmeldung von deren Dienst Apple Intelligence. Inzwischen hat Apple die Summaries deaktiviert.

"Wir leben in unruhigen Zeiten", schreibt Turness, "und wie lange wird es dauern, bis eine durch KI verzerrte Überschrift Schaden in der realen Welt anrichtet?"

(wpl)