ZDF: Beitrag mit gefälschtem KI-Video im „heute journal“  

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

In seiner Nachrichtensendung „heute journal“ hat das ZDF am Sonntagabend einen Beitrag mit KI-generiertem Videomaterial gesendet, ohne dieses zu kennzeichnen. Diesen Verstoß gegen eigene Richtlinien erklärt der Sender zunächst mit einem „technischen Fehler“ und hat das KI-Material aus dem Beitrag entfernt. Die Chefredaktion bittet „in aller Form“ um Entschuldigung.

In dem Beitrag geht es um ein „Klima der Angst”, das das teils brutale Vorgehen der US-Grenzpolizei ICE gegen illegale Migranten in der Gesellschaft erzeugt. In der Anmoderation weist Moderatorin Dunya Hayali darauf hin, dass dazu im Internet zahlreiche Videos von ICE-Einsätzen kursieren: „Nicht alle sind echt, aber doch sehr viele.”

ICE-Einsätze mit KI-Bildern

Der Beitrag von Chefkorrespondentin Nicola Albrecht thematisiert dann „brutale ICE-Einsätze”, die mit diversen Aufnahmen aus dem Netz bebildert sind. „Sie führen Kinder vor den Augen ihrer Eltern ab”, heißt es in dem ursprünglich gesendeten Beitrag zu einer Videosequenz, die sichtbar das Wasserzeichen von OpenAIs generativer KI Sora aufweist.

Abgesehen von dem Wasserzeichen enthält die Szene, in der angebliche ICE-Mitarbeiter anscheinend eine Mutter von ihren Kindern zu trennen versuchen, zahlreiche Hinweise auf den Einsatz von KI. Neben den KI-typischen Unschärfen im Detail sind das ein ausgedachtes Behördenwappen, eine generische Uniform und die Tatsache, dass der angebliche ICE-Mitarbeiter sein Gesicht zeigt.

Das ZDF spricht von einem „technischen Fehler“: In dem Beitrag „hätten KI-generierte Bilder gekennzeichnet werden müssen“, heißt es in einer Korrektur, die der Sender am Montag veröffentlicht hat. „Diese Kennzeichnung wurde bei der Überspielung des Beitrags aus technischen Gründen nicht übertragen.“ Warum das ZDF überhaupt KI-generierte Videos in seinem Beitrag zeigte, geht aus der Stellungnahme nicht hervor.

In der Mediathek ist inzwischen die Sendung mit dem korrigierten Beitrag wieder online. Anstatt die unterlassene Kennzeichnung nachzuholen, hat das „heute journal“ die fragliche Szene entfernt und teilweise mit anderen Bildern ersetzt. Auch eine weitere Sequenz, in der ein Minderjähriger durch örtliche Polizeikräfte im US-Bundesstaat Florida abgeführt wird und die 2022 aufgenommen wurde, hat das ZDF entfernt. Eine Einblendung weist an dieser Stelle nun darauf hin, dass das „Video aus redaktionellen Gründen nachträglich geändert” wurde.

„Technischer Fehler“

Das ZDF bleibt auf Nachfrage zunächst bei seiner Darstellung, dass es sich um einen technischen Fehler handele. „Der Beitrag zeigt, dass sowohl mit echten als auch mit KI-generierten Bildern ein Klima der Angst erzeugt wird. Wir bedauern, dass dabei nicht deutlich genug wurde, welche Bilder real sind und welche nicht“, erklärt ein Sprecher gegenüber heise online. Der Beitrag selbst thematisiert möglicherweise gefälschte Bilder allerdings nicht.

Am Dienstagmittag räumt auch die Chefredaktion den Fehler ein und bittet um Entschuldigung. „Diese Sequenz hätte nach den Regeln des ZDF ohne Kennzeichnung und ohne Einordnung so nicht verwendet werden dürfen. Eine weitere Sequenz, in der ein Kind abgeführt wird, ist zwar real, stammt aber aus einem anderen Kontext aus dem Jahr 2022“, heißt es in einer Mitteilung des Senders.

„Wir entschuldigen uns in aller Form für diese Fehler“, erklärt die stellvertretende Chefredakteurin und Nachrichtenchefin Anne Gellinek. „Der Beitrag entspricht nicht unseren Standards und hätte in dieser Form nicht gesendet werden dürfen. Wir haben ihn deshalb von allen Plattformen entfernt und werden auf ZDFheute sowie an gleicher Stelle im 'heute journal' heute Abend korrigierend berichten.“ Fragen zu weiteren Konsequenzen hat der Sender bisher nicht beantwortet.

(vbr)