Unesco warnt vor KI-generierter Holocaust-Leugnung
Künstliche Intelligenz kann die Darstellung des Holocausts verfälschen und Antisemitismus schüren, warnen die Unesco und der Jüdische Weltkongress.
(Bild: Unesco, Jüdischer Weltkrongress)
Die Kulturorganisation der Vereinten Nationen Unesco und der Jüdische Weltkongress warnen davor, dass mit Hilfe von Künstlicher Intelligenz (KI) der Holocaust geleugnet und die Geschichte verfälscht wird. Da viele junge Menschen jetzt schon KI für Bildung, Unterhaltung und anderes nutzten, sei es dringend nötig, die neue Technologie ethisch zu leiten. Die Leitlinien dafür hat die Unesco bereits erarbeitet.
Generative KI stütze sich auf große Datenmengen aus dem Internet, die auch irreführende Inhalte sowie menschliche Voreingenommenheit enthielten. Dadurch könnten Informationen über bestimmte Ereignisse falsch dargestellt und Vorurteile verstärkt werden, heißt es in dem Bericht "AI and the Holocaust: rewriting history?" der Unesco und des Jüdischen Weltkongresses. Wenn Entwickler KI-Tools nicht ausreichend überwachten, würden diese auch auf Grundlage von Websites von Holocaust-Leugner trainiert.
Zudem ermögliche KI böswilligen Akteuren, Inhalte wie etwa Zeugenaussagen und historische Aufzeichnungen zum Holocaust zu verfälschen. Mit generativer KI erstellte Deepfake-Bilder, -Videos und -Audioinhalte seien besonders für junge Menschen überzeugend, die ihnen in sozialen Medien begegnen könnten. Generative KI-Modelle neigten außerdem dazu, Ereignisse und historische Phänomene zu erfinden, wenn sie keinen Zugang zu ausreichenden Daten hätten. Obendrein könnten solche Systeme aktiv manipuliert werden.
Algorithmische Voreingenommenheit
Als ein weiteres Problem wird in dem Bericht benannt, dass Suchmaschinen und KI-Bots "algorithmisch voreingenommen" sein können. Fakten über den Holocaust würden heruntergespielt, rechtsextreme Inhalte gefördert. KI neige auch dazu, komplexe Sachverhalte zu vereinfachen. Wenn weniger bekannte Ereignisse des Holocaust weggelassen werden, fördere dies stereotypische Darstellungen und grenze das Verständnis dieser Vergangenheit ein – die doch immer noch für die Menschen Europas und Nordafrikas spürbar sei.
"Wenn wir zulassen, dass die schrecklichen Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir die explosionsartige Ausbreitung von Antisemitismus und die allmähliche Verschlechterung unseres Verständnisses für die Ursachen und Folgen dieser Gräueltaten", sagte Unesco-Generaldirektorin Audrey Azoulay. Die Unesco-Empfehlungen zur Ethik der künstlichen Intelligenz müssten dringend umgesetzt werden, damit die jüngere Generation mit Fakten und nicht mit Fälschungen aufwachse.
Die Unesco hält die Entwickler von KI-Tools an, darauf zu achten, dass ihre Produkte die Prinzipien der Menschenrechte beachten. Politiker sollten die entsprechenden Regeln für die Unternehmen aufstellen, damit diese Ihre KI-Inhalte transparent und fair kuratieren. Bildung sollte verstärkt auf KI und die für sie nötigen Kompetenzen eingehen, damit Lernende Desinformation und Vorurteile erkennen können.
Der heutige 18. Juni wurde von den UN zum Internationalen Tag für die Bekämpfung von Hetze ausgerufen. Aus Protest gegen Hassreden im sozialen Netzwerk X haben 47 Organisationen angekündigt, dort ihre Accounts stillzulegen. Der Jüdische Weltkongress hat ebenfalls am heutigen Dienstag ein Institut für Technologie und Menschenrechte gegründet. Es will vor allem Antisemitismus im Internet und dessen reale Folgen bekämpfen.
(anw)