KI: Erfundene Quellenangaben belasten Archive und Bibliotheken
Dass KI-Systeme Inhalte generieren und dabei auch falsche Quellenangaben produzieren, ist eigentlich bekannt. Trotzdem leiden Archive unter den Angaben.
(Bild: fitfit_95/Shutterstock.com)
Das Internationale Komitee vom Roten Kreuz (IKRK) hat darauf hingewiesen, dass KI-Systeme inkorrekte oder komplett falsche Archivverweise generieren können und erklärt, wie man richtig recherchiert. Damit ist die renommierte Hilfsorganisation die jüngste in einer wachsenden Liste von Einrichtungen, die sich öffentlich zu den Problemen äußern, was KI-Halluzinationen für sie bedeuten. Wenn ein Dokument nicht auffindbar ist, „bedeutet das nicht, dass das IKRK Informationen zurückhält“, versichert die Organisation in einer aktuellen Stellungnahme. KI-generierte Verweise seien eine mögliche Erklärung, weshalb man auf anderen Wegen weiter suchen sollte. Vorher waren bereits Klagen anderer Bibliotheken öffentlich geworden.
Nutzlose Mehrarbeit
Das IKRK sieht sich in seiner Stellungnahme genötigt, darauf hinzuweisen, dass KI-Systeme „nicht recherchieren, keine Quellen verifizieren oder Informationen überprüfen“. Die Inhalte würden nur auf Basis statistischer Muster generiert, weshalb sie Katalognummern, Beschreibungen von Dokumenten oder gar Verweise zu Plattformen „erfinden“: „Weil es ihr Zweck ist, Inhalte zu generieren, können sie nicht anzeigen, dass Informationen nicht existieren.“ Stattdessen würden sie Details „erfinden“, die zwar plausibel erscheinen, aber kein Fundament in einem Archiv haben. Zuverlässige Informationen finde man nur in offiziellen Katalogen wie jenem des IKRK oder eben direkt in Bibliotheken.
Videos by heise
Die Verantwortlichen versichern, dass sie der Transparenz verpflichtet und für Anfragen und Hilfe beim Recherchieren verfügbar seien. Das deutet zumindest an, welche Schwierigkeiten die falschen Verweise mit sich bringen und vor welche Probleme sie Archive stellen. Expliziter haben das Bibliothekare und Bibliothekarinnen schon vor mehreren Wochen gegenüber dem US-Magazin 404 gemacht. Da war von viel Konfusion und einem merklichen Vertrauensverlust die Rede, die ihre Ursache in nicht auffindbaren Titeln aus KI-generierten Texten haben. Gleichzeitig bedeuten die Verweise auch viel unnötige Mehrarbeit, immerhin muss jedes Mal erst eine Weile recherchiert werden, bevor klar wird, dass ein Titel nicht existiert.
(mho)
