KI: Großer Teil kann KI-Inhalte nicht erkennen und weiß nicht, was KI ist

Viele Personen können die immer realistischeren Darstellungen durch KI nicht von menschengemachten Inhalten unterscheiden. 40 Prozent wissen nicht, was KI ist.

26

Ob Inhalte maschinell von einer KI erstellt wurden oder menschengemacht sind, können viele Personen nicht mehr erkennen.

(Bild: Shutterstock)

21.05.2024, 18:55 Uhr

Lesezeit: 4 Min.

Von

Anika Reckeweg

Künstliche Intelligenz generiert immer überzeugendere Inhalte. Dass viele Menschen nicht mehr unterscheiden können, ob eine KI oder ein Mensch am Werk war, zeigt eine Studie in Deutschland, China und den USA. Zugleich scheinen sich viele laut einer weiteren Erhebung nicht mit dem Thema auseinanderzusetzen: Mehr als ein Drittel der Menschen in Deutschland hat demnach noch nie etwas von "Deepfakes" gehört.

Die Ruhr-Universität Bochum, die Leibniz Universität Hannover, die TU Berlin und das CISPA Helmholtz-Zentrum für Informationssicherheit haben mit einer Studie untermauert, was dem ein oder anderen bereits an sich selbst aufgefallen sein dürfte: KI-Inhalte von menschengemachten zu unterscheiden, ist eine große Herausforderung. Gut 3000 Personen haben an der Online-Befragung teilgenommen, in die Auswertung flossen rund 2600 Antworten ein (USA: 822, Deutschland: 875, China: 912). Die Ergebnisse wurden diese Woche auf dem 45. IEEE Symposium on Security and Privacy in San Francisco präsentiert. Bereits zwischen Juni und September 2022 zeigte das Forschungsteam den Teilnehmenden zur Hälfte menschengemachte und zur Hälfte KI-generierte Inhalte: je nach Zufallsgruppe Nachrichten-Texte, fotorealistische Porträtbilder oder Audio-Ausschnitte aus Literatur. Die Probandinnen und Probanden mussten außerdem Angaben zu ihrem sozio-biografischen Hintergrund, ihrem Wissen zu KI-generierten Medien und weiteren Faktoren machen.

Großteil erkennt KI-Inhalte nicht

Die Ergebnisse erstaunten das wissenschaftliche Team. Die Teilnehmer hätten die KI-Inhalte über alle Medienarten und Länder hinweg nicht als solche erkannt, sondern als menschengemacht eingeordnet, sagt Thorsten Holz, Professor vom CISPA Helmholtz-Zentrum für Informationssicherheit laut einer Mitteilung des Zentrums. Zu bedenken ist an dieser Stelle, dass die Entwicklung Künstlicher Intelligenz seit der Erhebung massiv an Fahrt aufgenommen hat.

Teilnehmerinnen und Teilnehmer beantworteten auch Fragen zu ihrer Medienkompetenz, ihrem generellen Vertrauen, kognitiver Reflexion, ihrer politischen Orientierung und holistischem – also ganzheitlichem – Denken. Wie gut die Personen die KI-Inhalte erkannt haben, hängt offenbar nicht vom Bildungsgrad oder Alter ab. "Überrascht hat uns, dass es sehr wenige Faktoren gibt, anhand derer man erklären kann, ob Menschen besser im Erkennen von KI-generierten Medien sind oder nicht", sagt Holz. "Selbst über verschiedene Altersgruppen hinweg und bei Faktoren wie Bildungshintergrund, politischer Einstellung oder Medienkompetenz sind die Unterschiede nicht sehr signifikant."

Nur 22 Prozent können Begriff "Deepfake" erklären

Eine Erhebung des Bitkom e. V. zeigte, dass 34 Prozent der Über-16-Jährigen in Deutschland nicht wissen, was Deepfakes – also digital veränderte oder KI-produzierte Bilder, Videos oder Audios – sind. Ebenfalls 34 Prozent hätten schon einmal von dem Begriff gehört, wüssten aber nicht, was genau es sei. 22 Prozent sagten, sie könnten den Begriff erklären. Die gefälschten Bilder und Audios gerieten unter anderem in die Schlagzeilen, da Prominente wie Bundeskanzler Olaf Scholz oder Musikerin Taylor Swift bereits Opfer ohne ihr Einverständnis gefakter Videos geworden sind.

Laut der repräsentativen Bitkom-Studie mit 1004 Befragten haben ähnlich viele Personen noch nie von Ransomware gehört (36 Prozent) oder wissen zumindest nicht, worum es sich dabei handelt. Ebenfalls 22 Prozent sind der Ansicht, den Schadprogramm-Begriff erklären zu können. Weitere Begriffe, die die Teilnehmenden vor Rätsel stellten, waren Metaversum (70 Prozent), Blockchain (65 Prozent), Kryptowährung (61 Prozent) und Chatbot (54 Prozent). Bekannter sind inzwischen Cookies (74 Prozent können den Begriff erklären), 5G (67 Prozent) und Künstliche Intelligenz (60 Prozent).