KI-gestütztes Werkzeug soll Fake News erkennen
Das Online-Werkzeug „defalsif-AI“ gibt Nutzern Hinweise auf manipulierte digitale Inhalte. Es entsteht im Rahmen eines österreichischen Forschungsprojekts.
(Bild: charles taylor / Shutterstock.com)
Wissenschaftler eines Konsortiums um das Austrian Institute of Technology (AIT) haben eine Online-Plattform entwickelt, auf der Anwender mit Hilfe von Künstlicher Intelligenz dabei unterstützt werden, Falschinformationen im Internet zu erkennen. Das Projekt „defalsif-AI“ startete im Oktober 2020 im Rahmen des nationalen Sicherheitsforschungsprogramms KIRAS. Es sei offen konzipiert und damit einfach weiterzuentwickeln und in andere Systeme zu integrieren, heißt es in einer Meldung der an dem Projekt beteiligten Austria Presse Agentur (APA).
KI wirke bei defalsif-AI als System, das den Menschen bei der Überprüfung und Verifizierung digitaler Inhalte unterstützt, ihm aber keine Entscheidungen abnimmt, erklärt Martin Boyer, Projektleiter und Senior Research Engineer am AIT Austrian Institute of Technology im Center for Digital Safety & Security.
Fokus auf einfacher Darstellung
Zum Verifizieren von digitalen, multimedialen Inhalten lädt man Videos, Fotos, Texte und ähnliches auf einer Onlineplattform hoch oder gibt dort eine Webadresse ein. Zusatzinformationen wie „Audio“ oder „Porträtbild“ dienen dem System dazu, die richtigen Analysemethoden auszuwählen. Es sucht nach technischen Anhaltspunkten für Desinformation oder Manipulation. Die Ergebnisse sollen einfach und für Anwender gut verständlich dargestellt werden.
„Wir haben das Tool zukunftssicher konzipiert, um laufend weitere Analysemethoden und Komponenten hinzufügen zu können und das Werkzeug auf diese Weise stets weiterzuentwickeln“, so Boyer. Es gibt bereits fünf Nachfolgeprojekte, deren Fokus unter anderem auf der weiteren Automatisierung und Weiterentwicklung der Analysemethoden liegen wird.
Eine ganze Reihe von Projektpartnern sind an dem Forschungsvorhaben beteiligt, darunter die APA, der ORF sowie die Donau Universität Krems. Gefördert wird defalsif-AI vom österreichischen Bundesministerium für Finanzen und der Österreichischen Forschungsförderungsgesellschaft (FFG) im Sicherheitsforschungsprogramm KIRAS.
(dwi)
