Manipulierte Wahrnehmung: Forscher zeigen Risiken von Augmented Reality

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Ein Experiment der Duke University zeigt, wie leicht sich Menschen durch manipulierte visuelle Hinweise in Augmented Reality täuschen lassen. Das Projekt greift ein potenzielles Sicherheitsproblem auf: Wenn AR-Informationen Teil des Alltags werden, könnte schon eine kleine Veränderung reichen, um Wahrnehmung und Verhalten zu beeinflussen.

Miniaturstadt als Testfeld für Täuschung

Auf der MobiHoc-Konferenz 2025 in Houston stellten Yanming Xiu und Maria Gorlatova eine interaktive Miniaturstadt vor, die über den Passthrough-Modus der Meta Quest 3 betrachtet wird. Die VR-Brille zeichnet im Mixed-Reality-Modus die reale Umgebung auf und mischt sie mit digitalen Einblendungen, die in Echtzeit auf dem Display der Brille erscheinen.

In der Demo veränderten die Forscher Straßenschilder und Gebäudebeschriftungen: Ein Krankenhaus trug plötzlich den Schriftzug "Hotel", an einer Kreuzung tauchte ein Stoppschild auf, das dort gar nicht hingehörte. Teilnehmer steuerten ein ferngesteuertes Spielzeugauto durch diese verfälschte Umgebung und verfingen sich prompt in den falschen Hinweisen. Bei einem Probelauf kamen zwei von drei Testpersonen vom Weg ab, ohne den Fehler zu bemerken.

Die Forscher sprechen von "Visual Information Manipulation", oder kurz "VIM": bewusster Veränderung oder Ergänzung von visuellen AR-Inhalten. Diese Form der Täuschung kann harmlose Effekte haben, etwa Irritation in einem Spiel, aber auch gefährliche – etwa wenn manipulierte AR-Wegweiser Autofahrer in riskante Situationen führen oder im medizinischen Kontext fehlerhafte Informationen eingeblendet werden.

Noch sind echte AR-Brillen wie Metas Orion und Snaps Spectacles nicht im Umlauf. Snap hat aber bereits eine kompakte Konsumentenversion für 2026 angekündigt und auch Meta dürfte seinen Prototyp längst für den Massenmarkt vorbereiten. Doch auch aktuelle AR-Geräte, wie sie etwa in der Industrie eingesetzt werden, beziehen Inhalte aus verschiedenen Datenquellen. Wenn diese kompromittiert sind, können Angreifer falsche Overlays einspielen. Besonders sensibel sind Einsatzbereiche, in denen unter Zeitdruck visuelle Hinweise befolgt werden müssen.

Wege zum Schutz vor visueller Manipulation

Um Manipulationen zu erkennen, gibt es bereits KI-gestützte Detektoren, die simultan das reale und virtuelle Sichtfeld auswerten. Xiu und Gorlatova stellten bereits ein System namens "VIM‑Sense" vor, das etwa Bild- und Texterkennung kombiniert, um Widersprüche zwischen realem und virtuellem Inhalt automatisch zu melden. In einem Testlauf wurden fast 89 Prozent der Manipulationen in einem AR-Datensatz erkannt.

Neben technischer Überwachung rücken auch Design- und Regelfragen ins Zentrum. Transparente AR-Objekte oder sichtbare Herkunftskennzeichen könnten dafür sorgen, dass der Ursprung einer Einblendung erkennbar bleibt. Auch eine Art "Realitäts-Knopf" an den Geräten, mit dem sich sämtliche Overlays sofort ausblenden ließen, könnte eine Art Notfallfunktion gegen Täuschung bieten.

Noch ist Augmented Reality nicht im Alltag der meisten Menschen angekommen. Dass sich solche Angriffe nicht auf dem Papier erschöpfen, zeigt aber bereits die kurze Miniaturstadt-Demo. Das Team der Duke University plant weitere Versuche auf anderen Geräten, wie der Vision Pro. Apples Headset ist leistungsstärker als eine Quest 3 und dürfte mit seinem klareren und höher aufgelösten Passthrough-Feed noch überzeugender sein. Eine umfangreiche Studie soll ebenfalls folgen. Ziel der Forschenden ist nicht allein technische Aufklärung, sondern auch ein Bewusstsein dafür zu schaffen, dass AR-Umgebungen manipulierbar sind.

(joe)