Phantombild lässt Tesla stoppen
Fahrassistenzsysteme lassen sich recht leicht austricksen, haben israelische Forscher herausgefunden.
Während fetttriefende Speckstreifen auf Analogkäse fallen, ist kurz ein Stoppschild zu sehen.
(Bild: Ben-Gurion University of the Negev)
Freunde des Fernsehinspektors Frank Columbo kennen den Trick: Dem künftigen Mordopfer wird während einer Filmvorführung unbewusst ein manipulierendes Bild untergejubelt, woraufhin er den Drang verspürt, den Vorführraum zu verlassen und in sein Schicksal schreitet. Ähnlich lässt sich offenbar auch die visuelle Erkennung von Fahrassistenzsystemen hereinlegen, haben Forscher der Ben-Gurion-Universität im Süden Israels herausgefunden.
Die Forscher haben ein "Phantombild" eines Stoppschilds für Sekundenbruchteile in einen Werbefilm für Fastfood eingebaut, der an einer digitalen Anzeigetafel gezeigt wurde. Teslas Autopilot habe dafür gesorgt, dass das Fahrzeug mitten auf der Straße anhielt. Das Erkennungssystem Mobileye 630 habe falsche Mitteilungen ausgegeben, schreiben die Forscher. Die Assistenzsysteme lassen sich auch durch die Projektion eines Bildes von einem Fußgänger, eines Verkehrsschilds oder eines Pkw täuschen.
Grundlegender Fehler
Die Forscher haben ihre verwendeten Datensätze auf Github veröffentlicht und Tesla sowie Mobileye benachrichtigt. Sie befürchten, Kriminelle könnten das Phantomphänomen für sich ausnutzen. Dabei schreiben sie nicht von einer Sicherheitslücke, die sich mit einem Patch beheben ließe, sondern von einem grundlegenden Fehler in der Programmierung der Modelle. Diese könnten nicht zwischen gefälschten und echten Objekten unterscheiden.
(Bild: Ben Gurion University of the Negev)
Tesla und Fastfood waren dieses Jahr bereits einmal in einem Zusammenhang zu lesen. Der Autopilot des Elektroautos interpretierte nämlich die nicht-sublime Werbung einer Schnellrestaurantkette als Stoppschild. Inspektor Columbo übrigens kommt dem Täter in der Folge "Double Exposure" – natürlich – mit unnachgiebiger Schnüffelei auf die Schliche. Der Trick des Mörders in der Columbo-Folge von 1973 beruht vermutlich auf einer erfundenen Studie über unbewusste Werbebotschaften des Marktforschers James Vicary von 1957.
(anw)
