Autonome Autos: Forscher führen Bilderkennung mit manipulierten Schildern in die Irre
Autonome Autos können mit manipulierten Schildern getäuscht werden. Forscher in den USA sehen darin eine große Gefahr.
Ein Tempolimitschild könnte sich für die "Augen" eines selbstfahrenden Autos als Stoppschild darstellen.
(Bild: arxiv.org)
Autonome Autos orientieren sich unter anderem ebenso wie menschliche Fahrer an Verkehrszeichen. Dabei können sie in böswilliger Absicht in die Irre geführt werden, haben Forscher der Universitäten Princeton und Purdue herausgefunden. Das von ihnen so genannte Deceiving Autonomous caRs with Toxic Signs (DARTS) könne zu katastrophalen Folgen führen, schreiben sie in ihrem Papier.
Augenscheinlich unverdächtig
Dabei arbeiteten die Forscher mit Verkehrs- oder anderen Schildern, die für normale Beobachter unverdächtig aussehen, aus der Sicht eines automatischen Bilderkennungsystems aber eine andere Bedeutung haben können. So haben die Forscher beispielsweise das Verkehrszeichen für ein Tempolimit von 80 km/h mit Hilfe eines Musters aus dem ersten Anschein nach unverdächtigen Flecken so modifiziert, dass es ein Zeichenerkennungssystem als Stoppschild interpretieren würde. Auf offener Strecke könnte ein autonomes Auto plötzlich stoppen und so einen Auffahrunfall provozieren.
Nicht nur Verkehrszeichen wie Geschwindigkeitsbeschränkungen oder Vorfahrtsschilder ließen sich so manipulieren. Das sei auch mit anderen Zeichen möglich wie zum Beispiel Tankestellen- oder anderen gewerblichen Schildern, schreiben die Forscher.
Überholverbot statt Tempolimit
(Bild: arxiv.org)
Eine weitere Möglichkeit wäre, ein Schild mit einer Linsenrasterfolie zu versehen, die je nach Blickwinkel unterschiedliche Motive anzeigt. Dabei würde ein Angreifer den Umstand ausnutzen, dass ein Passagier eines Fahrzeugs tiefer sitzt als die Kamera für die Zeichenerkennung. Das manipulierte Schild würde zu einem bestimmten Zeitpunkt dem Passagier ein Tempolimit von 60 km/h anzeigen, der Kamera auf dem Autodach aber ein Überholverbot.
Die Forscher geben an, ihre Theorie zunächst virtuell am Computer überprüft zu haben. Später hätten sie auch "toxische Zeichen" an Straßen angebracht und mit Kameras abgefahren, und zwar unter verschiedenen Lichtverhältnissen, Entfernungen und Blickwinkeln. Die "Täuschungserfolgsquote" habe 90 Prozent betragen. Die Forscher schlagen vor, die Zeichenerkennung auf diese möglichen Täuschungsmanöver hin zu trainieren. In diese Richtung solle noch weiter geforscht werden.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Inhalt geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
