Forscher-Hack lässt selbstfahrende Teslas beschleunigen
Ein Stück Klebeband auf einem Tempolimitschild täuschte die Wagenkameras und ließ die Autos um 50 Meilen pro Stunde schneller als die erlaubte Geschwindigkeit fahren.
(Bild: dpa, Tesla Motors)
- Patrick Howell O'Neill
Mitarbeiter des Cybersicherheitsunternehmens McAfee haben mehrere selbstfahrende Tesla-Autos so manipuliert, dass sie um 50 Meilen pro Stunde beschleunigten. Dafür täuschten die Forscher das MobilEye EyeQ3-Kamerasystem der Autos, indem sie ein Tempolimitschild am Straßenrand teilweise überklebten. Die Veränderung war so minimal, dass sie selbst vorbeifahrende Personen so gut wie nie bemerken würden. Dennoch fielen die Wagen-Augen darauf herein.
MobilEye EyeQ3-Kamerasysteme lesen Geschwindigkeitsbegrenzungszeichen und geben diese Informationen an autonome Fahrfunktionen wie die automatische Geschwindigkeitsregelung von Tesla weiter, so Steve Povolny und Shivangee Trivedi vom McAfees „Advanced Threat“-Forschungs-Team. Durch das Überkleben las die Kamera 85 statt 35 Meilen pro Stunde und ließ entsprechend sowohl das Tesla Model X 2016 als auch das diesjährige Model S um 50 Meilen pro Stunde beschleunigen.
(Bild: McAfee)
Diese Demonstration ist der jüngste Hinweis darauf, dass Angriffe auf Maschinenlern-Systeme autonome Fahrsysteme aushebeln können und eine Sicherheitsherausforderung für Kommerzialisierung der Technologie darstellt. Der Test fügt sich in den wachsenden Berg von ähnlichen Forschungsarbeiten ein.
Das feindliche Verkehrsschild
In ihrem 18-monatigen Forschungsprojekt haben Trivedi und Povolny eine Reihe von feindlichen Angriffen auf Maschinelle Lernsysteme wiederholt und erweitert. Darunter war auch eine Studie der UC Berkeley-Professorin Dawn Song, in der ein selbstfahrendes Auto mithilfe von Aufklebern dazu gebracht werden konnte, ein Stoppschild für ein Tempolimitschild für 45 Meilen pro Stunde zu halten. Letztes Jahr haben Hacker darüber hinaus einen Tesla dazu gebracht, auf die falsche Spur zu wechseln, indem sie Aufkleber auf die Straße klebten.
„Wir studieren diese Fälle im Voraus, weil intelligente Systeme irgendwann in der Zukunft Aufgaben erledigen werden, die jetzt noch Menschen ausführen“, sagte Povolny. „Wenn wir nicht sehr vorausschauend sind, welche Angriffe es gibt, und nicht sehr vorsichtig sind, wie die Systeme aufgebaut sind, haben wir bald eine rollende Flotte miteinander verbundener Computer, die eine der wirkungsvollsten und verlockendsten Angriffsflächen auf dem Markt sind.“
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Die Ergebnisse der McAfee-Studie wurde im vergangenen Jahr sowohl Tesla als auch MobilEye EyeQ3 mitgeteilt. Tesla antwortete nicht auf Technology Reviews Anfrage nach einem Kommentar, bestätigte jedoch die Ergebnisse von McAfee und sagte, dass sie die Probleme bei dieser Hardwaregeneration nicht beheben würden. Ein Mobileye-Sprecher wiederum spielte die Forschungsergebnisse mit der Begründung herunter, dass das modifizierte Verkehrsschild auch einen Menschen dazu verleiten würde, 85 statt 35 zu lesen. Das Unternehmen betrachtet es nicht als Angriff, wenn seine Kameras ausgetrickst werden, obwohl die Kamera für Teslas Tempomat eine wichtige Rolle spielt sie gar nicht für autonomes Fahren ausgelegt ist.
Crowdsourcing soll helfen
„Die autonome Fahrzeugtechnologie wird sich nicht nur auf ‚Sinne‘ stützen, sondern auch auf verschiedene anderen Technologien und Daten, etwa Crowdsourcing-Kartierung, um die Zuverlässigkeit der von den Kamerasensoren empfangenen Informationen zu gewährleisten und robustere Redundanzen und Sicherheit zu bieten“, sagte der Mobileye-Sprecher in einer Erklärung.
Tesla ist seitdem auf proprietäre Kameras für neuere Modelle seiner Autos umgestiegen, und MobilEye EyeQ3 hat mehrere neue Versionen seiner Kameras veröffentlicht, die in vorläufigen Tests für diesen genauen Angriff nicht mehr anfällig waren.
Trotzdem gibt es weiterhin eine beträchtliche Anzahl von Tesla-Autos, die mit der anfälligen Hardware arbeiten, sagte Povolny. Er wies darauf hin, dass Teslas mit der ersten Hardwareversion nicht auf neuere Hardware aktualisiert werden kann. „Wir versuchen wirklich, Verbraucher und Anbieter für die möglichen Fehler zu sensibilisieren“, sagte Povolny.
Korrektur, 21.2.2020, 11:10 Uhr: Zahlendreher im zweiten Absatz korrigiert. Vielen Dank an die Hinweisgeber. jle
(vsz)
