Abo
  • IT-Karriere:

Sicherheit: Tesla-Autopilot lässt sich in den Gegenverkehr steuern

Wissenschaftler des chinesischen Konzerns Tencent haben untersucht, wie leicht sich Teslas Autopilot in die Irre führen lasse. Erschreckendes Ergebnis: Mit leicht manipulierten Straßenmarkierungen steuert das Auto in den Gegenverkehr.

Artikel veröffentlicht am ,
Tesla-Autopilot
Tesla-Autopilot (Bild: Keen Security Lab)

Keen Security Lab heißt die Sicherheitsabteilung des chinesischen Internetkonzerns Tencent, der hinter dem Messenger Wechat steht. Die Forscher von Keen haben herausgefunden, wie leicht das Assistenzsystem Autopilot von Tesla getäuscht werden kann. Dabei wurde der Autopilot in Version 2018.6.1 getestet.

Stellenmarkt
  1. DLR Deutsches Zentrum für Luft- und Raumfahrt e.V., Berlin
  2. DKV MOBILITY SERVICES Business Center, Ratingen bei Düsseldorf

Die Wissenschaftler manipulierten Fahrbahnmarkierungen, um das System in die Irre zu führen. Der Autopilot nutzt diese Hilfen, um sich auf der Straße zu orientieren. Das klappt gut, sofern diese Markierungen vorhanden sind. Doch was passiert, wenn diese absichtlich oder unabsichtlich falsch sind? Die Forscher brachten am rechten Fahrbahnrand Linien an, die immer wieder zur Fahrbahnmitte führten. Das Auto folgte und bewegte sich in Richtung Gegenfahrbahn.

Dazu mussten die Forscher nicht mal weiße Streifen auf der Straße anbringen. Es genügte nach ihren Angaben, kleine Aufkleber zu nutzen. Ihre Erkenntnisse publizierten sie in der englischsprachigen Studie Experimental Security Research of Tesla Autopilot ( PDF). Sie hoffen, dass die Hersteller die durch ihre Tests aufgedeckten möglichen Fehler berücksichtigen und die Stabilität und Zuverlässigkeit ihrer Produkte verbessern.

Nachtrag vom 2. April 2019, 15:59 Uhr

Aufgrund der Reaktionen auf den Artikel haben wir folgende Ergänzung hinzugefügt: Tencent wollte zeigen, dass Teslas (Spur-)Autopilot nur auf der Auswertung der visuellen Marker basiert und dass dieser sehr leicht durch falsche Fahrbahnmarkierungen beeinflusst werden kann. Diese müssen keinen terroristischen Hintergrund haben, sondern können auch in Form von Fehlern entstanden sein. Außerdem ist immer die Frage, was als Fahrbahnmarkierung erkannt wird - es könnten ja auch Farbspritzer sein, die dort aus anderen Gründen entstanden sind. Der Autopilot hat bestimmte Parameter, in denen er betrieben werden darf. Da auch eine Ampelerkennung drin ist, ist absehbar, dass er auch in anderen Umfeldern als dem Highway/Autobahn betrieben werden soll.



Anzeige
Top-Angebote
  1. 129,00€
  2. (u. a. Mario Kart 8 Deluxe, New Super Mario Bros. U Deluxe)
  3. 89,99€
  4. (aktuell u. a. Silverstone RGB LED Hub 20,99€, Lenovo IdeaPad 449,00€)

plutoniumsulfat 06. Apr 2019 / Themenstart

Das liegt in erster Linie schon mal daran, dass die Systeme anders aufgebaut sind. Die...

Bitschnipser 03. Apr 2019 / Themenstart

Es gibt da einige Besonderheiten, die man erstmal wirklich begreifen muss. Da scheitern...

Brainfreeze 03. Apr 2019 / Themenstart

Nur weil es mittlerweile neuere Versionen der Software gibt, bedeutet das nicht, dass...

Brainfreeze 03. Apr 2019 / Themenstart

Wenn ich mir so die ganzen Warnhinweise im Handbuch des Teslas bei der Erklärung der...

SanderK 03. Apr 2019 / Themenstart

Also Bierernst sollte man den Bericht ja nun wirklich nicht nehmen. Sonst fand ich Ihn...

Kommentieren


Folgen Sie uns
       


Microsoft Hololens 2 - Hands on (MWC 2019)

Die Hololens 2 ist Microsofts zweites AR-Headset. Im ersten Kurztest von Golem.de überzeugt das Gerät vor allem durch das merklich größere Sichtfeld.

Microsoft Hololens 2 - Hands on (MWC 2019) Video aufrufen
TES Blades im Test: Tolles Tamriel trollt
TES Blades im Test
Tolles Tamriel trollt

In jedem The Elder Scrolls verbringe ich viel Zeit in Tamriel, in TES Blades allerdings am Smartphone statt am PC oder an der Konsole. Mich überzeugen Atmosphäre und Kämpfe des Rollenspiels; der Aufbau der Stadt und der Charakter-Fortschritt aber werden geblockt durch kostspielige Trolle.
Ein Test von Marc Sauter

  1. Bethesda TES Blades startet in den Early Access
  2. Bethesda The Elder Scrolls 6 erscheint für nächste Konsolengeneration

Jobporträt: Wenn die Software für den Anwalt kurzen Prozess macht
Jobporträt
Wenn die Software für den Anwalt kurzen Prozess macht

IT-Anwalt Christian Solmecke arbeitet an einer eigenen Jura-Software, die sogar automatisch auf Urheberrechtsabmahnungen antworten kann. Dass er sich damit seiner eigenen Arbeit beraubt, glaubt er nicht. Denn die KI des Programms braucht noch Betreuung.
Von Maja Hoock

  1. Struktrurwandel IT soll jetzt die Kohle nach Cottbus bringen
  2. IT-Jobporträt Spieleprogrammierer "Ich habe mehr Code gelöscht als geschrieben"
  3. Recruiting Wenn die KI passende Mitarbeiter findet

Online-Banking: In 150 Tagen verlieren die TAN-Zettel ihre Gültigkeit
Online-Banking
In 150 Tagen verlieren die TAN-Zettel ihre Gültigkeit

Zum 14. September 2019 wird ein wichtiger Teil der Zahlungsdiensterichtlinie 2 für die meisten Girokonto-Kunden mit Online-Zugang umgesetzt. Die meist als indizierte TAN-Liste ausgegebenen Transaktionsnummern können dann nicht mehr genutzt werden.
Von Andreas Sebayang

  1. Banking-App Comdirect empfiehlt, Sicherheitswarnung zu ignorieren

    •  /