Sicherheit: Tesla-Autopilot lässt sich in den Gegenverkehr steuern

Wissenschaftler des chinesischen Konzerns Tencent haben untersucht, wie leicht sich Teslas Autopilot in die Irre führen lasse. Erschreckendes Ergebnis: Mit leicht manipulierten Straßenmarkierungen steuert das Auto in den Gegenverkehr.

Artikel veröffentlicht am ,
Tesla-Autopilot
Tesla-Autopilot (Bild: Keen Security Lab)

Keen Security Lab heißt die Sicherheitsabteilung des chinesischen Internetkonzerns Tencent, der hinter dem Messenger Wechat steht. Die Forscher von Keen haben herausgefunden, wie leicht das Assistenzsystem Autopilot von Tesla getäuscht werden kann. Dabei wurde der Autopilot in Version 2018.6.1 getestet.

Stellenmarkt
  1. Systemadministrator/-in / Desktop Engineer (m/w/d)
    Robert Koch-Institut, Berlin-Mitte
  2. (Senior) Designer (w/m/d) - User Experience (UX) / User Interface (UI)
    The Capital Markets Company GmbH, Berlin, Frankfurt
Detailsuche

Die Wissenschaftler manipulierten Fahrbahnmarkierungen, um das System in die Irre zu führen. Der Autopilot nutzt diese Hilfen, um sich auf der Straße zu orientieren. Das klappt gut, sofern diese Markierungen vorhanden sind. Doch was passiert, wenn diese absichtlich oder unabsichtlich falsch sind? Die Forscher brachten am rechten Fahrbahnrand Linien an, die immer wieder zur Fahrbahnmitte führten. Das Auto folgte und bewegte sich in Richtung Gegenfahrbahn.

Dazu mussten die Forscher nicht mal weiße Streifen auf der Straße anbringen. Es genügte nach ihren Angaben, kleine Aufkleber zu nutzen. Ihre Erkenntnisse publizierten sie in der englischsprachigen Studie Experimental Security Research of Tesla Autopilot ( PDF). Sie hoffen, dass die Hersteller die durch ihre Tests aufgedeckten möglichen Fehler berücksichtigen und die Stabilität und Zuverlässigkeit ihrer Produkte verbessern.

Nachtrag vom 2. April 2019, 15:59 Uhr

Aufgrund der Reaktionen auf den Artikel haben wir folgende Ergänzung hinzugefügt: Tencent wollte zeigen, dass Teslas (Spur-)Autopilot nur auf der Auswertung der visuellen Marker basiert und dass dieser sehr leicht durch falsche Fahrbahnmarkierungen beeinflusst werden kann. Diese müssen keinen terroristischen Hintergrund haben, sondern können auch in Form von Fehlern entstanden sein. Außerdem ist immer die Frage, was als Fahrbahnmarkierung erkannt wird - es könnten ja auch Farbspritzer sein, die dort aus anderen Gründen entstanden sind. Der Autopilot hat bestimmte Parameter, in denen er betrieben werden darf. Da auch eine Ampelerkennung drin ist, ist absehbar, dass er auch in anderen Umfeldern als dem Highway/Autobahn betrieben werden soll.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
E-Scooter
Voi wird wegen angeblich unbegrenzter Fahrten abgemahnt

Mit einer Tages- oder Monatskarte des E-Scooter-Anbieters Voi sollen Nutzer so viel fahren können, wie sie wollen - können sie aber nicht.

E-Scooter: Voi wird wegen angeblich unbegrenzter Fahrten abgemahnt
Artikel
  1. Vidme: Webseiten blenden ungewollt Pornos ein
    Vidme
    Webseiten blenden ungewollt Pornos ein

    Eine Pornowebseite hat die verwaiste Domain eines Videohosters gekauft. Auf bekannten Nachrichtenseiten wurden daraufhin Hardcore-Pornos angezeigt.

  2. Intel, Playdate, Elektroautos: Elektro boomt, Verbrenner verlieren
    Intel, Playdate, Elektroautos
    Elektro boomt, Verbrenner verlieren

    Sonst noch was? Was am 23. Juli 2021 neben den großen Meldungen sonst noch passiert ist, in aller Kürze.

  3. Datenbank: Facebook braucht schon Jahre für MySQL-Update
    Datenbank
    Facebook braucht schon Jahre für MySQL-Update

    Das Update von MySQL 5.6 auf das aktuelle 8.0 laufe bei Facebook wegen vieler Probleme schon seit "einigen Jahren" und ist noch nicht fertig.

plutoniumsulfat 06. Apr 2019

Das liegt in erster Linie schon mal daran, dass die Systeme anders aufgebaut sind. Die...

Bitschnipser 03. Apr 2019

Es gibt da einige Besonderheiten, die man erstmal wirklich begreifen muss. Da scheitern...

Brainfreeze 03. Apr 2019

Nur weil es mittlerweile neuere Versionen der Software gibt, bedeutet das nicht, dass...

Brainfreeze 03. Apr 2019

Wenn ich mir so die ganzen Warnhinweise im Handbuch des Teslas bei der Erklärung der...

SanderK 03. Apr 2019

Also Bierernst sollte man den Bericht ja nun wirklich nicht nehmen. Sonst fand ich Ihn...



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% Rabatt auf Amazon Warehouse • Asus TUF Gaming 27" FHD 280Hz 306,22€ • Samsung 970 Evo Plus 1TB 136,99€ • Gratis-Spiele im Epic Games Store • Alternate (u. a. be quiet Pure Wings 2 Gehäuselüfter 7,49€) • Philips 75" + Philips On-Ear-Kopfhörer 899€ • -15% auf TVs bei Ebay [Werbung]
    •  /