Abo
  • IT-Karriere:

Autonomes Fahren: Forscher täuschen Straßenschilderkennung mit KFC-Schild

Statt Schnellgeschwindigkeit langsames Fahren und statt Fast Food eine Vollbremsung: Ein Forschungsprojekt beweist, dass autonome Fahrzeuge Verkehrsschilder schnell falsch interpretieren können. Dazu braucht es nur ein wenig Farbe oder Witterung.

Artikel veröffentlicht am ,
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten...
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten... (Bild: Pixabay.com/CC0 1.0)

Forscher der Universitäten Princeton und Purdue haben in einer wissenschaftlichen Arbeit gezeigt, wie einfach Erkennungssysteme in autonomen Fahrzeugen überlistet werden können. Das Projekt nennen sie Deceiving Autonomous Cars with Toxic Signs (Darts) - also das Täuschen autonomer Fahrzeuge mit irreführenden Verkehrsschildern.

Stellenmarkt
  1. IP Dynamics GmbH, Mitte Deutschland
  2. Witt-Gruppe, Weiden in der Oberpfalz

Ein Angriff soll zu 90 Prozent erfolgreich sein, auch wenn den Entwicklern kein Einblick in den Quelltext des Algorithmus vorliegt. Im Verlauf des Projekts konnten sie sogar ein Filialenschild der Franchise-Kette Kentucky Fried Chicken nutzen, um es von der Bilderkennung als Stoppschild interpretieren zu lassen - solange es auf der Höhe eines Verkehrschildes hängt.

  • (Bild: Princeton University/Purdue University)
(Bild: Princeton University/Purdue University)

Ein Schild muss dazu lediglich nach einem bestimmten Muster verändert werden, um ein Erkennungssystem zu täuschen. Auf Projektbildern ist beispielsweise ein Tempolimit-Schild mit Farbe verändert worden. Ein Machine-Learning-Algorithmus erkennt dieses als Stoppschild. Ein anderes Schild wird so verändert, dass statt 120 mph nur 30 mph erkannt werden. Auch perspektivische Unterschiede und andere Blickwinkel können zu Fehlinterpretationen führen.

Eventuell tödliche Folgen für Fahrer und Passanten

Eine solche Veränderung kann auf der Straße natürlich auftreten, beispielsweise durch Witterungsbedingungen oder Vandalismus. Die Forscher haben jedoch auch eigene Schilder erstellt, die es so im Straßenverkehr nicht gibt. Der Grundgedanke bleibt aber: Es ist sehr einfach, eine aufkommende und oft beworbene Technik in Fahrzeugen wie die Erkennung von Schildern zu täuschen. Die Folgen können für den Fahrer oder Passanten tödlich sein, wenn etwa das eigene autonome Auto auf der Schnellstraße plötzlich mit einer Vollbremsung anhält.

Solche Arten der Täuschung durch leichte Veränderung des zu analysierenden Objektes haben Forscher auch im Bereich der Audiosignalerkennung erfolgreich umsetzen können. So können Sprachassistenten durch für Menschen kaum hörbare eingespeiste Fremdsignale manipuliert werden. Bei der Entwicklung künstlicher Intelligenz sollten solche Angriffsvektoren also bedacht werden.



Anzeige
Hardware-Angebote
  1. 469,00€
  2. 299,00€
  3. täglich neue Deals bei Alternate.de

elcaron 21. Feb 2018

Dann lies mal den aktuellen XKCD.

__destruct() 21. Feb 2018

https://xkcd.com/1958/

kilrathi 21. Feb 2018

Der, der das dahinterherlaufende Kind nicht totfahren will?

Anonymer Nutzer 21. Feb 2018

Die Probleme wird man immmer haben, ein Reifen eines Autos kann bei 140km/h platzen, das...

Bouncy 21. Feb 2018

Kleiner Schraubenschlüssel, 10 nächtliche Minuten und Chaos wäre perfekt. Man hätte das...


Folgen Sie uns
       


Lenovo Smart Display im Test

Die ersten Smart Displays mit Google Assistant kommen von Lenovo. Die Geräte sind ordentlich, aber der Google Assistant ist nur unzureichend an den Touchscreen angepasst. Wir zeigen in unserem Testvideo die Probleme, die das bringt.

Lenovo Smart Display im Test Video aufrufen
Bug Bounty Hunter: Mit Hacker 101-Tutorials zum Millionär
Bug Bounty Hunter
Mit "Hacker 101"-Tutorials zum Millionär

Santiago Lopez hat sich als Junge selbst das Hacken beigebracht und spürt Sicherheitslücken in der Software von Unternehmen auf. Gerade hat er damit seine erste Million verdient. Im Interview mit Golem.de erzählt er von seinem Alltag.
Ein Interview von Maja Hoock

  1. White Hat Hacking In unter zwei Stunden in Universitätsnetzwerke gelangen

LTE-V2X vs. WLAN 802.11p: Wer hat Recht im Streit ums Auto-WLAN?
LTE-V2X vs. WLAN 802.11p
Wer hat Recht im Streit ums Auto-WLAN?

Trotz langjähriger Verhandlungen haben die EU-Mitgliedstaaten die Pläne für ein vernetztes Fahren auf EU-Ebene vorläufig gestoppt. Golem.de hat nachgefragt, ob LTE-V2X bei direkter Kommunikation wirklich besser und billiger als WLAN sei.
Eine Analyse von Friedhelm Greis

  1. Vernetztes Fahren Lobbyschlacht um WLAN und 5G in Europa
  2. Gefahrenwarnungen EU setzt bei vernetztem Fahren weiter auf WLAN

Bundestagsanhörung: Beim NetzDG drohen erste Bußgelder
Bundestagsanhörung
Beim NetzDG drohen erste Bußgelder

Aufgrund des Netzwerkdurchsetzungsgesetzes laufen mittlerweile über 70 Verfahren gegen Betreiber sozialer Netzwerke. Das erklärte der zuständige Behördenchef bei einer Anhörung im Bundestag. Die Regeln gegen Hass und Hetze auf Facebook & Co. entzweien nach wie vor die Expertenwelt.
Ein Bericht von Justus Staufburg

  1. NetzDG Grüne halten Löschberichte für "trügerisch unspektakulär"
  2. NetzDG Justizministerium sieht Gesetz gegen Hass im Netz als Erfolg
  3. Virtuelles Hausrecht Facebook muss beim Löschen Meinungsfreiheit beachten

    •  /