Abo
  • Services:

Autonomes Fahren: Forscher täuschen Straßenschilderkennung mit KFC-Schild

Statt Schnellgeschwindigkeit langsames Fahren und statt Fast Food eine Vollbremsung: Ein Forschungsprojekt beweist, dass autonome Fahrzeuge Verkehrsschilder schnell falsch interpretieren können. Dazu braucht es nur ein wenig Farbe oder Witterung.

Artikel veröffentlicht am ,
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten...
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten... (Bild: Pixabay.com/CC0 1.0)

Forscher der Universitäten Princeton und Purdue haben in einer wissenschaftlichen Arbeit gezeigt, wie einfach Erkennungssysteme in autonomen Fahrzeugen überlistet werden können. Das Projekt nennen sie Deceiving Autonomous Cars with Toxic Signs (Darts) - also das Täuschen autonomer Fahrzeuge mit irreführenden Verkehrsschildern.

Stellenmarkt
  1. Automotive Safety Technologies GmbH, Gaimersheim
  2. DG Verlag, Wiesbaden

Ein Angriff soll zu 90 Prozent erfolgreich sein, auch wenn den Entwicklern kein Einblick in den Quelltext des Algorithmus vorliegt. Im Verlauf des Projekts konnten sie sogar ein Filialenschild der Franchise-Kette Kentucky Fried Chicken nutzen, um es von der Bilderkennung als Stoppschild interpretieren zu lassen - solange es auf der Höhe eines Verkehrschildes hängt.

  • (Bild: Princeton University/Purdue University)
(Bild: Princeton University/Purdue University)

Ein Schild muss dazu lediglich nach einem bestimmten Muster verändert werden, um ein Erkennungssystem zu täuschen. Auf Projektbildern ist beispielsweise ein Tempolimit-Schild mit Farbe verändert worden. Ein Machine-Learning-Algorithmus erkennt dieses als Stoppschild. Ein anderes Schild wird so verändert, dass statt 120 mph nur 30 mph erkannt werden. Auch perspektivische Unterschiede und andere Blickwinkel können zu Fehlinterpretationen führen.

Eventuell tödliche Folgen für Fahrer und Passanten

Eine solche Veränderung kann auf der Straße natürlich auftreten, beispielsweise durch Witterungsbedingungen oder Vandalismus. Die Forscher haben jedoch auch eigene Schilder erstellt, die es so im Straßenverkehr nicht gibt. Der Grundgedanke bleibt aber: Es ist sehr einfach, eine aufkommende und oft beworbene Technik in Fahrzeugen wie die Erkennung von Schildern zu täuschen. Die Folgen können für den Fahrer oder Passanten tödlich sein, wenn etwa das eigene autonome Auto auf der Schnellstraße plötzlich mit einer Vollbremsung anhält.

Solche Arten der Täuschung durch leichte Veränderung des zu analysierenden Objektes haben Forscher auch im Bereich der Audiosignalerkennung erfolgreich umsetzen können. So können Sprachassistenten durch für Menschen kaum hörbare eingespeiste Fremdsignale manipuliert werden. Bei der Entwicklung künstlicher Intelligenz sollten solche Angriffsvektoren also bedacht werden.



Anzeige
Blu-ray-Angebote
  1. (2 Monate Sky Ticket für nur 4,99€)

elcaron 21. Feb 2018

Dann lies mal den aktuellen XKCD.

__destruct() 21. Feb 2018

https://xkcd.com/1958/

kilrathi 21. Feb 2018

Der, der das dahinterherlaufende Kind nicht totfahren will?

Anonymer Nutzer 21. Feb 2018

Die Probleme wird man immmer haben, ein Reifen eines Autos kann bei 140km/h platzen, das...

Bouncy 21. Feb 2018

Kleiner Schraubenschlüssel, 10 nächtliche Minuten und Chaos wäre perfekt. Man hätte das...


Folgen Sie uns
       


Kameravergleich P20 Pro, Xperia XZ2, Galaxy S9 Plus

Huaweis neues P20 Pro hat gleich drei Kameras auf der Rückseite. Diese ermöglichen nicht nur eine Porträtfunktion, sondern auch einen dreistufigen Zoom. Mit ihren KI-Funktionen unterstützt die Kamera des P20 Pro den Nutzer bei der Aufnahme.

Kameravergleich P20 Pro, Xperia XZ2, Galaxy S9 Plus Video aufrufen
Kailh KS-Switch im Test: Die bessere Alternative zu Cherrys MX Blue
Kailh KS-Switch im Test
Die bessere Alternative zu Cherrys MX Blue

Der chinesische Hersteller Kailh fertigt seit fast 30 Jahren verschiedenste Arten von Schaltern, unter anderem auch Klone von Cherry-MX-Switches für Tastaturen. Der KS-Switch mit goldenem Stempel und markantem Klick ist dabei die bessere Alternative zu Cherrys eigenem MX Blue, wie unser Test zeigt.
Ein Test von Tobias Költzsch

  1. Apple-Patent Krümel sollen Macbook-Tastatur nicht mehr stören
  2. Tastaturen Matias bringt Alternative zum Apple Wired Keyboard
  3. Rubberdome-Tastaturen im Test Das Gummi ist nicht dein Feind

Steam Link App ausprobiert: Games in 4K auf das Smartphone streamen
Steam Link App ausprobiert
Games in 4K auf das Smartphone streamen

Mit der Steam Link App lassen sich der Desktop und Spiele vom Computer auf Smartphones übertragen. Im Kurztest mit einem Windows-Desktop und einem Google Pixel 2 klappte das einwandfrei - sogar in 4K.
Ein Bericht von Marc Sauter

  1. Valve Steam Spy steht nach Datenschutzänderungen vor dem Aus
  2. Insel Games Spielehersteller wegen Fake-Reviews von Steam ausgeschlossen
  3. Spieleportal Bitcoin ist Steam zu unbeständig und zu teuer

Wonder Workshop Cue im Test: Der Spielzeugroboter kommt ins Flegelalter
Wonder Workshop Cue im Test
Der Spielzeugroboter kommt ins Flegelalter

Bislang herrschte vor allem ein Niedlichkeitswettbewerb zwischen populären Spiel- und Lernrobotern für Kinder, jetzt durchbricht ein Roboter für jüngere Teenager das Schema nicht nur optisch: Cue fällt auch durch ein eher loseres Mundwerk auf.
Ein Test von Alexander Merz


      •  /