Autonomes Fahren: Forscher täuschen Straßenschilderkennung mit KFC-Schild

Statt Schnellgeschwindigkeit langsames Fahren und statt Fast Food eine Vollbremsung: Ein Forschungsprojekt beweist, dass autonome Fahrzeuge Verkehrsschilder schnell falsch interpretieren können. Dazu braucht es nur ein wenig Farbe oder Witterung.

Artikel veröffentlicht am ,
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten...
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten... (Bild: Pixabay.com/CC0 1.0)

Forscher der Universitäten Princeton und Purdue haben in einer wissenschaftlichen Arbeit gezeigt, wie einfach Erkennungssysteme in autonomen Fahrzeugen überlistet werden können. Das Projekt nennen sie Deceiving Autonomous Cars with Toxic Signs (Darts) - also das Täuschen autonomer Fahrzeuge mit irreführenden Verkehrsschildern.

Stellenmarkt
  1. IT-Service Manager (w/m/d)
    Bw Bekleidungsmanagement GmbH, Köln
  2. Business Intelligence Entwickler (IBM Planning Analytics/TM1) (m/w/d)
    Hays AG, Frankfurt am Main, Köln, Mannheim, deutschlandweit (Homeoffice)
Detailsuche

Ein Angriff soll zu 90 Prozent erfolgreich sein, auch wenn den Entwicklern kein Einblick in den Quelltext des Algorithmus vorliegt. Im Verlauf des Projekts konnten sie sogar ein Filialenschild der Franchise-Kette Kentucky Fried Chicken nutzen, um es von der Bilderkennung als Stoppschild interpretieren zu lassen - solange es auf der Höhe eines Verkehrschildes hängt.

  • (Bild: Princeton University/Purdue University)
(Bild: Princeton University/Purdue University)

Ein Schild muss dazu lediglich nach einem bestimmten Muster verändert werden, um ein Erkennungssystem zu täuschen. Auf Projektbildern ist beispielsweise ein Tempolimit-Schild mit Farbe verändert worden. Ein Machine-Learning-Algorithmus erkennt dieses als Stoppschild. Ein anderes Schild wird so verändert, dass statt 120 mph nur 30 mph erkannt werden. Auch perspektivische Unterschiede und andere Blickwinkel können zu Fehlinterpretationen führen.

Eventuell tödliche Folgen für Fahrer und Passanten

Eine solche Veränderung kann auf der Straße natürlich auftreten, beispielsweise durch Witterungsbedingungen oder Vandalismus. Die Forscher haben jedoch auch eigene Schilder erstellt, die es so im Straßenverkehr nicht gibt. Der Grundgedanke bleibt aber: Es ist sehr einfach, eine aufkommende und oft beworbene Technik in Fahrzeugen wie die Erkennung von Schildern zu täuschen. Die Folgen können für den Fahrer oder Passanten tödlich sein, wenn etwa das eigene autonome Auto auf der Schnellstraße plötzlich mit einer Vollbremsung anhält.

Golem Akademie
  1. Adobe Photoshop für Social Media Anwendungen: virtueller Zwei-Tage-Workshop
    29./30.06.2022, virtuell
  2. Einführung in Unity: virtueller Ein-Tages-Workshop
    21.06.2022, Virtuell
Weitere IT-Trainings

Solche Arten der Täuschung durch leichte Veränderung des zu analysierenden Objektes haben Forscher auch im Bereich der Audiosignalerkennung erfolgreich umsetzen können. So können Sprachassistenten durch für Menschen kaum hörbare eingespeiste Fremdsignale manipuliert werden. Bei der Entwicklung künstlicher Intelligenz sollten solche Angriffsvektoren also bedacht werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


elcaron 21. Feb 2018

Dann lies mal den aktuellen XKCD.

__destruct() 21. Feb 2018

https://xkcd.com/1958/

kilrathi 21. Feb 2018

Der, der das dahinterherlaufende Kind nicht totfahren will?

Anonymer Nutzer 21. Feb 2018

Die Probleme wird man immmer haben, ein Reifen eines Autos kann bei 140km/h platzen, das...



Aktuell auf der Startseite von Golem.de
Sicherheitslücke
Die Schadsoftware, die auf ausgeschalteten iPhones aktiv ist

Forschern ist es gelungen, eine Schadsoftware auf ausgeschalteten iPhones mit vermeintlich leerem Akku auszuführen. Denn ganz aus sind diese nicht.

Sicherheitslücke: Die Schadsoftware, die auf ausgeschalteten iPhones aktiv ist
Artikel
  1. Autoindustrie: Mit handgeknüpften Kabelbäumen gegen die Lieferkrise
    Autoindustrie
    Mit handgeknüpften Kabelbäumen gegen die Lieferkrise

    Der Krieg in der Ukraine unterbricht die Lieferkette bei den Kabelbäumen. Jetzt suchen Autohersteller nach neuen Produktionswegen.
    Von Wolfgang Gomoll

  2. Disney+ mit Werbefinanzierung: Für Vorschulkinder bleibt Disney+ immer werbefrei
    Disney+ mit Werbefinanzierung
    Für Vorschulkinder bleibt Disney+ immer werbefrei

    Es gibt neue Details zur werbefinanzierten Version von Disney+. Disney nutzt die eigene Marktmacht konsequent aus.

  3. Homeoffice: Bastler baut Gestell für die liegende Büroarbeit im Bett
    Homeoffice
    Bastler baut Gestell für die liegende Büroarbeit im Bett

    Der Bildschirm über dem Kopf, die Tastatur hängt herab: Das Homeoffice aus dem Bett heraus funktioniert - mit Handwerk und Kreativität.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MindStar (u. a. Intel Core i9 529€, MSI RTX 3060 Ti 609€, Kingston Fury DDR5-4800 32GB 195€) • Razer Ornata V2 Gaming-Tastatur günstig wie nie: 54,99€ • AOC G3 Gaming-Monitor 34" UWQHD 165 Hz günstig wie nie: 404€ • Xbox Series X bestellbar [Werbung]
    •  /