• IT-Karriere:
  • Services:

Autonomes Fahren: Forscher täuschen Straßenschilderkennung mit KFC-Schild

Statt Schnellgeschwindigkeit langsames Fahren und statt Fast Food eine Vollbremsung: Ein Forschungsprojekt beweist, dass autonome Fahrzeuge Verkehrsschilder schnell falsch interpretieren können. Dazu braucht es nur ein wenig Farbe oder Witterung.

Artikel veröffentlicht am ,
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten...
Ein KFC-Schild zwingt das Auto nicht wegen Hunger zum Anhalten... (Bild: Pixabay.com/CC0 1.0)

Forscher der Universitäten Princeton und Purdue haben in einer wissenschaftlichen Arbeit gezeigt, wie einfach Erkennungssysteme in autonomen Fahrzeugen überlistet werden können. Das Projekt nennen sie Deceiving Autonomous Cars with Toxic Signs (Darts) - also das Täuschen autonomer Fahrzeuge mit irreführenden Verkehrsschildern.

Stellenmarkt
  1. EPLAN Software & Service GmbH & Co. KG, Monheim am Rhein (Düsseldorf/ Köln)
  2. websedit AG, Ravensburg

Ein Angriff soll zu 90 Prozent erfolgreich sein, auch wenn den Entwicklern kein Einblick in den Quelltext des Algorithmus vorliegt. Im Verlauf des Projekts konnten sie sogar ein Filialenschild der Franchise-Kette Kentucky Fried Chicken nutzen, um es von der Bilderkennung als Stoppschild interpretieren zu lassen - solange es auf der Höhe eines Verkehrschildes hängt.

  • (Bild: Princeton University/Purdue University)
(Bild: Princeton University/Purdue University)

Ein Schild muss dazu lediglich nach einem bestimmten Muster verändert werden, um ein Erkennungssystem zu täuschen. Auf Projektbildern ist beispielsweise ein Tempolimit-Schild mit Farbe verändert worden. Ein Machine-Learning-Algorithmus erkennt dieses als Stoppschild. Ein anderes Schild wird so verändert, dass statt 120 mph nur 30 mph erkannt werden. Auch perspektivische Unterschiede und andere Blickwinkel können zu Fehlinterpretationen führen.

Eventuell tödliche Folgen für Fahrer und Passanten

Eine solche Veränderung kann auf der Straße natürlich auftreten, beispielsweise durch Witterungsbedingungen oder Vandalismus. Die Forscher haben jedoch auch eigene Schilder erstellt, die es so im Straßenverkehr nicht gibt. Der Grundgedanke bleibt aber: Es ist sehr einfach, eine aufkommende und oft beworbene Technik in Fahrzeugen wie die Erkennung von Schildern zu täuschen. Die Folgen können für den Fahrer oder Passanten tödlich sein, wenn etwa das eigene autonome Auto auf der Schnellstraße plötzlich mit einer Vollbremsung anhält.

Solche Arten der Täuschung durch leichte Veränderung des zu analysierenden Objektes haben Forscher auch im Bereich der Audiosignalerkennung erfolgreich umsetzen können. So können Sprachassistenten durch für Menschen kaum hörbare eingespeiste Fremdsignale manipuliert werden. Bei der Entwicklung künstlicher Intelligenz sollten solche Angriffsvektoren also bedacht werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. (u. a. Borderlands 3 38,99€, The Outer Worlds 44,99€)

elcaron 21. Feb 2018

Dann lies mal den aktuellen XKCD.

__destruct() 21. Feb 2018

https://xkcd.com/1958/

kilrathi 21. Feb 2018

Der, der das dahinterherlaufende Kind nicht totfahren will?

Anonymer Nutzer 21. Feb 2018

Die Probleme wird man immmer haben, ein Reifen eines Autos kann bei 140km/h platzen, das...

Bouncy 21. Feb 2018

Kleiner Schraubenschlüssel, 10 nächtliche Minuten und Chaos wäre perfekt. Man hätte das...


Folgen Sie uns
       


Atari Portfolio angesehen

Der Atari Portfolio war einer der ersten Palmtop-Computer der Welt - und ist auch 30 Jahre später noch ein interessanter Teil der Computergeschichte. Golem.de hat sich den Mini-PC im Retrotest angeschaut.

Atari Portfolio angesehen Video aufrufen
Videoüberwachung: Kameras sind überall, aber nicht überall erlaubt
Videoüberwachung
Kameras sind überall, aber nicht überall erlaubt

Dass Überwachungskameras nicht legal eingesetzt werden, ist keine Seltenheit. Ob aus Nichtwissen oder mit Absicht: Werden Privatsphäre oder Datenschutz verletzt, gehören die Kameras weg. Doch dazu müssen sie erst mal entdeckt, als legal oder illegal ausgemacht und gemeldet werden.
Von Harald Büring

  1. Nach Attentat Datenschutzbeauftragter kritisiert Hintertüren in Messengern
  2. Australien IT-Sicherheitskonferenz Cybercon lädt Sprecher aus
  3. Spionagesoftware Staatsanwaltschaft ermittelt nach Anzeige gegen Finfisher

Quantencomputer: Intel entwickelt coolen Chip für heiße Quantenbits
Quantencomputer
Intel entwickelt coolen Chip für heiße Quantenbits

Gebaut für eine Kühlung mit flüssigem Helium ist Horse Ridge wohl der coolste Chip, den Intel zur Zeit in Entwicklung hat. Er soll einen Quantencomputer steuern, dessen Qubits mit ungewöhnlich hohen Temperaturen zurechtkommen.
Von Frank Wunderlich-Pfeiffer

  1. AWS re:Invent Amazon Web Services bietet Quanten-Cloud-Dienst an
  2. Quantencomputer 10.000 Jahre bei Google sind 2,5 Tage bei IBM
  3. Google Ein Quantencomputer zeigt, was derzeit geht und was nicht

Galaxy Fold im Test: Falt-Smartphone mit falschem Format
Galaxy Fold im Test
Falt-Smartphone mit falschem Format

Samsung hat bei seinem faltbaren Smartphone nicht nur mit der Technik, sondern auch mit einem misslungenen Marktstart auf sich aufmerksam gemacht. Die zweite Version ist deutlich besser geglückt und aufregend in ihrer Neuartigkeit. Nur: Wozu braucht man das Gerät?
Ein Test von Tobias Költzsch

  1. Samsung Galaxy Fold übersteht weniger Faltvorgänge als behauptet

    •  /