Abo
  • Services:

Maschinensehen: US-Wissenschaftler narren autonom fahrende Autos

Autonom fahrende Autos haben Kameras, um Verkehrsschilder zu erfassen und zu erkennen. Ein paar Buchstaben oder Vierecke, die Forscher auf Schilder geklebt haben, reichen aus, dass Autos die Verkehrszeichen komplett falsch interpretieren.

Artikel veröffentlicht am ,
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung.
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung. (Bild: Ivan Evtimov et al)

Geschwindigkeitsbegrenzung? Nein, anhalten! Die Systeme zum Maschinensehen von autonom fahrenden Autos sollen Straßenschilder erkennen und sich an die Gebote und Verbote halten. Doch Wissenschaftler haben eine Möglichkeit gefunden, die Autos zu überlisten.

Stellenmarkt
  1. ETAS GmbH, Stuttgart
  2. Visteon Electronics Germany GmbH, Karlsruhe

Die Forscher um Yoshi Kohno von der Universität von Washington in Seattle manipulierten zwei Verkehrsschilder: ein Stopp-Schild und einen Rechtsabbiegehinweis, der in den USA gelb ist. Auf ein Stoppschild klebten die Forscher zunächst einige rechteckige und quadratische weiße und schwarze Aufkleber, auf ein anderes die Worte "Love" und "Hate", so dass sich die Botschaft "Love Stop Hate" ergab - eine nicht untypische Art, Straßenschilder mit Graffiti zu versehen. Vierecke und Schrift hatten sie mit einem herkömmlichen Drucker hergestellt.

Der Pfeil hatte Grauverläufe

Subtiler gingen sie beim Abbiege-Schild vor: Sie druckten einen Pfeil in der gleichen Größen wie den originalen. Der nachgemachte war aber nicht einheitlich schwarz, sondern hatte relativ große Pixel in verschiedenen Graustufen. Für das menschliche Auge waren diese Unterschiede kaum zu erkennen.

Die Maschinensehsysteme waren damit jedoch heillos überfordert: Die Forscher ließen die Systeme die Schilder aus verschiedenen Winkeln und Entfernungen - von kurz davor bis etwa zwölf Meter Distanz - betrachten. Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden, schreiben die Forscher in einem Aufsatz, der als Preprint auf dem Dokumentenserver Arxiv abrufbar ist. Der Hinweis auf den Rechtsabbieger wurde zu zwei Dritteln als Stopp-Schild und zu einem Drittel als Hinweis auf eine weitere Fahrspur fehlinterpretiert.

Der Pfeil hatte Grauverläufe

Die Systeme für Maschinensehen bestehen aus zwei Elementen: Eines erfasst Objekte, also Fußgänger, andere Autos oder Verkehrsschilder. Das andere, der Classifier, erkennt, worum es sich handelt und, im Falle eines Schildes, was es aussagt.

Die Forscher gingen davon aus, dass Angreifer keinen Zugang zu den Algorithmen eines solchen Classifiers haben. Aber sie konnten über die Rückmeldungen, die ein solches System zu einem Satz von Straßenschildern lieferte, ein Modell erstellen, wie es arbeitet. Darauf basierend konnten sie für ein bestimmtes Schild einen Aufkleber entwickeln, der den Classifier verwirrt.

Für die Entwickler autonom fahrender Autos bedeutet das, dass die Sicherheit mit nur einem Sensorsystem kaum gewährleistet werden kann. Es bedarf weiterer Sicherheitsmaßnahmen, um solche Irrtümer zu minimieren, etwa genaues Kartenmaterial, auf dem die Straßenschilder und deren Koordinaten verzeichnet sind, sowie eine Lokalisierung per GPS oder ein System, das nicht nur Schilder selbst, sondern auch den Kontext auswertet und Widersprüche erkennt.



Anzeige
Hardware-Angebote
  1. und Vive Pro vorbestellbar
  2. und Far Cry 5 gratis erhalten

User_x 09. Aug 2017

also ein Zug mit luftleerer tube? hmmm

david_rieger 09. Aug 2017

Tun sie ja nicht. Es geht darum, zu widerlegen, dass auch in 100 Jahren noch "Kutschen...

der_wahre_hannes 09. Aug 2017

Die meisten verstehen es aber trotzdem nicht! *SCNR* Ein Mensch braucht nichtmal über...

Norbert Lamberti 09. Aug 2017

Man kann es dennoch übersetzen. https://c1.staticflickr.com/3/2063...

Prinzeumel 09. Aug 2017

Auch in 50 Jahren wird es noch Fahrräder, motorräder, roller und was weiß ich net alles...


Folgen Sie uns
       


Golem.de lässt Alexa schlecht lachen und rappen

Alexa kann komisch lachen und schlecht rappen - wie man im Video hört.

Golem.de lässt Alexa schlecht lachen und rappen Video aufrufen
Facebook-Anhörung: Zuckerbergs Illusion von der vollen Kontrolle
Facebook-Anhörung
Zuckerbergs Illusion von der vollen Kontrolle

In einer mehrstündigen Anhörung vor dem US-Senat hat Facebook-Chef Mark Zuckerberg sein Unternehmen verteidigt. Doch des Öfteren hinterließ er den Eindruck, als wisse er selbst nicht genau, was er in den vergangenen Jahren da geschaffen hat.
Eine Analyse von Friedhelm Greis

  1. Facebook Messenger Zuckerbergs Nachrichten heimlich auf Nutzerkonten gelöscht
  2. Böswillige Akteure Die meisten der zwei Milliarden Facebook-Profile ausgelesen
  3. DSGVO Zuckerberg will EU-Datenschutz nicht weltweit anwenden

HTC Vive Pro im Test: Das beste VR-Headset ist nicht der beste Kauf
HTC Vive Pro im Test
Das beste VR-Headset ist nicht der beste Kauf

Höhere Auflösung, integrierter Kopfhörer und ein sehr bequemer Kopfbügel: Das HTC Vive Pro macht alles besser und gilt für uns als das beste VR-Headset, das wir bisher ausprobiert haben. Allerdings ist der Preis dafür so hoch, dass kaufen meist keine clevere Entscheidung ist.
Ein Test von Oliver Nickel

  1. VR-Headset HTCs Vive Pro kostet 880 Euro
  2. HTC Vive Pro ausprobiert VR-Headset hat mehr Pixel und Komfort
  3. Vive Focus HTC stellt autarkes VR-Headset vor

Razer Nommo Chroma im Test: Blinkt viel, klingt weniger
Razer Nommo Chroma im Test
Blinkt viel, klingt weniger

Wenn die Razer Nommo Chroma eines sind, dann auffällig. Dafür sorgen die ungewöhnliche Form und die LED-Ringe, die sich beliebig konfigurieren lassen. Die Lautsprecher sind aber eher ein Hingucker als ein Hinhörer.
Ein Test von Oliver Nickel

  1. Razer Kiyo und Seiren X im Test Nicht professionell, aber schnell im Einsatz
  2. Stereolautsprecher Razer Nommo "Sind das Haartrockner?"
  3. Nextbit Cloud-Speicher für Robin-Smartphone wird abgeschaltet

    •  /