• IT-Karriere:
  • Services:

Maschinensehen: US-Wissenschaftler narren autonom fahrende Autos

Autonom fahrende Autos haben Kameras, um Verkehrsschilder zu erfassen und zu erkennen. Ein paar Buchstaben oder Vierecke, die Forscher auf Schilder geklebt haben, reichen aus, dass Autos die Verkehrszeichen komplett falsch interpretieren.

Artikel veröffentlicht am ,
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung.
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung. (Bild: Ivan Evtimov et al)

Geschwindigkeitsbegrenzung? Nein, anhalten! Die Systeme zum Maschinensehen von autonom fahrenden Autos sollen Straßenschilder erkennen und sich an die Gebote und Verbote halten. Doch Wissenschaftler haben eine Möglichkeit gefunden, die Autos zu überlisten.

Stellenmarkt
  1. QUNDIS GmbH, Erfurt
  2. SySS GmbH, Tübingen, Frankfurt am Main, München, Wien (Österreich)

Die Forscher um Yoshi Kohno von der Universität von Washington in Seattle manipulierten zwei Verkehrsschilder: ein Stopp-Schild und einen Rechtsabbiegehinweis, der in den USA gelb ist. Auf ein Stoppschild klebten die Forscher zunächst einige rechteckige und quadratische weiße und schwarze Aufkleber, auf ein anderes die Worte "Love" und "Hate", so dass sich die Botschaft "Love Stop Hate" ergab - eine nicht untypische Art, Straßenschilder mit Graffiti zu versehen. Vierecke und Schrift hatten sie mit einem herkömmlichen Drucker hergestellt.

Der Pfeil hatte Grauverläufe

Subtiler gingen sie beim Abbiege-Schild vor: Sie druckten einen Pfeil in der gleichen Größen wie den originalen. Der nachgemachte war aber nicht einheitlich schwarz, sondern hatte relativ große Pixel in verschiedenen Graustufen. Für das menschliche Auge waren diese Unterschiede kaum zu erkennen.

Die Maschinensehsysteme waren damit jedoch heillos überfordert: Die Forscher ließen die Systeme die Schilder aus verschiedenen Winkeln und Entfernungen - von kurz davor bis etwa zwölf Meter Distanz - betrachten. Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden, schreiben die Forscher in einem Aufsatz, der als Preprint auf dem Dokumentenserver Arxiv abrufbar ist. Der Hinweis auf den Rechtsabbieger wurde zu zwei Dritteln als Stopp-Schild und zu einem Drittel als Hinweis auf eine weitere Fahrspur fehlinterpretiert.

Der Pfeil hatte Grauverläufe

Die Systeme für Maschinensehen bestehen aus zwei Elementen: Eines erfasst Objekte, also Fußgänger, andere Autos oder Verkehrsschilder. Das andere, der Classifier, erkennt, worum es sich handelt und, im Falle eines Schildes, was es aussagt.

Die Forscher gingen davon aus, dass Angreifer keinen Zugang zu den Algorithmen eines solchen Classifiers haben. Aber sie konnten über die Rückmeldungen, die ein solches System zu einem Satz von Straßenschildern lieferte, ein Modell erstellen, wie es arbeitet. Darauf basierend konnten sie für ein bestimmtes Schild einen Aufkleber entwickeln, der den Classifier verwirrt.

Für die Entwickler autonom fahrender Autos bedeutet das, dass die Sicherheit mit nur einem Sensorsystem kaum gewährleistet werden kann. Es bedarf weiterer Sicherheitsmaßnahmen, um solche Irrtümer zu minimieren, etwa genaues Kartenmaterial, auf dem die Straßenschilder und deren Koordinaten verzeichnet sind, sowie eine Lokalisierung per GPS oder ein System, das nicht nur Schilder selbst, sondern auch den Kontext auswertet und Widersprüche erkennt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote

User_x 09. Aug 2017

also ein Zug mit luftleerer tube? hmmm

Anonymer Nutzer 09. Aug 2017

Tun sie ja nicht. Es geht darum, zu widerlegen, dass auch in 100 Jahren noch "Kutschen...

der_wahre_hannes 09. Aug 2017

Die meisten verstehen es aber trotzdem nicht! *SCNR* Ein Mensch braucht nichtmal über...

Norbert Lamberti 09. Aug 2017

Man kann es dennoch übersetzen. https://c1.staticflickr.com/3/2063...

Anonymer Nutzer 09. Aug 2017

Auch in 50 Jahren wird es noch Fahrräder, motorräder, roller und was weiß ich net alles...


Folgen Sie uns
       


Minikonsolen im Vergleich - Golem retro

Retro-Faktor, Steuerung, Emulationsqualität: Wir haben sieben Minikonsolen miteinander verglichen.

Minikonsolen im Vergleich - Golem retro Video aufrufen
Schräges von der CES 2020: Die Connected-Kartoffel
Schräges von der CES 2020
Die Connected-Kartoffel

CES 2020 Wer geglaubt hat, er hätte schon alles gesehen, musste sich auch dieses Jahr auf der CES eines Besseren belehren lassen. Wir haben uns die Zukunft der Kartoffel angesehen: Sie ist smart.
Ein Bericht von Martin Wolf

  1. Smart Lock Netatmo und Yale zeigen smarte Türschlösser
  2. Eracing Simulator im Hands on Razers Renn-Simulator bringt uns zum Schwitzen
  3. Zu lange Ladezeiten Ford setzt auf Hybridantrieb bei autonomen Taxis

Kaufberatung (2020): Die richtige CPU und Grafikkarte
Kaufberatung (2020)
Die richtige CPU und Grafikkarte

Grafikkarten und Prozessoren wurden 2019 deutlich besser, denn AMD ist komplett auf 7-nm-Technik umgestiegen. Intel hat zwar 10-nm-Chips marktreif, die Leistung stagniert aber und auch Nvidia verkauft nur 12-nm-Designs. Wir beraten bei Komponenten und geben einen Ausblick.
Von Marc Sauter

  1. SSDs Intel arbeitet an 144-Schicht-Speicher und 5-Bit-Zellen
  2. Schnittstelle PCIe Gen6 verdoppelt erneut Datenrate

Film: Wie sich Science-Fiction-Autoren das Jahr 2020 vorstellten
Film
Wie sich Science-Fiction-Autoren das Jahr 2020 vorstellten

Drachen löschen die Menschheit fast aus, Aliens löschen die Menschheit fast aus, Monster löschen die Menschheit fast aus: Das Jahr 2020 ist in Spielfilmen nicht gerade heiter.
Von Peter Osteried

  1. Alien Im Weltall hört dich keiner schreien
  2. Terminator: Dark Fate Die einzig wahre Fortsetzung eines Klassikers?
  3. Gemini Man Überflüssiges Klonexperiment

    •  /