Abo
  • Services:

Maschinensehen: US-Wissenschaftler narren autonom fahrende Autos

Autonom fahrende Autos haben Kameras, um Verkehrsschilder zu erfassen und zu erkennen. Ein paar Buchstaben oder Vierecke, die Forscher auf Schilder geklebt haben, reichen aus, dass Autos die Verkehrszeichen komplett falsch interpretieren.

Artikel veröffentlicht am ,
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung.
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung. (Bild: Ivan Evtimov et al)

Geschwindigkeitsbegrenzung? Nein, anhalten! Die Systeme zum Maschinensehen von autonom fahrenden Autos sollen Straßenschilder erkennen und sich an die Gebote und Verbote halten. Doch Wissenschaftler haben eine Möglichkeit gefunden, die Autos zu überlisten.

Stellenmarkt
  1. Derby Cycle Werke GmbH, Cloppenburg
  2. SHW Automotive GmbH, Aalen, Bad Schussenried

Die Forscher um Yoshi Kohno von der Universität von Washington in Seattle manipulierten zwei Verkehrsschilder: ein Stopp-Schild und einen Rechtsabbiegehinweis, der in den USA gelb ist. Auf ein Stoppschild klebten die Forscher zunächst einige rechteckige und quadratische weiße und schwarze Aufkleber, auf ein anderes die Worte "Love" und "Hate", so dass sich die Botschaft "Love Stop Hate" ergab - eine nicht untypische Art, Straßenschilder mit Graffiti zu versehen. Vierecke und Schrift hatten sie mit einem herkömmlichen Drucker hergestellt.

Der Pfeil hatte Grauverläufe

Subtiler gingen sie beim Abbiege-Schild vor: Sie druckten einen Pfeil in der gleichen Größen wie den originalen. Der nachgemachte war aber nicht einheitlich schwarz, sondern hatte relativ große Pixel in verschiedenen Graustufen. Für das menschliche Auge waren diese Unterschiede kaum zu erkennen.

Die Maschinensehsysteme waren damit jedoch heillos überfordert: Die Forscher ließen die Systeme die Schilder aus verschiedenen Winkeln und Entfernungen - von kurz davor bis etwa zwölf Meter Distanz - betrachten. Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden, schreiben die Forscher in einem Aufsatz, der als Preprint auf dem Dokumentenserver Arxiv abrufbar ist. Der Hinweis auf den Rechtsabbieger wurde zu zwei Dritteln als Stopp-Schild und zu einem Drittel als Hinweis auf eine weitere Fahrspur fehlinterpretiert.

Der Pfeil hatte Grauverläufe

Die Systeme für Maschinensehen bestehen aus zwei Elementen: Eines erfasst Objekte, also Fußgänger, andere Autos oder Verkehrsschilder. Das andere, der Classifier, erkennt, worum es sich handelt und, im Falle eines Schildes, was es aussagt.

Die Forscher gingen davon aus, dass Angreifer keinen Zugang zu den Algorithmen eines solchen Classifiers haben. Aber sie konnten über die Rückmeldungen, die ein solches System zu einem Satz von Straßenschildern lieferte, ein Modell erstellen, wie es arbeitet. Darauf basierend konnten sie für ein bestimmtes Schild einen Aufkleber entwickeln, der den Classifier verwirrt.

Für die Entwickler autonom fahrender Autos bedeutet das, dass die Sicherheit mit nur einem Sensorsystem kaum gewährleistet werden kann. Es bedarf weiterer Sicherheitsmaßnahmen, um solche Irrtümer zu minimieren, etwa genaues Kartenmaterial, auf dem die Straßenschilder und deren Koordinaten verzeichnet sind, sowie eine Lokalisierung per GPS oder ein System, das nicht nur Schilder selbst, sondern auch den Kontext auswertet und Widersprüche erkennt.



Anzeige
Blu-ray-Angebote
  1. (u. a. 3 Blu-rays für 15€, 2 Neuheiten für 15€)

User_x 09. Aug 2017

also ein Zug mit luftleerer tube? hmmm

david_rieger 09. Aug 2017

Tun sie ja nicht. Es geht darum, zu widerlegen, dass auch in 100 Jahren noch "Kutschen...

der_wahre_hannes 09. Aug 2017

Die meisten verstehen es aber trotzdem nicht! *SCNR* Ein Mensch braucht nichtmal über...

Norbert Lamberti 09. Aug 2017

Man kann es dennoch übersetzen. https://c1.staticflickr.com/3/2063...

Prinzeumel 09. Aug 2017

Auch in 50 Jahren wird es noch Fahrräder, motorräder, roller und was weiß ich net alles...


Folgen Sie uns
       


3D Mark Raytracing Demo (RTX 2080 Ti vs. GTX 1080 Ti)

Wir haben die Raytracing Demo von 3D Mark auf Nvidias neuer Geforce RTX 2080 Ti und der älteren Geforce GTX 1080 Ti abspielen lassen.

3D Mark Raytracing Demo (RTX 2080 Ti vs. GTX 1080 Ti) Video aufrufen
Athlon 200GE im Test: Celeron und Pentium abgehängt
Athlon 200GE im Test
Celeron und Pentium abgehängt

Mit dem Athlon 200GE belebt AMD den alten CPU-Markennamen wieder: Der Chip gefällt durch seine Zen-Kerne und die integrierte Vega-Grafikeinheit, die Intel-Konkurrenz hat dem derzeit preislich wenig entgegenzusetzen.
Ein Test von Marc Sauter

  1. AMD Threadripper erhalten dynamischen NUMA-Modus
  2. HP Elitedesk 705 Workstation Edition Minitower mit AMD-CPU startet bei 680 Euro
  3. Ryzen 5 2600H und Ryzen 7 2800H 45-Watt-CPUs mit Vega-Grafik für Laptops sind da

Neuer Kindle Paperwhite im Hands On: Amazons wasserdichter E-Book-Reader mit planem Display
Neuer Kindle Paperwhite im Hands On
Amazons wasserdichter E-Book-Reader mit planem Display

Amazon bringt einen neuen Kindle Paperwhite auf den Markt und verbessert viel. Der E-Book-Reader steckt in einem wasserdichten Gehäuse, hat eine plane Displayseite, mehr Speicher und wir können damit Audible-Hörbücher hören. Noch nie gab es so viel Kindle-Leistung für so wenig Geld.
Ein Hands on von Ingo Pakalski


    Künstliche Intelligenz: Wie Computer lernen
    Künstliche Intelligenz
    Wie Computer lernen

    Künstliche Intelligenz, Machine Learning und neuronale Netze zählen zu den wichtigen Buzzwords dieses Jahres. Oft wird der Eindruck vermittelt, dass Computer bald wie Menschen denken können. Allerdings wird bei dem Thema viel durcheinandergeworfen. Wir sortieren.
    Von Miroslav Stimac

    1. Innotrans KI-System identifiziert Schwarzfahrer
    2. USA Pentagon fordert KI-Strategie fürs Militär
    3. KI Deepmind-System diagnostiziert Augenkrankheiten

      •  /