Maschinensehen: US-Wissenschaftler narren autonom fahrende Autos

Autonom fahrende Autos haben Kameras, um Verkehrsschilder zu erfassen und zu erkennen. Ein paar Buchstaben oder Vierecke, die Forscher auf Schilder geklebt haben, reichen aus, dass Autos die Verkehrszeichen komplett falsch interpretieren.

Artikel veröffentlicht am ,
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung.
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung. (Bild: Ivan Evtimov et al)

Geschwindigkeitsbegrenzung? Nein, anhalten! Die Systeme zum Maschinensehen von autonom fahrenden Autos sollen Straßenschilder erkennen und sich an die Gebote und Verbote halten. Doch Wissenschaftler haben eine Möglichkeit gefunden, die Autos zu überlisten.

Stellenmarkt
  1. Mobile App Developer for Vibratory Hearing Systems (m/w)
    MED-EL Medical Electronics, Innsbruck (Österreich)
  2. IT-Mitarbeiter (m/w/d) Netzwerk- und Anwendungssupport
    VIVAVIS AG, Bochum
Detailsuche

Die Forscher um Yoshi Kohno von der Universität von Washington in Seattle manipulierten zwei Verkehrsschilder: ein Stopp-Schild und einen Rechtsabbiegehinweis, der in den USA gelb ist. Auf ein Stoppschild klebten die Forscher zunächst einige rechteckige und quadratische weiße und schwarze Aufkleber, auf ein anderes die Worte "Love" und "Hate", so dass sich die Botschaft "Love Stop Hate" ergab - eine nicht untypische Art, Straßenschilder mit Graffiti zu versehen. Vierecke und Schrift hatten sie mit einem herkömmlichen Drucker hergestellt.

Der Pfeil hatte Grauverläufe

Subtiler gingen sie beim Abbiege-Schild vor: Sie druckten einen Pfeil in der gleichen Größen wie den originalen. Der nachgemachte war aber nicht einheitlich schwarz, sondern hatte relativ große Pixel in verschiedenen Graustufen. Für das menschliche Auge waren diese Unterschiede kaum zu erkennen.

Die Maschinensehsysteme waren damit jedoch heillos überfordert: Die Forscher ließen die Systeme die Schilder aus verschiedenen Winkeln und Entfernungen - von kurz davor bis etwa zwölf Meter Distanz - betrachten. Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden, schreiben die Forscher in einem Aufsatz, der als Preprint auf dem Dokumentenserver Arxiv abrufbar ist. Der Hinweis auf den Rechtsabbieger wurde zu zwei Dritteln als Stopp-Schild und zu einem Drittel als Hinweis auf eine weitere Fahrspur fehlinterpretiert.

Der Pfeil hatte Grauverläufe

Golem Akademie
  1. Microsoft 365 Security Workshop
    27.-29. Oktober 2021, Online
  2. Penetration Testing Fundamentals
    23.-24. September 2021, online
  3. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
Weitere IT-Trainings

Die Systeme für Maschinensehen bestehen aus zwei Elementen: Eines erfasst Objekte, also Fußgänger, andere Autos oder Verkehrsschilder. Das andere, der Classifier, erkennt, worum es sich handelt und, im Falle eines Schildes, was es aussagt.

Die Forscher gingen davon aus, dass Angreifer keinen Zugang zu den Algorithmen eines solchen Classifiers haben. Aber sie konnten über die Rückmeldungen, die ein solches System zu einem Satz von Straßenschildern lieferte, ein Modell erstellen, wie es arbeitet. Darauf basierend konnten sie für ein bestimmtes Schild einen Aufkleber entwickeln, der den Classifier verwirrt.

Für die Entwickler autonom fahrender Autos bedeutet das, dass die Sicherheit mit nur einem Sensorsystem kaum gewährleistet werden kann. Es bedarf weiterer Sicherheitsmaßnahmen, um solche Irrtümer zu minimieren, etwa genaues Kartenmaterial, auf dem die Straßenschilder und deren Koordinaten verzeichnet sind, sowie eine Lokalisierung per GPS oder ein System, das nicht nur Schilder selbst, sondern auch den Kontext auswertet und Widersprüche erkennt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Clubhouse  
3,8 Milliarden Telefonnummern werden im Darknet verkauft

Die Telefonnummern und Kontakte aller Clubhouse-Konten werden wohl im Darknet angeboten. Nummern werden nach ihrer Wichtigkeit eingestuft.

Clubhouse: 3,8 Milliarden Telefonnummern werden im Darknet verkauft
Artikel
  1. iPhone 12: Youtuber findet Akkukapazität von Apples Magsafe-Pack heraus
    iPhone 12
    Youtuber findet Akkukapazität von Apples Magsafe-Pack heraus

    Ein Youtuber nimmt das Apple Magsafe-Akkupack auseinander. Im Video gibt er einen Einblick in die Technik und die Akkuladung des Produktes.

  2. Teilautonomes Fahren: Magna übernimmt Fahrerassistenz-Spezialisten Veoneer
    Teilautonomes Fahren
    Magna übernimmt Fahrerassistenz-Spezialisten Veoneer

    Für insgesamt 3,8 Milliarden US-Dollar will Magna International sein Geschäftsfeld autonome Fahrfunktionen ausbauen und übernimmt Veoneer.

  3. Elon Musk: Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad
    Elon Musk
    Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad

    Elon Musk hat klargestellt, dass es für das Model S und das Model X kein normales Lenkrad mehr geben wird. Das D-förmige Lenkrad ist Pflicht.

User_x 09. Aug 2017

also ein Zug mit luftleerer tube? hmmm

Anonymer Nutzer 09. Aug 2017

Tun sie ja nicht. Es geht darum, zu widerlegen, dass auch in 100 Jahren noch "Kutschen...

der_wahre_hannes 09. Aug 2017

Die meisten verstehen es aber trotzdem nicht! *SCNR* Ein Mensch braucht nichtmal über...

Norbert Lamberti 09. Aug 2017

Man kann es dennoch übersetzen. https://c1.staticflickr.com/3/2063...

Anonymer Nutzer 09. Aug 2017

Auch in 50 Jahren wird es noch Fahrräder, motorräder, roller und was weiß ich net alles...



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% auf Amazon Warehouse • LG 55NANO867NA 573,10€ • Fractal Design Meshify C Mini 69,90€ • Amazon: PC-Spiele von EA im Angebot (u. a. FIFA 21 19,99€) • Viewsonic VG2719-2K (WQHD, 99% sRGB) 217,99€ • Alternate (u. a. Fractal Design Define S2 106,89€) • Roccat Horde Aimo 49€ [Werbung]
    •  /