Maschinensehen: US-Wissenschaftler narren autonom fahrende Autos

Autonom fahrende Autos haben Kameras, um Verkehrsschilder zu erfassen und zu erkennen. Ein paar Buchstaben oder Vierecke, die Forscher auf Schilder geklebt haben, reichen aus, dass Autos die Verkehrszeichen komplett falsch interpretieren.

Artikel veröffentlicht am ,
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung.
Mainpuliertes Verkehrsschild: Das ist keine Geschwindigkeitsbegrenzung. (Bild: Ivan Evtimov et al)

Geschwindigkeitsbegrenzung? Nein, anhalten! Die Systeme zum Maschinensehen von autonom fahrenden Autos sollen Straßenschilder erkennen und sich an die Gebote und Verbote halten. Doch Wissenschaftler haben eine Möglichkeit gefunden, die Autos zu überlisten.

Stellenmarkt
  1. Mitarbeiter SAP-Basis (m/w/d)
    VEKA AG, Sendenhorst
  2. System Administrator (w/m/d) Business Systems
    Deutsche Welle, Bonn
Detailsuche

Die Forscher um Yoshi Kohno von der Universität von Washington in Seattle manipulierten zwei Verkehrsschilder: ein Stopp-Schild und einen Rechtsabbiegehinweis, der in den USA gelb ist. Auf ein Stoppschild klebten die Forscher zunächst einige rechteckige und quadratische weiße und schwarze Aufkleber, auf ein anderes die Worte "Love" und "Hate", so dass sich die Botschaft "Love Stop Hate" ergab - eine nicht untypische Art, Straßenschilder mit Graffiti zu versehen. Vierecke und Schrift hatten sie mit einem herkömmlichen Drucker hergestellt.

Der Pfeil hatte Grauverläufe

Subtiler gingen sie beim Abbiege-Schild vor: Sie druckten einen Pfeil in der gleichen Größen wie den originalen. Der nachgemachte war aber nicht einheitlich schwarz, sondern hatte relativ große Pixel in verschiedenen Graustufen. Für das menschliche Auge waren diese Unterschiede kaum zu erkennen.

Die Maschinensehsysteme waren damit jedoch heillos überfordert: Die Forscher ließen die Systeme die Schilder aus verschiedenen Winkeln und Entfernungen - von kurz davor bis etwa zwölf Meter Distanz - betrachten. Das manipulierte Stopp-Schild sei mit einer Trefferquote von 100 Prozent für eine Geschwindigkeitsbegrenzung auf 45 Meilen pro Stunde gehalten worden, schreiben die Forscher in einem Aufsatz, der als Preprint auf dem Dokumentenserver Arxiv abrufbar ist. Der Hinweis auf den Rechtsabbieger wurde zu zwei Dritteln als Stopp-Schild und zu einem Drittel als Hinweis auf eine weitere Fahrspur fehlinterpretiert.

Der Pfeil hatte Grauverläufe

Golem Karrierewelt
  1. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    19.-22.12.2022, virtuell
  2. Adobe Premiere Pro Aufbaukurs: virtueller Zwei-Tage-Workshop
    26./27.01.2023, Virtuell
Weitere IT-Trainings

Die Systeme für Maschinensehen bestehen aus zwei Elementen: Eines erfasst Objekte, also Fußgänger, andere Autos oder Verkehrsschilder. Das andere, der Classifier, erkennt, worum es sich handelt und, im Falle eines Schildes, was es aussagt.

Die Forscher gingen davon aus, dass Angreifer keinen Zugang zu den Algorithmen eines solchen Classifiers haben. Aber sie konnten über die Rückmeldungen, die ein solches System zu einem Satz von Straßenschildern lieferte, ein Modell erstellen, wie es arbeitet. Darauf basierend konnten sie für ein bestimmtes Schild einen Aufkleber entwickeln, der den Classifier verwirrt.

Für die Entwickler autonom fahrender Autos bedeutet das, dass die Sicherheit mit nur einem Sensorsystem kaum gewährleistet werden kann. Es bedarf weiterer Sicherheitsmaßnahmen, um solche Irrtümer zu minimieren, etwa genaues Kartenmaterial, auf dem die Straßenschilder und deren Koordinaten verzeichnet sind, sowie eine Lokalisierung per GPS oder ein System, das nicht nur Schilder selbst, sondern auch den Kontext auswertet und Widersprüche erkennt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


User_x 09. Aug 2017

also ein Zug mit luftleerer tube? hmmm

Anonymer Nutzer 09. Aug 2017

Tun sie ja nicht. Es geht darum, zu widerlegen, dass auch in 100 Jahren noch "Kutschen...

der_wahre_hannes 09. Aug 2017

Die meisten verstehen es aber trotzdem nicht! *SCNR* Ein Mensch braucht nichtmal über...

Norbert Lamberti 09. Aug 2017

Man kann es dennoch übersetzen. https://c1.staticflickr.com/3/2063...



Aktuell auf der Startseite von Golem.de
Tesla-Fabrik
In Grünheide soll "totales Chaos" herrschen

Die Tesla-Fabrik in Grünheide hinkt ihren Produktionszielen noch weit hinterher. Es gibt zu wenig Personal oder die Mitarbeiter kündigen wieder.

Tesla-Fabrik: In Grünheide soll totales Chaos herrschen
Artikel
  1. Konkurrenz für Disney+ und Netflix: Paramount+ startet in Deutschland
    Konkurrenz für Disney+ und Netflix
    Paramount+ startet in Deutschland

    Der Wettbewerbsdruck steigt weiter. Paramount geht mit seinem Streamingdienst Paramount+ in Deutschland an den Start.

  2. Elbit Systems Deutschland: Neue Bundeswehr-Funkgeräte lösen Retrogeräte von 1982 ab
    Elbit Systems Deutschland
    Neue Bundeswehr-Funkgeräte lösen Retrogeräte von 1982 ab

    Vor rund einem Jahr hat das Beschaffungsamt der Bundeswehr für 600 Millionen Euro Tausende Funkgeräte aus dem Jahr 1982 nachbauen lassen. Nun werden ganz neue angeschafft.

  3. Angespielt: Diablo 4 wird brutal, makaber und ein bisschen eklig
    Angespielt
    Diablo 4 wird brutal, makaber und ein bisschen eklig

    Open-World-Freiheiten, dynamische Events und eine geteilte Spielwelt: Golem.de hat Diablo 4 angespielt und mit den Entwicklern gesprochen.
    Von Olaf Bleich

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bei Amazon bestellbar • Tiefstpreise: Asus RTX 4080 1.689,90€, MSI 28" 4K 579€, Roccat Kone Pro 39,99€, Asus RTX 6950 XT 939€ • Alternate: Acer Gaming-Monitor 27" 159,90€, Razer BlackWidow V2 Mini 129,90€ • 20% Extra-Rabatt bei ebay • Amazon Last Minute Angebote [Werbung]
    •  /