Sicherheitssysteme: Tesla Model 3 erkennt Kinder-Dummy mehrfach nicht

Tesla scheint keine Kinder auf der Fahrbahn zu erkennen. Dreimal wurde ein Dummy überfahren.

Artikel veröffentlicht am , Michael Linden
Tesla überfährt Kinder-Dummy
Tesla überfährt Kinder-Dummy (Bild: The Dawn Project)

Das Sicherheitsprojekt The Dawn Project hat nach eigenen Angaben Teslas Full-Self-Driving auf einer Teststrecke ausprobiert. Einen Kinder-Dummy auf der Fahrbahn erkannte das Model 3 nicht, sondern überfuhr es mit 40 km/h. Und das gleich mehrmals hintereinander.

Stellenmarkt
  1. Product Owner (m/f/d) for Hardware Security Modules
    Elektrobit Automotive GmbH, Erlangen
  2. Beraterinnen / Berater (w/m/d) für den Bereich "Informationssicherheitsbera- tung für den ... (m/w/d)
    Bundesamt für Sicherheit in der Informationstechnik (BSI), Bonn
Detailsuche

Wie Dan O'Dowd von The Dawn Project mitteilte, hält er Teslas FSD-Software für die schlechteste kommerzielle Software, die er je gesehen hat. Er stuft die Software als potentiell tödlich ein. O'Dowd ist US-Milliardär, Kandidat für den US-Senat und Gründer von Green Hills Software.

Laut den Sicherheitsaktivisten kann die Software keine Objekte in Kindergröße erkennen. Es handelte sich um die FSD Version 10.12.2, die am 1. Juni 2022 veröffentlicht wurde. Das Fahrzeug fuhr eine etwa 110 Meter lange Strecke entlang, die mit Kegeln abgeteilt war. Am Ende stand ein Kinder-Dummy. Der Test wurde dreimal wiederholt, jedes Mal wurde die Puppe überfahren. Es gibt allerdings Zweifel daran, dass der Fahrer zumindest in dem aufgezeichneten Innenraumvideo das Full-Self-Driving-System aktiviert hat.

Das Fahrzeug versuchte aber auch keine Gefahrenbremsung. Der Notbremsassistent sprach nicht an und dieser ist nicht vom Full-Self-Driving-System anhängig.

Golem Karrierewelt
  1. C++ Programmierung Grundlagen (keine Vorkenntnisse benötigt): virtueller Drei-Tage-Workshop
    07.-09.11.2022, virtuell
  2. Implementing Cisco Enterprise Wireless Networks (ENWLSI): virtueller Fünf-Tage-Workshop
    10.-14.10.2022, virtuell
Weitere IT-Trainings

"Teslas Full-Self-Driving-Software fällt bei diesem einfachen und sicherheitskritischen Test wiederholt durch, mit potenziell tödlichen Ergebnissen", teilten die Tester mit, die ihr Testszenario ausgiebig dokumentiert haben.

Der Fahrer soll für die gesamte Testdauer die Hände nicht am Lenkrad gehabt haben. Tesla betont in den Hinweisen zu seinem Assistenzpaket Autopilot und zum Full Self Driving stets, dass der Fahrer eingriffsbereit sein muss.

Von Tesla gibt es noch keine Stellungnahme zu dem Thema.

Im Februar 2022 zeigte der Youtube-Kanal AI Addict eine Fahrt im kalifornischen San Jose mit zahlreichen Ampeln, mehrspurigen Verkehrsführungen und undeutlichen Straßenmarkierungen. An Stoppschildern kommt das Fahrzeug zu einem vollständigen, vorschriftsgemäßen Halt, hat jedoch in anderen Situationen eine rote Ampel überfahren. Das Fahrzeug versucht sogar, in eine Straßenbahn-Spur hineinzufahren. In der Rechtsabbieger-Situation, in der das kamerabasierte automatisierte Fahren versagt, stehen auf der rechten Seite mehrere grün-weiße Pfosten zur Abgrenzung eines Radwegs auf der Straße. Diese scheint der Tesla nicht zu erkennen und fährt einen zu spitzen Winkel, bis er schließlich mit niedriger Geschwindigkeit mit den Pfosten kollidiert.

Das Fahrzeug fuhr nach Angaben des Youtube-Kanals mit der damals neuesten Softwareversion von Tesla, der Full Self-Driving Beta 10.10 Version (2021.44.30.15).

Selbst wenn das mittlerweile 12.000 US-Dollar teure System gekauft wurde, lässt es sich derzeit nicht einfach starten. Der Fahrer muss zunächst einen Sicherheitscheck bestehen. Tesla analysiert die Fahrdaten des Fahrzeugs, um die Eignung zu bestimmen. Den errechneten Sicherheitswert können Besitzer in ihrer Tesla-App einsehen.

Nachtrag vom 10. August 2022, 22:01 Uhr

Das Blog Electrek hat in Videoaufnahmen des Innenraums entdeckt, dass der FSD in dem Moment der Aufnahme nicht aktiviert war. Sollte er gar nicht aktiv gewesen sein, hat aber zumindest der Notbremsassistent des Fahrzeugs nicht reeagiert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


wasdeeh 19. Aug 2022 / Themenstart

Nein, du verstehst offensichtlich nicht, dass "Der Kunde muss die volle Verantwortung...

xPandamon 14. Aug 2022 / Themenstart

Scheinbar wurde das Gaspedal durchgedrückt, dadurch wurde es außer Gefecht gesetzt. Da...

xPandamon 14. Aug 2022 / Themenstart

Beta-Versionen haben auf öffentlichen Straßen etwas verloren. Nur halt bei...

nomorenoless 12. Aug 2022 / Themenstart

Wenn du dir das Video anschaust, hat Tesla den Dummy ja erkannt.

Kommentieren



Aktuell auf der Startseite von Golem.de
Superbase V
Zendures Solarstation mit 6.400 Wh kommt mit hohem Rabatt

Vor dem Verkaufsstart über die eigene Webseite verkauft Zendure seine Superbase V über Kickstarter - mit teilweise fast 50 Prozent Rabatt.

Superbase V: Zendures Solarstation mit 6.400 Wh kommt mit hohem Rabatt
Artikel
  1. Tesla Optimus: Elon Musk zeigt Roboter-Prototyp
    Tesla Optimus
    Elon Musk zeigt Roboter-Prototyp

    Roboter könnten für Tesla aus Sicht von Elon Musk bedeutender werden als Elektroautos. Der Konzern zeigte seinen ersten Roboter-Prototypen.

  2. Microsofts E-Mail: Modern Auth in Exchange macht Admins Arbeit
    Microsofts E-Mail
    Modern Auth in Exchange macht Admins Arbeit

    Ab dem 1. Oktober 2022 müssen Exchange-Clients zwingend Microsofts moderne Authentifizierung nutzen. Das bedeutet Mehrarbeit.
    Eine Analyse von Oliver Nickel

  3. Google: Nutzer fordern Bluetooth-Freigabe für Stadia-Controller
    Google
    Nutzer fordern Bluetooth-Freigabe für Stadia-Controller

    Mit der Einstellung von Stadia können auch Tausende der speziellen Controller ohne ein Update nicht mehr drahtlos genutzt werden.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • MindStar (u. a. LC-Power LC-M27-QHD-240-C-K 389€) und Damn-Deals (u. a. Kingston A400 240/480 GB 17,50€/32€, NZXT Kraken X73 139€) • Alternate: Weekend Sale • Razer Strider XXL 33,90€ • JBL Live Pro+ 49€ • PCGH-Ratgeber-PC 3000 Radeon Edition 2.500€ • LG OLED65CS9LA 1.699€ [Werbung]
    •  /