Autonomes Fahren: Ermittler geben Testfahrerin Hauptschuld an Uber-Unfall

US-Ermittler haben eine "unzureichende Sicherheitskultur" ausgemacht, die zu einem tödlichen Unfall mit einem selbstfahrenden Uber-Auto beigetragen haben soll. Nun schlagen sie schärfere Sicherheitsegeln für die Tests autonomer Fahrzeuge vor.

Artikel veröffentlicht am ,
Ermittler von der NTSB haben den Unfall ausführlich untersucht.
Ermittler von der NTSB haben den Unfall ausführlich untersucht. (Bild: NTSB)

Nach Ansicht der US-Verkehrssicherheitsbehörde NTSB ist die Unaufmerksamkeit der Testfahrerin die "wahrscheinliche Ursache" eines tödlichen Unfalls mit einem selbstfahrenden Auto des Mitfahrdienstes Uber gewesen. Das geht aus einer Stellungnahme (PDF) hervor, die die Behörde am 19. November 2019 in Washington vorgestellt hat. Allerdings habe eine "unzureichende Sicherheitskultur" bei Uber zu dem Fehlverhalten der Fahrerin beigetragen. "Sicherheit beginnt an der Spitze", sagte NTSB-Chef Robert L. Sumwalt laut Pressemitteilung und fügte hinzu: "Die Kollision war das letzte Glied einer langen Kette von Handlungen und Entscheidungen einer Organisation, die die Sicherheit leider nicht zur obersten Priorität gemacht hat." Der eigentliche Abschlussbericht soll in wenigen Wochen veröffentlicht werden.

Stellenmarkt
  1. Teamleiter Testmanagement (m/w/d)
    beauty alliance IT SERVICES GmbH, Bielefeld
  2. Informatiker als IT-Architekt (w/m/d)
    COUNT+CARE GmbH & Co. KG, Darmstadt
Detailsuche

Bei dem Unfall im März 2018 in Phoenix (Arizona) war ein Testfahrzeug vom Typ Volvo XC90 im nächtlichen Verkehr mit einer 49 Jahre alten Frau kollidiert, die mit ihrem Fahrrad in der Dunkelheit eine vierspurige Straße überquerte. Anschließend hatte das Unternehmen sein Testprogramm mit autonomen Autos dauerhaft gestoppt, der Gouverneur von Arizona hatte die Testautos in seinem Bundesstaat stillgelegt.

Die Stellungsnahme der NTSB bestätigt im Wesentlichen die ausführlichen Unfallberichte, die die Behörde bereits vor zwei Wochen veröffentlicht hatte. Allerdings hebt die NTSB nun stärker hervor, dass die Testfahrerin nicht das Verkehrsgeschehen und das automatisierte System überwachen konnte, "weil sie während der Fahrt durch ihr privates Mobiltelefon abgelenkt wurde". Ohne diese Ablenkung hätte der Unfall wahrscheinlich verhindert oder hätten dessen Folgen verringert werden können.

Zu viel Vertrauen in die Technik

Uber wird wiederum vorgeworfen, nicht ausreichend dafür Sorge getragen zu haben, dass die Testfahrer auch tatsächlich das Fahrzeug während der Fahrt überwachen. Unzureichende Verfahren zur Einschätzung von Sicherheitsrisiken, eine unwirksame Überwachung der Testfahrer sowie unzureichende Mechanismen, um deren nachlassender Konzentration und einem zu großen Vertrauen in die Technik (automation complacency) bei den Testfahrten entgegenzuwirken, hätten zu dem Unfall beigetragen. Weitere Faktoren waren demnach, dass das gesundheitlich beeinträchtige Unfallopfer die mehrspurige Straße nicht an einem Fußgängerüberweg querte und dass der Bundesstaat Arizona die Testfahrten nicht ausreichend überwachte.

Golem Karrierewelt
  1. Entwicklung mit Unity auf der Microsoft HoloLens 2 Plattform: virtueller Zwei-Tage-Workshop
    10./11.10.2022, Virtuell
  2. Informationssicherheit in der Automobilindustrie nach VDA-ISA und TISAX® mit Zertifikat: Zwei-Tage-Workshop
    22./23.11.2022, Virtuell
Weitere IT-Trainings

Zu den 19 Ergebnissen der Untersuchung gehört auch die Feststellung, dass Uber nicht angemessen die Sicherheitsrisiken einschätzte, die durch die funktionellen Defizite der Software hervorgerufen wurden. So war die Notbremsfunktion so programmiert worden, dass sie trotz einer zu erwartenden Kollision zunächst nicht eingreifen sollte. Zudem waren Sensorsysteme vor dem Unfall nicht in der Lage, der Frau mit ihrem Fahrrad ein konstantes Objekt zuzuweisen und sie als Fußgängerin zu erkennen. Dadurch konnte das System den wahrscheinlichen Pfadweg nicht berechnen. Die Entscheidung, auf einen zweiten Testfahrer zu verzichten, habe ebenfalls die Sicherheitsrisiken erhöht. Auch das Abschalten der vorinstallierten Notbremsfunktion des Volvo-Testwagens habe dazu beigetragen.

Abschließend schlägt die NTSB sechs Empfehlungen vor. Demnach soll die US-Straßenverkehrsbehörde NHTSA von den Firmen vor den Tests autonomer Autos eine Sicherheitseinschätzung verlangen. Die Einschätzung solle regelmäßig überprüft und bewertet werden, auch im Hinblick auf die Überwachung der Testfahrer. Dem Bundesstaat Arizona wird empfohlen, sich von den Entwicklern ein Konzept vorlegen zu lassen, wie beispielsweise der Unaufmerksamkeit der Testfahrer begegnet werden soll. Von Uber wird gefordert, die bereits in Gang gesetzten Änderungen beim Sicherheitsmanagement zu vervollständigen.

Uber hatte mehrere Monate nach dem Unfall wieder seine Testfahrten aufgenommen, allerdings nicht in Arizona, sondern unter modifizierten Bedingungen in Pittsburgh im US-Bundesstaat Pennsylvania. Für den Unfall muss das Unternehmen jedoch nicht strafrechtlich haften. Allerdings könnte die Testfahrerin noch belangt werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Für 44 Milliarden US-Dollar
Musk will Twitter nun doch übernehmen

Tesla-Chef Elon Musk ist nun doch bereit, Twitter für den ursprünglich vereinbarten Preis zu kaufen. Offenbar will er einen Prozess vermeiden.

Für 44 Milliarden US-Dollar: Musk will Twitter nun doch übernehmen
Artikel
  1. Die große Umfrage: Das sind Deutschlands beste IT-Arbeitgeber 2023
    Die große Umfrage
    Das sind Deutschlands beste IT-Arbeitgeber 2023

    Golem.de und Statista haben 23.000 Fachkräfte nach ihrer Arbeit gefragt. Das Ergebnis ist eine Liste der 175 besten Unternehmen für IT-Profis.

  2. Monitoring von Container-Landschaften: Prometheus ist nicht alles
    Monitoring von Container-Landschaften
    Prometheus ist nicht alles

    Betreuer von Kubernetes und Co., die sich nicht ausreichend mit der Thematik beschäftigen, nehmen beim metrikbasierte Monitoring unwissentlich einige Nachteile in Kauf. Eventuell ist es notwendig, den üblichen Tool-Stack zu ergänzen.
    Von Valentin Höbel

  3. Roadmap: CD Projekt kündigt neues Cyberpunk und mehrere Witcher an
    Roadmap
    CD Projekt kündigt neues Cyberpunk und mehrere Witcher an

    Project Polaris wird eine Witcher-Saga, Orion das nächste Cyberpunk 2077 und Hadar etwas ganz Neues: CD Projekt hat seine Pläne vorgestellt.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • 3 Spiele für 49€ • Saturn Gutscheinheft • Günstig wie nie: LG OLED 48" 799€, Xbox Elite Controller 2 114,99€, AOC 28" 4K UHD 144 Hz 600,89€, Corsair RGB Midi-Tower 269,90€, Sandisk microSDXC 512GB 39€ • Bis zu 15% im eBay Restore • MindStar (PowerColor RX 6700 XT 489€) [Werbung]
    •  /