Autonomes Fahren: Ermittler geben Testfahrerin Hauptschuld an Uber-Unfall

US-Ermittler haben eine "unzureichende Sicherheitskultur" ausgemacht, die zu einem tödlichen Unfall mit einem selbstfahrenden Uber-Auto beigetragen haben soll. Nun schlagen sie schärfere Sicherheitsegeln für die Tests autonomer Fahrzeuge vor.

Artikel veröffentlicht am ,
Ermittler von der NTSB haben den Unfall ausführlich untersucht.
Ermittler von der NTSB haben den Unfall ausführlich untersucht. (Bild: NTSB)

Nach Ansicht der US-Verkehrssicherheitsbehörde NTSB ist die Unaufmerksamkeit der Testfahrerin die "wahrscheinliche Ursache" eines tödlichen Unfalls mit einem selbstfahrenden Auto des Mitfahrdienstes Uber gewesen. Das geht aus einer Stellungnahme (PDF) hervor, die die Behörde am 19. November 2019 in Washington vorgestellt hat. Allerdings habe eine "unzureichende Sicherheitskultur" bei Uber zu dem Fehlverhalten der Fahrerin beigetragen. "Sicherheit beginnt an der Spitze", sagte NTSB-Chef Robert L. Sumwalt laut Pressemitteilung und fügte hinzu: "Die Kollision war das letzte Glied einer langen Kette von Handlungen und Entscheidungen einer Organisation, die die Sicherheit leider nicht zur obersten Priorität gemacht hat." Der eigentliche Abschlussbericht soll in wenigen Wochen veröffentlicht werden.

Stellenmarkt
  1. Wirtschaftsinformatiker (m/w/d) als Berater mit Schwerpunkt Rechenzentrum und Netzprodukte
    KDO Service GmbH, Oldenburg
  2. Data Integration Engineer (m/w/d)
    Helios IT Service GmbH, Berlin-Buch
Detailsuche

Bei dem Unfall im März 2018 in Phoenix (Arizona) war ein Testfahrzeug vom Typ Volvo XC90 im nächtlichen Verkehr mit einer 49 Jahre alten Frau kollidiert, die mit ihrem Fahrrad in der Dunkelheit eine vierspurige Straße überquerte. Anschließend hatte das Unternehmen sein Testprogramm mit autonomen Autos dauerhaft gestoppt, der Gouverneur von Arizona hatte die Testautos in seinem Bundesstaat stillgelegt.

Die Stellungsnahme der NTSB bestätigt im Wesentlichen die ausführlichen Unfallberichte, die die Behörde bereits vor zwei Wochen veröffentlicht hatte. Allerdings hebt die NTSB nun stärker hervor, dass die Testfahrerin nicht das Verkehrsgeschehen und das automatisierte System überwachen konnte, "weil sie während der Fahrt durch ihr privates Mobiltelefon abgelenkt wurde". Ohne diese Ablenkung hätte der Unfall wahrscheinlich verhindert oder hätten dessen Folgen verringert werden können.

Zu viel Vertrauen in die Technik

Uber wird wiederum vorgeworfen, nicht ausreichend dafür Sorge getragen zu haben, dass die Testfahrer auch tatsächlich das Fahrzeug während der Fahrt überwachen. Unzureichende Verfahren zur Einschätzung von Sicherheitsrisiken, eine unwirksame Überwachung der Testfahrer sowie unzureichende Mechanismen, um deren nachlassender Konzentration und einem zu großen Vertrauen in die Technik (automation complacency) bei den Testfahrten entgegenzuwirken, hätten zu dem Unfall beigetragen. Weitere Faktoren waren demnach, dass das gesundheitlich beeinträchtige Unfallopfer die mehrspurige Straße nicht an einem Fußgängerüberweg querte und dass der Bundesstaat Arizona die Testfahrten nicht ausreichend überwachte.

Golem Akademie
  1. AZ-104 Microsoft Azure Administrator: virtueller Vier-Tage-Workshop
    13.–16. Dezember 2021, virtuell
  2. Hands-on C# Programmierung: virtueller Zwei-Tage-Workshop
    4.–5. November 2021, virtuell
Weitere IT-Trainings

Zu den 19 Ergebnissen der Untersuchung gehört auch die Feststellung, dass Uber nicht angemessen die Sicherheitsrisiken einschätzte, die durch die funktionellen Defizite der Software hervorgerufen wurden. So war die Notbremsfunktion so programmiert worden, dass sie trotz einer zu erwartenden Kollision zunächst nicht eingreifen sollte. Zudem waren Sensorsysteme vor dem Unfall nicht in der Lage, der Frau mit ihrem Fahrrad ein konstantes Objekt zuzuweisen und sie als Fußgängerin zu erkennen. Dadurch konnte das System den wahrscheinlichen Pfadweg nicht berechnen. Die Entscheidung, auf einen zweiten Testfahrer zu verzichten, habe ebenfalls die Sicherheitsrisiken erhöht. Auch das Abschalten der vorinstallierten Notbremsfunktion des Volvo-Testwagens habe dazu beigetragen.

Abschließend schlägt die NTSB sechs Empfehlungen vor. Demnach soll die US-Straßenverkehrsbehörde NHTSA von den Firmen vor den Tests autonomer Autos eine Sicherheitseinschätzung verlangen. Die Einschätzung solle regelmäßig überprüft und bewertet werden, auch im Hinblick auf die Überwachung der Testfahrer. Dem Bundesstaat Arizona wird empfohlen, sich von den Entwicklern ein Konzept vorlegen zu lassen, wie beispielsweise der Unaufmerksamkeit der Testfahrer begegnet werden soll. Von Uber wird gefordert, die bereits in Gang gesetzten Änderungen beim Sicherheitsmanagement zu vervollständigen.

Uber hatte mehrere Monate nach dem Unfall wieder seine Testfahrten aufgenommen, allerdings nicht in Arizona, sondern unter modifizierten Bedingungen in Pittsburgh im US-Bundesstaat Pennsylvania. Für den Unfall muss das Unternehmen jedoch nicht strafrechtlich haften. Allerdings könnte die Testfahrerin noch belangt werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Pixel 6 und 6 Pro im Test
Google hat es endlich geschafft

Das Pixel 6 und Pixel 6 Pro werden endlich Googles Rang als Android-Macher gerecht: Die Smartphones bieten starke Hardware und sinnvolle Software.
Ein Test von Tobias Költzsch

Pixel 6 und 6 Pro im Test: Google hat es endlich geschafft
Artikel
  1. 20 Jahre Windows XP: Der letzte XP-Fan
    20 Jahre Windows XP
    Der letzte XP-Fan

    Windows XP wird 20 Jahre alt - und nur wenige nutzen es noch täglich. Golem.de hat einen dieser Anwender besucht.
    Ein Interview von Martin Wolf

  2. Schrems-II-Urteil: Dax-Chefs in großer Sorge wegen US-Cloud-Risiken
    Schrems-II-Urteil
    Dax-Chefs in "großer Sorge" wegen US-Cloud-Risiken

    Der Chef von Telefónica, Facebooks Europachefin und der SAP-Finanzvorstand wollen wieder rechtssicher Daten mit den USA austauschen können.

  3. iPhone: Anker bringt neues Magsafe-Zubehör
    iPhone
    Anker bringt neues Magsafe-Zubehör

    Für Nutzer eines iPhone 12 oder 13 hat Anker neues Magsafe-Zubehör parat: Unter anderem gibt es eine clevere Ladestation für iPhone und Airpods.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Bosch Professional günstiger • Punkte sammeln bei MM für Club-Mitglieder: 1.000 Punkte geschenkt • Alternate (u. a. Apacer 1TB SATA 86,90€ & Team Group 1TB PCIe 4.0 159,90€) • Echo Show 8 (1. Gen.) 64,99€ • Halloween Sale bei Gamesplanet • Smart Home von Eufy günstiger [Werbung]
    •  /