Original-URL des Artikels: https://www.golem.de/news/uber-unfall-die-vielen-widersprueche-des-autonomen-fahrens-1803-133494.html    Veröffentlicht: 23.03.2018 12:06    Kurz-URL: https://glm.io/133494

Uber-Unfall

Die vielen Widersprüche des autonomen Fahrens

Der tödliche Unfall mit einem autonomen Uber-Auto könnte mit einer überstürzten Entwicklung der neuen Technik zusammenhängen. Aber nicht nur Fragen der Sicherheit, auch die gesellschaftlichen Folgen des autonomen Fahrens sollten intensiver diskutiert werden.

Der tödliche Unfall hat die Skeptiker der neuen Technik nur zu leicht bestätigt. Die Stadt werde "zur Hochrisiko-Teststrecke für private Konzerne und deren kommerzielle Interessen", schrieb die Frankfurter Allgemeine Zeitung (FAZ), bevor nur annähernd klar war, warum ein autonom fahrendes Testauto des Fahrdienstes Uber eine Frau überfahren hat, die nachts ihr Fahrrad über die Straße schob. Doch unabhängig von der Frage, wer am Ende den Tod der Frau in Arizona verursacht hat: Der Unfall sollte zum Anlass genommen werden, über die besonderen Probleme des autonomen Fahrens zu diskutieren und darüber, wie die Gesellschaft damit umgehen sollte.

<#youtube id="XtTB8hTgHbM"> Die Tatsache, dass in den USA überhaupt schon so intensiv in städtischen Räumen getestet wird, macht ein Dilemma der neuen Technik deutlich: Geld verdienen lässt sich mit autonomen Autos vor allem, wenn sie die menschlichen Fahrer bei Fahrdiensten und Taxis ersetzen können. Die Verlockung, übereilt entwickelte Technik einzusetzen, ist groß. Dabei ist das autonome Fahren in der Stadt viel anspruchsvoller als beispielsweise auf der Autobahn. Es gibt viel mehr Verkehrsfaktoren wie schwer berechenbare Fußgänger und Radfahrer, die erkannt und mit einbezogen werden müssen.

Testautos müssen Daten sammeln

Umso erstaunlicher, dass US-Bundesstaaten wie Kalifornien inzwischen sogar schon die Tests von selbstfahrenden Autos ohne Testfahrer erlauben. Den Bewohnern solcher Teststädte dürfte langsam mulmig werden. Erst recht nach diesem Unfall.

Bei selbstfahrenden Autos lassen sich Entwicklung und Testen nicht so leicht trennen wie bei herkömmlichen Fahrzeugen. Die Steuerungssoftware muss durch möglichst viele Daten angelernt werden. Die Testflotten sind daher wie Fahrschüler, die das richtige Fahren auf den Straßen noch nicht perfekt beherrschen, sondern mit möglichst vielen Millionen oder gar Milliarden Kilometern erst lernen müssen. Die Testfahrer sind eine Mischung aus Fahrlehrer und Datensammler. Bis Oktober 2017 setzte Uber laut New York Times für die beiden Zwecke jeweils zwei Testfahrer pro Fahrzeug ein.

Ist der Unfall ein Uber-Problem?

Vor diesem Hintergrund erscheint es fast erstaunlich, dass es bislang erst zu sehr wenigen ernsthaften Unfällen mit den Testautos kam. Obwohl Google schon sehr viel länger als Uber mit autonomen Autos durch die Gegend fährt, gab es nie eine solch schwerwiegende Kollision mit einem anderen Verkehrsteilnehmer.

Das wirft natürlich die Frage auf, ob es sich hier nicht um ein Problem der Branche und der Technik, sondern des betroffenen Unternehmens handelt. Uber ist leider nur zu bekannt dafür, sich über geltende Regeln und Vorschriften hinwegzusetzen und rigoros sein Geschäftsmodell durchsetzen zu wollen. Anders als für Google/Waymo könnte es für den Fahrdienst zudem zu einer existenziellen Frage werden, möglichst schnell mit Hilfe autonomer Autos seine Kosten zu reduzieren und einen Wettbewerbsvorteil zu bekommen.

Schnelligkeit vor Sicherheit

Der umstrittene Auto-Entwickler Anthony Levandowki soll bei seinem früheren Arbeitgeber Google großen Druck gemacht haben, möglichst schnell möglichst viele Testautos auf die Straße zu bringen, wie The Verge berichtete. Nach seinem Wechsel zu Uber soll er bei dem inzwischen geschassten Firmengründer Travis Kalanick hingegen mit seinem Fokus auf Geschwindigkeit auf Zustimmung gestoßen sein. Levandowkis Motto: "Ich sehe das als ein Wettrennen, und wir müssen gewinnen. Der zweite Platz ist der erste Verlierer." Kalanick sagte Business Insider im Jahr 2016: "Wenn wir nicht die Ersten sind, wird die führende Person oder Institution einen Mitfahrdienst ausrollen, der viel billiger oder viel besser ist als Uber, dann ist Uber weg vom Fenster."

Der Unfall könnte leider die Befürchtungen bestätigen, dass bei Uber die Entwicklungsgeschwindigkeit über die Sicherheit ging. Denn aus technischer Perspektive müsste das Auto die Frau eigentlich wahrgenommen haben. Ein Fahrzeug, das neben Kameras auch über Laserscanner und Radar verfügt, ist auf jeden Fall in der Lage, auf gerader Strecke rechtzeitig eine Person zu detektieren, die von der anderen Straßenseite aus mehrere Fahrbahnen überquert. Die Frage ist nur: Kann die Software ein solches Objekt richtig identifizieren und schnell genug bremsen, um eine Kollision zu vermeiden? Weil die Kameras von Mobileye nicht darauf trainiert waren, querende Objekte wahrzunehmen, war es im Mai 2016 zu dem tödlichen Unfall mit einem Tesla gekommen.

Viele Ursachen für Unfall möglich

Wenn ein Objekt richtig erkannt wurde, muss das System berechnen, ob es den geplanten Fahrweg kreuzen wird. Das ist unabhängig davon, ob das in dieser Situation überhaupt erlaubt ist. Serienmäßige Autos wie die Mercedes S- oder E-Klasse können das schon ziemlich gut und schätzen in Bruchteilen von Sekunden ein, ob eventuell gebremst oder ausgewichen werden muss. Ein Fehler hätte aber fatale Folgen. Daher werden solche Assistenzsysteme zunächst mit Auto-Dummys ausgiebig getestet, bevor sie im realen Straßenverkehr zum Einsatz kommen. Inwieweit Uber und Volvo solche Situationen auf einem Testgelände geprobt haben, ist unklar.

Eine Fehlerquelle kann auch darin liegen, dass die einzelnen Sensorsysteme widersprüchliche Daten erfassen. Hier muss der Zentralrechner entscheiden, welchem Sensor er im Zweifel glaubt. Das ist der Vorteil, wenn drei Sensortypen genutzt werden. Falls die Kamera ein Objekt wegen der Dunkelheit nicht wahrnimmt, kann es von Lidar und Radar überstimmt werden. Doch kann man von einem autonomen Testauto schon erwarten, dass es perfekt funktioniert? Gar Situationen schon besser erkennt als der menschliche Testfahrer?

Überwachen autonomer Autos sehr anstrengend

Sicherlich nicht. Aber wenn ein System noch in der Lernphase ist und andere Verkehrsteilnehmer noch nicht sicher identifizieren kann, ist die Aufmerksamkeit des Testfahrers umso wichtiger. Doch hier offenbart sich das nächste Dilemma. Es ist extrem anstrengend und ermüdend, stundenlang ein Fahrzeug zu überwachen, das im Grunde alles selbst machen kann. Um dann genau in der entscheidenden Sekunde, in der die Technik versagt, hellwach zu sein und die richtige Entscheidung zu treffen. Das ist nicht ohne gewissen Grund das Argument von Google gewesen, Zwischenstufen wie das hoch- und vollautomatisierte Fahren zu überspringen und gleich Autos ohne Lenkrad und Bremse zu bauen. Im konkreten Fall hat der Testfahrer vermutlich nicht damit gerechnet, dass es nachts auf dieser Straße überhaupt zu einer kritischen Situation kommen könnte.

Zudem können solche Systeme immer ausfallen, wenn sie nicht redundant genug ausgelegt sind. Nicht umsonst verfügt der Cruise AV von General Motors über 5 Laserscanner, 16 Kameras und 21 Radare. Nicht nur Lenkung und Bremsen, auch der zentrale Fahrzeugcomputer sind doppelt vorhanden. Levandowski schrieb an seinen damaligen Firmenchef Larry Page von Alphabet jedoch im Jahr 2016: "Wir brauchen keine redundanten Bremsen oder Lenkung oder ein schickes neues Auto, wir brauchen bessere Software. Um bessere Software zu bekommen, sollten wir so schnell wie möglich die ersten 1.000 Autos losfahren lassen." Es sei zu hoffen, dass Uber nach dem Ausscheiden von Kalanick und Levandowski nicht mehr die Strategie verfolge, um jeden Preis das Rennen gewinnen zu wollen, schrieb Ars Technica in einer Analyse.

Autoexperten geben Uber die Schuld

Ob im konkreten Fall der Unfall hätte vermieden werden können, ist daher strittig. Viel Reaktionszeit blieb nicht, nachdem die Frau mit ihrem Fahrrad im Scheinwerferlicht aufgetaucht war. Selbst wenn der Testfahrer konzentriert die Fahrbahn beobachtet hätte. US-Autoexperten geben dennoch dem Auto die Schuld, weil die Sensoren die Frau auf jeden Fall hätten rechtzeitig wahrnehmen müssen. "Während ein Mensch die Kollision möglicherweise nicht hätte verhindern können, sollte ein gut entwickeltes und gut funktionierendes Kollisionsvermeidungssystem zumindest eine Bremsung eingeleitet haben", sagte Alain Kornhauser, der an der Princeton Universität den Bereich autonomes Fahren leitet, der Los Angeles Times zufolge.

Das nächste Dilemma: Autonome Autos sollen nicht nur menschliche Fahrer ersetzen können, sondern auch noch sicherer sein. Aber muss es die Gesellschaft akzeptieren, dass es bei den Testfahrten im öffentlichen Straßenverkehr zu tödlichen Unfällen kommt? Weil die Technik noch nicht ausgereift ist oder die Testfahrer unaufmerksam sind? Sicherlich nicht, wenn dahinter der Druck steht, aus wirtschaftlichem Interesse möglichst schnell und billig die Testkilometer zu sammeln.

Deutsche Hersteller setzen Design über Sicherheit

Denn dann besteht die Gefahr, dass eine an sich sinnvolle Technik, die den Tod vieler Menschen verhindern könnte, von Anfang an nicht akzeptiert wird. Der Ansatz der deutschen Hersteller, sich langsam über die einzelnen Automatisierungsstufen zum autonomen Auto vorzuarbeiten, hat da schon etwas für sich.

Doch selbst bei diesem Ansatz zeigen sich strukturelle Probleme und Widersprüche. Denn den deutschen Oberklasseherstellern ist ein Graus, die Optik ihrer Autos den Erfordernissen der Technik anzupassen. Während die aktuellen Testautos von Google, General Motors oder auch Uber nicht ohne Grund die Sensoren wie Lidar und Kamera oben auf dem Dach positionieren, verstecken Audi, Daimler und BMW sie möglichst gut hinter der Karosserie oder im Kühlergrill. Das schränkt die Reichweite ein, was vor allem bei schnellen Fahrten auf der Autobahn ein Problem werden könnte. Stattdessen verwenden die Hersteller eine große Anstrengung darauf, mit der Vernetzung der Autos die designbedingte Kurzsichtigkeit zu kompensieren.

Autonome Autos als Verkehrshindernis

Sind die autonomen Autos von heute daher wirklich das, was die Fantasien vom atomgetriebenen Auto in den 1950er Jahren waren, wie es die FAZ andeutet? Sicherlich nicht. Dafür ist die Technik schon auf vielen Gebieten schon recht weit fortgeschritten. Allerdings reicht es für einen sinnvollen Einsatz der autonomen Autos nicht aus, dass tödliche Unfälle verhindert werden. Die Autos müssen auch in der Lage sein, sich in den bestehenden Verkehr gut einzufügen. Daran scheint es beispielsweise bei GMs Cruise AV noch sehr zu hapern, wie jüngste US-Medienberichte zeigen. Demnach beherrschen die Autos viele Verkehrssituationen noch nicht und sind deutlich langsamer als menschliche Fahrer unterwegs.

Ist die künstliche Intelligenz, die trotz aller Fortschritte noch keinen Text zuverlässig in eine andere Sprache übersetzen kann, vielleicht doch noch nicht so weit, ein Auto sicher und flüssig zu steuern? Ob die teils vollmundigen Ankündigungen wirklich dem Stand der Technik entsprechen oder reines Marketing darstellen, lässt sich von außen nur schwer beurteilen.

Autoingenieure sind noch skeptisch

Auf der VDI-Tagung ELIV im vergangenen Oktober in Bonn gab auf die Frage, wann autonome Autos (Stufe 5) serienreif sein werden, die Mehrheit der versammelten Autoingenieure das Jahr 2030 als Antwort. An zweiter Stelle wurde 2035 genannt. Offenbar sind die Entwickler selbst viel skeptischer, was den Entwicklungsstand der Technik betrifft. Das ist durchaus angebracht, denn ein Auto ist nun einmal keine Software, die als Betaversion ausgeliefert wird und gelegentlich einmal abstürzen kann.

Eine weniger überstürzte Einführung der neuen Technik würde es zudem ermöglichen, ausführlicher über deren gesellschaftliche Folgen zu diskutieren. Schließlich geht es gerade Firmen wie Uber oder Speditionen nicht darum, mit Hilfe autonomer Taxis oder Lkw die menschlichen Fahrer zu entlasten, sondern zu ersetzen. Während die Firmen Profite mit der neuen Technik machen, muss die Allgemeinheit das Problem lösen, Tausenden von Menschen einen neuen Job zu verschaffen. Sonst werden Taxi- und Lkw-Fahrer zu den Webern des 21. Jahrhunderts.

Autonome Autos sollten autonom sein

Kritiker wie die FAZ sehen in der Einführung selbstfahrender Autos sogar "die Verwandlung des aktiven, seiner Verantwortung bewussten, aktiv handelnden Bürgers in einen dösenden Beifahrer zentral gesteuerter, in ihrem Handeln letztlich kaum noch kontrollierbarer Systeme". Das wird hoffentlich Unsinn bleiben, solange die autonomen Autos tatsächlich autonom fahren können und nicht aufgrund ihrer eigenen technischen Unzulänglichkeiten von einer vernetzten externen Steuerungsinstanz und Kommunikation abhängig werden.

Nicht ausgeschlossen, dass eine unheilige Allianz aus Politik, Autoindustrie und Telekommunikationsfirmen eine solches Konzept dem Verkehr überstülpen will. Angesichts des Unfalls in Arizona ist es an der Zeit, nicht nur über die Fragen der Sicherheit des autonomen Fahrens zu debattieren.  (fg)


Verwandte Artikel:
Autonomes Fahren: Uber-Sicherheitsfahrerin guckte vor dem Unfall nach unten   
(22.03.2018, https://glm.io/133467 )
Uber: Frau nach Unfall mit autonomem Auto gestorben   
(19.03.2018, https://glm.io/133401 )
Unfall von Uber: Toyota unterbricht Testprogramm für autonome Autos   
(21.03.2018, https://glm.io/133432 )
Patentantrag: Uber will Fußgänger vor autonomen Autos warnen   
(19.03.2018, https://glm.io/133384 )
Kalifornien: Apple testet mehr autonome Autos als Waymo   
(21.03.2018, https://glm.io/133433 )

© 1997–2019 Golem.de, https://www.golem.de/