• IT-Karriere:
  • Services:

Braucht es eigene EU-Regulierung?

Forschungsprojekte wie das Projekt Pegasus beschäftigen sich ebenfalls schon seit Jahren mit der Frage, wie selbstfahrende Autos ausreichend getestet werden können und wie Mensch und Maschine am besten interagieren. Die Bundesregierung will noch weiter vorpreschen und hat bereits für dieses Frühjahr ein neues Umsetzungspaket angekündigt, das sogar selbstfahrende Taxis oder Busse (Stufe 4) ermöglichen soll. Warum also auf eine EU-Regulierung warten, wenn teils nationale und teils globale Regelungen auf UN-Ebene üblich sind?

Stellenmarkt
  1. Schöffel Sportbekleidung GmbH, Schwabmünchen
  2. Volkswagen Vertriebsbetreuungsgesellschaft mbH, Berlin, Wolfsburg

Darüber hinaus scheint das Weißbuch die Problematik auch etwas naiv anzugehen. So wird eine "Robustheit und Genauigkeit" der Systeme verlangt. Bestimmte Anforderungen sollen gewährleisten, "dass KI-Systeme sowohl gegen offene Angriffe als auch gegen subtilere Versuche, Daten oder die Algorithmen selbst zu manipulieren, widerstandsfähig sind und dass in solchen Fällen Abhilfemaßnahmen ergriffen werden".

Keine 100-prozentige Sicherheit möglich

Liggesmeyer verweist in diesem Zusammenhang auf erfolgreiche Versuche, die Bilderkennungssysteme selbstfahrender Autos durch manipulierte Verkehrsschilder auszutricksen. Zuletzt gelang es Sicherheitsexperten, Schilder von Tempolimits so zu manipulieren, dass ältere Tesla-Modelle auf viel zu hohe Geschwindigkeiten beschleunigten.

"Wir können nicht garantieren, dass eine Bilderkennung mit Maschinellem Lernen ebenso gut funktioniert, wie ein kompetenter Mensch Dinge ohne Hilfsmittel erkennen könnte", sagt Liggesmeyer. "In manchen Fällen sind Menschen viel besser und die KI ist viel schlechter, oder umgekehrt, und das ist die Krux." Sein Vorschlag lautet: "Entweder müssen Machine-Learning-Verfahren selbst eine substanzielle Qualitätssteigerung erfahren, die dann auch irgendwo nachgewiesen werden muss. Oder man muss Lösungen dafür finden, wie man nachweislich sichere Systeme bauen kann, obwohl sie KI-Komponenten enthalten."

Reicht die menschliche Aufsicht?

Eine solche Lösung könnte beispielsweise darin bestehen, für selbstfahrende Autos Sensoren vorzuschreiben, die Objekte physikalisch ohne Mustererkennung detektieren können, wie das beispielsweise mit Laserscannern und Radaren möglich ist. Selbst Mobileye, Hersteller der ausgetricksten Tesla-Kameras, räumte ein: "Die autonome Fahrzeugtechnik verlässt sich nicht nur auf Sensordaten, sondern wird auch von verschiedenen anderen Techniken und Daten unterstützt, beispielsweise durch Crowdsourcing-Kartierung, um die Zuverlässigkeit der von den Kamerasensoren empfangenen Informationen zu gewährleisten und robustere Redundanzen und Sicherheit zu bieten."

Etwas naiv scheint auch die Einschätzung der EU-Kommission, mögliche Schwächen der KI durch "menschliche Aufsicht" beseitigen zu können. So soll die Möglichkeit bestehen, ein KI-System während des Betriebs zu überwachen und in Echtzeit eingreifen zu können, beispielsweise "verfügt ein fahrerloses Fahrzeug über eine Stopptaste oder einen Mechanismus, der aktiviert werden kann, wenn ein Mensch feststellt, dass der Fahrbetrieb nicht sicher ist". Nun zeichnet sich das autonome Fahren in den höheren Automatisierungsstufen 4 und 5 gerade dadurch aus, dass die Insassen das Fahrgeschehen nicht permanent überwachen müssen. Möglicherweise verfügt das Auto nicht einmal mehr über Fahrpedale oder ein Lenkrad.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Begriffsverwirrung bei PolitikernSchwache Forderungen bei Gesichtserkennung 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Top-Angebote
  1. (u. a. Hell Let Loose für 15,99€, Star Wars Battlefront 2 (2017) für 10,49€, BioShock - The...
  2. (u. a. Heldenfilme in 4K: Venom, Spider-Man: Far From Home, Jumanji: The Next Level, Bloodshot...
  3. 59€ (Bestpreis)
  4. 1.099€ (Bestpreis)

Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?


Folgen Sie uns
       


Mafia (2002) - Golem retro_

Wer in der Mafia hoch hinaus will, muss loyal sein - ansonsten verstößt ihn die Familie. In Golem retro_ haben wir das erneut selbst erlebt.

Mafia (2002) - Golem retro_ Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /