• IT-Karriere:
  • Services:

Braucht es eigene EU-Regulierung?

Forschungsprojekte wie das Projekt Pegasus beschäftigen sich ebenfalls schon seit Jahren mit der Frage, wie selbstfahrende Autos ausreichend getestet werden können und wie Mensch und Maschine am besten interagieren. Die Bundesregierung will noch weiter vorpreschen und hat bereits für dieses Frühjahr ein neues Umsetzungspaket angekündigt, das sogar selbstfahrende Taxis oder Busse (Stufe 4) ermöglichen soll. Warum also auf eine EU-Regulierung warten, wenn teils nationale und teils globale Regelungen auf UN-Ebene üblich sind?

Stellenmarkt
  1. Statistisches Bundesamt, Wiesbaden
  2. Universitätsmedizin der Johannes Gutenberg-Universität Mainz, Mainz

Darüber hinaus scheint das Weißbuch die Problematik auch etwas naiv anzugehen. So wird eine "Robustheit und Genauigkeit" der Systeme verlangt. Bestimmte Anforderungen sollen gewährleisten, "dass KI-Systeme sowohl gegen offene Angriffe als auch gegen subtilere Versuche, Daten oder die Algorithmen selbst zu manipulieren, widerstandsfähig sind und dass in solchen Fällen Abhilfemaßnahmen ergriffen werden".

Keine 100-prozentige Sicherheit möglich

Liggesmeyer verweist in diesem Zusammenhang auf erfolgreiche Versuche, die Bilderkennungssysteme selbstfahrender Autos durch manipulierte Verkehrsschilder auszutricksen. Zuletzt gelang es Sicherheitsexperten, Schilder von Tempolimits so zu manipulieren, dass ältere Tesla-Modelle auf viel zu hohe Geschwindigkeiten beschleunigten.

"Wir können nicht garantieren, dass eine Bilderkennung mit Maschinellem Lernen ebenso gut funktioniert, wie ein kompetenter Mensch Dinge ohne Hilfsmittel erkennen könnte", sagt Liggesmeyer. "In manchen Fällen sind Menschen viel besser und die KI ist viel schlechter, oder umgekehrt, und das ist die Krux." Sein Vorschlag lautet: "Entweder müssen Machine-Learning-Verfahren selbst eine substanzielle Qualitätssteigerung erfahren, die dann auch irgendwo nachgewiesen werden muss. Oder man muss Lösungen dafür finden, wie man nachweislich sichere Systeme bauen kann, obwohl sie KI-Komponenten enthalten."

Reicht die menschliche Aufsicht?

Eine solche Lösung könnte beispielsweise darin bestehen, für selbstfahrende Autos Sensoren vorzuschreiben, die Objekte physikalisch ohne Mustererkennung detektieren können, wie das beispielsweise mit Laserscannern und Radaren möglich ist. Selbst Mobileye, Hersteller der ausgetricksten Tesla-Kameras, räumte ein: "Die autonome Fahrzeugtechnik verlässt sich nicht nur auf Sensordaten, sondern wird auch von verschiedenen anderen Techniken und Daten unterstützt, beispielsweise durch Crowdsourcing-Kartierung, um die Zuverlässigkeit der von den Kamerasensoren empfangenen Informationen zu gewährleisten und robustere Redundanzen und Sicherheit zu bieten."

Etwas naiv scheint auch die Einschätzung der EU-Kommission, mögliche Schwächen der KI durch "menschliche Aufsicht" beseitigen zu können. So soll die Möglichkeit bestehen, ein KI-System während des Betriebs zu überwachen und in Echtzeit eingreifen zu können, beispielsweise "verfügt ein fahrerloses Fahrzeug über eine Stopptaste oder einen Mechanismus, der aktiviert werden kann, wenn ein Mensch feststellt, dass der Fahrbetrieb nicht sicher ist". Nun zeichnet sich das autonome Fahren in den höheren Automatisierungsstufen 4 und 5 gerade dadurch aus, dass die Insassen das Fahrgeschehen nicht permanent überwachen müssen. Möglicherweise verfügt das Auto nicht einmal mehr über Fahrpedale oder ein Lenkrad.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Begriffsverwirrung bei PolitikernSchwache Forderungen bei Gesichtserkennung 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Top-Angebote
  1. ab 84,90€ auf Geizhals
  2. 86,51€ (Vergleichspreis 98,62€ + Lieferzeit, 103,78€ sofort verfügbar)
  3. 418,15€

Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?


Folgen Sie uns
       


Geforce RTX 3080: Wir legen die Karten offen
Geforce RTX 3080
Wir legen die Karten offen

Am 16. September 2020 geht der Test der Geforce RTX 3080 online. Wir zeigen vorab, welche Grafikkarten und welche Spiele wir einsetzen werden.

  1. Ethereum-Mining Nvidias Ampere-Karten könnten Crypto-Boom auslösen
  2. Gaming Warum DLSS das bessere 8K ist
  3. Nvidia Ampere Geforce RTX 3000 verdoppeln Gaming-Leistung

Immortals Fenyx Rising angespielt: Göttliches Gaga-Gegenstück zu Assassin's Creed
Immortals Fenyx Rising angespielt
Göttliches Gaga-Gegenstück zu Assassin's Creed

Abenteuer im antiken Griechenland mal anders! Golem.de hat das für Dezember 2020 geplante Immortals ausprobiert und zeigt Gameplay im Video.
Von Peter Steinlechner


    Super Mario Bros.: Mehr Klassiker geht nicht
    Super Mario Bros.
    Mehr Klassiker geht nicht

    Super Mario Bros. wird 35 Jahre alt! Golem.de hat den Klassiker im Original erneut gespielt - und nicht nur Lob für ihn.
    Von Benedikt Plass-Fleßenkämper

    1. Super Mario 3D All-Stars Nintendo kündigt überarbeitete Klempner-Klassiker an
    2. Nintendo Update erlaubt Weltenbau in Super Mario Maker 2
    3. Nintendo Auch Lego Super Mario sammelt Münzen

      •  /