Braucht es eigene EU-Regulierung?

Forschungsprojekte wie das Projekt Pegasus beschäftigen sich ebenfalls schon seit Jahren mit der Frage, wie selbstfahrende Autos ausreichend getestet werden können und wie Mensch und Maschine am besten interagieren. Die Bundesregierung will noch weiter vorpreschen und hat bereits für dieses Frühjahr ein neues Umsetzungspaket angekündigt, das sogar selbstfahrende Taxis oder Busse (Stufe 4) ermöglichen soll. Warum also auf eine EU-Regulierung warten, wenn teils nationale und teils globale Regelungen auf UN-Ebene üblich sind?

Stellenmarkt
  1. Technikkoordinator/in Datenaustausch (w/m/d)
    Statistisches Bundesamt, Wiesbaden
  2. Softwareentwickler:in Java / Selenium / Cloud
    HUK-COBURG Versicherungsgruppe, Coburg
Detailsuche

Darüber hinaus scheint das Weißbuch die Problematik auch etwas naiv anzugehen. So wird eine "Robustheit und Genauigkeit" der Systeme verlangt. Bestimmte Anforderungen sollen gewährleisten, "dass KI-Systeme sowohl gegen offene Angriffe als auch gegen subtilere Versuche, Daten oder die Algorithmen selbst zu manipulieren, widerstandsfähig sind und dass in solchen Fällen Abhilfemaßnahmen ergriffen werden".

Keine 100-prozentige Sicherheit möglich

Liggesmeyer verweist in diesem Zusammenhang auf erfolgreiche Versuche, die Bilderkennungssysteme selbstfahrender Autos durch manipulierte Verkehrsschilder auszutricksen. Zuletzt gelang es Sicherheitsexperten, Schilder von Tempolimits so zu manipulieren, dass ältere Tesla-Modelle auf viel zu hohe Geschwindigkeiten beschleunigten.

"Wir können nicht garantieren, dass eine Bilderkennung mit Maschinellem Lernen ebenso gut funktioniert, wie ein kompetenter Mensch Dinge ohne Hilfsmittel erkennen könnte", sagt Liggesmeyer. "In manchen Fällen sind Menschen viel besser und die KI ist viel schlechter, oder umgekehrt, und das ist die Krux." Sein Vorschlag lautet: "Entweder müssen Machine-Learning-Verfahren selbst eine substanzielle Qualitätssteigerung erfahren, die dann auch irgendwo nachgewiesen werden muss. Oder man muss Lösungen dafür finden, wie man nachweislich sichere Systeme bauen kann, obwohl sie KI-Komponenten enthalten."

Reicht die menschliche Aufsicht?

Golem Akademie
  1. Advanced Python – Fortgeschrittene Programmierthemen: virtueller Zwei-Tage-Workshop
    27.–28. Januar 2022, Virtuell
  2. C++ Programmierung Basics: virtueller Fünf-Tage-Workshop
    13.–17. Dezember 2021, virtuell
Weitere IT-Trainings

Eine solche Lösung könnte beispielsweise darin bestehen, für selbstfahrende Autos Sensoren vorzuschreiben, die Objekte physikalisch ohne Mustererkennung detektieren können, wie das beispielsweise mit Laserscannern und Radaren möglich ist. Selbst Mobileye, Hersteller der ausgetricksten Tesla-Kameras, räumte ein: "Die autonome Fahrzeugtechnik verlässt sich nicht nur auf Sensordaten, sondern wird auch von verschiedenen anderen Techniken und Daten unterstützt, beispielsweise durch Crowdsourcing-Kartierung, um die Zuverlässigkeit der von den Kamerasensoren empfangenen Informationen zu gewährleisten und robustere Redundanzen und Sicherheit zu bieten."

Etwas naiv scheint auch die Einschätzung der EU-Kommission, mögliche Schwächen der KI durch "menschliche Aufsicht" beseitigen zu können. So soll die Möglichkeit bestehen, ein KI-System während des Betriebs zu überwachen und in Echtzeit eingreifen zu können, beispielsweise "verfügt ein fahrerloses Fahrzeug über eine Stopptaste oder einen Mechanismus, der aktiviert werden kann, wenn ein Mensch feststellt, dass der Fahrbetrieb nicht sicher ist". Nun zeichnet sich das autonome Fahren in den höheren Automatisierungsstufen 4 und 5 gerade dadurch aus, dass die Insassen das Fahrgeschehen nicht permanent überwachen müssen. Möglicherweise verfügt das Auto nicht einmal mehr über Fahrpedale oder ein Lenkrad.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Begriffsverwirrung bei PolitikernSchwache Forderungen bei Gesichtserkennung 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?



Aktuell auf der Startseite von Golem.de
Kanadische Polizei
Diebe nutzen Apples Airtags zum Tracking von Luxuswagen

Autodiebe in Kanada nutzen offenbar Apples Airtags, um Fahrzeuge heimlich zu orten.

Kanadische Polizei: Diebe nutzen Apples Airtags zum Tracking von Luxuswagen
Artikel
  1. Blender Foundation: Blender 3.0 ist da
    Blender Foundation
    Blender 3.0 ist da

    Die freie 3D-Software Blender bekommt ein Update - wir haben es uns angesehen.
    Von Martin Wolf

  2. 4 Motoren und 4-Rad-Lenkung: Tesla aktualisiert Cybertruck
    4 Motoren und 4-Rad-Lenkung
    Tesla aktualisiert Cybertruck

    Tesla-Chef Elon Musk hat einige Änderungen am Cybertruck angekündigt. Der elektrische Pick-up-Truck wird mit vier Motoren ausgerüstet.

  3. DSIRF: Hackerbehörde Zitis prüft österreichischen Staatstrojaner
    DSIRF
    Hackerbehörde Zitis prüft österreichischen Staatstrojaner

    Deutsche Behörden sind mit mehreren Staatstrojaner-Herstellern im Gespräch. Nun ist ein weiterer mit Sitz in Wien bekanntgeworden.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Advent: SanDisk Ultra 3D 1 TB 77€ • KFA2 Geforce RTX 3070 OC 8GB 1.019€ • Alternate (u. a. AKRacing Core SX 269,98€) • Sharkoon PureWriter RGB 44,90€ • Corsair K70 RGB MK.2 139,99€ • 2x Canton Plus GX.3 49€ • Gaming-Monitore günstiger (u. a. Samsung G3 27" 144Hz 219€) [Werbung]
    •  /