• IT-Karriere:
  • Services:

Begriffsverwirrung bei Politikern

Die Aussage von der Leyens macht deutlich: Für Politiker bestehen Softwareprogramme irgendwie aus Algorithmen, daher muss auch KI auf Algorithmen basieren. Auch das ist für den Informatiker Liggesmeyer ein Teil der Begriffsverwirrung: "Viele Politiker können Themen wie Algorithmen, Künstliche Intelligenz und Maschinelles Lernen meiner Erfahrung nach nicht auseinanderhalten. Wenn KI verwendet wird, ist meist Maschinelles Lernen auf der Basis neuronaler Netze gemeint. Auch das Weißbuch betrifft fast ausschließlich Maschinelles Lernen."

Stellenmarkt
  1. BEHG HOLDING AG, Berlin
  2. Techniker Krankenkasse, Hamburg

Liggesmeyer, der auch den Lehrstuhl für Software-Engineering an der Uni Kaiserslautern leitet, stellt klar: "Ein Algorithmus lernt gar nichts. Ein Algorithmus wird programmiert und dann ist er so, wie er ist. Es ist nicht ungewöhnlich, dass Politiker das nicht verstehen." Natürlich brauche man für Maschinelles Lernen auch Algorithmen. "Das Verhalten der KI bestimmt aber nicht der Algorithmus allein, sondern im Wesentlichen die Lerndaten", sagte Liggesmeyer. Normal programmierte Algorithmen sind perfekt transparent, so dass man nachschauen könne, wie diese Algorithmen funktionieren. Das sei bei Maschinellem Lernen überhaupt nicht der Fall und dieses Risiko sei im KI-Weißbuch klar benannt.

EU will Risiken durch KI reduzieren

In der Tat heißt es auf Seite 14: "Die besonderen Merkmale vieler KI-Technologien wie Opazität ('Blackbox-Effekt'), Komplexität, Unvorhersehbarkeit und teilautonomes Verhalten können die Prüfung der Vereinbarkeit und die wirksame Durchsetzung von EU-Rechtsvorschriften zum Schutz der Grundrechte erschweren" und es ist von "undurchsichtigen Entscheidungsprozessen" die Rede, die "potenzielle Gefahren" darstellten. Das heißt: Da neuronale Netze eben nicht wie klassische Softwareprogramme funktionieren, lässt sich nie mit letzter Gewissheit sagen, welches Ergebnis am Ende herauskommt.

Weil dem so ist, will die EU-Kommission möglichst verhindern, dass die Menschen durch eine schlecht funktionierende KI benachteiligt oder gar getötet werden. "So ist beispielsweise denkbar, dass ein autonomes Fahrzeug aufgrund eines Fehlers in der Objekterkennungstechnik einen Gegenstand auf der Straße falsch identifiziert und einen Unfall mit Verletzungen und Sachschäden verursacht", heißt es. Das ist nicht nur denkbar, sondern bei einer Testfahrt mit einem selbstfahrenden Uber-Auto schon passiert. Der Sektor Verkehr gehört neben dem Gesundheitswesen, dem Energiebereich und Teilen des öffentlichen Sektors daher zu den besonders risikobehafteten.

KI-Systeme schon seit Jahren im Einsatz

Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko", für die ein "regulatorischer Eingriff" nötig sein könnte. Damit will die Kommission unter anderem vermeiden, dass es europaweit viele unterschiedliche Regelungen für den Einsatz der neuen Technik gibt. Beim autonomen Fahren stellt sich jedoch die Frage, ob die Kommission nicht etwas naiv an das Thema herangeht und der Diskussion um Jahre hinterherhinkt.

Schließlich sind KI-Systeme zur Objekt- und Verkehrszeichenerkennung schon seit Jahren im Einsatz. Zwar ist bei diesen Fahrassistenzsystemen wie bei Teslas "Autopilot" noch immer der Fahrer verantwortlich (Stufe 2). Doch schon seit fünf Jahren macht sich die UN-Arbeitsgruppe für die automatische Lenkfunktion Gedanken darüber, wie Autos im Stau autonom fahren dürfen. Inzwischen steht sogar der Entwurf für eine entsprechende UN-Regelung (PDF) fest. Das heißt: Schon in diesem Jahr könnten erste Fahrzeuge mit Staupilot nach Stufe 3 zugelassen werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 KI-Strategie der EU: "Man muss sich nur entscheiden, wen man diskriminiert"Braucht es eigene EU-Regulierung? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Hardware-Angebote
  1. täglich neue Deals bei Alternate.de

Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?


Folgen Sie uns
       


    •  /