Begriffsverwirrung bei Politikern

Die Aussage von der Leyens macht deutlich: Für Politiker bestehen Softwareprogramme irgendwie aus Algorithmen, daher muss auch KI auf Algorithmen basieren. Auch das ist für den Informatiker Liggesmeyer ein Teil der Begriffsverwirrung: "Viele Politiker können Themen wie Algorithmen, Künstliche Intelligenz und Maschinelles Lernen meiner Erfahrung nach nicht auseinanderhalten. Wenn KI verwendet wird, ist meist Maschinelles Lernen auf der Basis neuronaler Netze gemeint. Auch das Weißbuch betrifft fast ausschließlich Maschinelles Lernen."

Stellenmarkt
  1. Junior SAP Inhouse Consultant (m/w/d) ECTR / Content Server
    HOMAG GmbH, Schopfloch
  2. Linux Systemadministrator (m/w/d)
    Stiftung Kirchliches Rechenzentrum Südwestdeutschland, Eggenstein-Leopoldshafen
Detailsuche

Liggesmeyer, der auch den Lehrstuhl für Software-Engineering an der Uni Kaiserslautern leitet, stellt klar: "Ein Algorithmus lernt gar nichts. Ein Algorithmus wird programmiert und dann ist er so, wie er ist. Es ist nicht ungewöhnlich, dass Politiker das nicht verstehen." Natürlich brauche man für Maschinelles Lernen auch Algorithmen. "Das Verhalten der KI bestimmt aber nicht der Algorithmus allein, sondern im Wesentlichen die Lerndaten", sagte Liggesmeyer. Normal programmierte Algorithmen sind perfekt transparent, so dass man nachschauen könne, wie diese Algorithmen funktionieren. Das sei bei Maschinellem Lernen überhaupt nicht der Fall und dieses Risiko sei im KI-Weißbuch klar benannt.

EU will Risiken durch KI reduzieren

In der Tat heißt es auf Seite 14: "Die besonderen Merkmale vieler KI-Technologien wie Opazität ('Blackbox-Effekt'), Komplexität, Unvorhersehbarkeit und teilautonomes Verhalten können die Prüfung der Vereinbarkeit und die wirksame Durchsetzung von EU-Rechtsvorschriften zum Schutz der Grundrechte erschweren" und es ist von "undurchsichtigen Entscheidungsprozessen" die Rede, die "potenzielle Gefahren" darstellten. Das heißt: Da neuronale Netze eben nicht wie klassische Softwareprogramme funktionieren, lässt sich nie mit letzter Gewissheit sagen, welches Ergebnis am Ende herauskommt.

Weil dem so ist, will die EU-Kommission möglichst verhindern, dass die Menschen durch eine schlecht funktionierende KI benachteiligt oder gar getötet werden. "So ist beispielsweise denkbar, dass ein autonomes Fahrzeug aufgrund eines Fehlers in der Objekterkennungstechnik einen Gegenstand auf der Straße falsch identifiziert und einen Unfall mit Verletzungen und Sachschäden verursacht", heißt es. Das ist nicht nur denkbar, sondern bei einer Testfahrt mit einem selbstfahrenden Uber-Auto schon passiert. Der Sektor Verkehr gehört neben dem Gesundheitswesen, dem Energiebereich und Teilen des öffentlichen Sektors daher zu den besonders risikobehafteten.

KI-Systeme schon seit Jahren im Einsatz

Golem Akademie
  1. Penetration Testing Fundamentals: virtueller Zwei-Tage-Workshop
    17.–18. Januar 2022, Virtuell
  2. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    9.–10. Dezember 2021, virtuell
Weitere IT-Trainings

Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko", für die ein "regulatorischer Eingriff" nötig sein könnte. Damit will die Kommission unter anderem vermeiden, dass es europaweit viele unterschiedliche Regelungen für den Einsatz der neuen Technik gibt. Beim autonomen Fahren stellt sich jedoch die Frage, ob die Kommission nicht etwas naiv an das Thema herangeht und der Diskussion um Jahre hinterherhinkt.

Schließlich sind KI-Systeme zur Objekt- und Verkehrszeichenerkennung schon seit Jahren im Einsatz. Zwar ist bei diesen Fahrassistenzsystemen wie bei Teslas "Autopilot" noch immer der Fahrer verantwortlich (Stufe 2). Doch schon seit fünf Jahren macht sich die UN-Arbeitsgruppe für die automatische Lenkfunktion Gedanken darüber, wie Autos im Stau autonom fahren dürfen. Inzwischen steht sogar der Entwurf für eine entsprechende UN-Regelung (PDF) fest. Das heißt: Schon in diesem Jahr könnten erste Fahrzeuge mit Staupilot nach Stufe 3 zugelassen werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 KI-Strategie der EU: "Man muss sich nur entscheiden, wen man diskriminiert"Braucht es eigene EU-Regulierung? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Aktuell auf der Startseite von Golem.de
Feldversuch E-Mobility-Chaussee
So schnell bringen E-Autos das Stromnetz ans Limit

Das Laden von Elektroautos stellt Netzbetreiber auf dem Land vor besondere Herausforderungen. Ein Pilotprojekt hat verschiedene Lösungen getestet.
Ein Bericht von Friedhelm Greis

Feldversuch E-Mobility-Chaussee: So schnell bringen E-Autos das Stromnetz ans Limit
Artikel
  1. Encrochat-Hack: Damit würde man keinen Geschwindigkeitsverstoß verurteilen
    Encrochat-Hack
    "Damit würde man keinen Geschwindigkeitsverstoß verurteilen"

    Der Anwalt Johannes Eisenberg hat sich die Daten aus dem Encrochat-Hack genauer angesehen und viel Merkwürdiges entdeckt.
    Ein Interview von Moritz Tremmel

  2. Geforce Now (RTX 3080) im Test: 1440p120 mit Raytracing aus der Cloud
    Geforce Now (RTX 3080) im Test
    1440p120 mit Raytracing aus der Cloud

    Höhere Auflösung, mehr Bilder pro Sekunde, kürzere Latenzen: Geforce Now mit virtueller Geforce RTX 3080 ist Cloud-Gaming par excellence.
    Ein Test von Marc Sauter

  3. SpaceX: Starlink testet Satelliteninternet in Flugzeugen
    SpaceX
    Starlink testet Satelliteninternet in Flugzeugen

    Bald dürften mehrere Flugesellschaften Starlink-Service anbieten. Laut einem Manager soll es so schnell wie möglich gehen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Gaming-Monitore zu Bestpreisen (u. a. Samsung G9 49" 32:9 Curved QLED 240Hz 1.149€) • Spiele günstiger: PC, PS5, Xbox, Switch • Zurück in die Zukunft Trilogie 4K 31,97€ • be quiet 750W-PC-Netzteil 87,90€ • Cambridge Audio Melomonia Touch 89,95€ • Gaming-Stühle zu Bestpreisen [Werbung]
    •  /