• IT-Karriere:
  • Services:

Begriffsverwirrung bei Politikern

Die Aussage von der Leyens macht deutlich: Für Politiker bestehen Softwareprogramme irgendwie aus Algorithmen, daher muss auch KI auf Algorithmen basieren. Auch das ist für den Informatiker Liggesmeyer ein Teil der Begriffsverwirrung: "Viele Politiker können Themen wie Algorithmen, Künstliche Intelligenz und Maschinelles Lernen meiner Erfahrung nach nicht auseinanderhalten. Wenn KI verwendet wird, ist meist Maschinelles Lernen auf der Basis neuronaler Netze gemeint. Auch das Weißbuch betrifft fast ausschließlich Maschinelles Lernen."

Stellenmarkt
  1. über duerenhoff GmbH, Raum Essen
  2. Duravit AG, Hornberg

Liggesmeyer, der auch den Lehrstuhl für Software-Engineering an der Uni Kaiserslautern leitet, stellt klar: "Ein Algorithmus lernt gar nichts. Ein Algorithmus wird programmiert und dann ist er so, wie er ist. Es ist nicht ungewöhnlich, dass Politiker das nicht verstehen." Natürlich brauche man für Maschinelles Lernen auch Algorithmen. "Das Verhalten der KI bestimmt aber nicht der Algorithmus allein, sondern im Wesentlichen die Lerndaten", sagte Liggesmeyer. Normal programmierte Algorithmen sind perfekt transparent, so dass man nachschauen könne, wie diese Algorithmen funktionieren. Das sei bei Maschinellem Lernen überhaupt nicht der Fall und dieses Risiko sei im KI-Weißbuch klar benannt.

EU will Risiken durch KI reduzieren

In der Tat heißt es auf Seite 14: "Die besonderen Merkmale vieler KI-Technologien wie Opazität ('Blackbox-Effekt'), Komplexität, Unvorhersehbarkeit und teilautonomes Verhalten können die Prüfung der Vereinbarkeit und die wirksame Durchsetzung von EU-Rechtsvorschriften zum Schutz der Grundrechte erschweren" und es ist von "undurchsichtigen Entscheidungsprozessen" die Rede, die "potenzielle Gefahren" darstellten. Das heißt: Da neuronale Netze eben nicht wie klassische Softwareprogramme funktionieren, lässt sich nie mit letzter Gewissheit sagen, welches Ergebnis am Ende herauskommt.

Weil dem so ist, will die EU-Kommission möglichst verhindern, dass die Menschen durch eine schlecht funktionierende KI benachteiligt oder gar getötet werden. "So ist beispielsweise denkbar, dass ein autonomes Fahrzeug aufgrund eines Fehlers in der Objekterkennungstechnik einen Gegenstand auf der Straße falsch identifiziert und einen Unfall mit Verletzungen und Sachschäden verursacht", heißt es. Das ist nicht nur denkbar, sondern bei einer Testfahrt mit einem selbstfahrenden Uber-Auto schon passiert. Der Sektor Verkehr gehört neben dem Gesundheitswesen, dem Energiebereich und Teilen des öffentlichen Sektors daher zu den besonders risikobehafteten.

KI-Systeme schon seit Jahren im Einsatz

Ist bei dem Einsatz von KI in einem solchen Bereich mit "erheblichen Risiken" zu rechnen, sieht die EU-Kommission darin eine Anwendung "mit hohem Risiko", für die ein "regulatorischer Eingriff" nötig sein könnte. Damit will die Kommission unter anderem vermeiden, dass es europaweit viele unterschiedliche Regelungen für den Einsatz der neuen Technik gibt. Beim autonomen Fahren stellt sich jedoch die Frage, ob die Kommission nicht etwas naiv an das Thema herangeht und der Diskussion um Jahre hinterherhinkt.

Schließlich sind KI-Systeme zur Objekt- und Verkehrszeichenerkennung schon seit Jahren im Einsatz. Zwar ist bei diesen Fahrassistenzsystemen wie bei Teslas "Autopilot" noch immer der Fahrer verantwortlich (Stufe 2). Doch schon seit fünf Jahren macht sich die UN-Arbeitsgruppe für die automatische Lenkfunktion Gedanken darüber, wie Autos im Stau autonom fahren dürfen. Inzwischen steht sogar der Entwurf für eine entsprechende UN-Regelung (PDF) fest. Das heißt: Schon in diesem Jahr könnten erste Fahrzeuge mit Staupilot nach Stufe 3 zugelassen werden.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 KI-Strategie der EU: "Man muss sich nur entscheiden, wen man diskriminiert"Braucht es eigene EU-Regulierung? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6. 5
  7.  


Anzeige
Spiele-Angebote
  1. 9,99€
  2. 11,99€
  3. 23,99€

Kaiser Ming 13. Mär 2020

auch wenn sie Anfangs gut gemeint ist führt zu Entwicklungshemmnissen und das wiederum...

Kaiser Ming 13. Mär 2020

Genau das war aber hier nicht die Frage

PerilOS 10. Mär 2020

...am Ende des Tages geht es um die Qualifizierung von Daten. Wenn die Daten schon...

wanne 10. Mär 2020

Die Frage ist halt was "stimmen" ist. Das erste Problem an Diskriminierung ist, dass...

Auspuffanlage 10. Mär 2020

Was?


Folgen Sie uns
       


Samsung Galaxy S21 und S21 Plus vorgestellt

Die beiden Grundmodelle von Samsungs Galaxy-S21-Serie kommen ohne abgerundete Displays und mit bekannten Kameras.

Samsung Galaxy S21 und S21 Plus vorgestellt Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /