KI-Modelle sind keine Blackbox mehr

Tiefe neuronale Netze beziehungsweise fortgeschrittene maschinelle Lernsysteme sind keine Blackbox mehr. Sie sind zwar komplex und somit schwer erklärbar, aber die Methoden, sie besser zu erläutern, werden immer ausgereifter und vor allem einfacher zu implementieren.

Stellenmarkt
  1. (Senior) IT Professional Client Systems (m/w/d)
    ALDI International Services SE & Co. oHG, Mülheim an der Ruhr
  2. Fachingenieur IT (w/m/d)
    Salzgitter Flachstahl GmbH, Salzgitter
Detailsuche

Wir brauchen Explainable AI, also erklärbare KI dringend, um das Vertrauen in künstliche Intelligenz zu stärken. Denn nur, wenn Algorithmen ganz klar Entscheidungen argumentieren können und transparente Ergebnisse liefern, kann KI auch in sensiblen Bereichen eingesetzt werden.

Zurzeit ist es immer Abwägungssache, ob man lieber ein einfaches erklärbares mathematisches Modell wie einen Entscheidungsbaum heranzieht oder auf die Interpretierbarkeit weniger Fokus legt und daher eine Art eines neuronalen Netzes implementiert.

Diese Abwägung wird dank vieler Open-Source-Projekte zu Explainable AI, die eine erklärbare und transparente Entwicklung von künstlicher Intelligenz gezielt vorantreiben, immer mehr obsolet. Vor allem die im Artikel erwähnten Methoden zeigen simple Möglichkeiten zur Implementierung von erklärbaren Ergebnissen für diverse Anwendungsfälle.

Künstliche Intelligenz: Wissensverarbeitung - Neuronale Netze
Golem Karrierewelt
  1. Kubernetes – das Container Orchestration Framework: virtueller Vier-Tage-Workshop
    11.-14.07.2022, Virtuell
  2. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    13./14.10.2022, Virtuell
Weitere IT-Trainings

Es ist an der Zeit, den Blackbox-Gedanken aufzugeben und gemeinsam diese Technologien an die Endnutzer weiterzugeben, um Schritt für Schritt das Vertrauen in KI zu stärken. Denn eines ist ganz klar: Mithilfe von KI werden wir vielfältige Herausforderungen lösen und so den technologischen Wandel nachhaltig gestalten können.

Florian Voglauer ist zurzeit im Masterstudium Data Intelligence an der FH St. Pölten. Zwei Jahre lang hat er als Data Analyst bei einem globalen Industriekonzern gearbeitet und ist aktuell Junior Data Scientist bei Circly, einem AI-Startup für die Lebensmittel- und Logistikbranche.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 KI-Entscheidungen erklären mit Lime und Shap
  1.  
  2. 1
  3. 2
  4. 3
  5. 4


sambache 29. Mai 2022 / Themenstart

Ich weiss, dass sie das nicht können ;-) Da gilt es ja 85 Milliarden Gehirnzellen...

Oktavian 29. Mai 2022 / Themenstart

Es funktioniert dann, wenn das autonome Fahrzeug nahezu perfekt funktioniert. Es muss...

Flexy 28. Mai 2022 / Themenstart

Jain.. Bei komplexen, iterativen System wie der Realität hast du leider das Problem...

Flexy 28. Mai 2022 / Themenstart

Jetzt muss man die KI nur noch dazu bringen mit dem autonomen Auto das Multitrack...

Kommentieren



Aktuell auf der Startseite von Golem.de
Unix-Nachfolger
Plan 9 sollte bessere Audio-Kompression bekommen als MP3

Die Entwicklung der Audio-Kompression und die schwierige MP3-Patentsituation hätte ohne das Nein eines Anwalts wohl anders ausgesehen.

Unix-Nachfolger: Plan 9 sollte bessere Audio-Kompression bekommen als MP3
Artikel
  1. Probefahrt mit Toyota bZ4X: Starker Auftritt mit kleinen Schwächen
    Probefahrt mit Toyota bZ4X
    Starker Auftritt mit kleinen Schwächen

    Das erste Elektroauto von Toyota kommt spät - und weist trotzdem noch Schwachpunkte auf. Der Hersteller verspricht immerhin schnelle Abhilfe.
    Ein Bericht von Franz W. Rother

  2. Hermit: Google analysiert italienischen Staatstrojaner
    Hermit
    Google analysiert italienischen Staatstrojaner

    Der Staatstrojaner einer italienische Firma funktioniert sogar in Zusammenarbeit mit dem ISP. Dafür braucht es nicht zwingend ausgefallene Exploits.

  3. Vision, Disruption, Transformation: Populäre Denkfehler in der Digitalisierung
    Vision, Disruption, Transformation
    Populäre Denkfehler in der Digitalisierung

    Der Essay Träge Transformation hinterfragt Schlagwörter des IT-Managements und räumt mit gängigen Vorstellungen auf. Die Lektüre ist aufschlussreich und sogar lustig.
    Eine Rezension von Ulrich Hottelet

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Prime Video: Filme leihen 0,99€ • Alternate: Gehäuse & Co. von Fractal Design • Nur noch heute: 16.000 Artikel günstiger bei MediaMarkt • MindStar (Samsung 970 EVO Plus 250GB 39€) • Hori RWA 87,39€ • Honor X7 128GB 150,42€ • Phanteks Eclipse P200A + Glacier One 280 157,89€ [Werbung]
    •  /