Keine Erklärbarkeit ist auch keine Lösung

Oft wird künstliche Intelligenz mit Systemen in Verbindung gebracht, die im Hintergrund einen einfachen Entscheidungsbaum oder eine lineare Regression verwenden. Diese Art von Modellen nennt man interpretierbare Modelle, weil das mathematische Modell an sich schon reicht, um die wichtigsten Features zu beschreiben und somit zu erklären.

Entscheidungsbäume (wie in dieser Abbildung dargestellt) sind dabei besonders gut geeignet, weil jede Entscheidung nachvollzogen werden kann. Auch die Regression bei der Vorhersage von Zahlenwerten liefert für jede Inputvariable einen Wert, der zeigt, wie wichtig diese Variable für die Vorhersage ist. Doch nicht jede Problemstellung kann mit dieser Art von Modellen dargestellt und somit gelöst werden.

Die mathematischen Modelle werden zunehmend komplexer, wie auch diese Abbildung veranschaulicht. Das ist darauf zurückzuführen, dass man Problemstellungen mit immer mehr Dimensionen lösen will. Dabei bietet diese Art von Netzwerk mit passendem Anwendungsfall extreme Genauigkeit.

Je komplexer das Modell, desto undurchschaubarer

Die Erklärbarkeit nimmt mit zunehmender Größe des Modells drastisch ab, da immens viele Verbindungen existieren. Zusätzlich werden all diesen Verbindungen und Knotenpunkten numerische Werte zugeordnet, die je nach Problem adaptiv angepasst werden. Genau diese Parameter werden in einer sogenannten Lernphase wie bei unserem biologischen neuronalen Netz trainiert. Dieser Prozess kann viele Zyklen durchlaufen, um so immer weiter zu einem Optimum zu kommen.

Es sollte noch erwähnt werden, dass die einzelnen Schichten beziehungsweise Knotenpunkte auch in ihrer Größe variieren und es diverse Abarten dieses noch simplen Aufbaus gibt, um beispielsweise Bild- oder Audiodaten verarbeiten zu können. Es kann allerdings davon ausgegangen werden: Je vielseitiger und komplexer das Modell ist, desto undurchsichtiger ist die Entscheidung.

Wie soll man nun mit dieser Erkenntnis umgehen? Soll man Fahrzeuge autonom machen oder medizinische Vorhersagen implementieren, ohne die Entscheidungen der KI nachvollziehen zu können? Selbstverständlich nicht, das wäre ethisch und rechtlich nicht vertretbar. Daher wird intensiv an diversen Ansätzen geforscht, um Modelle für Menschen erklärbar zu machen. Zu den wichtigsten Methoden gehören sogenannte Modell-agnostische Erklärungen, die ohne Wissen über ein spezifisches Modell solche Erklärungen liefern können.