Maschinenträume 4: Halluzinationen, Halunkinationen und fatale Fehler
Inhalt
In der vorherigen Folge haben wir festgestellt: Die Antworten von LLMs (Large Language Models) sind zu 15 bis 40 Prozent faktenwidrig(öffnet im neuen Fenster), je nach Themenbereich. Solche Fehler nennt man KI-Halluzinationen. Diese Fehlerhaftigkeit macht Chatbots eigentlich völlig ungeeignet für wichtige Aufgaben – aber viele wissen nicht um dieses hohe Maß an Unzuverlässigkeit oder glauben an den Fortschritt.
"Ja, aber der Fortschritt ..."
Ein häufiger Einwand ist: "Es könnte doch demnächst völlig neue Methoden geben, die das Problem lösen." Ich halte das Morgen-wird-alles-besser aber für genauso naiv wie das Früher-war-alles-besser, und eine Lösung wird es nicht auf der Basis derzeitiger LLM-Technologie geben. Der Kern jedes LLM ist ein KNN (Künstliches Neuronales Netz). Und dieser Kern ist auch der Quell der Unzuverlässigkeit.
Dazu kehren wir zu einer Studie zurück, die wir im zweiten Teil benutzt haben, um zu belegen, dass KNNs und LLMs etwas mächtiger sind als Deterministische Endliche Automaten (Deterministic Finite Automaton, DFA).
Die Studie(öffnet im neuen Fenster) belegt die Äquivalenz zwischen KNN und Nicht-Deterministischen Endlichen Automaten (Non-deterministic Finite Automaton, NFA), also einer Obermenge der DFA. Das erreicht sie über einen eleganten Trick: Sie gibt ein Konstruktionsverfahren an, mit dem aus einem NFA ein äquivalentes KNN abgeleitet werden kann – und die Gegenrichtung: wie aus einem KNN ein NFA konstruiert werden kann.
Und dann macht die Studie etwas Überraschendes: Sie testet den Gleichlauf der NFA und des äquivalent konstruierten KNN praktisch. Dazu verwendet sie zwei Grundkonfigurationen. Erstens: ein sehr simples NFA mit sechs Zuständen und zwei möglichen Eingabezeichen, zweitens: ein etwas komplexeres NFA mit zwanzig Zuständen und sechs möglichen Eingabezeichen.
Aus diesen beiden Grundkonfigurationen werden je fünf zufällige NFAs erzeugt und zu diesen das äquivalente KNN. Die Struktur und Gewichte des KNN werden (mit binärer Treppenfunktionen als Aktivierungsfunktionen – also wie die McCulloch-Pitts-Neuronen (MCP)(öffnet im neuen Fenster) in Teil 1 dieser Reihe) algorithmisch komplett und optimal aus dem NFA generiert. Dieser Konstruktionsvorgang ersetzt den Lernvorgang vollständig!
Diese Konstruktionen werden dann jeweils mit 100 Test-Strings gegen die Referenzdaten (ground truth) des jeweiligen NFA getestet. Beschrieben wird das in der Studie in den Abschnitten "E. Validating Theorem 2" und "F. Validating Theorem 3" sowie die Ergebnisse in Tabelle 1, jeweils respektive die Zeilen "VI-E: Theorem IV.7" und "VI-F: Theorem IV.10". Überraschung: Es gibt eine Fehlerrate bei diesen Tests, vor allem bei der größeren Konfiguration: 4,6 Prozent Fehler!
Danach wird das Experiment noch einmal mit klassischem Training und verschiedenen Aktivierungsfunktionen wiederholt. Die Ergebnisse finden sich in den Grafiken und Tabelle 2 der Studie – die Fehlerraten steigen gegenüber der optimalen Konstruktion.
Das "Mehr als ein DFA" der KNN bringt also kein "Besser", sondern ein "Schlechter" hervor.
DFAs kommen auch außerhalb von Waschmaschinen in zahlreichen, teils sicherheitsrelevanten Alltagsmaschinen vor: Fahrstühle, Ampeln, Getränke-, Fahrkarten- und Geldautomaten sind nur einige der vielen Maschinen, die von deterministischen endlichen Automaten gesteuert werden.
Die geringe Mächtigkeit ist hier gerade von Vorteil und wünschenswert: Bei einem DFA lässt sich mathematisch leicht beweisen, dass etwa bei einer Luftschleuse der endliche Automat niemals in den Zustand geraten kann, in dem Innen- und Außenschleuse gleichzeitig offen sind. Die Einfachheit und Determiniertheit – und damit Verifizierbarkeit der DFA – ist ein Riesenvorteil, wie jeder bestätigen wird, der jemals die Korrektheit eines Programms in einer Turing-mächtigen Sprache verifizieren musste ...
KNNs (und damit auch LLMs) sind weder Fisch noch Fleisch: Sie sind dramatisch weniger mächtig als Turing-Maschinen, aber zu nicht-deterministisch und mächtig, um noch verlässlich und verifizierbar zu sein.
Schlimmer geht immer
Wem der experimentelle Befund nicht genügt – tatsächlich ist es noch viel schlimmer: Die Studie Hallucination is Inevitable(öffnet im neuen Fenster) (Halluzinationen sind unvermeidlich) untersucht die LLM-Halluzinationen und ihre fundamentale Unvermeidbarkeit aus theoretischer Sicht.
Das Ergebnis: Vollkommen unabhängig von der konkreten LLM-Technologie und -Architektur, Trainingsverfahren etc. halluzinieren alle LLMs grundsätzlich und unvermeidbar. Fehlerlosigkeit kann nicht erreicht werden: weder durch größere LLMs, mehr Trainingsdaten, mehr Rechenleistung noch durch Architekturansätze wie Multi-Head oder Modell-Ensembles, noch durch Prompting-Methoden wie Chain-of-Thought, Reflections, Verification.
Die Studie zählt einige Technologien auf, die durch die Beweise nicht erfasst sind und so potenzielle Forschungsansätze darstellen, um Halluzinationen zu beseitigen. Hier werden die LLMs durch externe Kontrollmechanismen ergänzt, die mächtiger sein können als LLMs, also auch Turing-mächtig. Potenzial ist aber keine Garantie für Erfolg.
Wir gehen die kurze Liste durch:
Knowledge-enhanced LLMs nutzen externe Wissens- oder Expertensysteme und Reasoning-Systeme. Es sind mächtige Instrumente aus der Ära der symbolischen KI, die Ende der 80er Jahre an der Aufwandsmauer zerschellten, sobald sie jenseits kontrollierter, kleiner Modellwelten mit der realen Welt konfrontiert wurden – zweifellos eine gute Ergänzung, aber kein Allheilmittel, sobald die Aufgaben wirklich komplex werden. Einfachere Ansätze greifen auf Suchmaschinenanfragen zurück – was sicherlich keine Gewähr für faktische Korrektheit darstellt – oder kompensieren etwa die inhärente Rechenunfähigkeit von LLMs durch die Nutzung von "Taschenrechner-Modulen".
Guardrails, also gesellschaftlich oder juristisch vorgegebene Leitplanken für zulässige LLM-Antworten, und Fences, also Listen kritischer Tätigkeiten, die ein LLM nicht eigenmächtig durchführen darf, brechen auch aus den Vorbedingungen des Beweises aus. Sie könnten formal programmiert werden – auch wenn noch keiner so recht weiß, wie das funktionieren soll und wie sie mit der Komplexität realer Probleme skalieren. Sogenannte Constitutional AI – also Leitplanken durch eine textuelle Vorgabe in Art einer Unternehmenskultur – springt jedenfalls deutlich zu kurz(öffnet im neuen Fenster).
Und die KI-Community, die sich so gerne bei SF bedient, hätte das wissen können: Das wohlbekannte Vorbild für Guardrails sind Asimovs Robotergesetze – und die Roboterpsychologin Susan Calvin(öffnet im neuen Fenster) hatte regelmäßig alle Hände voll zu tun, die Paradoxien und Grenzfälle dieser scheinbar so narrensicheren Guardrails einzufangen.
Kurz: Bei LLMs und generativer KI werden wir weiter mit beunruhigend vielen signifikanten Fehlern rechnen müssen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.