Irrtümer in der KI-Forschung: Wie Forscher aus Versehen Esoterik produzieren
In der KI -Forschung gibt es einleuchtende Erkenntnisse, die mathematisch oder biologisch solide wirken – und manchmal trotzdem falsch sind.
In der Forschung werden häufig Erklärungen für Phänomene gesucht, nachdem die Daten entdeckt wurden. Häufig führt das jedoch zu einem Zurechtbiegen der Erklärung zu den Fakten statt zu einer tatsächlich geltenden Gesetzmäßigkeit.
Dieses Harking (Hypothesis After Results Are Known) ist in der KI-Forschung besonders problematisch. Denn Ergebnisse hängen hier in der Regel noch von deutlich mehr Faktoren ab als etwa in der Natur: Bei Dutzenden Architekturen, Herangehensweisen und Hyperparametern ist es besonders schwierig, etwas zu finden, das grundsätzlich immer gilt und reproduzierbar ist.