Konfuzius sagte zur KI ...
"Lernen ohne Denken ist sinnlos. Denken ohne Lernen ist gefährlich,"sagte Konfuzius. Auf KI angewendet: KI-Nutzung schädigt unmittelbar das Lernen und den Fähigkeitserwerb: Norwegen gilt als Vorreiter der digitalen Bildung – deren wissenschaftlich begründeter Kurswechsel sollte also zu denken geben(öffnet im neuen Fenster). Eine profunde Übersichtsstudie, die mir sehr gut gefällt, weil sie klar die Untauglichkeit und Risiken des KI-Einsatzes im Bildungswesen benennt, ebenso aber auch den Forschungs- und Änderungsbedarf, der vielleicht zu einem anderen Urteil führen könnte, hat Brookings.edu(öffnet im neuen Fenster) erstellt.
Wem die mehr als 200 Seiten der Studie (PDF)(öffnet im neuen Fenster) zu viel sind, der ist gut mit der Summary(öffnet im neuen Fenster) (Leseaufwand effektiv vier Seiten) bedient. Wer eine zweite Übersichtsstudie(öffnet im neuen Fenster) wünscht – mehr gibt es bei jeder guten Suchmaschine mit dem Such-String "AI harms learning".
Vor allem werden bei Heranwachsenden die Persönlichkeitsentwicklung und die psychische Gesundheit, die sozialen Kompetenzen und Bindungen sowie die grundsätzlichen Denk- und Lernfähigkeiten beeinträchtigt(öffnet im neuen Fenster).
Ausgebildete Experten wiederum verlieren ihre Fähigkeiten durch KI-Nutzung (Suchbegriff "AI Deskilling"). Das betrifft mindestens Mediziner(öffnet im neuen Fenster) und Entwickler, wahrscheinlich auch alle anderen Berufsfelder(öffnet im neuen Fenster). Insbesondere wird auch die Weiterentwicklung von Berufseinsteigern zu erfahrenen Mitarbeitern gehemmt.
Durch KI-Nutzung verkümmert schließlich auch die Fähigkeit zum kritischen Denken, wie sowohl eine schweizerischen Studie(öffnet im neuen Fenster) als auch eine Studie von Microsoft(öffnet im neuen Fenster) belegen.
Wer wacht über die Wächter?
All diese Verluste behindern fatalerweise die Kontrolle von KI-Systemen – und das sollte in dieser Reihe inzwischen hinreichend belegt sein: Ergebnisse von KI-Systemen benötigen dringend eine professionelle Qualitätskontrolle – nicht nur bei LLMs, genKI und KI-Agenten, sondern auch bei spezialisierten, für den klinischen Betrieb zugelassenen KI-Systemen(öffnet im neuen Fenster).
Der Erfahrungsbericht legt dar, wie die menschliche Kontrolle von KI-Systemen ermüdet. Noch heikler ist das natürlich bei menschlicher Kontrolle unter Zeitdruck, etwa bei (teil)autonomen Fahrzeugen, wie inzwischen durch zahlreiche Unfälle belegt ist. Wenn die KI den Job einige Male korrekt erledigt hat, ist die Erwartungshaltung, dass sie es wieder tut. Die Aufmerksamkeit lässt nach ...
All diese Effekte – Kompetenzverluste und die Ermüdung menschlicher Fehlerkontrolle – dürften eigentlich niemanden überraschen, denn sie sind vorhersagbar und vorhergesagt: 1983 in Automatica, dem Journal der International Federation of Automatic Control, Ironies of Automation (PDF)(öffnet im neuen Fenster); KI und Automatisierung gibt es immerhin seit gut 60 Jahren.
Würden die KI-Apologeten sich nicht bequem hinter "Wir sind so bahnbrechend neu, dass kein vorhandenes Wissen für uns gilt" verstecken – so wurde auch in der krachend gescheiterten New Economy argumentiert, die in die Dotcom-Krise führte -, hätten sie vieles davon vorher wissen können. Wissen müssen! Deswegen sollten wir uns einige führende Köpfe genauer anschauen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.

