Maschinen-Herrschaft abgesagt: Warum die KI-Panikmache Unfug ist
Inhalt
In vielen großen Medien gab es in den vergangenen Wochen Berichte über Elon Musk, Sam Altman und Dario Amodei mit deren apokalyptischen Warnungen vor einer alles vernichtenden Superintelligenz. Währenddessen fabuliert OpenAI von erreichter AGI seiner Astra-Modelle, einer allumfassend intelligenten Version von GPT.
Unabhängig davon, ob GPT-6 Astra und ähnliche Modelle bereits AGI sind oder nicht: Die Effekte von KI sind spürbar und potenziell problematisch für die Gesellschaft. Wir analysieren, warum bei den aktuellen Modellen kaum von echter Intelligenz gesprochen werden kann, was hinter dem aktuellen Furor zum Thema steckt, und warum vor allem saubere Definitionen wichtig sind.
"Gebt die Arbeit an LLMs auf, wenn ihr an Intelligenz auf menschlichem Level interessiert seid!"
Blick auf die Bühne der European Conference on Computer Vision (ECCV), Anfang September 2026 in Malmö: Auf einer der größten und besten Computer-Vision-Konferenzen wiederholt Yann LeCun, was er seit Jahren predigt, dass LLMs nicht zielführend für echte Intelligenz seien.
Vor der gut gefüllten Arena voller Forscherinnen und Forscher aus aller Welt erklärt also einer der Spitzenforscher, der mit der höchsten Auszeichnung(öffnet im neuen Fenster) in der Informatik bedacht wurde, dass der größte Teil der Firmen auf dem Weg zur echten künstlichen Intelligenz auf einen Holzweg abgebogen sei. Und kaum jemand widerspricht. Meiner Wahrnehmung nach gab es eher allgemeine Zustimmung und Erheiterung darüber, dass man das überhaupt noch so klar sagen muss.
"Meint der das ernst?", fragten dagegen einige in sozialen Medien(öffnet im neuen Fenster). Und: "Sehen Yann LeCun und Co. etwa nicht, wie LLMs die Welt bereits heute beeinflussen, und wie sie sich selbst angefangen haben zu verbessern?"
Sind die aktuellen Modelle von OpenAI und Co. nicht schon voll mit maschinengeschriebenem Code, sich selbst verbessernden Trainingsrezepten und immer neuen Bestleistungen? Ist damit nicht eine baldige Singularität quasi garantiert, also das Eintreten von echter Intelligenz und der damit verbundenen Konvergenz zu einer grenzenlos anmutenden Superintelligenz?
Die Lücke zwischen dem, was viele Experten empfinden, und der in vielen Medien häufig zu laut aufgebauschten Prognose einiger weniger Tech-Ikonen, ist riesig. Natürlich maße ich mir nicht an, für alle Experten zu sprechen, und es wäre fahrlässig, meine Meinung und den Tenor meines Umfelds als Wahrheit zu erklären.
Aber es gibt einige gute Gründe, warum viel von dem derzeitigen Getöse nur Getöse ist: eine Kakophonie aus den Rufen von Marktschreiern, die ihre Waren anpreisen, und denen, die darüber berichten und die an die Ängste der Menschen anknüpfen – wider besseren Wissens oder aus Irrglaube.
Was ist AGI?
Zunächst einmal ist die Frage, was AGI genau sein soll, von der hier immer gesprochen wird. AGI steht für Artificial General Intelligence, eine künstliche und allgemeingültige Form von Intelligenz. AGI steht den zumindest bisher spezifischen Möglichkeiten von Computern gegenüber, etwa exakte Arithmetik zu betreiben.
Aktuell werden Erfolge und somit die vermeintliche Intelligenz von KI-Modellen, besonders von LLMs, vor allem daran gemessen, welche Benchmarks die Modelle erreichen können. Das klingt nicht nach Intelligenz, sondern nach konkreten Fähigkeiten, wenn auch auf einem allgemeinen Spektrum von Fragen und Aufgaben.
Yann LeCun definierte Intelligenz in seiner Keynote als die Fähigkeit, neue Probleme zu lösen, und zitierte Jean Piaget: "Intelligenz ist nicht, was man weiß. Es ist, was du tust, wenn du nichts weißt." Mit anderen Worten: Intelligenz ist die Fähigkeit, sich in gänzlich neuen Situationen zurechtzufinden. Gerade hier bestehen große Lücken zwischen KI und Mensch, streng genommen sogar zwischen KI und Tieren wie Goldfischen.
OpenAI dagegen hat in seinen Manifesten eine eigene Definition von AGI geliefert(öffnet im neuen Fenster): AGI sei es, wenn eine Maschine bei den meisten wirtschaftlich wertvollen Tätigkeiten einen Menschen übertrifft.
Fraglos trifft das in Teilen sogar bei einem klassisch geschriebenen Programm für einen engen Themenbereich zu, etwa einem Buchhaltungsprogramm, das in Sekunden eine Abrechnung verarbeiten kann und damit einen Menschen übertrifft. Als intelligent sollte das eher nicht bezeichnet werden.
Moderne LLMs sind zwar mächtig, wirtschaftlich bedeutsam und vielleicht die wichtigste Erfindung des 21. Jahrhunderts, trotzdem sind LLMs nicht intelligent. Das ist rein technisch begründbar.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.