Zum Hauptinhalt Zur Navigation Zur Suche

Maschinenträume 5: KI-Ent-Täuschung

Maschinenträume
Die KI-Apostel versprechen uns das Paradies auf Erden. Doch selbst eine Superintelligenz kann keine Wunder vollbringen. Zeit für ein wenig Realismus.
/ P. R. Rhesia
28 Kommentare Auf Google folgen (öffnet im neuen Fenster)
Das Orrery ist ein mechanisches Gerät, das den Umlauf der Planeten um die Sonne zeigt. (Bild: Rama via Wikimedia Commons)
Das Orrery ist ein mechanisches Gerät, das den Umlauf der Planeten um die Sonne zeigt. Bild: Rama via Wikimedia Commons / CC-BY-SA 3.0
Inhalt
  1. Maschinenträume 5: KI-Ent-Täuschung
  2. Die Grenzen von Big Data und KI
  3. Warum auch Superintelligenz nicht alles berechnen kann
  4. Die Grenzen des Wissens und die Versprechen der KI

Die Untauglichkeit künstlicher neuronaler Netze (KNN) in all ihren Spielarten (inklusive generativer KI und LLMs) als Grundlage einer menschenähnlichen künstlichen generellen Intelligenz (AGI) hat diese Reihe mehrfach und aus verschiedenen Blickwinkeln im Detail belegt. Trotzdem sind wir leider noch nicht fertig.

Warum stirbt das AGI-Thema nicht endlich? Nun, es ist kompliziert – oder, naja, eigentlich nicht: Es ist wie bei Dracula im Film. Nachdem er zu Staub zerfallen ist, scheint er ja gebannt. Aber es gibt immer wieder einen Thrall, der die Asche aufsammelt, Herzblut vergießt und die magische Beschwörung ruft "Der Fortschritt! Es könnte doch demnächst..." – schwups, geistert Dracula (oder eben die AGI) wieder durch die Köpfe. Wer lässt schon seinen Kassenmagneten einfach so sterben?

Die AGI hat nämlich eine zentrale Funktion im Narrativ der KI und wird deswegen immer wiedererweckt. Eine sehr schöne Studie(öffnet im neuen Fenster) analysiert und dekonstruiert dieses Narrativ – lesenswert.

Hier die Kurzfassung: Sobald es eine AGI gibt, die äquivalent zu menschlicher Intelligenz ist, tritt die Singularität ein. Diese AGI wird sich ihrer eigenen Weiterentwicklung widmen. Da sie schneller "denkt" als Menschen, führt das zu einer Explosion der Mächtigkeit und Fähigkeit der AGI, so dass binnen kürzester Zeit eine ASI (Artificial Super Intelligence) entsteht.

Das hat nichts mit der SI Trumpscher Prägung zu tun: Schon 1965 entwickelte der KI-Forscher I. J. Good die Vorstellung einer Superintelligenz und der Intelligenzexplosion:

"Eine ultraintelligente Maschine sei definiert als eine Maschine, die die intellektuellen Fähigkeiten jedes Menschen, und sei er noch so intelligent, bei Weitem übertreffen kann. Da der Bau eben solcher Maschinen eine dieser intellektuellen Fähigkeiten ist, kann eine ultraintelligente Maschine noch bessere Maschinen bauen; zweifellos würde es dann zu einer explosionsartigen Entwicklung der Intelligenz kommen, und die menschliche Intelligenz würde weit dahinter zurückbleiben. Die erste ultraintelligente Maschine ist also die letzte Erfindung, die der Mensch zu machen hat."

Das klingt nicht nur wie Science-Fiction, es ist seit mindestens 1950 – The Evitable Conflict von Asimov – ein gängiges Motiv fantastischer Literatur und Filme.

Zurück zum KI-Narrativ: Die Entstehung einer AGI – und damit einer ASI – gilt als unvermeidbar. Irgendjemand wird irgendwo schon bis zum Durchbruch forschen. Deswegen muss man der Erste sein. Dazu braucht es Führung. Und die muss natürlich auch bereit sein, individuelle Bürger- und Menschenrechte hintenanzustellen, wenn die Menschen nicht bereit sind, die notwendigen Opfer für das hehre Ziel zu bringen.

Und das Ziel ist so wunderbar, dass es große Opfer rechtfertigt. Die ASI würde alle Probleme(öffnet im neuen Fenster) lösen, die uns bedrängen: Krankheiten, Krebs – alles besiegt binnen Jahren. Altern, eine Krankheit, ebenfalls besiegt. Hunger, eine Plage der Vergangenheit, dank KI-optimierter Landwirtschaft. Klimawandel – die ASI findet sicher eine Lösung. Kriege – Vergangenheit dank ASI als wohlwollendem Weltherrscher.

Demografische Probleme, Fachkräftemangel? Kein Problem mehr, denn es gibt Wohlstand und Wohlfahrt für alle! Arbeiten? Unnötig! Interstellare Raumfahrt – die ASI bringt uns zu Plan(et) B, C, D. Ewiges Leben, gewidmet der Verfeinerung der schönen Künste und der Besiedelung der Galaxien dank Mind-Uploading.

Dieses Utopia(öffnet im neuen Fenster) ist zwangsläufig. Unvermeidlich. Und wer könnte dazu Nein sagen? Wer dürfte? Wäre nicht jede Behinderung dieses Fortschritts ein Verbrechen an der Menschheit, an all den Ungeborenen? So das KI-Narrativ.

Vielleicht ist diese Utopie doch nicht ganz so zwangsläufig. Der dystopische SF-Kurzroman The Machine stops(öffnet im neuen Fenster) von E. M. Forster entwickelt aus denselben Annahmen plausibel eine ganz andere Zukunft. Angesichts seiner bemerkenswerten Hellsichtigkeit hinsichtlich vieler Entwicklungen sollte man ihn ernst nehmen, obwohl, oder vielleicht gerade, weil er von 1909 ist.

Tatsächlich sind die Visionen des KI-Narrativs der Neuaufguss einer uralten Weltsicht: dem Uhrwerk-Universum oder dem mechanistischen Weltbild. Spüren wir der Idee nach und fühlen ihr auf den Zahn.

Woher kommt die Idee?

Spätestens mit der naturwissenschaftlichen Revolution und der Aufklärung kam im 16. und 17. Jahrhundert die Idee auf, dass die Naturwissenschaften die Welt in Bälde vollständig verstehbar und berechenbar machen würden. Die Welt ist ein Uhrwerk(öffnet im neuen Fenster) (clockwork universe), geschaffen von einem allmächtigen Uhrmacher, das, sobald man die Funktionsweise (Naturgesetze) und alle Rädchen und deren Stellungen kannte, vollkommen deterministisch voranschritt. (Das ist natürlich stark verkürzt und es gab viele Spielarten, insbesondere dahingehend, inwiefern der menschliche Wille frei ist.)

Im ausgehenden 19. und beginnenden 20. Jahrhundert herrschte angesichts bahnbrechender Fortschritte in der Naturbeherrschung durch Natur- und Ingenieurwissenschaften in gebildeten Kreisen eine weitestgehende Machbarkeits- und Beherrschbarkeitsstimmung vor: Sobald genügend Wissen und Daten vorlägen – und dies würde bald der Fall sein -, wäre die Welt vollständig berechenbar und damit beherrschbar. (Inklusive der Entwicklung der Menschheit durch die Eugenik, die damals international en vogue und angesehen war; Zwangssterilisationsgesetze gab es beispielsweise auch in den USA, Schweiz, Kanada, Skandinavien.)

Zur Illustration dieser Clockwork-Universe-Mentalität zwei historische Beispiele: Als Max Planck(öffnet im neuen Fenster) 1874 zwischen dem Studium der Musik und der Physik schwankte, fragte er den renommierten Physikprofessor Philipp von Jolly um Rat und erhielt die Antwort, in der Physik sei schon fast alles erforscht, und es gelte, nur noch einige unbedeutende Lücken zu schließen. Keinesfalls skurril: Diese Ansicht wurde damals von vielen Physikern vertreten.

Einstein, der selbst signifikante Beiträge zur Quantenphysik leistete, ging von einer deterministischen Physik aus. Dieses Clockwork Universe tauchte noch 1926 in einem Brief Albert Einsteins auf, im Rahmen der damals sehr regen Diskussion unterschiedlicher Auslegungen der Quantenphysik. Sinngemäß schrieb Einstein: "Gott würfelt nicht.(öffnet im neuen Fenster)" Und es dauerte immerhin noch bis in die 70er Jahre, bis er widerlegt war.

Die Theoriegebäude der Physik aus dem 19. Jahrhundert zerschellten Anfang des 20. Jahrhunderts an der Quantenphysik und der Relativitätstheorie, die technikoptimistische Machbarkeits- und Beherrschbarkeitsstimmung der Gesellschaft zusammen mit der Titanic an einem Eisberg, die Eugenik ein 1.000-jähriges Reich später.

Hat die Weltsicht des KI-Narrativs im 21. Jahrhundert noch irgendeine Grundlage?


Relevante Themen