Künstliche Intelligenz: Eine starke KI muss von der Welt träumen können
Wie schlau ist ChatGPT? Der aktuelle Hype um das Sprachmodell hat gezeigt, dass es keinen breiten Konsens darüber gibt, wie die jüngsten Fortschritte in der künstlichen Intelligenz zu bewerten sind.
Gerade Optimisten aus der Technologieszene sehen die Forschung schnurstracks auf das Ziel menschenähnlicher künstlicher Intelligenz – auch Artificial General Intelligence (AGI) genannt – zusteuern. So äußerte sich beispielsweise OpenAI-CEO Sam Altman kürzlich im Blog(öffnet im neuen Fenster) seiner Firma recht zuversichtlich und beschäftigt sich schon konkret mit Plänen, um das Aufkommen starker KI zum Guten für die Menschheit zu gestalten.
In der breiten Medienlandschaft scheinen jedoch die Stimmen der Skeptiker zu überwiegen, die einen tiefen Graben zwischen menschlicher Intelligenz und den statistischen Methoden des maschinellen Lernens sehen (öffnet im neuen Fenster) oder ChatGPT gar als eine Art Komprimierungsalgorithmus für das Internet (A blurry JPEG of the web(öffnet im neuen Fenster)) trivialisieren.
Wie wir denken
Die Frage nach der Bedeutung großer Sprachmodelle habe ich mit Raul Muresan kontrovers diskutiert. Er ist Mitbegründer und Präsident des Transylvanian Institute of Neuroscience (TINS(öffnet im neuen Fenster)), einer Non-profit-Forschungseinrichtung, die sich ein besseres Verständnis des Gehirns zum Ziel gesetzt hat.
In experimentellen Studien werden am TINS die Aktivitäten von Hirnzellen gemessen, um ihre Funktionsweise bei Sinneswahrnehmung oder Denkvorgängen zu entschlüsseln oder neue Möglichkeiten zur Behandlung von neurologischen Leiden zu entdecken.
Außerdem beschäftigen sich die Forschungsteams des TINS mit fundamentalen Fragen dazu, wie wir denken und die Welt wahrnehmen und wie Erkenntnisse der Neurowissenschaften in technischen Anwendungen genutzt werden können. So hat Muresans Gruppe ein besonders schnelles Hirn-Computer-Interface entwickelt, das elektrische (EEG) Signale auf der Kopfhaut misst und damit zum Beispiel Computerspiele durch Gedankenkontrolle steuern kann.
Bei Fachkollegen ist das TINS auch für seine jährlich stattfindende Summer School (öffnet im neuen Fenster) bekannt, die Neurowissenschaftsstudenten aus der ganzen Welt anzieht. Als ehemaliger Mitarbeiter des bedeutenden Hirnforschers Wolf Singer am Max-Planck-Institut in Frankfurt unterhält Muresan noch immer enge Verbindungen nach Deutschland.
Uns beide vereint das Interesse an den großen Fragen der biologischen und der künstlichen Intelligenz: Wie erbringt das menschliche Gehirn seine erstaunlichen Leistungen und kann man diese Fähigkeiten in Maschinen nachahmen? Mit unserem jeweiligen akademischen Hintergrund – ich bin Mathematiker und Physiker – blicken wir jedoch aus verschiedenen Perspektiven auf diese Fragen.
Das Gespräch haben wir auf Englisch geführt, das Folgende ist die deutsche Übersetzung.
Wie begeisterungswürdig ist ChatGPT?
Helmut Linde: In den letzten Monaten hat die Welt ein beispielloses Interesse an künstlicher Intelligenz erlebt, das vor allem durch die leichte Zugänglichkeit des ChatGPT-Sprachmodells von OpenAI angetrieben wurde. Die Menschen waren beeindruckt davon, wie vielseitig es ist – von der Beantwortung faktischer Fragen, der Übersetzung von Texten, dem Schreiben von Gedichten und anderen Anwendungsfällen.
Einige – einschließlich mir selbst – glauben, dass große Sprachmodelle eine Reife erreicht haben, die einen wichtigen Meilenstein auf dem Weg zur allgemeinen, menschenähnlichen künstlichen Intelligenz darstellt. Raul, als jemand, der sich seit fast zwei Jahrzehnten mit dem Gehirn beschäftigt, wie ist deine Meinung dazu?
Raul Muresan: Ich muss sagen, dass auch ich von den Fortschritten der letzten Jahre beeindruckt bin, aber ich bin etwas weniger enthusiastisch. Ich denke, wir entwickeln nützliche Werkzeuge, aber wir sind noch weit von einer künstlichen Intelligenz entfernt, die menschenähnlich ist. Ich sehe die jüngsten Entwicklungen als natürliche Erweiterungen recht ausgefeilter Techniken der Mustererkennung, die sich zu dem entwickelt haben, was wir heute generative Modelle nennen.
Seit vielen Jahren erforsche ich das Gehirn und auch wenn ich anerkennen muss, dass wir sehr wenig von seiner Funktionsweise verstehen, habe ich das Gefühl, dass die aktuellen KI-Entwicklungen weit davon entfernt sind, wie wir als Menschen funktionieren. Meine Skepsis wird von einer Reihe von KI-Pionieren geteilt, darunter auch Yann Lecun(öffnet im neuen Fenster).
Kurz gesagt: Ich denke nicht, dass wir schon Maschinen bauen können, die verstehen, was sie tun. Sie können nützliche Ergebnisse produzieren, aber das tun auch viele andere automatisierte Systeme, die wir in der Vergangenheit geschaffen haben.
Der Unterschied besteht darin, dass die Ausgabe jetzt ausgefeilter ist und in einer zusammenhängenden und schönen Sprache ausgedrückt wird. Das ist sicherlich ein Fortschritt, aber kein echter Durchbruch.
Außerdem kann es irreführend sein, weil eine natürlich wirkende Sprache die Menschen dazu verleitet anzunehmen, dass sie mit einem intelligenten Wesen kommunizieren. Das kann ein schlimmer Fehler sein, fürchte ich.
Was ist eigentlich Intelligenz?
Linde: Ich stimme vollkommen zu, dass die heutige künstliche Intelligenz sich sehr stark von der Funktionsweise des menschlichen Gehirns unterscheidet. Und wir sind uns auch einig, dass Sprachmodelle keine Wesen mit eigenem Bewusstsein sind, wenn du das meinst mit dem Ausdruck "Sie verstehen, was sie tun".
Aber meiner Ansicht nach ist keine dieser beiden Bedingungen unbedingt notwendig, damit ein System als intelligent gelten kann. Ich denke, die Intelligenz eines Menschen, eines Tieres oder einer Maschine kann nur gemäß seines äußeren Verhaltens bewertet werden und nicht anhand seiner inneren Funktionsweise. Vielleicht sind wir also einfach anderer Meinung über die Definition des Begriffs "Intelligenz". Also – was ist deiner Meinung nach Intelligenz?
Muresan: Das ist eine schwierige Frage! Das Problem mit diesem Begriff ist, dass er in verschiedenen Zusammenhängen auf viele Arten verwendet wurde, und es keinen Konsens über seine Definition gibt.
In einem breiteren Sinne betrachte ich Intelligenz als die Fähigkeit eines Organismus, die Welt wahrzunehmen, mentale Modelle davon zu erstellen – also sie zu verstehen – und in der Lage zu sein, neue Regeln abzuleiten und Vorhersagen zu treffen, um die Anpassung des Organismus an seine Umgebung zu erhöhen. Natürlich muss man nach dieser Definition viele Tiere, insbesondere Säugetiere, als intelligent ansehen.
Im engeren Sinne meinen die Leute jedoch in der Regel eine menschenähnliche Intelligenz, wenn sie sich darauf beziehen. Dies ist jedoch ein noch viel umfangreicheres Konzept.
Eines der bekanntesten Bücher über künstliche Intelligenz mit dem Titel Artificial Intelligence: A Modern Approach(öffnet im neuen Fenster) von Stuart J. Russell und Peter Norvig definiert künstliche Intelligenz direkt in Bezug auf menschliche Intelligenz und greift dabei ihre verschiedenen Aspekte auf, von Philosophie über Mathematik, Wirtschaft, Psychologie und Neurowissenschaften. Daher ist die Antwort nicht einfach. Die vielen verschiedenen Definitionen von Intelligenz beziehen sich auf Fähigkeiten wie Abstraktion, Logik, Selbstbewusstsein, Lernen, emotionales Verständnis, Planung, Kreativität, Problemlösung und viele andere.
Was verstehen große Sprachmodelle wirklich?
Linde: Es ist offensichtlich nicht ganz klar, was genau unter Intelligenz zu verstehen ist. Aber alle von dir genannten Ansätze scheinen sich um einen Akteur zu drehen, der eine breite Palette mehr oder weniger unscharf definierter Probleme lösen kann.
Und das ist ja gerade etwas, worin Computer traditionell nicht sehr gut waren: Seit Jahrzehnten haben wir viele ausgezeichnete Algorithmen, um mathematische Berechnungen durchzuführen, Schach zu spielen oder die Lieferkette eines Unternehmens zu optimieren. Aber Computer hatten immer große Schwierigkeiten mit dem Lösen von Problemen, die nicht auf einen eng definierten Optionsraum mit klaren Regeln beschränkt sind.
Bei ChatGPT habe ich zum ersten Mal den Eindruck, dass ein Algorithmus durch die Linse der menschlichen Sprache einen Blick auf unsere reale Welt geworfen und dabei gelernt hat, einen bedeutenden Anteil ihrer Phänomene zu verstehen. Und er kann dieses Verständnis anwenden, um Gelerntes auf neue und kreative Weise zu kombinieren und so eine breite Palette von Problemen zu lösen. Das ist der Grund, warum ich die großen Sprachmodelle wirklich als einen Meilenstein auf dem Weg zur AGI sehe.
Muresan: Nun, das wirft eine Reihe neuer Probleme auf, über die wir diskutieren müssen. Das erste betrifft die Beziehung zwischen Intelligenz und Sprache.
Meiner Ansicht nach ist Sprache der Ausdruck des Geistes, also einfach eine "Ausgabe" oder "Darstellung", die notwendigerweise begrenzter und enger ist als die Vorgänge, welche die Sprache erzeugen. Damit kann Intelligenz nicht der Sprache selbst zugeschrieben werden und auch nicht von ihr abgeleitet werden. Sie ist vielmehr eine Eigenschaft des zugrunde liegenden Prozesses, der die Sprache hervorbringt, also des Geistes.
Das bedeutet auch, dass der Sprecher die Bedeutung der von ihm gebildeten Sprache "versteht": Es gibt grundlegende mentale Vorgänge, die ursprünglich durch die Wechselwirkung des Menschen mit der Umwelt entstanden sind.
Wenn ich zum Beispiel sage: "Der Apfel fällt vom Baum", aktiviert mein Gehirn irgendwie gleichzeitig große assoziative neuronale Netzwerke. Darunter sind visuelle Schaltkreise, die den Anblick von Apfel und Baum repräsentieren, und solche, die den Geruch des Apfels codieren. Andere Schaltkreise beziehen sich auf die Bewegungssteuerung und wieder andere verarbeiten das Geräusch, das der Apfel beim Aufprall auf den Boden verursacht.
Darüber hinaus sind Konzepte wie "auf den Boden fallen" bereits vorbereitet – wir alle haben das schon vor dem zweiten Lebensjahr erfahren. Solche Konzepte können dann in dem riesigen Raum möglicher Zustände des Gehirns dargestellt werden, wenn sie von dem Satz "Der Apfel fällt vom Baum" angestoßen werden.
"Ein intelligentes System muss von der Welt träumen können"
Mit anderen Worten: Während des Sprechens repräsentiert das Gehirn nicht einfach abstrakte Gegenstände wie Wörter und die Grammatik, die sie verbindet, sondern aktiviert ein ganzes Repertoire an Darstellungen. Diese wurden zuvor durch Kausalketten geschaffen, die während unserer Wechselwirkung mit der Umwelt stattgefunden haben.
Wir könnten sagen, dass das Gehirn tatsächlich alle Erfahrungen nachträumt, die wir gemacht haben, indem es die Welt intern rekonstruiert und auf dieser internen Darstellung operiert – diese Operation könnten wir Geist nennen.
In diesem Sinne ist die Wahrnehmung einfach eine Korrektur oder Einschränkung, die auf das fortlaufende interne Weltmodell angewendet wird, das wir erstellen. Streng genommen nehmen wir die Welt also nicht direkt wahr, sondern wir verwenden unsere Sinne, um unsere intern konstruierten Wahrnehmungen anzupassen.
Wir haben umfassende Beweise dafür, dass das Gehirn von Säugetieren auf diese Weise funktioniert. Bei bestimmten Arten von Schizophrenie hören Patienten Stimmen und haben Halluzinationen. Interessanterweise handelt es sich dabei nicht nur um Vorstellungen, die das bewusste Selbst erfindet.
Eine solche innere Stimme ist vielmehr eine tatsächliche Darstellung einer Sinneswahrnehmung, die in dem Teil der Hirnrinde aktiviert wird, welcher für das Hörempfinden zuständig ist. Solche Patienten haben also nicht nur den Eindruck, Stimmen zu hören, sondern hören sie tatsächlich, auch wenn die Stimmen nicht in der Umgebung vorhanden sind.
Die Dinge werden noch komplexer, wenn man sich die höheren assoziativen Bereiche des Gehirns ansieht. Bei Affen werden beispielsweise bestimmte Zellen nicht nur beim Betrachten einer Tasse aktiviert, sondern auch bei einer Greifbewegung nach der Tasse. Wir arbeiten also nicht mit einfachen Darstellungen von Konzepten, sondern aktivieren einen ganzen Zoo von mentalen Modellen, die mit einem bestimmten Konzept verbunden sind.
Das Zurechtschnitzen dieser hyperkomplexen internen Welt erfordert meiner Meinung nach eine Interaktion mit der realen Welt und daher notwendigerweise einen Körper. Dies ist die Grundlage des Verstehens.
Reicht Sprache, um die Welt zu verstehen?
Linde: Für biologische Intelligenz ist das sicher richtig. Menschen erzeugen ein Modell der Welt aufgrund ihrer Sinneswahrnehmung und dann entwickeln sie Sprache, die darauf aufbaut. Aber das muss nicht der einzige Weg sein, um ein Weltmodell zu erstellen. Es scheint, dass die Struktur der menschlichen Sprache reichhaltig genug ist, um allein daraus ein Modell der Welt zu erzeugen.
Zum Beispiel habe ich ChatGPT einmal gefragt, wie man ein altes Surfbrett benutzen kann, um die Arbeitssicherheit in einer Chemiefabrik zu erhöhen. Ein Vorschlag des Sprachmodells war, das Surfbrett als Barriere zu nutzen, um den Zugang zu gefährlichen Bereichen zu begrenzen, und aus dem Segel eine Art Plantschbecken zu nähen, um das versehentliche Austreten gefährlicher Flüssigkeiten einzudämmen.
Gemessen an der Absurdität meiner Frage fand ich diese Antworten darauf durchaus vernünftig. Auch wenn die Trainingsdaten für ChatGPT riesig sind, erscheint es mir sehr unwahrscheinlich, dass diese Ideen darin vorkamen. Und selbst, wenn das zufällig der Fall wäre, könnte ich viele andere ebenso unwahrscheinliche Beispiele geben.
Daher kann ich nur schlussfolgern, dass ChatGPT die physikalischen Eigenschaften eines Surfbretts zu einem gewissen Grad versteht und kreative neue Verwendungen dafür finden kann. Dies ist mehr, als einfach nur statistische Muster in bestehenden Texten über das Windsurfen anzuwenden. Es muss also ein recht gutes internes Modell der Welt haben, das zumindest in Grundzügen dem von dir beschriebenen Modell der Umwelt im Gehirn ähnelt.
Natürlich ist dieses Weltmodell nicht vollständig: Räumliche Vorstellungskraft oder eine Intuition für physikalische Vorgänge sind zum Beispiel nur sehr schwer aus Sprache allein zu erschließen. Deshalb ist ChatGPT in solchen Aufgaben auch nicht sehr stark.
Andererseits ist aber auch das Weltmodell der Menschen bei weitem nicht perfekt: Tiere haben ganz unterschiedliche Sinneswahrnehmungen und jede Fledermaus könnte behaupten, dass es Menschen an Intelligenz mangele, weil unsere Intuition dazu, wie sich Echolokation anfühlt, etwa genauso begrenzt ist wie die von ChatGPT.
Muresan: Wir müssen hier über die Bedeutung von "Verständnis" sprechen. Versteht ChatGPT etwas von dem, was wir von ihm verlangen oder von der Ausgabe, die es produziert?
Ich würde sagen, dass ChatGPT kein Verständnis von der realen Welt hat, die von der Sprache beschrieben wird. Verständnis bedeutet meiner Meinung nach, die Welt und die Beziehungen zwischen den Dingen darin intern nachzubilden und gleichzeitig ihr zukünftiges Verhalten vorherzusagen. Um ein solches internes Modell der Welt zu schaffen, benötigt man notwendigerweise einen Körper, der seine Umgebung wahrnehmen und darauf reagieren kann. Dadurch entsteht ein ultra-hochdimensionales internes Modell, das Verständnis unterstützt.
Zum Beispiel verarbeiten Menschen Bilder ganz anders als Deep-Learning-Algorithmen. Stell dir das Bild eines Autos auf einer Straße vor, mit einigen Bäumen an der Seite und Fußgängern, die die Straße überqueren. Wir verstehen den Inhalt des Bildes und wir verarbeiten mühelos die teilweise Verdeckung durch die Bäume. Wir verstehen, was vorne und was hinten ist, weil wir eine räumliche Vorstellung haben, die wir durch Interaktion mit unserer Umgebung erlernt haben.
Darüber hinaus können wir die Bewegungsrichtungen einzelner Fußgänger vorhersagen oder die Wahrscheinlichkeit einer Gefahr anhand der Position des Autos oder sogar anhand des Alters des Fahrers abschätzen. All diese Konzepte und Szenarien stehen irgendwie gleichzeitig in unserem internen Modell der Welt auf Abruf bereit. Sie sind leicht zugänglich und wir können sie willentlich aktivieren und damit arbeiten.
Wir weisen nicht einfach Muster irgendwelchen Kategorien zu, wie es KI-Modelle tun. ChatGPT kann zwar eine ausführliche Geschichte darüber erzeugen, was mit dem Auto und den Fußgängern passieren könnte, aber das geschieht durch statistische Kombination einiger Geschichten, mit denen es zuvor konfrontiert wurde, oder durch Anwendung einiger Regeln, um einen plausiblen neuen Text "kreativ" zu generieren.
Das bedeutet nicht, dass ChatGPT ein Verständnis für die Welt hat, die der Text beschreibt. Es hat eine Art Verständnis für Grammatik, Sprachstruktur und Kontext, aber kein Verständnis für die Konzepte, die die Sprache ausdrückt.
Das Gehirn ist ständig aktiv
Übrigens ist es eine wichtige Beobachtung, dass die vom Gehirn konstruierte innere Welt autonom ist, das heißt, sie existiert auch in Abwesenheit von Wahrnehmung. Wenn wir träumen, erzeugen wir eine sehr lebendige und recht detaillierte Version der Realität, welche sich nach den Regeln zusammensetzt, die wir aus den Erfahrungen mit unserer Umgebung abgeleitet haben.
Selbst wenn wir wach sind, aber das Gehirn von Sinneswahrnehmungen abschotten, beginnt es, solche Wahrnehmungen und sogar ganze eingebildete Welten zu simulieren. Dies kann im Experiment zuverlässig durch sogenannte sensorische Deprivation(öffnet im neuen Fenster) ausgelöst werden, was beispielsweise zu Halluzinationen oder außerkörperlichen Erfahrungen führt.
Linde: In der Tat ist das Fehlen ständiger Aktivität einer der wichtigsten Unterschiede zwischen großen Sprachmodellen und menschlicher Intelligenz. Ein Werkzeug wie ChatGPT reagiert nur auf Benutzeranfragen, ist aber nicht darauf ausgelegt, selbst die Initiative zu ergreifen.
Aber ich habe den Eindruck, dass Intelligenz für dich automatisch bedeutet, dass ein System intern auf eine bestimmte Weise funktionieren muss, und dass diese der Biologie entsprechen muss. Analog dazu würde "fliegen" immer bedeuten, Federn und Muskeln zu haben, um sie auf und ab zu bewegen. Und jedes Objekt, das weder Flügel noch Muskeln hat, kann per Definition nicht fliegen.
Solange Tiere die einzigen fliegenden Dinge auf der Welt waren, wäre das nicht weiter aufgefallen. Aber spätestens seit der Erfindung von Flugzeugen wird "fliegen" von einer Außenperspektive definiert und nicht durch die Art und Weise, wie das System in Inneren funktioniert. Und genau wie es viele Arten des Fliegens gibt, sollten wir die Möglichkeit in Betracht ziehen, dass es viele Wege gibt, wie sich Intelligenz äußern kann.
Muresan: Natürlich gibt es viele Möglichkeiten, wie ein System intelligentes Verhalten zeigen kann. Aber ich möchte klarstellen, dass ich mich hier auf eine menschenähnliche Intelligenz beziehe, weil diese in der Regel gemeint ist, wenn die Leute von Intelligenz sprechen.
Was die Flug-Analogie betrifft, würde ich sagen, dass es zwar mehr als eine Art des Fliegens gibt, aber es gelten einige Grundsätze, die entscheidend sind. Um zu fliegen, müssen wir Auftrieb erzeugen – sei es durch Flügelschlag, dynamischen Druckunterschied oder nach dem Raketenprinzip. Ich denke, dass einige der Voraussetzungen für eine menschenähnliche Intelligenz eher auf der Seite der grundlegenden Prinzipien liegen als auf der Seite der mechanistischen Umsetzung.
Um das noch klarer auszudrücken: Wir verstehen die Welt, weil wir uns ein inneres Modell davon mit all ihren komplexen Regeln und statistischen Regelmäßigkeiten schaffen. Dieses aktualisieren wir aufgrund neuer Sinneseindrücke, oder wir lassen es beim Träumen oder Halluzinieren frei laufen. Dies ist meiner Meinung nach ein grundlegendes Prinzip, das für eine menschenähnliche Intelligenz erforderlich ist, und nicht nur ein möglicher Mechanismus der Umsetzung.
Sprache ist nur die Spitze des Eisbergs
Um zurück auf die Sprache zu kommen: Sie ist nur ein begrenzter Ausdruck dieser laufenden internen Prozesse, also die Spitze des Eisbergs. Man könnte einem Sechsjährigen beibringen, Sätze einer Fremdsprache zu wiederholen, ohne die Worte zu erklären oder zu übersetzen. Man kann diesem Kind sogar Regeln beibringen, wie man solche Sätze kombiniert und daraus neue bildet. Aber der so erzeugte Text wird für das Kind keine Bedeutung haben, bis man die Worte in solche übersetzt, mit denen es vertraut ist und die mit dem internen Modell der Welt verknüpft sind, welches das Kind entwickelt hat.
Das Schöne an der Sprache ist nämlich, dass Wörter Auslöser für interne Prozesse sein können, die verschiedene Menschen erleben. Ein sehr komplexes internes Modell in meinem Geist kann ein ähnliches Modell in deinem Geist durch Sprache aktivieren. Dies bedeutet jedoch nicht, dass das Modell in der Sprache selbst enthalten ist. Es funktioniert nur, weil wir der gleichen Umgebung ausgesetzt sind und eine persönliche innere Welt entwickeln können, die die reale Welt widerspiegelt.
Die Welt ist jedoch nicht in der Sprache selbst enthalten, sondern in unseren internen Modellen. Diese können wir nur entwickeln, weil wir einen Körper haben und in der Lage sind, die Welt wahrzunehmen und darauf zu reagieren. Das heißt, wir haben Handlungsfähigkeit.
Braucht Intelligenz einen Körper?
Linde: Für biologische Intelligenz ist es richtig, dass sie über einen Körper verfügen und mit ihrer Umgebung interagieren muss. Daraus kann man jedoch nicht die gleiche Notwendigkeit für jedes andere intelligente System ableiten. Vorsicht, hier kommt das Argument des verrückten Physikers!
Betrachte einmal den gesamten Planeten Erde als ein System, einschließlich der gesamten Menschheit. Die "Umgebung" dieses Systems ist der Rest des Universums. Vor dem Zeitalter der Raumfahrt hatte der Planet Erde keine "Handlungsfähigkeit" in Bezug auf diese Umgebung. Er wirkte durch seine Schwerkraft und reflektierte Strahlung, aber der Planet nahm an seiner Umgebung keine Beobachtungen oder Handlungen vor, welche ihn zu einem intelligenteren System machen würden.
Trotzdem ist heute die Erde ein intelligentes System: Eine außerirdische Zivilisation könnte eine Nachricht zu unserem Planeten senden und eine sinnvolle Antwort erhalten. Die Erde kann auch physisch in einer gezielten, intelligenten Weise mit dem Rest des Universums interagieren, indem sie beispielsweise Proben vom Mond sammelt oder einen Asteroiden auf Kollisionskurs abschießt.
Wenn wir also einfach gedanklich einen großen Kasten um die Erde herum zeichnen, dann hat das System im Inneren dieses Kastens Intelligenz erworben und kann diese auf seine Umgebung außerhalb des Kastens anwenden, ohne dass es vorher nennenswerte Informationen in der Welt außerhalb des Kastens gesammelt hätte.
Muresan: In der Tat können ein System und seine Umgebung auf viele Arten definiert werden. Aber ich sehe die Gültigkeit dieses Arguments nicht, denn wir können wirklich nicht sagen, dass die Erde intelligent ist, nur weil Menschen auf ihr leben.
Es ist nicht die Erde, die mit dem Rest des Universums interagiert, sondern die Menschen auf der Erde. Ich denke nicht, dass diese Erweiterung auf beliebige Weise vorgenommen werden kann, also die Agenten auf ihre Umgebung auszudehnen, um einen aggregierten Agenten zu schaffen.
Tatsächlich könnte dies im interessanteren Kontext der sogenannten Autopoiese(öffnet im neuen Fenster) diskutiert werden, die von den chilenischen Wissenschaftlern Humberto Maturana und Francisco Varela eingeführt wurde. Kurz gesagt ist Autopoiese die Fähigkeit lebender Systeme zur Selbsterschaffung und Selbsterhaltung, und ich denke, dass dies eine wichtige Voraussetzung für intelligente Handlungsfähigkeit ist.
Die Erde ist sicherlich kein autopoietisches System, zumindest nicht nach den uns bisher vorliegenden Beobachtungen. Daher denke ich nicht, dass wir die Definition eines intelligenten Systems willkürlich von individuellen Agenten auf ihre Umgebung ausdehnen können. Zumindest nicht auf eine einfache und sinnvolle Weise.
Sprachmodelle sind "nur" Statistik
Doch zurück zu ChatGPT und verwandten Sprachmodellen: Diese sind tatsächlich gut konstruierte stochastische Random-Walk-Modelle oder Sequenzgeneratoren(öffnet im neuen Fenster). Solche Algorithmen weisen zwar sehr interessante und überraschende Eigenschaften(öffnet im neuen Fenster) auf, aber ich denke, dass sie dennoch nicht über die Einschränkungen früherer KI-Techniken hinausgehen. Sie bleiben immer noch auf ein enges Feld beschränkt, in diesem Fall die Welt der Sprache.
Linde: Ich bin mir nicht sicher, ob ich Sprache als enges Feld bezeichnen würde. In gewisser Hinsicht ist es viel breiter als die physische Welt, weil man alle realen Vorgänge und Wahrnehmungen mit Sprache zumindest angenähert beschreiben kann und sie zudem noch vielfältige abstrakte oder phantastische Ideen abbilden kann, die weit über die physische Welt hinausgehen.
Muresan: Die Frage dreht sich nicht um das Ausdrucksvermögen der Sprache. Es geht darum, ob man sich ausschließlich auf Sprache verlassen könnte, um Konzepte zu erlernen.
Bei Menschen drückt Sprache Konzepte aus, die auf viele nonverbale Weisen erworben wurden, und dann bauen wir auf diesen Konzepten auf. Wir haben ein verborgenes internes Abstraktionsalphabet, das durch ein Wechselspiel von Wahrnehmung und Verhalten entwickelt wurde und das die Sprache trägt. Und dann bauen wir auf dieser Grundlage auf.
Deutsch: sehr gut, Physik: ausreichend
Kann eine Maschine ohne diese Fundamente auskommen und sich ausschließlich auf Text verlassen, um die Welt zu verstehen? Ich bin skeptisch.
Lassen Sie mich ein Beispiel aus einem Dialog mit ChatGPT geben: Ich fragte, ob man ein Auto mit rechteckigen Rädern bauen könne. Die Antwort war im Wesentlichen korrekt im Sinne von "Ja, man kann es tun, aber es ergibt keinen Sinn". Aber sobald ich etwas genauer nachbohrte, wurde offensichtlich, dass das Sprachmodell viele der physikalischen und geometrischen Details durcheinanderbringt.
Es ist beeindruckend, wie ChatGPT "Wissen", das aus Sprache extrahiert werden kann, kombinieren kann. Aber das Beispiel mit dem Auto zeigt, dass das System kein physisches Verständnis der Welt hat.
Das Tool behauptet, kreisförmige Räder hätten eine besonders große Auflagefläche mit der Straße, so dass sich das Gewicht des Autos besser verteilen könne. Tatsächlich hat aber gerade das runde Rad, idealisiert betrachtet, zu jeder Zeit nur einen einzigen Kontaktpunkt – oder eine Linie, wenn wir die Dicke des Rades berücksichtigen – mit dem Boden. Dies ermöglicht es ihm zu rollen.
ChatGPT kombiniert einige relevante Informationen mit einigen irrelevanten, zum Beispiel der Gewichtsverteilung. Aber ich denke, es gibt harte Grenzen, die nicht allein durch das Lernen aus Sprache überwunden werden können.
Versteh mich nicht falsch: Ich bin immer noch beeindruckt davon, dass ChatGPT feststellen kann, dass rechteckige Räder Ecken haben und dass einzelne Kontaktpunkte hohen Druck erzeugen. Dies aus der Sprache zu extrahieren, ist keine triviale Leistung, also ist es tatsächlich toll, was das System kann.
Allerdings verstehen große Sprachmodelle den von ihnen generierten Text nicht wirklich, auch wenn einiges an grundlegenden Schlussfolgerungen und eine beträchtliche Menge an Verallgemeinerung vorhanden zu sein scheinen. Außerdem sollte man darauf hinweisen, dass sie auch nicht wirklich neu sind. Solche Systeme sind viel raffiniertere Versionen der regelbasierten Expertensysteme der 70er und 80er Jahre. Diese verwendeten eine Datenbank von Sätzen, aus der sie neue Sätze auf der Grundlage bestimmter logischer Vorgaben ableiteten.
Was braucht echte KI?
ChatGPT und andere moderne Sprachmodelle verwenden ebenfalls eine Datenbank von Texten, wenn auch eine viel größere, und die Regeln für Schlussfolgerungen sind nicht manuell erstellt, sondern sie werden durch sogenanntes selbstüberwachtes und bestärkendes Lernen gebildet.
Im Wesentlichen sprechen wir jedoch von demselben Ansatz: Es sind Algorithmen zur Sprachverarbeitung oder Spracherzeugung, aber keine Systeme, die die Welt auf eine sinnvolle Art verstehen. Ich stimme zu, sie können beeindruckend und nützlich sein, aber sie sind dennoch begrenzt. Können sie in Richtung AGI skalieren? Ich denke, noch nicht.
Ein System, das die Welt in menschlichem Sinne versteht, sollte meines Erachtens zumindest folgende Eigenschaften haben:
Es sollte einen Körper haben und die Fähigkeit besitzen, Handlungen in der Umgebung auszuführen und die Folgen seiner Handlungen wahrzunehmen.
Es sollte die Fähigkeit haben, ein internes Modell der Welt auf der Grundlage direkter Wechselwirkung mit der Umgebung zu konstruieren.
Es sollte Handlungskompetenz haben, also einen Willen zu gezielten Aktivitäten in seiner bestimmten Umgebung, und dynamisch sein, sich also immer in irgendeiner Art von innerer Transformation befinden.
Um wirkliches Verständnis zu ermöglichen, sollte das interne Modell autonom sein. Das heißt, es sollte auch ohne jegliche externe Eingabe existieren und Effekte hervorbringen. Das Modell ist also nicht einfach eine direkte Darstellung irgendeiner Eingabe, sondern eine sich dynamisch entwickelnde innere Welt.
Zusammenfassend würde ich sagen, dass ein intelligentes System im menschlichen Sinne, das die Welt versteht, notwendigerweise in der Lage sein muss, von der Welt zu träumen. Erst dann werden wir uns dem Aufkommen von AGI nähern. Wie solche Systeme konstruiert werden sollten, wissen wir nicht. Und ich denke, dass wir noch nicht sehr nah dran sind, es herauszufinden.
Linde: Wir stimmen überein, dass noch einige sehr wichtige Elemente fehlen, bevor KI-Modelle das Stadium von AGI erreichen können. Wir scheinen aber noch etwas unterschiedliche Sichtweisen darauf zu haben, ob große Sprachmodelle wie ChatGPT bereits einen Kern "wahrer" Intelligenz enthalten oder nicht.
In jedem Fall dürfen wir auf viele interessante Entwicklungen in naher Zukunft gespannt sein. Es war eine große Freude, diese Fragen mit dir zu diskutieren, Raul. Vielen Dank für deine Zeit!
Helmut Linde(öffnet im neuen Fenster) leitete verschiedene Data-Science-Teams in deutschen Konzernen und ist nun in seinem Unternehmen für die Digitalisierung von Forschung und Entwicklung verantwortlich. Als Mathematiker und Physiker ist er fasziniert von naturwissenschaftlichen Themen sowie der Anwendung und der Zukunft der künstlichen Intelligenz.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.