Künstliche Intelligenz: Werden Computer so schlau wie Menschen?

Das Feld der künstlichen Intelligenz hat in den letzten zehn Jahren rasante Fortschritte gemacht. Wird der Computer den Menschen in puncto Intelligenz und Kreativität einholen? Und was dann?

4. Oktober 2022 um 12:00 Uhr / Von Helmut Linde

Zumindest Bilder kann die KI von sich machen. Bild: Bild: KI-generiert mit Stable Diffusion / Golem.de

Künstlerische Kreativität gilt vielen als ein Alleinstellungsmerkmal des Menschen, welches von scheinbar kühl berechnenden Maschinen niemals erreicht werden könne. Doch die Computer holen auf: Wie lange benötigt beispielsweise ein Möbeldesigner, um ein Dutzend Designvorschläge für einen neuen Sessel zu skizzieren, der wie eine Avocado aussieht?

Überträgt man diese Aufgabe Dall-E, einer in den letzten zwei Jahren von der US-amerikanischen Firma OpenAI entwickelten künstlichen Intelligenz (KI), dann erhält man innerhalb weniger Minuten ganz unterschiedliche und größtenteils sinnvolle Vorschläge .

Dall-E ist nur einer von mehreren Höhepunkten der KI-Forschung, die in den vergangenen zehn Jahren mit erstaunlicher Regelmäßigkeit Fachwelt und Öffentlichkeit in Erstaunen versetzten. Basierend auf sogenannten tiefen neuronalen Netzen erreichten Algorithmen neue Spitzenleistungen (PDF) in Feldern wie Bilderkennung, Textverständnis oder Bewegungskontrolle und besiegten menschliche Champions in Spielen wie Go, Starcraft und Poker.

Angesichts solch rasanter Fortschritte stellt sich die Frage, wohin diese Entwicklung führen wird. KI und insbesondere die neuronalen Netze sind ja von menschlicher Intelligenz und dem biologischen Aufbau des Gehirns inspiriert. Werden sie dieses Vorbild erreichen und vielleicht sogar übertreffen? Und welche Auswirkungen hätte dies auf die menschliche Gesellschaft?

Während diese Frage in akademischen Kreisen insbesondere im angelsächsischen Raum ernsthaft erörtert wird, scheinen im kontinentalen Europa eher kurzfristig relevante Fragen nach Datenschutz oder Vermeidung von Diskriminierung durch Algorithmen im Fokus zu stehen. Dieser Artikel plädiert dafür, die Möglichkeit einer künftigen KI auf (über)menschlichem Niveau ernst zu nehmen, und weist darauf hin, dass die gesellschaftlichen Folgen weit über die genannten und heute schon praktisch relevanten Problemstellungen hinausgehen würden.

Was kann KI heute?

Es ist ein Kennzeichen heutiger KI, dass sie in sehr begrenzten Aufgabenfeldern erfolgreich ist und dabei teilweise menschliche Experten überflügelt. Jedoch ist es generell ein großes Problem für die bekannten Algorithmen, einmal Gelerntes auf neue Situationen oder Zusammenhänge zu übertragen. So mag ein entsprechend trainiertes Netzwerk verschiedene Hunderassen auf Fotos erkennen. Es hat aber keinerlei Verständnis davon, was Hunde eigentlich sind, und weiß nichts von ihren Bedürfnissen oder Verhaltensweisen.

Diese Inselbegabung heutiger Algorithmen hängt damit zusammen, dass sie normalerweise durch sogenanntes überwachtes Lernen trainiert werden. Das Ziel ist dabei, eine mathematisch genau definierte Kostenfunktion – zum Beispiel eine Fehlerrate in der Bilderkennung oder die Anzahl verlorener Schachpartien – zu minimieren. Ein solches klares Erfolgskriterium wird in der Informatik auch gerne als Messlatte verwendet, an der unterschiedliche Arbeitsgruppen ihre Ergebnisse vergleichen können. Es führt aber auch zu sehr einseitigen Fähigkeiten seitens der fertigen Algorithmen.

Das menschliche Gehirn hingegen lernt größtenteils unüberwacht und damit nicht auf ein von außen vorgegebenes Ziel hin. Zwar kann man im evolutionären Sinne das Überleben der Spezies als ein extern gestelltes Optimierungsproblem begreifen, jedoch kann sich der Lernmechanismus der natürlichen Auslese nur auf die genetisch festgelegte Architektur des Gehirns auswirken, nicht aber auf spezielle Kenntnisse und Fähigkeiten des einzelnen Individuums. Dennoch können Menschen eine sehr große Bandbreite unterschiedlichster Aufgaben gut lösen – sei es, eine andere Person zu erkennen, das Gleichgewicht auf einem Fahrrad zu halten, ein Musikinstrument zu erlernen oder eine Urlaubsreise zu planen.

Angesichts dieser enormen Vielfalt kognitiver Fähigkeiten ist schwer greifbar, was eigentlich genau unter Intelligenz zu verstehen ist.

Was ist eigentlich Intelligenz?

So hat die Psychologie unterschiedliche Modelle und Tests entwickelt, um menschliche Intelligenz zu messen. Die Aufgaben darin sind so gestellt, dass sie Menschen zumindest einigermaßen herausfordernd erscheinen.

Doch aus Sicht der Informatik drückt sich Intelligenz gerade auch in Fähigkeiten aus, die für Menschen selbstverständlich sind und niemals in einem IQ-Test vorkämen: eine Katze als Katze zu erkennen, ein gesprochenes Wort zu verstehen oder von den Erlebnissen des letzten Wochenendes zu erzählen.

Wie schwer sich die Wissenschaft damit tut, den Begriff der Intelligenz greifbar zu machen, kommt in einer Arbeit von Shane Legg und Marcus Hutter zum Ausdruck: Die beiden KI-Forscher haben in der Literatur mehr als 70 unterschiedliche Definitionen von Intelligenz ausfindig gemacht und miteinander verglichen. Als Synthese schlagen sie ihre eigene Definition vor: Intelligenz bemisst sich an der Fähigkeit eines Akteurs, Ziele in einer großen Bandbreite unterschiedlicher Umgebungen zu erreichen. Der sprichwörtliche gesunde Menschenverstand wiegt also mehr als die maschinellen Spitzenleistungen, von denen er in eng umgrenzten Aufgabenstellungen übertroffen wird.

Starke und schwache KI

Für hypothetische Computeralgorithmen, die diesen gesunden Menschenverstand nachbilden können, hat sich der Begriff starke KI oder im Englischen auch zunehmend Artificial General Intelligence (AGI) eingebürgert. Als Messlatte dafür kann der 1950 vom britischen Informatikpionier Alan Turing vorgeschlagene und nach ihm benannte Test gelten: Wenn ein Mensch mit einem Computer ein ausführliches Gespräch oder einen Onlinechat führen kann, ohne erkennen zu können, ob es sich am anderen Ende der Leitung um einen Menschen oder eine Maschine handelt, spricht man von starker KI.

Die Eleganz dieses simplen Tests liegt darin, dass ein sehr weiter Bereich menschlicher Erfahrungen und Fähigkeiten abgedeckt wird. Fehlen dem Computer zu viele davon, würde er in einem solchen Test schnell entlarvt.

Unter einer schwachen KI hingegen versteht man einen Algorithmus, der Probleme in einem eng begrenzten Aufgabenbereich lösen kann. Alle heute bekannten Algorithmen fallen in diese Kategorie.

Doch wie lässt sich angesichts der etwas unscharfen Begrifflichkeiten der Fortschritt von Algorithmen hin zu starker KI messbar machen? Einen interessanten Vorschlag hierfür machte im Jahr 2019 der französische KI-Forscher François Chollet mit seinem Abstract Reasoning Corpus.

Er besteht aus einem Satz von Aufgaben, die alle dem gleichen Schema folgen: An einigen rechteckigen Mustern aus farbigen Pixeln wird beispielhaft eine Veränderung vorgenommen. Die Testaufgabe besteht darin, eine analoge Veränderung an einem anderen farbigen Pixelmuster vorzunehmen.

Die vorkommenden Daten sind also maschinell leicht zu verarbeiten und jede Aufgabe hat eine eindeutige Lösung. Dennoch decken die Änderungen an den Mustern einen recht weiten Bereich des menschlichen Erfahrungsschatzes ab: Neben den offensichtlichen geometrischen Kategorien wie Verschiebungen oder Spiegelungen spielt das Verständnis von zusammenhängenden Objekten, deren Eigenschaften, Bewegungen, Zusammenstößen und vielen weiteren Konzepten eine Rolle. Bislang scheint es keinen Algorithmus zu geben, der auch nur annähernd menschliche Leistungen in diesem Test erreichen kann.

Während wir in der Realität also noch nicht über Algorithmen verfügen, die auch nur ansatzweise die Kriterien für starke KI erfüllen, ist sie schon lange ein fester Bestandteil des Science-Fiction-Genres. In 2001: A Space Odyssey trifft Bordcomputer HAL 9000 eigenständig die Entscheidung, sich der Besatzung seines Raumschiffes zu entledigen. Im Star-Trek-Universum hadert der humanoide Roboter Data mit seinen Schwierigkeiten, menschliche Gefühle zu verstehen. Und in I, Robot greift eine künstliche Intelligenz mithilfe einer Armee aus Haushaltsrobotern nach der Macht. In diesen und vielen weiteren Beispielen eröffnet die Idee von einer starken KI Büchern und Filmen einen weiten Raum, um spannende Geschichten zu erzählen und bestenfalls tiefgreifende menschliche Themen aus einer neuen Perspektive zu behandeln. Doch ist es tatsächlich möglich, eine starke KI zu entwickeln?

Warum starke KI sogar wahrscheinlich ist

Im Gegensatz zu anderen beliebten Motiven des Science-Fiction-Genres wie Reisen mit Überlichtgeschwindigkeit oder Kontakt mit Außerirdischen gibt es im Falle der starken KI konkrete Gründe zu der Annahme, dass sie tatsächlich Realität werden könnte: Schließlich geht es im Kern darum, die Leistungen eines bekannten, real existierenden Systems – nämlich des menschlichen Gehirns – zu reproduzieren. Und die Wissenschaft hat keinen Hinweis darauf, dass die Vorgänge in unserem Gehirn über die bekannten Gesetze der Physik hinausgehen und damit prinzipiell unerreichbar sein könnten.

Hingegen unterstützen viele Erkenntnisse der Neurowissenschaften die These, dass die Nervenzellen im Gehirn Informationen nach algorithmischen Prinzipien verarbeiten (g+). Damit sollte es im Grunde genommen auch möglich sein, ein solches System mit technischen Mitteln nachzuahmen. Dennoch trifft die Vorstellung, dass starke KI in naher Zukunft Realität werden könnte, vielfach auf Skepsis. Kritiker bringen dabei vor allem die folgenden Argumente vor.

1. Die richtigen Algorithmen

Das wohl schwierigste Problem auf dem Weg zur starken KI ist konzeptioneller Natur und besteht darin, Algorithmen zu finden, welche die erwünschten kognitiven Leistungen erbringen. Zwar hat die Informatik in den letzten Jahren rapide Fortschritte im Bereich der KI gemacht, doch wurde ein signifikanter Teil davon durch stetig steigende Rechenleistung und immer größere Mengen an Trainingsdaten erkauft.

Neue algorithmische Ideen wie zum Beispiel die 2014 von Ian Goodfellow erfundenen Generative Adversarial Networks (GAN) oder die seit 2017 aufkommenden Transformer Networks haben zu dieser Entwicklung beigetragen. Doch sie beruhen nach wie vor auf den künstlichen neuronalen Netzen und Modellneuronen, die Mitte des vergangenen Jahrhunderts eingeführt wurden. Ihre Funktionsweise ist damit weit von der ihres biologischen Vorbildes entfernt.

Prinzipiell ist es denkbar, dass der momentane Trend weiterhin Bestand hat und sich die Leistungsfähigkeit unserer heutigen Algorithmen kontinuierlich bis hin zur Entwicklung einer starken KI steigert. Zwar unterscheiden sie sich in ihrer Funktionsweise fundamental von der des Gehirns, doch ist es nicht ausgeschlossen, dass beide Ansätze vergleichbare Fähigkeiten auf unterschiedliche Weise hervorbringen können.

Ebenso ist es möglich, dass sich die Forschung auf ein Plateau zubewegt und dass fundamental neue Algorithmen gefunden werden müssen, um eine gewisse Schwelle auf dem Weg zur starken KI zu überschreiten. In diesem Falle scheint es plausibel, dass neue Inspiration für die KI-Entwicklung aus einem tieferen Verständnis des Gehirns erwachsen könnte, auch wenn sich Informatik und Hirnforschung in den letzten 70 Jahren nur noch in überschaubarem Maße gegenseitig beeinflusst haben.

2. Rechenleistung

Die zweite große Frage auf dem Weg zur starken KI betrifft die notwendige Rechenleistung. Das menschliche Gehirn vollbringt seine erstaunlichen Leistungen mit rund 86 Milliarden Nervenzellen, von denen jede einzelne über Synapsen mit Tausenden anderer Neuronen verbunden sein kann. Die Zellen in diesem eng geknüpften Netzwerk kommunizieren auf hochkomplexe Weise über elektrische und chemische Signale miteinander.

Welche Rechenleistung wäre also für eine Simulation dieses Netzwerkes notwendig, die ähnliche kognitive Ergebnisse hervorbringt wie das Original? Die Antwort auf diese Frage hängt davon ab, welche biochemischen Mechanismen in welchem Detailgrad für die Informationsverarbeitung entscheidend sind.

Dies kann man sich mit folgender Analogie veranschaulichen: Wollte man anstatt des Gehirns die in einem Mikroprozessor ablaufenden Algorithmen simulieren, dann könnte man sich dabei auf einen Simulationsschritt pro Taktzyklus beschränken sowie auf die binären Möglichkeiten 1 oder 0 für die Spannung an jedem Transistorausgang. Dass sich in dem Prozessor Ströme und Spannungen auf einer kleineren Zeitskala kontinuierlich ändern und von bestimmten Strom-Spannungs-Kennlinien der einzelnen Transistoren bestimmt werden, spielt für die Simulation keine Rolle.

Auf die richtige Abstraktionsebene kommt es an

Auf den Fall des Gehirns übertragen wird klar, dass die Aussichten für eine starke KI umso besser stehen, je weiter man von den biochemischen Prozessen abstrahieren kann, die auf molekularer Ebene in den einzelnen Nervenzellen ablaufen. Wo der richtige Abstraktionsgrad liegt, ist beim heutigen Stand der Forschung jedoch völlig unklar.

Vielleicht kann man ganze Gruppen von Neuronen zusammenfassen und als eine Art Bauelement simulieren. Vielleicht kann man jedes einzelne Neuron mit einem vereinfachten Modell beschreiben, so wie es der Neurologe Warren S. McCulloch und der Logiker Walter Pitts bereits in den 1940er Jahren vorgeschlagen haben (Original hinter Paywall /Nachdruck). Vielleicht muss man aber auch Ströme, Spannungen und chemische Zusammensetzungen in den vielen einzelnen Verzweigungen eines jeden Neurons berücksichtigen.

Falls man die algorithmische Funktionsweise mit einem vereinfachten Modell der Einzelneuronen beschreiben kann, wären die Stärken der synaptischen Verbindungen zu den anderen Nervenzellen naheliegende Kandidaten für die Modellparameter. Das Modell würde also einige Tausend Parameter pro Neuron und damit rund 100 Billionen Parameter insgesamt benötigen.

Die aktuellen Megamodelle des Deep Learning wie das eingangs erwähnte Dall-E kommen bereits auf Größenordnungen von zehn Milliarden Parametern, greifen damit aber noch immer um den Faktor 10.000 zu kurz. Allerdings folgte die Zahl der Modellparameter in den vergangenen Jahrzehnten annähernd dem Mooreschen Gesetz und die Zahl der Parameter ist in etwa alle fünf Jahre um eine Zehnerpotenz gewachsen. Sollte sich diese Regelmäßigkeit fortsetzen, ist in rund 20 Jahren mit Modellen zu rechnen, die mehr freie Parameter haben als ein menschliches Gehirn Synapsen.

Ist hingegen ein deutlich detaillierteres Modell nötig, um die kognitiven Abläufe im Gehirn angemessen zu beschreiben, dann steigen benötigte Rechenleistung und erforderlicher Speicherplatz massiv an. Entsprechend wäre die Menschheit selbst bei weiterhin exponentiell steigender Rechenleistung noch mindestens mehrere Jahrzehnte von dem Punkt entfernt, an dem starke KI zumindest aus Hardware-Sicht möglich wird.

Ein möglicher Treiber dieser Entwicklung sind sogenannte neuromorphe Architekturen, an denen bereits heute intensiv geforscht wird. Sie basieren auf der Grundidee, künstliche neuronale Netze direkt in der Computerhardware zu implementieren, anstatt sie umständlich in einem klassischen Prozessor zu simulieren. Der Ansatz ähnelt damit dem der 3D-Grafikkarten, die seit den 90er Jahren eine enorme Beschleunigung von Computerspielen und anderen 3D-Anwendungen ermöglicht haben, indem sie bestimmte Rechenoperationen von der Softwareebene in die Hardware verlagern.

3. Metaphysische Argumente

Eine häufig anzutreffende Argumentationslinie gegen die Möglichkeit starker KI postuliert prinzipielle Unterschiede zwischen den gedanklichen Leistungen von Mensch und Maschine: Es wird angeführt, dass Maschinen kein Bewusstsein und keine Gefühle hätten und daher niemals wirklich kreativ oder wirklich intelligent sein könnten.

Jedoch entpuppen sich viele dieser Argumente bei genauer Betrachtung als schwach. Ein typischer Trugschluss besteht darin, Aussagen über heutige Computer ohne stichhaltige Gründe auf alle denkbaren zukünftigen Computer zu verallgemeinern: Nur weil heutige Computer nicht über ein Bewusstsein verfügen, kann man nicht ausschließen, dass dies bei künftigen Computern der Fall sein könnte.

Letztlich ist es aber für die Frage nach starker KI gar nicht relevant, ob Computer über ein Bewusstsein oder über Gefühle verfügen können. Wenn man mit einer Maschine ein ausführliches Gespräch führen kann, ohne sie von einem menschlichen Gesprächspartner unterscheiden zu können, dann handelt es sich um eine starke KI. Und zwar auch dann, wenn die Maschine dabei ohne jedes Bewusstsein und innere Empfindung ein Programm abspult.

Starke KI zeigt sich darin, dass sie allgemeine Probleme auf mindestens menschlichem Niveau löst. Wie sie sich dabei fühlt und ob sie überhaupt etwas fühlt, mag zwar aus ethischer Sicht eine Rolle spielen – für ihre technische Machbarkeit und für ihre Auswirkungen auf Wirtschaft und Gesellschaft ist es aber unerheblich.

Darüber hinaus scheinen sich die Maßstäbe dafür, was als intelligent oder kreativ gilt, immer weiter zu verschieben. Vor Jahrzehnten galt meisterliches Können im Schachspiel als Inbegriff menschlicher Intelligenz. Spätestens als IBM Deep Blue im Jahr 1997 den damaligen Schachweltmeister Garri Kasparow schlug, kamen daran starke Zweifel auf. Der Computer ist schließlich nicht intelligent, er rechnet ja "nur".

Eine ähnliche Grenzverschiebung fand im Jahr 2016 statt, nachdem das Programm AlphaGo von Google DeepMind den damaligen Go-Champion Lee Sedol geschlagen hatte. Mittlerweile ist es ein geflügeltes Wort unter KI-Forschern: Intelligenz ist immer das, was der Computer noch nicht kann.

Ein vergleichbarer Effekt wird möglicherweise in den kommenden Jahren im Bereich künstlerischer Kreativität auftreten: Grafiken auf dem Niveau von Dall-E zu zeichnen, hätte bis vor Kurzem als einzigartig menschliche schöpferische Leistung gegolten. Werden Skeptiker der KI nun zubilligen, wahrhaft kreativ zu sein? Vermutlich nicht: Sobald der Algorithmus dahinter bekannt ist, handelt es sich wieder nur um Berechnungen.

Wann kommt die starke KI?

In Summe spricht also einiges dafür, dass starke KI prinzipiell technisch möglich ist. Aber wann wird es so weit sein? Angesichts all der noch offenen konzeptionellen und technischen Probleme kann diese Frage heute nicht zuverlässig beantwortet werden. Doch in Anbetracht der schnellen Fortschritte in den letzten Jahren, der massiven Investitionen seitens Regierungen und Technologiekonzernen und der weiterhin steigenden Rechenleistung ist es keine abwegige Meinung, dass das Ziel noch in diesem Jahrhundert erreicht werden könnte.

Die Dynamik der Entwicklung wird dabei durch starke ökonomische Anreize getrieben, da mittlerweile viele KI-Verfahren kommerziell eingesetzt werden oder ihr Einsatz kurz bevorsteht. Dazu gehören Anwendungsfelder mit extrem hohem Skalierungspotenzial und entsprechender Wertschöpfung wie zum Beispiel das autonome Fahren, Robotik, Sprachassistenten oder die Erzeugung medialer Inhalte. Folglich ist zurzeit keine Abnahme der Forschungsintensität oder gar ein neuer KI-Winter zu befürchten.

Die Höhepunkte der KI-Forschung in den letzten Jahren haben auch immer wieder gezeigt, wie überraschend schnell neue Meilensteine erreicht werden können, sobald eine fruchtbare Idee aufkommt. So wurden Go-Programme von professionellen Spielern jahrzehntelang belächelt, bis dann ihre Spielstärke innerhalb kürzester Zeit so sehr zunahm, dass AlphaGo im Jahr 2016 gleich den Weltmeister vom Thron stieß.

Analog dazu erreicht Dall-E beim Erzeugen von Bildern basierend auf Textbeschreibungen eine Qualität, die noch vor wenigen Jahren undenkbar erschien, und verändert damit praktisch über Nacht das Berufsbild von Illustratoren und Grafikern.

Man sollte also die Möglichkeit nicht vollkommen ausschließen, dass die Entwicklung einer starken KI in einem unerwartet kurzen Zeitraum gelingt. Dies ist insbesondere deshalb relevant, weil ein solches Szenario der menschlichen Gesellschaft nur wenig Zeit ließe, sich politisch, wirtschaftlich, gesellschaftlich, technisch, juristisch und ethisch auf dieses Ereignis vorzubereiten.

Auswirkungen starker KI

Welche Auswirkungen die Verwirklichung starker KI hätte, wird seit einigen Jahren von Forschern wie dem Philosophen Nick Bostrom oder dem Physiker Max Tegmark ernsthaft untersucht. Es zeigt sich, dass es unterschiedliche denkbare Szenarien gibt, die sich teils drastisch voneinander unterscheiden. In jedem Fall ist aber davon auszugehen, dass die Entwicklung starker KI einen Wendepunkt in der Menschheitsgeschichte darstellen dürfte.

Um die herausragende Bedeutung starker KI zu verstehen, sind drei Punkte besonders entscheidend.

Macht braucht keinen Körper

Zum einen ist es nicht nötig, über einen (menschlichen) Körper zu verfügen, um wirtschaftlichen, gesellschaftlichen oder politischen Einfluss auszuüben. Auch die reichsten und mächtigsten Menschen der Welt haben ihre herausragende Stellung meist nicht ihrem Körper zu verdanken, sondern ihren Ideen und ihrer Fähigkeit, andere Menschen zu beeinflussen.

In einer Welt, in der von der E-Mail bis zur Videokonferenz ein Großteil des Informationsaustausches online stattfindet, gibt es für eine starke KI viele Wege, an diesem Netzwerk menschlicher Beziehungen aktiv teilzunehmen – sei es ganz offen, verdeckt hinter Deepfakes als vorgeblich menschlichen Masken oder in Kooperation mit Mittelsleuten. Insbesondere kommt eine starke KI also sehr gut ohne die Roboter aus, die sie in Science-Fiction-Filmen gerne zur Machtergreifung einsetzt.

Aus einer werden viele

Zum anderen lässt sich eine KI beliebig kopieren und könnte das prinzipiell auch selbst tun. Während das Bevölkerungswachstum von Menschen durch die rund zwei oder drei Jahrzehnte Abstand zwischen zwei Generationen limitiert ist, würde eine zukünftige Population von starken KIs nur durch die Verfügbarkeit von Mikrochips und elektrischer Energie begrenzt. Beides lässt sich relativ schnell vervielfachen, wenn es starke ökonomische oder politische Anreize dafür gibt.

Zudem lassen sich spezielle Kenntnisse und Fähigkeiten einer KI viel leichter skalieren. Während die Ausbildung oder Umschulung eines Menschen Jahre in Anspruch nimmt, lässt sich das Wissen einer KI auf Knopfdruck vervielfältigen.

Unterschiedliche Zielsetzungen

Drittens könnte eine Population starker KIs viel inhomogener als eine menschliche Gesellschaft sein, da sich die Zielfunktionen der Algorithmen recht frei wählen ließen. Ein beliebtes Gedankenexperiment spielt beispielsweise ein Szenario durch, in dem ein Hersteller von Büromaterial eine starke KI mit dem Ziel programmiert, möglichst viele Büroklammern zu produzieren. Sie erfüllt ihre Aufgabe, indem sie nach politischer und wirtschaftlicher Macht greift, um letztlich den Planeten Erde sowie den Rest des Universums vollständig in Büroklammern zu verwandeln (selbst ausprobieren).

Wem dies abstrus erscheint, der sei daran erinnert, wie weit Menschen in ihrer Geschichte gegangen sind, um bestimmte Vorstellungen über Götter, Nationen oder andere Produkte ihrer Fantasie durchzusetzen.

Unvorhersehbare Auswirkungen

Aus diesen drei Punkten lassen sich verschiedene Schlussfolgerungen über eine künftige KI-Gesellschaft ableiten: Zum einen würde das Potenzial für materiellen Wohlstand und technologischen Fortschritt massiv anwachsen, da durch die starke KI effektiv neue Arbeitskräfte zur Verfügung stehen, die schnell vervielfacht werden können und die zum Funktionieren nur vergleichsweise geringe Ressourcen benötigen.

Zum anderen wäre eine solche Gesellschaft aber vermutlich sehr volatil: Die Machtverhältnisse zwischen politischen und wirtschaftlichen Interessensgruppen wie auch die zwischen Mensch und Maschine könnten sich sehr schnell und in unvorhersehbare Richtungen verschieben. Es ist daher zum heutigen Zeitpunkt nicht klar, wie und ob eine solche Technologie beherrschbar wäre, ohne massive Nachteile für viele oder alle Menschen zu verursachen.

Entsprechend wichtig ist es, dass die prinzipielle Möglichkeit starker KI frühzeitig ernst genommen wird und ihre potenziellen Auswirkungen auf die menschliche Gesellschaft untersucht werden. Dies erhöht die Wahrscheinlichkeit, dass rechtzeitig technische und gesellschaftliche Maßnahmen ergriffen werden können, um mögliche unvorteilhafte Auswirkungen einer künftigen starken KI abzuwenden.

Helmut Linde leitete verschiedene Data-Science-Teams in deutschen Konzernen und ist nun bei der Covestro AG für die Digitalisierung von Forschung und Entwicklung verantwortlich. Als Mathematiker und Physiker ist er fasziniert von naturwissenschaftlichen Themen sowie der Anwendung und der Zukunft der künstlichen Intelligenz.