ChatGPT, Bard und Co: Bullshit, der (e)skaliert

ChatGPT und andere populäre KI-Systeme werden uns weder alle arbeitslos machen noch das Denken und Handeln abnehmen. Sie werden aber unsere Gesellschaft verändern – nicht zum Guten.

16. März 2023 um 12:37 Uhr / Ein Essay von Jürgen Geuter

Mehr Bullshit durch KI? Bild: Pixabay

"KI" ist gerade wieder auf der Spitze eines Hype Cycles. Das heißt, die Versprechen (oder Bedrohungen) dieser Systeme, insbesondere der sogenannten Large Language Models (LLMs) dominieren nicht nur die Seiten klassischer Tech-Publikationen, sondern beschäftigen vom Feuilleton bis zu den Wirtschaftsteilen nahezu alle größeren Zeitungen und Magazine.

Werden diese Systeme uns alle arbeitslos machen? Sind sie die Vorstufe zu starker KI, also Computersystemen, die wirklich eigenständig denken und handeln können? Werden sie zu Umwälzungen in unseren Gesellschaften und Wirtschaften führen? Die Antworten sind nein, nein und ja – aber vielleicht nicht aus den Gründen, die offensichtlich sind.

Anmerkung: KI ist nicht so sehr ein technisches Thema als ein Narrativ, daher setze ich KI sonst immer in Anführungszeichen. Zur einfacheren Lesbarkeit des Textes wird darauf im Folgenden verzichtet.

Rasende technische Innovation?

2017 veröffentlichte ein Forscherteam von Google Brain (dem Teil von Google Research, der sich mit maschineller Intelligenz beschäftigt) unter dem Titel Attention Is All You Need ein Paper, dessen Relevanz sich für den Mainstream erst in den letzten Jahren, wenn nicht gar Monaten herausgestellt hat.

Die Wissenschaftlerinnen und Wissenschaftler stellten mit den sogenannten Transformern eine neue Architektur für Machine Learning Modelle vor, die die Basis der meisten heute populären KI-Systeme ist: ChatGPT, Stable Diffusion und andere lassen sich mehr oder weniger direkt auf dieses Paper zurückführen.

Die Entwicklung neuer Language Models geht mit großer Geschwindigkeit voran: ChatGPT, also OpenAIs älteres GTP-3 Modell mit einigen Erweiterungen, ist nun schon einige Monate alt, Google verkündete vor einigen Wochen sein neues Modell namens Bard. Meta kündigte vor wenigen Tagen ein eigenes Mammut-Modell Llama an – und musste direkt zuschauen, wie es komplett geleakt und von ambitionierten Entwicklerinnen und Entwicklern adaptiert und integriert wurde.

Heute, wenige Tage nach dem Leak, haben Menschen Llama auf Raspberry Pis und Smartphones ans Laufen gebracht.

Die offenen Innovationen sehen wir dabei maßgeblich im Bereich der Inferenz, das heißt der Anwendung der trainierten Modelle: Durch cleveres Re-Encoden oder die Kombination bestehender Architekturen werden ursprünglich für massive Infrastrukturen oder zumindest spezialisierte Hardware geplante Netze auf recht erschwinglicher Hardware auch für Normaluser nutzbar. Durch einfache UIs und fertige Installer können sie die Systeme leicht ausprobieren, ohne dafür einen Anbieter wie OpenAI bezahlen zu müssen.

Die wissenschaftlichen Innovationen sind noch begrenzt

Doch der schnellen Bewegung auf der Inferenzseite steht immer noch eine gewisse Trägheit auf der Trainingsseite gegenüber: Um die heute etablierten Modelle mit Milliarden von Parametern trainieren zu können, ist neben dem Zugang zu einer immensen Menge Trainingsdaten und geeigneter Hardware auch ein immenser Energieaufwand nötig.

Das Training ist daher vor allem großen Anbietern wie Google, OpenAI, Microsoft (deren Infrastruktur OpenAI nutzt), Meta oder auch Baidu vorbehalten. Daneben gibt es einige wenige aus dem universitären Kontext entstandene offene Initiativen wie EleutherAI, die über Forschungsinfrastrukturen genug Computing Power aufbringen können.

Der Markt scheint sich mit unglaublicher Geschwindigkeit zu bewegen, die wissenschaftlichen Innovationen hingegen sind noch begrenzt: Wir sehen eher eine iterative Verbesserung eines bestehenden Ansatzes mit kleineren Adaptionen zur Anwendung auf neue Bereiche (zum Beispiel die Nachahmung der Stimme einer Person) und einer optimierten Usability.

Die Marktdominanz der großen Anbieter entspringt also gar nicht unbedingt ihrer besonderen Kompetenz und Forschung. Eher fungieren die Infrastrukturkosten und die nötigen Datenmengen, um ernstzunehmende, leistungsfähige Modelle zu trainieren, als Ausschlusskriterium: Ein Sprachmodell zu entwickeln, ist sehr einfach, nur haben sehr wenige die Mittel, die auf zwischen 4,5 und 12 Millionen US-Dollar geschätzten, benötigten Kosten für die Trainingsprozesse aufzubringen.

Plötzlich KI-Firma

Die geringe technische Hürde zeigt sich auch daran, wie schnell diverse Firmen jenseits von Google/Alphabet sich binnen Tagen zu KI-Firmen umgelabelt haben: Neben Microsoft, das durch die schon länger existierende Kooperation mit beziehungsweise der Investition in OpenAI eine gewisse Glaubwürdigkeit besitzt, führte Meta vor wenigen Tagen eine Top-level Product Group Focused on Generative AI ein.

Das Chat-Werkzeug Discord führte – zum Missfallen eines Großteils der Nutzerschaft – diverse KI-Tools ein. KI ist so einfach zu mieten, selbst zu betreiben und weiterzuentwickeln, dass sich gefühlt jedes Unternehmen am Markt als KI-Unternehmen präsentiert, mit wachsenden Feature- und Kompetenzversprechen.

Was sein könnte und was ist

In den Feuilletons und Philosophie-orientierten Publikationen kapriziert sich die Debatte häufig auf abstrakte Meditationen über die Struktur von Intelligenz und Denken. Also auf die Frage, ob KIs, die einen Intelligenztest mit guten Punktzahlen bestehen, nicht doch auch intelligent sein müssen – ob Searle's Chinese Room-Argument nun trägt oder nicht. Diese Debatten machen sicher Spaß und klingen sehr gewichtig, den Mainstream erreichen diese Fragen allerdings kaum.

Die breite öffentliche Debatte spaltet sich, wie so häufig, entlang der Segen-oder-Fluch-Trennlinie: KI-Anbieter, (Neu-)Experten und Evangelisten sehen eine Welt kommen, wie sie sie aus Science-Fiction-Filmen kennen. Mit KI-Ärzten, die in Sekundenbruchteilen Diagnosen stellen, KI-Assistenten, die für uns die langweiligen Pflichten des Alltags, die diversen kleinen Kommunikationsakte erledigen, die das Funktionieren unseres Lebens ermöglichen.

KI soll unsere Mails schreiben und lesen, wir alle werden quasi CEOs unseres Lebens, nur noch mit strategischen Entscheidungen belastet, All Watched Over by Machines of Loving Grace.

Die andere Seite sieht unser aller Jobs in Gefahr. KIs werden schneller und billiger arbeiten als wir; fehlerfrei, ohne Pause und ohne zu murren werden sie uns ersetzen, um am Ende noch intelligenter zu werden als wir. Interessanterweise werden die maßlosen Potenziale von KI-Systemen genauso beschrieben wie bei den Evangelisten: KIs können alles, nur dass das als Problem für uns beschrieben wird, weil wir plötzlich überflüssig werden.

Beide Perspektiven verkennen allerdings die Realität von KI-Systemen – ein Problem, das auch die unverbindliche Es-gibt-sowohl-Chancen-als-auch-Risiken-Perspektive nicht zu lösen vermag.

Was tun die Systeme?

Statt die Implementierung von KI-Systemen zu betrachten, die Architekturen, mit denen die statistischen Berechnungen miteinander verschaltet werden, ist es sehr viel ergiebiger, den Fokus auf die Wirkungen in der Welt zu legen: Was tun diese Softwaresysteme? Was produzieren sie?

Der Autor Ted Chiang beschrieb ChatGPT vor einigen Wochen als Blurry JPEG of the Internet: Trainiert auf einer Datenbasis aus Texten aus dem Internet nutzt er die Metapher von verlustbehafteter Komprimierung, um zu beschreiben, was ChatGPT (und vergleichbare Systeme) tun: Sie reproduzieren ungefähr das, was sie im Internet gesehen haben.

Strukturen und Muster, die wir auch im Internet finden, finden sich ziemlich direkt auch in den generierten Texten: Fragen nach einer Person generieren Texte, die strukturell an den ersten Abschnitt eines Wikipedia-Artikels erinnern. Schnell wiederholen sich – trotz unterschiedlicher verwendeter Begriffe – textliche Strukturen. Auch bei Bildgeneratoren wie Midjourney finden sich bestimmte dominante Ästhetiken, die sich aus den Formen, die auf populären Bilddatenbanken verbreitet sind, immer wieder, wie der Medienwissenschaftler Roland Meyer kürzlich feststellte.

Genau deshalb sind Textgeneratoren in bestimmten Domänen so leistungsfähig: Das auf OpenAIs Technologien aufsetzende Github Copilot generiert kompletten, funktionierenden Code für nicht-triviale Aufgaben wie: Generiere mir eine Methode, die die Anzahl der Likes eines Youtube Videos liefert.

Ist das Kreativität? Oder lügt ChatGPT?

Copilot profitiert hier – neben unter zweifelhaften rechtlichen Bedingungen ausgewertetem Quellcode freier Software – davon, dass Programmierung auf Floskeln, auf Klischees basiert: Was beim Schreiben eines Buches schlechter Stil wäre, nämlich das formelhafte Anwenden der immer gleichen Sprachfiguren und Formulierungen ist genau das, was robusten Quellcode charakterisiert. Software Patterns sind Klischees für Code. Weil in Code Überraschungen problematisch sind. Ein guter Text hingegen kommt ohne Überraschungen nicht aus.

Die KI-Systeme ahmen eine Form nach, einen Stil. Und das bekannterweise ohne irgendeinen Bezug zur Realität oder Wahrheit: ChatGPT generiert mit großem Selbstbewußtsein nicht existierende Referenzen für seine Ergebnisse, erfindet Produkte und liefert Symptombeschreibungen für nicht existierende Krankheiten. Copilot generiert Code; aber ob die API, die hingeneriert wurde, überhaupt noch existiert oder ob die Art sie abzufragen sicher ist, weiß man nicht. Ist das Kreativität? Oder lügt ChatGPT?

Nein. Lügen setzen ja das Wissen um die Unwahrheit der eigenen Position voraus. Das emulieren einer plausiblen Form komplett losgelöst von jedem Bezug zur Wahrheit ist etwas ganz anderes. In seinem Essay On Bullshit (Über Bullshit) definierte der Philosoph Harry Frankfurt genau diese Kommunikationsform ohne Bezug zur Wahrheit als Bullshit. Für ihn ist Bullshit eine Gefahr für die Zivilisation, denn Bullshitters verschleierten Wahrheiten noch mehr als Lügner.

Das Versprechen der Automatisierung

Am Ende geht es bei diesen KI-Narrativen immer um das Versprechen von Automatisierung: KIs sollen langweilige Tätigkeiten automatisieren und uns so produktiver machen. Warum soll ich mir selbst einen Text ausdenken, wenn ChatGPT ihn mir schreiben kann? Warum soll ich selbst programmieren, wenn Copilot mir einen großen Haufen Code einfach generieren kann? Werden wir alle in Zukunft einfach viel weniger arbeiten müssen, um unsere Aufgaben zu erledigen?

1985 schrieb Ruth Schwartz Cowan über die Effekte von Automatisierungen im Haushalt. Wasch- und Spülmaschinen, Staubsauger und Mikrowellen waren mit dem Versprechen beworben worden, die lästigen Tätigkeiten im Haushalt einfacher zu machen. Doch in More Work for Mother zeigte Schwartz Cowan nicht nur, dass die Maschinen bestehende strukturelle Diskriminierungen verstärkten und die Hausarbeit noch einseitiger auf Frauen verschoben, sondern auch, dass die Menge der Arbeit keineswegs geringer wurde. Im Gegenteil: Die Möglichkeiten der Automatisierung steigerten die Anforderungen an die Qualität so sehr, dass Frauen oft noch mehr Zeit in den Haushalt stecken mussten als vorher.

KIs sollen aber nicht nur uns durch die Effizienzgewinne produktiver machen, sondern werden auch immer wieder herangezogen, um politische und soziale Probleme (zum Beispiel die Coronapandemie) zu lösen: KIs finden Lösungen für die Klimakrise, KIs organisieren und strukturieren die Pflege in Altenheimen, KIs unterrichten Kinder, KIs erkennen Desinformation (die vorher durch KIs generiert wurde). Sind das realistische Erwartungen?

Die Behauptung, KIs, deren Betrieb CO2-Bilanzen hat, wie wir sie sonst nur vom Bitcoin Mining kennen, würden irgendwie beim Handling der Klimakrise helfen, ist nicht nur auf den ersten Blick absurd. Es ist eine in Technikoffenheit gekleidete Form von Climate Change Denial.

Die andere Frage ist: Können KIs soziale Funktionen übernehmen? Der Dienst Koko, ein gemeinnütziges "emotional support Tool", an das man sich in Krisen wenden kann, hatte die Antworten, die die Betreuer im Gespräch mit Hilfesuchenden gaben, durch GPT-3 vorschreiben lassen.

Das Ergebnis überrascht niemanden, der schon mal mit Menschen zu tun hatte: Sobald den Menschen gesagt wurde, dass die Antworten aus einer Maschine kamen, hatten sie keine Wirkung mehr; menschliche Kommunikation ist mehr als die Übermittlung von Fakten und wer Empathie sucht, möchte sie nicht aus einem Bullshit-Generator.

Schließlich stellt sich auch die Frage nach dem Automation Paradox. Es besagt, dass, je mehr ein System automatisiert ist, desto komplexer und wichtiger die noch nötigen menschlichen Eingriffe sind. Aber greifen Menschen bei den vollautomatischen KI-Systemen wie ChatGPT überhaupt ein?

Unsichtbare Kräfte

Das Versprechen von KI ist, dass wir menschliche Arbeit durch maschinelle ersetzen können. Dabei hat der Begriff "ersetzen" vor allem eine verschleiernde Funktion, er erzeugt ein Unsichtbarkeitsfeld. Denn er versteckt all die menschliche Arbeit, die in den Betrieb dieser Systeme fließt. Und ich spreche hier nicht von hochbezahlten KI-Experten in Tech-Unternehmen.

Als Microsoft 2016 seinen Chatbot Tay auf Twitter live schaltete, dauerte es weniger als 24 Stunden, bis dieser gelernt hatte, rassistisch und antisemitisch zu sein. Dass wir ähnliche Geschichten bisher viel weniger von OpenAI's ChatGPT gehört haben, liegt allerdings nicht daran, dass ihr trainiertes neuronales Netzwerk solche Inhalte nicht generiert.

OpenAI nahm sich Tausende und Abertausende Beispiele toxischer Textschnipsel voller Rassismus, Antisemitismus, Beschreibungen sexueller Gewalt auch gegen Minderjährige vor und bezahlte Menschen in Kenia Hungerlöhne, um die unerwünschten Inhalte zu taggen und damit als Leitplanken an das große ChatGPT System anzuschrauben.

ChatGPT generiert weiterhin intern problematische Inhalte, die kenianischen Arbeiter haben aber die Filter gefüttert, die es dem System erlauben, Problematisches nicht auszugeben, außer man trickst sie mit einfachsten Methoden aus.

Und wer hat all die Trainingsdaten erzeugt? Wer hat all den Text geschrieben, den OpenAI und andere jetzt verlustbehaftet komprimieren und monetarisieren? Wir alle, die ins Internet schreiben und keineswegs die Einwilligung gegeben haben, unsere Gedanken durch den Wolf zu drehen. Generatoren werden gerne als demokratisierend verkauft, weil plötzlich alle hübsche Bilder und lange Texte mittelmäßiger Qualität generieren können. Allerdings sind sie dazu nur in der Lage, indem sie die Arbeit von Menschen imitieren, die ihren Lebensunterhalt damit verdienen.

Bullshit ist an vielen Stellen gut genug

ChatGPT und andere Systeme generieren keine perfekten Ergebnisse, mit Leitplanken oder ohne, aber der Bullshit ist an vielen Stellen gut genug. Selbstverständlich verbreiten auch Menschen Bullshit, aber sie können grundsätzlich bessere Texte und weniger fehlerbehaftete Bilder erzeugen und tun das in der Realität auch. Aber die kosten auch mehr.

Dan McQuillan von der University of London schrieb dazu in seinem vielbeachteten Essay Wir kommen, um ChatGPT zu begraben, nicht um es zu lobpreisen: "Für diese Akteure [die Entwickler von KI-Systemen] besteht die verführerische Vision nicht in echter KI (was auch immer das sein mag), sondern in Technologien, die gut genug sind, um menschliche Arbeitskräfte zu ersetzen oder, was noch wichtiger ist, sie zu prekarisieren und zu untergraben." Es gehe nicht um echte KI mit brillanten Ergebnissen, es reichten passable Ergebnisse, um große Mengen von Menschen ökonomisch unter Druck zu setzen.

Schon heute ist es so, dass durch die Existenz von KI, selbst in Fällen, in denen sie niemals brauchbare Ergebnisse liefern könnte, ein extremer Preisdruck erzeugt wird. Die Existenz des Narrativs KI reicht für ein ökonomisches Race to the Bottom.

Die Zukunft

Gerade hat OpenAI seinen neuen Generator GPT-4 veröffentlicht. Mehr Parameter, mehr Daten, mehr Anwendungsbereiche, alles größer (inklusive des Trainingsaufwands und CO₂-Impacts). Microsoft hat GPT-4 direkt in seine Suchmaschine integriert. Strukturell hat sich allerdings nichts geändert: GPT-4 produziert immer noch, nach eigenen Angaben von Microsoft, Bullshit.

Man wird es auch wieder dazu bringen können, rassistisch und sexistisch zu argumentieren und so weiter. Unterbezahlte Menschen werden wieder Leitplanken gebaut haben, aber es sind nie genug. Vielleicht hat Microsoft deshalb gerade sein lästiges Ethics-and-Society-Team gefeuert.

Die breite Verfügbarkeit dieser Netze wird die Menge von Spam auf jeder Ebene erhöhen. E-Mails, Artikel, Videos: Alles wird mit oft zweifelhafter Qualität aus den Generator-Netzwerken herausfallen und auf die Öffentlichkeit losgelassen. Die Lösung für all den KI-Spam werden die großen Plattformanbieter selbst anbieten: KI zur KI-Spam-Erkennung. Ein zirkuläres Geschäftsmodell, bei der man ein Problem für Profit erzeugt und dann die angebliche Lösung gleich mit anbietet.

Während viele heute selbst mit KIs experimentieren, wird es eine weitere Zentralisierung der Infrastrukturen geben: Die nötige Hardware ist teuer und skaliert erst ab einer gewissen Größe, außerdem werden die Erwartungen der Menschen natürlich auch immer anhand der Marketing-Materialen der großen Player wie OpenAI/Microsoft, Google und Meta wachsen. Außerdem wird es ein Zeichen der Technikkompetenz sein, als Firma den Sticker "Built with GPT-6" auf das eigene Produkt packen zu können. Es ist immerhin die neueste und größte und beste Version bisher!

Journalistische Plattformen werden zunehmend Textformen automatisieren und es wird dort eine noch höhere Texthomogenität entstehen: Berichte über den Aktienmarkt oder Sportberichte lassen sich schon lange recht erfolgreich generieren, wir werden dort Ausweitungen sehen. Die Texte werden dabei strukturell immer ähnlicher und austauschbarer werden, faktisch sind diese Texte nur zur einfacheren Lesbarkeit aufgeblähte JSON-Dateien – was bei einigen Textformen ja auch völlig ausreicht.

In der Kreativindustrie werden die Werkzeuge mit großer Intensität eingesetzt werden, weil sie teure, manuelle Tätigkeiten halbwegs passabel ersetzen können. Wir werden Werbekampagnen sehen, die komplett aus Generatoren kommen mit den visuellen und qualitativen Warzen, die das mit sich bringt: Models in großen Kampagnen werden sechs Finger haben und Ähnliches, und man wird sich damit abfinden als das neue Normal.

Offensichtlich nicht generierte Kampagnen werden sich vor allem im Premium-Sektor finden. Marginalisierte Menschen und Communities werden zunehmend mit automatisierten Systemen interagieren müssen, um ihre Anfragen zu stellen und Rechte zu verteidigen, anstatt sich an Menschen, die ihre Bedürfnisse zumindest im Grundsatz umfassender verstehen könnten, wenden zu dürfen. Wie viel Spaß das macht, haben wir alle schon mal erfahren, wenn wir auf einer Website mit einem Support-Chatbot interagieren mussten.

All das wird die Produktivität in einigen Branchen erhöhen, KI wird in mehr Domänen wandern und zur Normalität werden; alles auf Basis einer Technologie, die mit massiven Energieverbräuchen verbunden ist. Wir verbrennen Kohle für Bullshit im engsten Sinne.

Segen oder Fluch oder …?

Ich könnte diesen Essay jetzt einfach mit einer klassischen Mittelposition beenden. Wollte ich Technikkompetenz ausstrahlen, würde ich zum Beispiel sagen: "Ja, KIs haben Probleme mit problematischen Trainingsdaten, aber als Generatoren von Code oder zur Erzeugung visueller Inspirationen haben sie unglaubliche Potenziale." Wollte ich bedacht-kritisch wirken, würde ich vielleicht sagen: "Ja, KIs haben tolle Einsatzzwecke, aber sie sind unerklärbare Black-Boxes deren Betrieb unglaubliche Mengen von Strom verbraucht und Elektroschrott erzeugt." Ich halte beides nur für beschränkt nützlich. Ähnlich wie bei einem Chatbot wiederholt sich in diesen Klischees eine Form entkoppelt von materieller Realität.

KIs haben – wie andere Hype-Technologien auch – den Raum der Möglichkeiten verengt: Lösungen für diverse Problemfelder werden zunehmend standardmäßig in KIs und den Effizienzgewinnen, die sie versprechen gesucht. Wir stellen zum Beispiel fest, dass wir zu wenig Personal in der Pflege haben und werfen viel Geld darauf, durch KI mit den wenigen Personen – oder noch weniger Personen – das System am Laufen zu halten. Der Gedanke, dass Menschen vielleicht einfach ein Recht auf soziale Betreuung und nicht nur maschinengestützte Verwaltung haben, wird aus dem Raum des Denkbaren gedrängt.

Beide oben beschriebenen Formen, die affirmative wie die kritische, akzeptieren KI als gegeben, als alternativlos. Unsere möglichen Zukunftsvisionen müssen sich der Technologie unterordnen, wir müssen lernen, mit ChatGPT zu leben. Wir müssen uns, unsere Arbeitsweisen, unsere Wahrnehmung der Welt anpassen.

"KI geht nicht mehr weg" ist oft so oder ähnlich zu lesen. Aber es ist auch möglich, auf den Einsatz von KI zu verzichten. Aus moralischen Gründen, aus Gründen der Sicherstellung der Transparenz politischer Entscheidungen oder aus Gründen des Ressourcenverbrauchs. KIs mögen Convenience oder Effizienz bieten, aber das alleine ist keine Begründung. An der Supermarktkasse nicht zu bezahlen wäre auch bequemer als das Gegenteil, wir haben trotzdem entschieden, dass wir das nicht so handhaben wollen.

Auch Menschen machen Fehler – aber ist allen bewusst

Google selbst sagt, dass die gerade von Bing eingeführten KI-Suchen die Kosten für jede Suche um den Faktor 10 erhöhen würden. Die Suche würde damit wirtschaftlich unattraktiv oder müsste mit noch mehr Werbung zugepflastert werden. Selbstfahrende Autos sind seit 20 Jahren immer nur drei Jahre in der Zukunft, fahren aber eher wie jemand mit 4 Promille Alkohol im Blut. Github Copilot generiert dir deinen Code, aber verstehst du ihn gut genug, um sicher zu sein, dass er nicht voller Sicherheitslücken ist?

Natürlich gibt es diverse Einsatzszenarien für KI-Systeme. So lange Fehler irrelevant sind oder man händisch alle Ergebnisse prüfen kann, ist der Einsatz auch durchaus denkbar, als Unterstützungssystem für Fachleute zum Beispiel oder zur Unterhaltung. Wenn jedoch Entscheidungen getroffen werden, die echten Impact haben, wenn darüber entschieden wird, welche Menschen welche Leistungen bekommen, wenn essenzielle Informationen geliefert werden müssen, sind solche Systeme allerdings kaum vertretbar: Auch Menschen mögen Fehler machen, das ist allerdings allen bewusst.

KIs als Computerprogramme basieren auf echten Daten, kommen jedoch mit dem Nimbus von Objektivität und Wahrheitsanspruch daher. Dass man die Ergebnisse nicht erklären kann, stützt diese Aura nur: Die KI "findet die Wahrheiten in den Daten, die uns Menschen gar nicht zugänglich ist."Der hier schon zitierte Dan McQuillan nennt diesen Glauben an das Finden der Wahrheit hinter den Daten durch Statistik ''maschinellen Neoplatonismus''.

Effzienz an sich ist kein Wert

Die Abarbeitung an stochastischen Papageien und der Frage, ob sie nicht doch Intelligenz haben, hat vor allem die Funktion, ihren Einsatz als Entscheider zu legitimieren, ihnen Agency zuzusprechen, zu etablieren, dass KIs am Ende eben doch entscheiden dürfen. Dass intransparente automatisierte Prozesse und ihre Entwickler das Recht haben zu entscheiden, wie alles in unserer Welt abläuft ohne unsere politische Mitbestimmung.

Wir verlieren bei all diesen Debatten zu leicht den Zweck aus dem Blick, beschäftigen uns damit zu sehen, ob wir nicht doch scheinbar vorurteilsfrei KIs darüber entscheiden lassen können, wer jetzt eine bestimmte Leistung bekommt. Es wäre doch so effizient. Aber Effizienz an sich ist kein Wert.

Die kulturelle Logik der reinen Prozessoptimierung führt am Ende nicht zu freien Menschen, sondern richtet sich mehr oder weniger bewusst gegen die Grundlagen menschlichen Lebens und der Realität, presst eine komplexe, widersprüchliche, diverse, faszinierende Welt in Excel Sheets und Statistik. Wenn Technologie ein befreiender, bereichernder Aspekt unseres Lebens sein soll, müssen wir Menschen und Gesellschaften mit unseren Zielen und Werten im Zentrum stehen.

Der Raum unserer möglichen Zukunftsvisionen ist größer als die Zwangsjacke, die der Glaube an KI uns vorgibt. Die Erzählung der Alternativlosigkeit von KI soll uns einsperren in die geschlossenen, kostenpflichtigen Infrastrukturen großer Technologiekonzerne. Und ich bin sicher, dass uns da mehr einfällt. Jenseits des Bullshits.