KI = Kwatsch Inklusive
Die Antwort ist Nein. Eine relativ aktuelle Studie(öffnet im neuen Fenster) eines durchaus KI-Begeisterten bestätigt den Fortbestand des Problems. Die erste Abbildung auf Seite 3 ist besonders hilfreich, weil sie tatsächlich die Genauigkeit und damit als 1-Accuracy die Fehlerrate aufzeigt und den Aufwand, diese weiter zu senken. Die zweite Abbildung auf der nächsten Seite stellt die erreichbare Verbesserung in Abhängigkeit von zusätzlicher Rechenleistung dar. Düster ...
Das ist keine Außenseitermeinung(öffnet im neuen Fenster). Aufgrund der Fehlerraten, die eben nicht mal eben schnell gesenkt werden können, dürfte es auch niemanden wundern, wenn KI praktisch keine Produktivitätssteigerungen liefert(öffnet im neuen Fenster). Vielleicht habe ich ja idyllische Vorstellungen vom realen Leben, aber wo und bei welchen Themen sind KI-typische Fehlerraten(öffnet im neuen Fenster) in Unternehmen oder Behörden akzeptabel? Menschen lernen in der Regel schnell aus ihren Fehlern, während LLMs mehr Fehler machen, sobald deren Fehler im Kontext gespeichert sind.
Wo kommen diese Fehler überhaupt her? Nun, ein Quell ist das, was im zweiten Teil noch nach Vorteil klang: die Äquivalenz der KNN zu nicht-deterministischen endlichen Automaten sowie der LLM zu probabilistischen endlichen Automaten.
Dadurch können sie drei Dinge, die über einen gewöhnlichen endlichen Automaten (Finite Automaton) hinausgehen:
1. Für dieselbe Input-Sequenz (Prompt) können verschiedene und auch widersprüchliche Antworten abgespeichert werden.
2. Wenn eine Aufgabe keinem antrainierten Input/Fortsetzung-Paar entspricht, aber mehreren ähnelt, kann eine Prompt-Fortsetzung generiert werden, die die ähnlichen Paare imitiert und interpoliert.
3. Indem ein Rauschen über den Vorgang gelegt wird – meist Temperatur genannt -, werden trotz identischer Prompts unterschiedliche Fortsetzungen generiert und so, durch den Anschein von Lebendigkeit oder Kreativität, stereotype Wiederholungen vermieden und die nüchterne Wahrheit ihres Automatentums wird verborgen.
Zwar lässt sich die Temperatur auf null setzen, aber die ersten beiden Eigenschaften sind technologie-inhärente Fehlerquellen, die sich nur mit noch mehr Trainingsdaten begrenzen lassen. Der Preis hinsichtlich Rechenleistung, Chips und Energie ist hoch, wie uns theoretisch Neural Scaling und praktisch die harte Realität gemeinsam lehren.
KI = Kontaminierender Informationsmüll
Das Internet als Quelle von Trainingsdaten ist im Prinzip seit GPT3 ausgelutscht, insbesondere weil inzwischen versucht werden muss, Quellen nach Qualität zu beurteilen sowie toxische Sprache oder Biases aus den Rohdaten zu filtern. Die Suche nach unverbrauchten Quellen zum Abschreiben erklärt vielleicht den Aufkauf der Antiquariate.
Generative KI wird selbstverständlich gern von allen mit Abschreiber- und Blendermentalitäten genutzt. Es gibt reichlich KI-generierte Musik, Bilder, sogenannte Romane und Ratgeberbücher, deren wahrer Ursprung verschwiegen wird.
Schlimmer noch: Generative KI hat das Geschäftsmodell der Papermills befeuert: kriminelle Netzwerke, die industriell wissenschaftliche Studien fälschen(öffnet im neuen Fenster). Die Zahl solcher Fake-Studien wächst zehnmal schneller als die Zahl wissenschaftlicher Publikationen insgesamt und erodiert IMHO das Vertrauen in das wertvollste Werkzeug der Menschheit: die Wissenschaft.
Das Internet ist längst auf allen Qualitätsebenen verseucht mit KI-Slop: mit nicht gekennzeichnetem, KI-generiertem, hohlem Geschwafel. Generative KI vernichtet die eigene Existenzgrundlage. Ob das nun künstliche oder natürliche Ignoranz ist, mag jeder selbst entscheiden. Jedenfalls, wie immer, wenn eine globale Ressource nach den Prinzipien "first come, first serve" und "the winner takes it all" ausgebeutet wird: Sie wird zerstört.
Generative KI vergiftet den Brunnen des Wissens, aus dem sie trinkt und leider auch die Menschheit.
Wie und wieso KI auf uns wirkt und welche Folgen drohen, behandelt der nächste Teil.
TL;DR
Einst wurde der Hodscha zu einem Kranken gerufen. Er fühlte ihm den Puls und sagte: »Ich vermute, du hast zuviel Huhn gegessen. Das ist schlecht; nimm dich in acht und iß es nicht mehr.«
Der Kranke sagte: »Es ist wahr; ich habe etwas Huhn gegessen.« Hochverwundert lobten die Anwesenden die Kunst des Hodschas. Als sie auf dem Rückweg waren, fragte sein Sohn: »Vater, macht das nur die Wissenschaft, dass du das gewußt hast?«
Der Hodscha antwortete: »Ich habe es durch die Wissenschaft erkannt, am Klopfen des Pulses als auch durch andere Anzeichen. Überdies, als wir in die Nähe des Hauses kamen, habe ich Hühnerfedern und Obstschalen bemerkt und daraus geschlossen, dass der Mann erkrankt ist, weil er alles auf einmal gegessen hat.«
Diese Worte gruben sich dem Sohne ins Gedächtnis.
Nun begab es sich, dass man sich einer Krankheit wegen, da der Hodscha nicht zuhause war, an den Sohn wandte. Der ging zu dem Kranken hin und sah sich aufmerksam in der Umgebung des Hauses um. Er sah aber nichts als einen Eselssattel. Er trat zu dem Kranken, fühlte ihm den Puls, wackelte mit dem Kopf und sagte: »O Weh, o Weh, du hast heute Eselsfleisch gegessen. Das ist schlecht; nimm dich in acht und iß es nicht mehr.«
»Aber Arzt,« rief der Kranke, »du redest Unsinn. Kein Mensch ißt Eselsfleisch; mich ekelts ja davor.«
Nach diesen Worten geleiteten die Anwesenden den Sohn des Hodschas höflich zur Tür.
P.R. Rhesia ist ein Pseudonym. Die Person hat einen Abschluss in Computer Science mit Bestnoten in der Theoretischen Informatik. Sie möchte ihrer gesellschaftlichen Verantwortung als Wissenschaftler und Techniker nachkommen und Aufklärung zum Thema KI leisten, ohne dafür mit emotionalen Debatten vor der Haustür "belohnt" zu werden, und schreibt daher unter Pseudonym.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.