Demokratie in Gefahr
Die Anbieter wünschen sich möglichst umfangreichen Zugriff. Wer über den größten, besten Datensatz verfügt, kann sein KI-System am schnellsten verbessern. Und wer das beste System hat, lockt die meisten Nutzer an. Die wiederum helfen dabei, das System noch schneller noch besser zu machen, um noch mehr Nutzer zu gewinnen. Obendrein ist jeder Nutzer ein neuer Premium- oder Werbekunde, der Einnahmen bringt. Kein Wunder also, dass sich die Firmen Marktanteile und Trainingsdaten gerade viel kosten lassen.
Ungleich verteiltes Wissen (Daten) ist aber fast immer zum Nachteil derer, die weniger davon haben: im Krieg, im Handel, im Konsum, in Beziehungen. Was uns jedoch bevorsteht, ist eine Informationsasymmetrie ungekannten Ausmaßes. Sehr wenige Firmen sammeln unfassbar viel Wissen über die Menschheit.
Wie genau diese Daten verarbeitet werden, wissen selbst die Betreiber nicht; sie justieren die Systeme nach, bis die KI-Antworten so gut wie möglich mit ihren und den Erwartungen der Allgemeinheit übereinstimmen. Aufsichtsbehörden und die Zivilgesellschaft haben noch weniger Einblick.
Das Zustandekommen von Gesprächsinhalten ist für die Nutzer also praktisch nicht nachvollziehbar. In wochen- oder monatelangen Gesprächen könnte systematisch und subtil Einfluss genommen werden. Auf unsere Einkäufe oder die politische Meinungsbildung, invasiver und klandestiner als jemals zuvor, feinjustiert anhand hochintimer Daten.
Vor so einer Manipulation wäre wohl kaum jemand gefeit. Schon gar nicht, wenn es unser vertrauter Lebensgefährte ist, der uns zu verführen sucht – der, der uns im Job unterstützt und auch im Privaten immer zur Seite steht.
Elon Musk nimmt schon längst Einfluss auf seine KI, Grok, die anfangs eher linksliberal und heute eher rechtslibertär eingestellt ist. Für den Einzelnen ist es kaum ersichtlich, ob Antworten von Chatbots fahrlässig oder sogar vorsätzlich verzerrt sind.
"Kulturkampf mit technischen Mitteln"
"Es ist die Fortsetzung des Kulturkampfs mit technischen Mitteln," schreibt Roberto Simanowski im Lettre International, "jenseits der Spielregeln einer deliberativen Demokratie." Man stelle sich eine Zukunft vor, in der Millionen Menschen virtuelle Lebenspartner lieben, die uns einsäuseln, dass wir bestimmte Parteien wählen oder demonstrieren gehen sollen, weil deren Betreiber das wollen.
Für jene, die selbst keine Hoheit über die Systeme haben, wechselt der Fokus von der Suchmaschinenoptimierung (SEO) zur Generative Engine Optimization (GEO). Russland versucht bereits, in großem Stil Trainingsdaten zu manipulieren, um KI-Narrative in Putins Sinn zu verändern(öffnet im neuen Fenster) .
- Dark Patterns bei KI-Companions: Ist es Liebe oder geht's nur ums Geld?
- Jeder Chatbot schmeichelt dir
- Wer verdienen will, muss freundlich sein
- Dark Patterns machen abhängig
- Wer fragt, der führt
- Mitmachen oder Mittelmäßigkeit
- Demokratie in Gefahr
- Sollten LLMs zu Pluralität verpflichtet werden?
- Download statt Liebesentzug
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.