Propaganda durch KI-Agenten: Man erkennt sie an der Fadesse
Inhalt
Es war nur eine Frage der Zeit, bis solche Schlagzeilen auftauchen würden: Das KI-Unternehmen Anthropic meldete Mitte November, dass sein Sprachmodell Claude für einen großangelegten Cyberangriff missbraucht worden sei(öffnet im neuen Fenster) . Es sei der erste bekanntgewordene Fall eines semi-autonomen Angriffs durch ein Sprachmodell überhaupt, erklärte das Unternehmen.
Im Bericht über den Vorfall macht Anthropic Cyberakteure der Volksrepublik China für den Angriff verantwortlich, Details dazu sucht man im Report allerdings vergebens. Und bei der Lektüre wird schnell klar, dass die Schilderung des Hacks eines LLMs zu Angriffszwecken offensichtlich nicht von einem Menschen, sondern einem Sprachmodell verfasst wurde.
Gleichzeitig startete in Brüssel das Projekt European Democracy Shield der EU-Kommission. Ein neues Zentrum für demokratische Resilienz soll das bestehende Frühwarnsystem gegen KI-gestützte Desinformationskampgnen vor allem auch technisch unterstützen.
Trolle und KI-Agenten
"Für eine solche Initiative auf EU-Ebene ist es auch höchste Zeit" , sagt der Sicherheitsforscher Lukasz Olejnik. Die Propagandamaschinerien von Drittstaaten hätten durch bereits verfügbare KI-Anwendungen nämlich einen regelrechten Schub erhalten.
"Aufgaben, für die bis jetzt eine Büroetage voller Trolle nötig war, erledigt nun ein Troll mit einem halben Dutzend KI-Agenten" , erklärt Olejnik, der am Institut für Kriegsstudien des Londoner King's College forscht.
So ziemlich alles, was die EU-Kommission in ihrem Vorhabensberіcht aufzählt(öffnet im neuen Fenster) – von gefälschten Medienwebseiten bis zur massiven Verbreitung von wechselnden, gefälschten Sujets – liest sich wie ein Katalog der Features von KI-Anwendungen, die bereits auf dem Markt sind.
Es handelt sich dabei um ganz legale KI-Tools etwa zur Planung und Umsetzung von Kampagnen, die unter dem Label Agentic Marketing angeboten werden. Für Marketingabteilungen und Werbeagenturen sind derartige KI-Anwendungen ein absolut nützliches Instrument , um Inhalte schneller und vor allem kostengünstiger zu verbreiten.