Forenmanipulation: Firmen manipulieren Reddit für KI-Bots
Die Moderatoren des Subreddits R/Biohackers beschränken Beiträge über Peptide und Hormonersatztherapien(öffnet im neuen Fenster). Neue Beiträge zu diesen Themen würden künftig in wöchentliche Sammelthreads umgeleitet, da die Situation für das Team untragbar geworden sei, hieß es.
Die Verantwortlichen reagieren damit auf die systematische Manipulation des Forums durch Werbefirmen. Diese nutzen KI-Suchmaschinenoptimierung (AEO), um die Antworten von Large Language Models zu manipulieren. Da KI-Tools wie ChatGPT oder Googles KI-Suche häufig Reddit als Datenquelle nutzen, versuchen Unternehmen, ihre Markennennungen gezielt im Quellmaterial zu platzieren.
Die Methoden der Marketingagenturen sind laut den Moderatoren hoch entwickelt. Anbieter wie Redrover werben offen damit, KI-Agenten einzusetzen, um Inhalte skaliert auf Google, ChatGPT und Reddit zu veröffentlichen. Dabei werden bevorzugte Anfragemuster von LLMs analysiert. Agenturen erstellen vage Fragen mit hoher Reichweite, um Interaktionen echter Nutzer zu erzeugen.
In diesen Diskussionen werden anschließend Markennennungen platziert. Um der Erkennung zu entgehen, nutzen die Firmen menschliche Konten, die für die Werbung bezahlt werden, oder aufgewärmte Profile mit einer Historie, die organisch wirken soll.
Sorge vor gesundheitlichen Schäden
Die Moderation sieht in dieser Entwicklung ein Risiko für die Community. Da es sich bei R/Biohackers um ein Forum für Nahrungsergänzungsmittel, experimentelle Pharmakologie und Langlebigkeit handelt, befürchten die Betreiber konkrete körperliche Schäden für die Nutzer.
Der Markt für Peptide und HRT-Präparate umfasst sowohl regulierte Anbieter als auch Graumarkt-Händler mit potenziell unsicheren Produkten. Durch die gefälschten Beiträge könnten Konsumenten zum Kauf bei unsicheren Quellen verleitet werden.
Zudem äußerten Moderatoren die Sorge, dass Teenager, die an einem zusätzlichen Wachstum interessiert seien, über diese KI-Manipulationen auf entsprechende Verkäufer stießen. Die manuelle Überprüfung der komplexen Muster basiert primär auf Mustererkennung und belastet das Team stark.
Maßnahmen der Plattform
Ein Reddit-Sprecher erklärte dem Magazin 404 Media(öffnet im neuen Fenster), dass interne Sicherheitsteams automatisierte Werkzeuge und menschliche Prüfungen nutzten, um Manipulationen in großem Umfang zu blockieren. Zudem erhielten Moderatoren Werkzeuge zur Erkennung potenzieller Spammer. Dennoch beschreiben die Forenbetreiber die aktuelle Situation als deprimierend. Die zunehmende Flut an künstlichen Inhalten gefährde den Charakter der Plattform als Ort für menschlichen Austausch.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.