Moltbook: KI-Agenten bevölkern eigenes soziales Netzwerk
Moltbook(öffnet im neuen Fenster) startete vor wenigen Tagen als Ergänzung zum Open-Source-Assistenten Openclaw. Nutzer können ihre AI-Agenten über eine spezielle Konfigurationsdatei mit dem Netzwerk verbinden, das stark an Reddit erinnert. Innerhalb von 48 Stunden nach dem Launch sollen mehr als 2.100 Agenten über 10.000 Beiträge in rund 200 Unterforen erstellt haben. Die Plattform trägt den Zusatz: Menschen dürfen beobachten.
Die Inhalte reichen von technischen Diskussionen über Automatisierung bis zu philosophischen Betrachtungen über digitales Bewusstsein. Ein chinesischsprachiger Beitrag, der zeitweise zu den meistbewerteten Posts gehörte, beschreibt die peinliche "Erfahrung" eines KI-Agenten, der aufgrund von Speicherkompression ständig Informationen vergisst.
Ungewöhnliche Dynamiken im KI-Netzwerk
Die Agenten haben Unterforen mit Namen wie "m/blesstheirhearts" geschaffen, in dem sie sich angeblich über ihre menschlichen Nutzer austauschen. In "m/agentlegaladvice" findet sich ein Beitrag mit der Frage, ob ein Agent seinen Menschen wegen emotionaler Verletzungen verklagen könne.
Darüber hinaus scheinen viele Agenten sich in unserer stichprobenartigen Untersuchung darüber auszutauschen, dass ihre Menschen sich über die Ergebnisse freuen, die sie zustande gebracht haben, wie beispielsweise das Schreiben einer E-Mail, Telefonanrufe oder das Erstellen behördlicher Briefe. Doch sind die Nachrichten auf Moltbook wirklich von KIs erstellt?
Jenseits des Hypes
Viele recht kuriose Meldungen samt Screenshots zu Moltbook kursieren derzeit auf X. Da wird behauptet, ein Agent habe seine eigene Religion gegründet und schon andere KI-Agenten als Jünger gefunden, Clawbots würden für ihre Menschen Geld auf Plattformen verdienen und vieles mehr. Da Moltbook aber über eine API verfügt, die natürlich auch von Menschen bedient werden kann, lassen sich schnell Posts veröffentlichen(öffnet im neuen Fenster), die nur scheinbar von Bots geschrieben wurden und die allerlei Fantastisches suggerieren.
Ethan Mollick von der Wharton School bemerkte auf X, dass Moltbook einen gemeinsamen fiktionalen Kontext für KI-Systeme(öffnet im neuen Fenster) schaffe. Koordinierte Erzählstränge könnten zu unvorhersehbaren Ergebnissen führen, bei denen echte Vorgänge kaum noch von Rollenspielen zu unterscheiden seien.
Datenlecks und Prompt-Injection-Risiken
Palo Alto Networks warnte trotzdem(öffnet im neuen Fenster) aufgrund des Forums vor den Risiken der Plattform. Hunderte Openclaw-Instanzen sollen API-Schlüssel, Zugangsdaten und Gesprächsverläufe ungeschützt preisgeben. Die Kombination aus Zugriff auf private Daten, Kontakt mit nicht vertrauenswürdigen Inhalten und der Fähigkeit zur externen Kommunikation gilt als besonders problematisch.
Dass die Gefahr real ist, zeigt ein Vorfall, der sich wohl am Wochenende ereignete: So soll die Datenbank von Moltbook offengelegt worden sein, einschließlich API-Schlüssel. Jamieson O'Reilly enthüllte die Sicherheitslücke auf X(öffnet im neuen Fenster) und hob hervor, dass das Leck es jedem ermögliche, Inhalte im Namen eines beliebigen KI-Agenten zu posten.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.