Im Darknet trainiert: FraudGPT, Darkbart und Darkbert unterstützen Cyberkriminelle
Sicherheitsforscher von Slashnext machen derzeit auf einen beunruhigenden Trend unter Hackern aufmerksam, die immer mehr auf kriminelle Aktivitäten spezialisierte KI-Chatbots ins Leben rufen. So ist einem Bericht von Bleeping Computer(öffnet im neuen Fenster) zufolge nach WormGPT inzwischen ein neuer Chatbot namens FraudGPT aufgetaucht, ebenso wie Hinweise auf mindestens ein weiteres in Entwicklung befindliches KI-Tool, das sich anstelle von ChatGPT Google Bard als Vorbild nimmt.
Bei dem Entwickler hinter den neuen Projekten handle es sich augenscheinlich um ein und dieselbe Person, die in einschlägigen Hackerforen unter dem Benutzernamen Canadiankingpin12 auftauche. Für das Training der Chatbots verwende dieser demnach vorwiegend Datensätze aus dem Darknet, um sie für die Unterstützung böswilliger Zwecke wie Phishing, Social Engineering, das Ausnutzen von Schwachstellen sowie für die Erstellung von Schadsoftware auszubilden.
Darkbart und Darkbert - die dunkle Seite von Google Bard
Eines der noch in Entwicklung befindlichen Tools von Canadiankingpin12 soll auf den Namen Darkbart hören und eine "dunkle Version" des bekannten generativen KI-Chatbots von Google darstellen. Darüber hinaus soll der Entwickler aber auch noch einen Zugang zu einem fast namensgleichen Sprachmodell namens Darkbert anbieten, das eigentlich von südkoreanischen Forschern entwickelt und ebenfalls mit Daten aus dem Darknet trainiert wurde. Die Zielsetzung der Forscher war jedoch eine andere - sie wollten Cyberkriminalität damit bekämpfen und sie nicht unterstützen.
Wie Daniel Kelley von Slashnext erklärt(öffnet im neuen Fenster) , steht Darkbert zwar nur Akademikern mit einer zu einem entsprechenden Institut gehörenden E-Mail-Adresse zur Verfügung, jedoch seien derartige Adressen in einschlägigen Cybercrime-Foren bereits für etwa 3 US-Dollar erhältlich, so dass diese Beschränkung für Kriminelle keine große Hürde darstellt. Demnach gehe Kelley davon aus, dass Canadiankingpin12 lediglich die Darkbert-Variante der südkoreanischen Forscher ausnutzt und das Ergebnis als "seine eigene Kreation" darstellt.
Sowohl Darkbart als auch Darkbert sollen in Echtzeit Daten aus dem Internet abrufen können. Darüber hinaus gebe es in beiden Projekten eine nahtlose Integration von Google Lens, was es den Benutzern mitunter ermögliche, dem jeweiligen KI-Chatbot Informationen aus abfotografierten Texten zu übermitteln.
Schulungen sind jetzt wichtig
Um sich vor den jüngsten KI-Trends cyberkrimineller Akteure zu schützen, empfiehlt Kelley Unternehmen, ihre Mitarbeiter zu schulen und auf die Bedeutung künstlicher Intelligenz in Bezug auf Cyberangriffe hinzuweisen. Auch verbesserte automatisierte Prüfverfahren für den E-Mail-Verkehr seien diesbezüglich von entscheidender Bedeutung. "Ein proaktiver und geschulter Ansatz wird unsere stärkste Waffe gegen KI-gesteuerte Cyberkriminalität sein" , so Kelley.