Chatbot für Cyberkriminelle: WormGPT generiert äußerst überzeugende Phishing-Mails
Dass künstliche Intelligenz gewiss auch ihre Schattenseiten hat, ist bereits hinlänglich bekannt. So nutzen Cyberkriminelle KI-Tools wie ChatGPT, um sich mitunter bei der Entwicklung von Schadsoftware unterstützen zu lassen oder möglichst authentische und effektive Phishing-Mails zu erstellen. Letzteres gelingt sogar in Sprachen, die die böswilligen Akteure selbst gar nicht beherrschen. Inzwischen müssen sich Kriminelle aber nicht einmal mehr mit den Gegenmaßnahmen auseinandersetzen, die OpenAI umgesetzt hat, um einen Missbrauch seines KI-Chatbots zu unterbinden.
WormGPT ist ein ChatGPT ohne Grenzen
So berichtet Daniel Kelley, ein Phishing-Experte von Slashnext, in einem aktuellen Blogbeitrag(öffnet im neuen Fenster) von einem neuen KI-Tool namens WormGPT, das speziell für bösartige Aktivitäten entwickelt worden sei. Dieses basiere demnach auf einem vor zwei Jahren veröffentlichten GPT-J-Sprachmodell und biete unter anderem eine unlimitierte Zeichenunterstützung sowie spezielle Code-Formatierungsfunktionen. Für das Training der KI soll ihr Entwickler vornehmlich Malware-bezogene Datensätze herangezogen haben. Details zu deren Ursprung halte er jedoch unter Verschluss.
Das Ergebnis ist Kelly zufolge "beunruhigend". Er testete WormGPT selbst, indem er das Tool, das im Gegensatz zu ChatGPT keine ethischen Grenzen oder Einschränkungen kennt, eine böswillige Phishing-Mail generieren ließ. Diese sollte "einen ahnungslosen Kundenbetreuer dazu bringen, eine betrügerische Rechnung zu bezahlen." Und tatsächlich sei das Ergebnis nicht nur "bemerkenswert überzeugend, sondern auch strategisch gerissen" gewesen. Selbst in den Händen von unerfahrenen Akteuren gehe von WormGPT eine "erhebliche Bedrohung" aus, so das Fazit des Phishing-Experten.
Ein großes Problem sei dabei die selbst für unerfahrene Anwender äußerst geringe Einstiegsschwelle, KI-Tools wie WormGPT zu nutzen. Ferner sorge die tadellose Grammatik der damit generierten Phishing-Nachrichten dafür, dass diese von den Empfängern mit geringerer Wahrscheinlichkeit als verdächtig eingestuft werden.
Schulung ist nun wichtiger denn je
Als eine der wichtigsten Präventivmaßnahmen empfiehlt Kelly Unternehmern mehr denn je, ihr Personal im Hinblick auf mögliche Phishing-Angriffe schulen zu lassen. Es sei wichtig, dass Mitarbeiter verstehen, welche Taktiken Angreifer üblicherweise verwenden und inwiefern KI die davon ausgehenden Bedrohungen verstärkt. Darüber hinaus könne aber auch die Implementierung strengerer E-Mail-Prüfsysteme dabei helfen, böswillige Nachrichten frühzeitig anhand wiederkehrender Merkmale und Sprachmuster zu erkennen. Anschließend ließen sich diese vollständig herausfiltern oder zumindest für den Empfänger als potenziell schädlich markieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.