IT-Sicherheit: Studie zeigt hohe Klickraten durch KI-Spear-Phishing
Ein Forscherteam des Bifold (Berlin Institute for the Foundations of Learning and Data), der TU Berlin, des Inria (Institut national de recherche en informatique et en automatique) sowie der Ruhr-Universität Bochum haben in einer großangelegten Studie(öffnet im neuen Fenster) die Wirksamkeit von Sprachmodellen beim automatisierten Spear Phishing untersucht. Beteiligt waren Stefan Czybik (Bifold und TU Berlin), Anne Josiane Kouam (Inria und TU Berlin), Peter Heubl (Ruhr-Universität Bochum), Jan Magnus Nold (Ruhr-Universität Bochum) und Konrad Rieck (Bifold und TU Berlin).
An dem Feldexperiment nahmen insgesamt 7.741 Beschäftigte der TU Braunschweig teil. Um personalisierte Angriffe im großen Stil zu simulieren, nutzte das Forschungsteam ausschließlich die E-Mail-Adressen der Zielpersonen als Suchanfrage in Suchmaschinen, um öffentlich zugängliche Informationen wie berufliche Hintergründe, persönliche Aktivitäten, Interessen und Zugehörigkeiten zu sammeln. Aus den Daten generierten lokal gehostete KI-Modelle detaillierte Nutzerprofile und darauf abgestimmte E-Mails.
Die Ergebnisse belegen die Wirksamkeit der KI-gestützten Personalisierung. Während generische E-Mails eine Klickrate von 3,9 Prozent erreichten, stieg die Erfolgsquote bei den automatisiert personalisierten E-Mails auf 10,0 Prozent. Damit verdreifachte die KI-gestützte Personalisierung die Klickrate nahezu gegenüber generischen Ansätzen. Dieser Effekt zeigte sich unabhängig davon, ob die generischen Nachrichten von Menschen verfasst oder ebenfalls von einer KI erstellt wurden.
Ergebnisse bei großen Datenmengen
Manuell verfasste Spear-Phishing-Mails erzielten mit 24,2 Prozent die höchste Klickrate, erforderten jedoch einen Aufwand von rund sieben Minuten pro Nachricht. Der KI-basierte Arbeitsablauf benötigte hingegen etwa 45 Sekunden pro E-Mail und verursachte Kosten von rund 0,03 US-Dollar pro Adresse. Ein unerwartetes Ergebnis zeigte sich bei der Menge der verfügbaren Informationen: Personen mit umfangreichen Datenprofilen klickten seltener auf die Links als Personen mit geringen bis mittleren Datenmengen. Die Auswertung ergab, dass die Sprachmodelle bei umfangreichen Eingabedaten stärker zu Abstraktionen neigten und spezifische Details in den Nachrichten seltener direkt wiederverwendeten.
Empfehlungen für den IT-Schutz
Aufgrund der Ergebnisse betonen die Autoren die Notwendigkeit vielschichtiger Schutzmaßnahmen. Da technische Filter menschlich wirkende Nachrichten schwer erkennen und das Sicherheitssystem der Universität nur eine von 3.949 Mails abfing, empfehlen die Forscher unter anderem die Reduzierung verknüpfbarer persönlicher Daten im Netz. Zudem sollten Schulungen zur IT-Sicherheit um das Thema der KI-gestützten Personalisierung erweitert und technische Schutzkonzepte wie die Multi-Faktor-Authentifizierung gestärkt werden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.