KI: Journalist überlistet Bank mit künstlicher Intelligenz

Einem Journalisten ist es gelungen, die Stimmauthentifizierung einer Bank mit KI zu umgehen. Das könnten auch Betrüger.

Artikel veröffentlicht am 24. Februar 2023, 13:20 Uhr, Moritz Tremmel

Wenn die KI mit der Stimme des Menschen spricht ... (Bild: Pete Linforth/Pixabay)

Die Bank des Journalisten Joseph Cox verwendet zur Authentifizierung für Bankgeschäfte am Telefon eine Stimmanalyse. Diese konnte der Journalist mittels künstlicher Intelligenz überlisten. Die gleiche Technik könnten auch Kriminelle verwenden.

Cox rief die Hotline seiner Bank an. Statt der automatischen Ansage selbst zu erklären, was er wollte, spielte er mittels künstlicher Intelligenz generierte Audiodateien mit seiner eigenen synthetisierten Stimme ab.

"Prüfe meinen Kontostand", sagte seine künstlich erzeugte Stimme. Okay, meinte daraufhin die Bank, und bat ihn, sein Geburtsdatum sowie den Satz "Meine Stimme ist mein Passwort" zu sagen. Wieder spielte Cox seine Audiodateien ab und wartete, während die Bank seine Eingabe mit der zuvor erfassten Stimmprobe verglich.

Danke, sagte die Bank. Es hatte geklappt. Cox hatte das Authentifizierungssystem der Bank mit seiner künstlichen Stimme überlistet. Dadurch hatte er Zugriff auf seine Kontoinformationen, einschließlich der Kontostände und einer Liste der letzten Transaktionen.

Banken in Europa und USA betroffen

Laut dem Onlinemagazin Motherboard nutzen Banken in den USA und Europa die Stimmverifizierung als Sicherheitsmerkmal, um ihre Kunden am Telefon zu authentifizieren. Einige Banken gehen demnach sogar so weit, die Stimmverifizierung mit einem Fingerabdruck zu vergleichen - doch Sicherheitsforscher haben in den vergangenen Jahren immer wieder gezeigt, dass sich biometrische Sicherheitssysteme umgehen lassen.

Die britische Lloyds Bank, mit der Cox den Test durchführte, wirbt mit einer einzigartigen Sicherheit ihres Voice-ID-Programmes: "Voice ID analysiert über 100 verschiedene Merkmale Ihrer Stimme, die wie Ihr Fingerabdruck einzigartig sind. Zum Beispiel, wie Sie Ihren Mund und Ihre Stimmbänder benutzen, Ihren Akzent und wie schnell Sie sprechen. Es erkennt Sie sogar, wenn Sie erkältet sind oder Halsschmerzen haben."

"Dieses Experiment erschüttert die Vorstellung, dass stimmbasierte biometrische Sicherheit einen narrensicheren Schutz bietet, in einer Welt, in der jeder synthetische Stimmen für wenig Geld oder manchmal sogar kostenlos erzeugen kann", schrieb Cox. Er habe den kostenlosen Stimmenerstellungsdienst von Elevenlabs genutzt und damit seine Bank überlistet. Auch das zweite Sicherheitsmerkmal, das Geburtsdatum, sei nicht besonders schwierig zu erlangen, schon allein wegen der zahlreichen Datenlecks der vergangenen Jahre.

"Ich empfehle allen Unternehmen, die Sprachauthentifizierung nutzen, so schnell wie möglich zu einer sicheren Methode der Identitätsüberprüfung wie der Multi-Faktor-Authentifizierung zu wechseln", sagte Rachel Tobac, CEO des Unternehmens Social Proof Security, das Firmen zu Maßnahmen gegen Social Engineering berät. Sprachauthentifizierung könne umgangen werden, ohne dass man mit echten Menschen interagieren müsse.

Betrug mit KI

Die Lloyds Bank erklärte, dass man sich des Problems mit synthetischen Stimmen bewusst sei und Gegenmaßnahmen ergreife, bisher aber von keinem Fall wisse, bei dem eine solche Stimme in betrügerischer Absicht eingesetzt worden sei. Im vergangenen Jahr erklärte der Forscher John Shier von der Sicherheitsfirma Sophos, dass die Panik in Sachen Betrug mit Deepfakes übertrieben sei. Solange die Leute Informationen preisgäben, wenn man nett danach frage, seien KI-Angriffe nicht der effizienteste Weg.

Allerdings gab es in den vergangenen Jahren bereits mehrfach Berichte über mittels KI begangene Betrugsfälle. So sollen Kriminelle bereits 2019 durch Anrufe mit einer mittels KI nachgeahmten Stimme 220.000 Euro erbeutet haben. Die Versicherungsfirma Euler Hermes, eine Tochter der Allianz, berichtete von einem Versicherungsfall.

Auch Institutionen wie Europol warnen vor der Verwendung von KI durch Kriminelle. Im vergangenen Jahr saß Berlins Bürgermeisterin Franziska Giffey (SPD) einem Deepfake von Vitali Klitschko auf. Allerdings gibt es an der Geschichte auch durchaus Zweifel.