Virtual Kidnapping: Mutter wird von KI-Stimme ihrer Tochter getäuscht

Eine Mutter hat einen Lösegeldanruf mit der Stimme ihrer Tochter erhalten – doch diese war KI-generiert.

Artikel veröffentlicht am 13. April 2023, 7:40 Uhr, Andreas Donath

Voice Cloning gehört zu den Deep Fakes. (Bild: Envato)

Betrüger haben einem Medienbericht zufolge künstliche Intelligenz genutzt, um die Stimme eines 15-jährigen Mädchens zu klonen und von deren Mutter im US-Bundesstaat Arizona telefonisch eine Million Dollar Lösegeld zu fordern. Das meldete die New York Post.

Mithilfe der künstlich generierten Stimme auf Basis des Originals wird die Betrugsmasche des Virtual Kidnapping deutlich überzeugender.

Die Mutter des Mädchens, Jennifer DeStefano, erhielt den Anruf den Angaben zufolge von einer ihr unbekannten Nummer. Am Telefon hörte sie die Stimme ihrer Tochter, die weinte und um Hilfe flehte. Ein Mann sagte, er werde dem Teenager etwas anzutun, wenn die Mutter kein Lösegeld zahle.

Der Entführer verlangte zunächst eine Million US-Dollar und setzte die Summe auf 50.000 US-Dollar herab, nachdem die Mutter gesagt hatte, sie habe das Geld nicht.

Der Betrug flog auf, als DeStefano Hilfe von einer befreundeten Mutter erhielt und diese bestätigte, dass ihre Tochter wohlbehalten auf einem Skiausflug sei. Nach wie vor ist unbekannt, wer für den Telefonanruf und die vorgetäuschte Entführung verantwortlich ist.

Informatikexperten warnten in der New York Post, die Technologie zum Klonen von Stimmen sei inzwischen so weit fortgeschritten, dass der Tonfall und die Art des Sprechens einer Person aus den kürzesten Tonfetzen nachgebildet werden könnten.

Golem.de vollzog das Verfahren mit der KI von Elevenlabs mit englischsprachigen Samples nach. Die Samples sollten bei dieser KI länger als eine Minute sein und keine Hintergrundgeräusche enthalten. Am besten funktioniert die KI derzeit auf US-Englisch mit Akzent, Deutsch wird nicht unterstützt. Es gibt jedoch bereits weitere Anbieter, so dass es nur noch eine Frage der Zeit ist, bis auch andere Sprachen geklont werden können.