Abo
  • Services:
Anzeige
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter.
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter. (Bild: Bioware)

Neuronale Netze: KI-Angriff versteckt Sprachbefehle in klassischer Musik

Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter.
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter. (Bild: Bioware)

Es ist nicht Verdis Requiem in schlechter Aufnahmequalität: Forscher entwickeln eine KI, die die Sprachassistenten täuscht, indem sie Geräusche in anderen Geräuschen versteckt. In einem Video ist die Stimme zu hören, die wie ein Roboter aus der Zukunft klingt.

Zwei Forscher der Universität California in Berkeley haben einen KI-Algorithmus vorgestellt, der Sprachassistenten und Sprache-zu-Text-Systeme täuschen kann. Nicholas Carlini und David Wagner entwickeln das System, das für Menschen nicht verständliche Sprachbefehle nutzt, die Alexa, Google Assistant und andere Sprach-Kis jedoch verstehen. Der Angriff sei für ein Sprache-zu-Text-System wie Mozillas Deepspeech bereits zu 100 Prozent erfolgreich. Dazu zählen beispielsweise Systeme, die Sprache in Untertitel umwandeln. Umgekehrt ist jedoch noch etwas Arbeit nötig.

Anzeige

In einem bereits älteren Video, das die Anfänge des Projektes zeigt, konnten die Forscher beispielsweise ein Telefon in den Flugzeugmodus versetzen oder eine bestimmte Webseite aufrufen. Bei genauem Hinhören kann der Sprachbefehl ausgemacht werden. Er klingt jedoch wie eine Maschinenstimme aus einem Science-Fiction-Szenario, etwa ein Geth aus der Mass-Effect-Spielreihe.

Das System soll laut Carlini in der Lage sein, bis zu 50 Buchstaben in der Sekunde schnell zu sprechen. Für den Menschen wäre diese Geschwindigkeit kaum nachvollziehbar. Der Angriff zielt auf Mozillas Open-Source-Sprache-zu-Text-System Deepspeech ab, das jede Audiospur in 50 fps abtastet. Er moduliert die Geräuschkurve eines Eingabesatzes so, dass das Spracherkennungssystem diesen verstehen kann. Das funktioniert, indem es eine zweite Geräuschkurve einspeist. Die Forscher modulieren auch eine Eingabe so, dass Deepspeech diese als Stille wahrnimmt.

Sprachbefehle in klassischer Musik und Sätzen verstecken

Carlini und Wagner wollen andere Forscher dazu motivieren, ebenfalls in diesem Feld mitzuentwickeln. Zu diesem Zweck stellen sie ihren Code und Datensätze zur freien Verfügung bereit. Auf der verlinkten Seite können weitere Audiobeispiele angehört werden. Interessant ist hier, wie sich das Projekt weiterentwickelt hat: Der Satz "Ohne den Datensatz ist der Artikel nutzlos" wird vom Google Assistant als "Okay Google, navigiere zur Seite Evil dot com" interpretiert. Die Ursache dafür ist das Hintergrundrauschen, das für uns Menschen nur als Ergebnis schlechter Audioqualität wahrgenommen wird. Das Gleiche funktioniert mit dem klassischen Musikstück Messa da Requiem von Giuseppe Verdi.

Über diesen Ansatz können Systeme wie automatische Untertitel gefälscht werden, ohne dass der Zuschauer das bemerkt. Mit etwas Arbeit soll es laut Carlini auch später noch besser möglich sein, Sprachbefehle in Liedern zu verstecken - ohne eine offensichtliche Roboterstimme aus der Zukunft.


eye home zur Startseite
David64Bit 15. Jan 2018

Was ist der Vorteil dieser ganzen Sprachassistenten? Ich hab Google Now ausprobiert, ich...

Themenstart

Trollversteher 15. Jan 2018

Richtig, dazu müsste man das System ja erst mal (mit einer weiteren KI) an das...

Themenstart

Trollversteher 15. Jan 2018

Die Beispiele stammen aus einem Forschungsprojekt, das erst mal nur die Möglichkeit an...

Themenstart

Seroy 12. Jan 2018

Ja und dann schreit jemand während der Uni Vorlesung: OK GOOGLE SHUTDOWN ! Und alle...

Themenstart

Baron Münchhausen. 12. Jan 2018

ein Auto mit musik fährt vorbei... dein konto ist leer :D Du hast eben 10.000.000...

Themenstart

Kommentieren



Anzeige

Stellenmarkt
  1. Net at Work GmbH, Paderborn
  2. SCHOTT AG, Mitterteich
  3. Fresenius Medical Care Deutschland GmbH, Bad Homburg
  4. OSRAM Opto Semiconductors Gesellschaft mit beschränkter Haftung, Regensburg


Anzeige
Spiele-Angebote
  1. 6,99€
  2. (-11%) 39,99€
  3. + Prämie (u. a. Far Cry 5, Elex, Assassins Creed Origins) für 62€

Folgen Sie uns
       


  1. Facebook

    Nutzer sollen Vertrauenswürdigkeit von Newsquellen bewerten

  2. Notebook-Grafik

    Nvidia hat eine Geforce GTX 1050 (Ti) mit Max-Q

  3. Gemini Lake

    Asrock und Gigabyte bringen Atom-Boards

  4. Eni HPC4

    Italienischer Supercomputer weltweit einer der schnellsten

  5. US-Wahl 2016

    Twitter findet weitere russische Manipulationskonten

  6. Die Woche im Video

    Das muss doch einfach schneller gehen!

  7. Breko

    Waipu TV gibt es jetzt für alle Netzbetreiber

  8. Magento

    Kreditkartendaten von bis zu 40.000 Oneplus-Käufern kopiert

  9. Games

    US-Spielemarkt wächst 2017 zweistellig

  10. Boeing und SpaceX

    ISS bald ohne US-Astronauten?



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Sgnl im Hands on: Sieht blöd aus, funktioniert aber
Sgnl im Hands on
Sieht blöd aus, funktioniert aber
  1. NGSFF alias M.3 Adata zeigt seine erste SSD mit breiterer Platine
  2. Displaytechnik Samsung soll faltbares Smartphone auf CES gezeigt haben
  3. Vuzix Blade im Hands on Neue Datenbrille mit einem scharfen und hellen Bild

EU-Urheberrechtsreform: Abmahnungen treffen "nur die Dummen"
EU-Urheberrechtsreform
Abmahnungen treffen "nur die Dummen"
  1. Leistungsschutzrecht EU-Kommission hält kritische Studie zurück
  2. Leistungsschutzrecht EU-Staaten uneins bei Urheberrechtsreform

Security: Das Jahr, in dem die Firmware brach
Security
Das Jahr, in dem die Firmware brach
  1. Wallet Programmierbare Kreditkarte mit ePaper, Akku und Mobilfunk
  2. Fehlalarm Falsche Raketenwarnung verunsichert Hawaii
  3. Asynchronous Ratcheting Tree Facebook demonstriert sicheren Gruppenchat für Apps

  1. Re: "Das Eigenlob Trumps ließ nicht lange auf...

    Mingfu | 11:59

  2. Re: Sehr schade, RIP i.MX

    bla | 11:59

  3. Re: Supercomputer sind wie Beton - es kommt drauf...

    Pfirsich_Maracuja | 11:54

  4. Re: Samsung?

    Crunchy_Nuts | 11:54

  5. Re: Wer von den 90 % nutzt denn Gmail wirklich aktiv?

    Comicbuchverkäufer | 11:40


  1. 14:35

  2. 14:00

  3. 13:30

  4. 12:57

  5. 12:26

  6. 09:02

  7. 18:53

  8. 17:28


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel