KI-Angriff versteckt Sprachbefehle in klassischer Musik

11.01.2018

Golem.de - Es ist nicht Verdis Requiem in schlechter Aufnahmequalität: Forscher entwickeln eine KI, die die Sprachassistenten täuscht, indem sie Geräusche in anderen Geräuschen versteckt. In einem Video ist die Stimme zu hören, die wie ein Roboter aus der Zukunft klingt.

Zwei Forscher der Universität California in Berkeley haben einen KI-Algorithmus vorgestellt, der Sprachassistenten und Sprache-zu-Text-Systeme täuschen kann. Nicholas Carlini und David Wagner entwickeln das System, das für Menschen nicht verständliche Sprachbefehle nutzt, die Alexa, Google Assistant und andere Sprach-Kis jedoch verstehen. Der Angriff sei für ein Sprache-zu-Text-System wie Mozillas Deepspeech bereits zu 100 Prozent erfolgreich. Dazu zählen beispielsweise Systeme, die Sprache in Untertitel umwandeln. Umgekehrt ist jedoch noch etwas Arbeit nötig.

In einem bereits älteren Video, das die Anfänge des Projektes zeigt, konnten die Forscher beispielsweise ein Telefon in den Flugzeugmodus versetzen oder eine bestimmte Webseite aufrufen. Bei genauem Hinhören kann der Sprachbefehl ausgemacht werden. Er klingt jedoch wie eine Maschinenstimme aus einem Science-Fiction-Szenario, etwa ein Geth aus der Mass-Effect-Spielreihe.

Mehr