Forum für Wissenschaft, Industrie und Wirtschaft

Hauptsponsoren:     3M 
Datenbankrecherche:

 

Wie Sprachassistenten unhörbare Befehle befolgen

23.10.2019

In beliebigen Audiodateien können Forscher Sprachbefehle für Maschinen verstecken, die das menschliche Gehör nicht wahrnehmen kann. Spracherkennungssysteme verstehen diese Befehle jedoch genau. Im September 2018 berichteten Forscherinnen und Forscher vom Horst-Görtz-Institut für IT-Sicherheit der Ruhr-Universität Bochum über solche Angriffe auf das Spracherkennungssystem Kaldi, das in „Alexa“ enthalten ist. Zunächst gelangen die als Adversarial Examples bezeichneten Angriffe nur über eine Datenschnittstelle, jetzt funktionieren sie auch auf dem Luftweg. Ein ausführlicher Artikel über die Angriffe und möglichen Gegenmaßnahmen findet sich im Bochumer Wissenschaftsmagazin Rubin.

Um die geheimen Botschaften in die Audiodateien zu integrieren, nutzen die Wissenschaftlerinnen und Wissenschaftler das psychoakustische Modell des Hörens. „Wenn das Gehör damit beschäftigt ist, einen Ton einer bestimmten Frequenz zu verarbeiten, können Menschen für einige Millisekunden andere leisere Töne nicht mehr wahrnehmen“, erklärt Lea Schönherr aus der Arbeitsgruppe Kognitive Signalverarbeitung, die Prof. Dr. Dorothea Kolossa leitet.


Früher funktionierten die Angriffe nur über die Datenschnittstelle. Heute gelingen sie auch, wenn die Audiodateien über Lautsprecher abgespielt werden.

© Roberto Schirdewahn (Dieses Foto darf nur für eine Berichterstattung mit Bezug zur Ruhr-Universität Bochum im Kontext dieser Presseinformation verwendet werden.)


Lea Schönherr entwickelt neue Angriffe auf die Spracherkennungssoftware Kaldi, um Sicherheitslücken zu entlarven. Thorsten Eisenhofer entwickelt entsprechende Gegenmaßnahmen.

© Roberto Schirdewahn (Dieses Foto darf nur für eine Berichterstattung mit Bezug zur Ruhr-Universität Bochum im Kontext dieser Presseinformation verwendet werden.)

Genau in diesen Bereichen verstecken die Forscherinnen die geheimen Befehle für die Maschinen. Für den Menschen klingt die zusätzliche Information wie zufälliges Rauschen, für den Sprachassistenten ändert es jedoch den Sinn.

Den Raum berücksichtigen

Zunächst funktionierte der Angriff nur über eine Datenschnittstelle, mittlerweile auch über Lautsprecher. Das ist komplizierter, da der Raum, in dem die Datei abgespielt wird, den Klang beeinflusst.

Beim Erstellen der manipulierten Audiodateien berücksichtigte Lea Schönherr daher die sogenannte Raumimpulsantwort. Diese beschreibt, wie ein Raum den Schall reflektiert und den Klang verändert. Mit speziellen Computerprogrammen lässt sich die Raumimpulsantwort simulieren.

„Wir können den Angriff also für einen bestimmten Raum maßschneidern“, berichtet die Kommunikationstechnikerin. „Kürzlich ist es uns aber sogar gelungen, einen allgemeinen Angriff durchzuführen, der keine Vorinformationen über den Raum benötigt, und trotzdem genauso gut oder sogar noch besser auf dem Luftweg funktioniert.“ Künftig plant die Wissenschaftlerin auch Tests mit auf dem Markt erhältlichen Sprachassistenten.

Sicherheitslücke schließen

Da sprachgesteuerte Systeme aktuell nicht in sicherheitskritischen Bereichen im Einsatz sind, sondern lediglich dem Komfort dienen, können die Adversarial Examples derzeit keinen großen Schaden anrichten. Daher sei es noch früh genug, die Sicherheitslücke zu schließen, meinen die Bochumer Forscher.

Im Exzellenzcluster Casa, kurz für Cyber Security in the Age of Large-Scale Adversaries, kooperiert die Arbeitsgruppe Kognitive Signalverarbeitung, die die Angriffe entwickelt hat, mit dem Lehrstuhl für Systemsicherheit von Prof. Dr. Thorsten Holz, dessen Team an Gegenmaßnahmen dazu arbeitet.

MP3-Prinzip als Gegenmaßnahme

Der IT-Sicherheitsforscher Thorsten Eisenhofer will Kaldi beibringen, für Menschen nicht hörbare Bereiche in Audiosignalen auszusortieren und nur das zu hören, was übrig bleibt. „Wir können natürlich nicht verhindern, dass Angreifer Audiodateien manipulieren“, sagt er. Sein Ziel ist es, dass die Manipulation aber in den für Menschen hörbaren Bereichen platziert werden müsste; so ließen sich die Angriffe nicht so leicht verstecken. Dafür nutzt Eisenhofer das MP3-Prinzip.

MP3-Dateien werden komprimiert, indem für Menschen nicht hörbare Bereiche gelöscht werden – genau das ist es, was die Verteidigungsstrategie gegen die Adversarial Examples auch vorsieht. Eisenhofer kombinierte Kaldi daher mit einem MP3-Encoder, der die Audiodateien zunächst bereinigt, bevor sie zum eigentlichen Spracherkenner gelangen.

Die Tests ergaben, dass Kaldi die geheimen Botschaften tatsächlich nicht mehr verstand, es sei denn sie wurden in die für Menschen wahrnehmbaren Bereiche verschoben. „Das veränderte die Audiodatei aber merklich“, berichtet Thorsten Eisenhofer. „Die Störgeräusche, in denen die geheimen Befehle versteckt sind, wurden deutlich hörbar.“

Ausführlicher Artikel im Wissenschaftsmagazin Rubin

Einen ausführlichen Beitrag zu dem Thema finden Sie im Wissenschaftsmagazin Rubin unter: https://news.rub.de/wissenschaft/2019-10-23-it-sicherheit-wie-sprachassistenten-.... Texte auf der Webseite und Bilder aus dem Downloadbereich dürfen unter Angabe des Copyrights für redaktionelle Zwecke honorarfrei verwendet werden.

Wissenschaftliche Ansprechpartner:

Lea Schönherr
Arbeitsgruppe Kognitive Signalverarbeitung
Horst-Görtz-Institut für IT-Sicherheit
Ruhr-Universität Bochum
Tel.: 0234 29638
E-Mail: lea.schoenherr@rub.de

Thorsten Eisenhofer
Lehrstuhl für Systemsicherheit
Horst-Görtz-Institut für IT-Sicherheit
Ruhr-Universität Bochum
Tel.: 0234 29638
E-Mail: thorsten.eisenhofer@rub.de

Originalpublikation:

Lea Schönherr, Steffen Zeiler, Thorsten Holz, Dorothea Kolossa: Imperio: robust over-the-air adverarial examples for automatic speech recognition systems, 2019, Online-Vorabveröffentlichung: https://arxiv.org/abs/1908.01551

Weitere Informationen:

https://news.rub.de/presseinformationen/wissenschaft/2018-09-24-it-sicherheit-ge... Frühere Presseinformation zum Thema

Dr. Julia Weiler | idw - Informationsdienst Wissenschaft

Weitere Nachrichten aus der Kategorie Informationstechnologie:

nachricht Virtual Reality - Umgebung für‘s Homeoffice
09.07.2020 | Universität Stuttgart

nachricht Wie Industrieunternehmen ihre Effizienz mit 5G-Netzen steigern können
08.07.2020 | Ruhr-Universität Bochum

Alle Nachrichten aus der Kategorie: Informationstechnologie >>>

Die aktuellsten Pressemeldungen zum Suchbegriff Innovation >>>

Die letzten 5 Focus-News des innovations-reports im Überblick:

Im Focus: Im Takt der Atome: Göttinger Physiker nutzen Schwingungen von Atomen zur Kontrolle eines Phasenübergangs

Chemische Reaktionen mit kurzen Lichtblitzen filmen und steuern – dieses Ziel liegt dem Forschungsfeld der „Femtochemie“ zugrunde. Mit Hilfe mehrerer aufeinanderfolgender Laserpulse sollen dabei atomare Bindungen punktgenau angeregt und nach Wunsch aufgespalten werden. Bisher konnte dies für ausgewählte Moleküle realisiert werden. Forschern der Universität Göttingen und des Max-Planck-Instituts für biophysikalische Chemie in Göttingen ist es nun gelungen, dieses Prinzip auf einen Festkörper zu übertragen und dessen Kristallstruktur an der Oberfläche zu kontrollieren. Die Ergebnisse sind in der Fachzeitschrift Nature erschienen.

Das Team um Jan Gerrit Horstmann und Prof. Dr. Claus Ropers bedampfte hierfür einen Silizium-Kristall mit einer hauchdünnen Lage Indium und kühlte den Kristall...

Im Focus: Neue Methode führt zehnmal schneller zum Corona-Testergebnis

Forschende der Universität Bielefeld stellen beschleunigtes Verfahren vor

Einen Test auf SARS-CoV-2 durchzuführen und auszuwerten dauert aktuell mehr als zwei Stunden – und so kann ein Labor pro Tag nur eine sehr begrenzte Zahl von...

Im Focus: Robuste Materialien in Schwingung versetzt

Kieler Physikteam beobachtet in Echtzeit extrem schnelle elektronische Änderungen in besonderer Materialklasse

In der Physik werden sie zurzeit intensiv erforscht, in der Elektronik könnten sie ganz neue Funktionen ermöglichen: Sogenannte topologische Materialien...

Im Focus: Excitation of robust materials

Kiel physics team observed extremely fast electronic changes in real time in a special material class

In physics, they are currently the subject of intensive research; in electronics, they could enable completely new functions. So-called topological materials...

Im Focus: Neues Verständnis der Defektbildung an Silizium-Elektroden

Theoretisch lässt sich das Speichervermögen von handelsüblichen Lithiumionen-Batterien noch vervielfachen – mit einer Elektrode, die auf Silizium anstatt auf Graphit basiert. Doch in der Praxis machen solche Akkus mit Silizium-Anoden nach wenigen Lade-Entlade-Zyklen schlapp. Ein internationales Team um Forscher des Jülicher Instituts für Energie- und Klimaforschung hat jetzt in einzigartiger Detailgenauigkeit beobachtet, wie sich die Defekte in der Anode ausbilden. Dabei entdeckten sie bislang unbekannte strukturelle Inhomogenitäten in der Grenzschicht zwischen Anode und Elektrolyt. Die Erkenntnisse sind in der Fachzeitschrift „Nature Communications“ erschienen.

Silizium-basierte Anoden können in Lithium-Ionen-Akkus prinzipiell neunmal so viel Ladung speichern wie der üblicherweise verwendete Graphit, bei gleichem...

Alle Focus-News des Innovations-reports >>>

Anzeige

Anzeige

VideoLinks
Industrie & Wirtschaft
Veranstaltungen

Intensiv- und Notfallmedizin: „Virtueller DIVI-Kongress ist ein Novum für 6.000 Teilnehmer“

08.07.2020 | Veranstaltungen

Größte nationale Tagung für Nuklearmedizin

07.07.2020 | Veranstaltungen

Corona-Apps gegen COVID-19: Nationalakademie Leopoldina veranstaltet internationales virtuelles Podiumsgespräch

07.07.2020 | Veranstaltungen

VideoLinks
Wissenschaft & Forschung
Weitere VideoLinks im Überblick >>>
 
Aktuelle Beiträge

TFK entwickelt Herstellungsverfahren für großflächige Metalldrahtnetze zum Einsatz in der Raumfahrt

09.07.2020 | Materialwissenschaften

Münchner Botaniker entdeckt neue fleischfressende Pflanzenart aus Madagaskar

09.07.2020 | Biowissenschaften Chemie

Im Takt der Atome: Göttinger Physiker nutzen Schwingungen von Atomen zur Kontrolle eines Phasenübergangs

09.07.2020 | Physik Astronomie

Weitere B2B-VideoLinks
IHR
JOB & KARRIERE
SERVICE
im innovations-report
in Kooperation mit academics