Der Klang der Stille – Audio Spy Detector für Alexa und Co.

05.11.2020 17:00-18:00

Speaker: Prof. Ahmad-Reza Sadeghi | Location: Online

Organizer: Gesellschaft für Informatik


Abstract

In immer mehr Lebensbereichen kommen intelligente Sprachassistenten wie Apples „Siri“, Amazons „Alexa“ oder Googles „Google Assistant“ zum Einsatz. Jedoch steigen gleichzeitig mit dem technologischen Fortschritt auch die Risiken für unsere Privatsphäre und Daten. Darüber hinaus kommen immer mehr IoT (Internet of Things) Geräte mit Sprachassistentenfunktionalität auf den Markt.

Obwohl die digitalen Helfer normalerweise mit einem Weck-Wort wie „Alexa“ oder „Hey Google“ aktiviert werden sollten, aktivieren sie sich manchmal auch durch Wörter oder Geräusche, die das Gerät fälschlicherweise als Weck-Wort erkennt. Somit können Audiodaten aufgenommen und auf einen externen Server hochgeladen werden. Untersuchungen des System Security Lab an der TU Darmstadt und seinen zufolge gibt es zahlreiche Begriffe, die beispielsweise Alexa als Weck-Wort identifiziert, aber für Menschen als solche nicht zu erkennen sind. Das gleiche Phänomen konnte von der Forschungsgruppe auch bei Sprachassistenten chinesischer Hersteller (z.B. Baidu) dokumentiert werden.

Im Vortrag „Der Klang der Stille – Audio Spy Detector für Alexa und Co.“ präsentiert Prof. Ahmad-Reza Sadeghi die Forschungsarbeit am Design und der Entwicklung eines Geräts, den „LeakyPick“. LeakyPick kann Smart Home-Geräte mit Sprachassistenz erkennen, die unaufgefordert Aktionen durchführen. Es testet regelmäßig die Sprachassistenten in der Umgebung mit Audio-Befehlen und informiert den Nutzer, wenn diese unaufgefordert Audiodaten-Aktionen durchführen. Die Forschungsarbeiten wurden gemeinsam mit Forschungsteams an der North Carolina State University, University of Paris Saclay und der Zhejiang University realisiert.

Prof. Ahmad-Reza Sadeghi forscht und lehrt an der Technischen Universität Darmstadt und leitet dort das System Security Lab. Seit 2017 ist er außerdem Direktor des Intel Collaborative Research Institute for Autonomous and Resilient Systems (ICRI-CARS), seit 2019 Sprecher des Profilbereiches Cybersicherheit an der TU Darmstadt. 2018 erhielt er den „ACM SIGSAC Outstanding Contributions Award“ unter anderem für seine Beiträge zu engagierter Forschung, Ausbildung und Managementführung in der Sicherheitsgemeinschaft.


Weitere Informationen und Anmeldung