Prof. Ahmad-Reza Sadeghi über Potenziale und Gefahren digitaler Sprachassistenten

09.08.2019

Prof. Ahmad-Reza Sadeghi über Potenziale und Gefahren digitaler Sprachassistenten

hr-Verbrauchermagazin über Alexa, Siri & Co

Bedenkliche Technik für Kinder oder nützlicher digitaler Helfer? Innerhalb ihrer gleichnamigen Sendung beschäftigten sich mit dieser Frage „Die Ratgeber“ des Hessischen Rundfunks. Unterstützung erhalten sie von Ahmad Reza-Sadeghi, Professor am System Security Lab und Principal Investigator des Profilbereichs Cybersicherheit an der TU Darmstadt (CYSEC).

„Faszinierend oder?“, so reagiert Daniel Johé, Moderator der Sendung „Die Ratgeber“, nachdem er zusammen mit CYSEC-PI Prof. Ahmad Reza-Sadeghi vom System Security Lab der TU Darmstadt ein Haustürschloss mithilfe des Sprachassistenten Alexa abgeschlossen hat. Knappe 10 Sekunden hat es gedauert vom Befehl „Alexa, verschließe die Eingangstür!“, über die Antwort „Wird abgeschlossen. Einen Moment.“, bis zum Signal „Eingangstür ist abgeschlossen.“ Doch digitale Sprachassistenten bieten auch Gefahren – nicht nur für Kinder, deren Stimmen ebenfalls aufgezeichnet werden könnten. Hierfür gibt es tatsächlich eine einfache Lösung: „Man kann sich natürlich Regulierungen ausdenken, die das Speichern von Kindersprache verbietet oder in irgendeiner Form reguliert“, so Reza-Sadeghi: „Das würde ich für sinnvoll halten, speziell weil viele Eltern dem auch nicht zustimmen würden, dass die Stimmen von ihren Kindern irgendwo auf dem Server liegt.“

Video: „Die Ratgeber“ vom 8. August 2019 (Dauer: 29:29)

Zurück zur Haustür: Hier wird es komplexer. Hacker könnten nicht nur das Gerät selbst angreifen, es könne auch versucht werden Geräte über größere Distanzen anzugreifen. „Es gibt unterschiedliche Methoden diese Geräte anzugreifen“, erläutert der Sicherheitsexperte. Eine weitere Möglichkeit sei etwa, die Geräte im Ultraschallbereich anzusprechen: „Die Geräte haben Mikrofone und die reagieren natürlich auf Sprache. Man kann aber die Sprache im Ultraschallbereich aufnehmen. Für Nutzer ist das nicht hörbar, aber für das Gerät“, so Sadeghi weiter. Und auch die Lösungswege sind vielfältig: Eine radikale Lösung wäre die Hardware-Nachrüstung aller Mikrofone, was aufgrund der weltweiten Verbreitung und breiten Anzahl der Geräte als nicht möglich erscheint. Leichter hingegen sei es, wenn Verbraucherinnen und Verbraucher bereits darauf verzichten würden die Geräte zu nah an Fenstern zu positionieren. „Das ist wirklich ein sehr wertvoller Tipp“, lobt Johé und leitet zugleich zur Frage über, warum Mitschnitte der smarten Assistenten von realen Menschen in anderen Ländern transkribiert, also mitgeschrieben werden. „Im Fall von Amazon war es zur Verbesserung von Algorithmen“, so Reza-Sadeghi: „Das ist das sogenannte maschinelle Lernen und diese Algorithmen, diese Verfahren, können sich dadurch verbessern, dass Menschen die Zuordnung zwischen Sprache und Text überprüfen und nachjustieren.“ In der eigenen Forschung des CYSEC-Wissenschaftlers und seiner Kolleginnen und Kollegen würde ferner durch eigene Geräte, die im Ultraschallbereich Nachrichten an die smarten Assistenten versenden, überprüft, welche Mitschnitte tatsächlich nach außen geschickt werden. „Das heißt, dieses Gerät hört mit und versucht auch die anderen Geräte in einem Frequenzbereich anzusprechen, der für Nutzer nicht hörbar ist.“ Er selbst, so erläutert der Forscher, würde hingegen darauf verzichten private und persönliche Sachen in der Nähe digitaler Sprachassistenten zu besprechen. „Es gibt ja diesen Ausschaltknopf“, kommentiert Johé und drückt ihn zugleich.


Weitere Informationen

zur Liste