Update

Amazons Sprachassistent in der Kritik : Eine Wanze namens Alexa

Amazon-Mitarbeiter hören Aufzeichnungen des Sprachassistenten Alexa ab. Andere Unternehmen agieren offenbar ähnlich.

Das Logo von Amazon Alexa auf einem Smartphone.
Das Logo von Amazon Alexa auf einem Smartphone.Foto: imago images / photothek

Achim Berg ist ein Prediger der Digitalisierung. Er hat lange in führenden Positionen für Microsoft gearbeitet und wirbt nun als Präsident des Digitalverbandes Bitkom für neue Technologien. Gern probiert er die auch selbst aus, sein Haus ist ein sogenanntes Smart-Home, bei dem vom Licht bis zu der Heizung vieles über das Smartphone gesteuert werden kann. Theoretisch könnte er das auch auf Zuruf, doch ein Sprachassistent wie Amazons Alexa kommt ihm nicht ins Haus. Seine Frau wollte das nicht, die intelligenten Lautsprecher mit eingebautem Mikrofon sind ihr nicht geheuer.

Die jüngsten Berichte scheinen die Bedenken von Skeptikern zu bestätigen. Denn auch wenn zunächst nur eine mit Spracherkennung ausgestattete Maschine mit den Nutzern interagiert, kann es doch sein, dass Mitarbeiter von Amazon, Apple oder Google später Teile der Gespräche anhören. Denn damit die digitalen Assistenten Fragen verstehen und möglichst immer bessere Antworten geben, werden Spracherkennung und die dazugehörigen Algorithmen immer weiter trainiert.

Wie das funktioniert, haben mehrere Amazon-Mitarbeiter gegenüber dem Finanzdienst Bloomberg berichtet. Sie arbeiten in Boston, Costa Rica, Indien und Rumänien. Bis zu 1000 Audioaufzeichnungen hören sie sich in jeder Stunde an und vergleichen, was gesprochen wurde mit dem, was Alexa verstanden hat. Dabei hören sie auch immer wieder höchst private Dinge, bis hin zu sexuellen Übergriffen. Über besonders verstörende oder belustigende Gespräche tauschen sie sich auch in internen Chats aus.

Amazon versichert: Daten bleiben anonym

Amazon betont, dass die Daten dabei anonym bleiben. „Mitarbeiter haben keinen direkten Zugriff auf Informationen, die die Person oder das Konto identifizieren können“, erklärt das Unternehmen. Bloomberg berichtete aber auch, auf einem Screenshot zu einem solchen Transkriptions-Auftrag seien eine Account-Nummer, der Vorname des Nutzers sowie die Seriennummer des Geräts aufgeführt gewesen. Nutzer können in den Einstellungen die Verwendung ihrer Aufnahmen zur Weiterentwicklung des Dienstes ablehnen sowie bisherige Aufnahmen löschen.

Andere Unternehmen agieren offenbar ähnlich. Google erklärte, bei seiner Alexa-Konkurrenzsoftware Assistant könnten unter Umständen Spezialisten auf kurze Audiofragmente zugreifen, um den Dienst zu verbessern, dabei würden aber keine Informationen zur Identifizierung übermittelt und der Ton werde verzerrt. Bei Apple werden ebenfalls Aufzeichnungen ohne persönliche Informationen gespeichert und bis zu zwei Jahre lang für die Verbesserung des Dienstes verwendet. „Es zeigt sich erneut, dass die vermeintlichen Vorteile eines digitalen Assistenten gegen das evidente Risiko, seine Privatsphäre gegenüber einer unbekannten Zahl von Personen offen zu legen, wohlüberlegt abgewogen werden sollte“, warnt der Bundesdatenschutzbeauftragte Ulrich Kelber.

Auch andere Amazon-Dienste betroffen

Bei Amazon sind aber wahrscheinlich nicht nur Nutzer der Echo-Lautsprecher betroffen. Denn der Konzern bietet als zusätzliches Angebot für Kunden seiner Cloud-Computing-Sparte Amazon Web Services (AWS) auch den Dienst Transcribe, mit dem Unternehmenskunden Sprache in Text umwandeln können. Als Beispiel nennt Amazon „die Transkription sprachbasierter Kundenservice-Anrufe“. Auch hier weist der Konzern in den Nutzungsbedingungen darauf hin, dass Inhalte verwendet werden, „um die Qualität von Amazon Transcribe und anderen Technologien künstlicher Intelligenz von Amazon zu verbessern und weiterzuentwickeln“. Doch die maschinellen Lernsysteme können sich nur verbessern, wenn es menschliches Feedback dazu gibt, was sie richtig und was falsch interpretiert haben.

Wenn Unternehmenskunden nicht möchten, dass Inhalte zur Weiterentwicklung der Algorithmen verwendet werden, sollen sie den AWS Support kontaktieren. Ob die letztlich betroffenen Kunden, deren Gespräche analysiert werden davon erfahren, ist ein anderes Thema.

Auch Geheimdienste könnten mithören

Genauso die Frage, ob sich nicht auch Geheimdienste die freiwillig aufgestellten Wanzen zu Nutze machen. Die Bundestagsabgeordnete Martina Renner (Linke) hat dazu eine Anfrage gestellt. Die Bundesregierung erklärte dazu, die Informationen seien geheimhaltungsbedürftig und werden als Verschlusssache behandelt. Sollten die technischen Fähigkeiten bekannt werden, könnte das Ermittlungen erschweren und die Nachrichtendienste womöglich Instrumente verlieren, für die es „keine gleichwertigen Alternativen“ gebe.

Der Bundesnachrichtendienst (BND) wollte sich nicht dazu äußern, ob er in der Lage ist, Amazons Echo-Lautsprecher zu infiltrieren und als Abhöreinrichtung zu nutzen. Das Bundesamt für Verfassungsschutz habe darauf verwiesen, dass es laut Gesetz das Recht zu Wohnraumüberwachung habe. „Ich kann daher nicht ausschließen, dass Sicherheitsbehörden Daten über Alexa und Co. erheben“, sagt Renner.

Trotzdem dürften sich die Geräte weiter verbreiten. Die Marktforscher von IDC prognostizieren für dieses Jahr weltweit einen Verkauf von 144 Millionen smarter Lautsprecher. „Jeder Nutzer muss selbst entscheiden, welche Technologien er sich mit all ihren Vorzügen und Risiken ins Haus holt“, sagt Bitkom-Präsident Berg. „Ich sehe aber auch keinen Grund zur Panikmache.“ Seine Frau wird er nach den neuesten Meldungen aber wohl nicht umstimmen können.

Mehr lesen? Jetzt E-Paper gratis testen!