Alexa-Fiasko: Amazon lässt Gespräche von Zeitarbeitern in Polen auswerten

Sprachassistenten wie Alexa sollen unseren Alltag erleichtern – Musik oder Nachrichten abspielen, auf Kommando das Licht dimmen, Einkaufslisten abspeichern oder uns daran erinnern, wann die Nudeln gar sind. Dass sie uns dabei ausspionieren, gehört sicherlich nicht zu den gewünschten Aktivitäten.

Tatsächlich sollen Amazon-Mitarbeiter auf diese Weise die Spracherkennung verbessern. Recherchen von "Welt am Sonntag" haben jetzt ergeben, dass der Schutz der Privatsphäre dabei noch weniger gewährleitet ist, als bisher bekannt war. Demnach werden die Aufnahmen nicht nur von Amazon-Mitarbeitern in besonders geschützten Büros ausgewertet, sondern auch von Zeitarbeitern in Polen – von zu Hause aus oder sogar unterwegs.

Sensible Daten im privaten Umfeld von Zeitarbeitern

Laut der WAMS hatte die Personalvermittlung Randstad Polen per Online-Stellenanzeige (die inzwischen gelöscht worden sei) entsprechende Arbeitskräfte mit Deutschkenntnissen auf Muttersprachniveau rekrutiert. Diese seien in der Amazon-Niederlassung in Danzig geschult worden und hätten anschließend im Homeoffice Alexa-Gespräche transkribiert.

Das bedeutet: Sensible Nutzerdaten wie Namen und Ortsbezeichnungen, die Hinweise auf die Identität geben, gelangen auch ins private Umfeld der Mitarbeiter – die zum Teil während der Arbeitszeit am Küchentisch sitzen und dabei noch auf ihre Kinder aufpassen, wie ein Zeitarbeiter der WAMS berichtete.

So reagierte Amazon auf die Rechercheergebnisse

Amazon habe die Ergebnisse der WAMS-Recherchen auf Anfrage bestätigt – und zugleich betont, dass es den Mitarbeitern verboten sei, an öffentlichen Orten zu arbeiten. "Einigen Mitarbeitern ist es gestattet, von anderen Orten aus zu arbeiten; dabei gelten strenge Sicherheitsmaßnahmen und Richtlinien, an die sich jeder Mitarbeiter halten muss", zitiert die Zeitung einen Sprecher des Unternehmens.

Dass die Verbesserungsarbeiten kein rein automatisierter Vorgang sind, kommuniziert Amazon den Kunden bislang nicht ausreichend. Die Nutzungsbedingungen von Amazon weisen nicht explizit darauf hin, dass Mitarbeiter die Kommunikation mit Alexa nachträglich mithören und diese Aufnahmen bearbeiten können.

Inzwischen teilt die Alexa-App den Nutzern mit, Sprachaufnahmen würden "möglicherweise bei der Entwicklung neuer Funktionen verwendet und hierbei manuell überprüft, um unsere Services zu verbessern". Seit dem ersten Augustwochenende gibt es in der App einen neuen Schalter, mit dem man der Speicherung von Aufnahmen explizit widersprechen kann.

[12. April 2019] Alexa kennt keine Privatsphäre: Amazon-Mitarbeiter hören mit

Wie "Bloomberg" berichtet – und sich dabei auf die Schilderungen mehrerer Beschäftigter von Amazon stützt – geschieht das Ausspionieren vonseiten des Konzerns in großem Stil. Ohne dass die betroffenen Nutzer davon wissen, hören Mitarbeiter Sprachaufnahmen der Assistenzsoftware Alexa ab – mit dem Ziel, die Spracherkennung zu optimieren.

So läuft die Bearbeitung der Alexa-Aufnahmen ab

Der Konzern selbst streitet diese Vorgehensweise nicht ab und bestätigt: "Wir versehen nur eine sehr geringe Auswahl an Alexa-Sprachaufnahmen mit Kommentaren, um das Kundenerlebnis zu verbessern. Beschäftigte haben keinen direkten Zugang zu Informationen, durch die eine Person oder ein Account bei diesem Verfahren identifiziert werden können."

Konkret bedeutet das laut dem Bericht von "Bloomberg", dass Mitarbeiter an verschiedenen Standorten wie Boston, Costa Rica, Rumänien und Indien Sprachaufnahmen verschriftlichen, kommentieren und erneut ins System einspielen. So soll Alexa lernen, Befehle besser zu verstehen. Während einer Neun-Stunden-Schicht soll ein Beschäftiger pro Minute etwa zwei Mitschnitte bearbeiten, insgesamt 1000 Aufzeichnungen an einem Arbeitstag. Durchschnittlich hundert davon seien aufgenommen worden, ohne dass der Nutzer das Aktivierungswort gesprochen hätte.

Mitarbeiter teilen Aufnahmen zur persönlichen Belustigung

Die Arbeit sei dabei größtenteils banal. Ein Mitarbeiter berichtet zum Beispiel, er habe Aufnahmen analysiert, in denen das Wort "Taylor Swift" vorkam, um dann anzumerken, die Nutzer hätten sich auf die Sängerin bezogen. Problematisch ist, dass die Beschäftigten ihre Dateien in Chatrooms miteinander austauschen – etwa, wenn sie Wörter nicht verstehen oder einen Mitschnitt besonders amüsant finden. Vom schlechten Gesang unter der Dusche bis zum Geschrei eines Babys gelangen so Dinge in fremde Hände und Ohren, die die Nutzer mit Sicherheit als "privat" empfinden würden.

Zwar erklärt der Konzern, dass diese Informationen streng vertraulich behandelt würden. Doch der Bericht verweist auf einem Screenshot zu einem solchen Transkriptions-Auftrag, der mit einer Account-Nummer, dem Vornamen des Nutzers sowie der Seriennummer des Geräts gekennzeichnet gewesen sei. Hätten die Mitarbeiter vertrauliche Informationen wie Namen oder Bankkonto-Informationen gehört, seien sie angehalten worden, einen Haken bei "kritische Daten" setzen und mit der nächsten Aufnahme fortzufahren.

Wir denken, die Maschinen lernen auf magische Weise automatisch

Florian Schaub, Professor an der Universität von Michigan, der sich mit der Privatsphäre von smarten Lautsprechern beschäftigt, äußerte sich dazu mit folgenden Worten: "Man denkt nicht daran, dass ein anderer Mensch dabei zuhört, was man zu seinem smarten Lautsprecher in der Intimität seines Zuhauses sagt. Ich denke, wir sind auf die Annahme konditioniert worden, dass diese Maschinen auf magische Weise automatisch lernen. Aber Fakt ist, dass immer noch manuelle Entwicklung durch Menschen Teil des Prozesses ist."

So können Sie Ihre Privatsphäre schützen

Es gibt einige Möglichkeiten, die eigenen Daten zu schützen und zu verhindern, dass die Alexa-Aufnahmen zur Weiterentwicklung genutzt werden.

Auf der Amazon-Website gibt es Optionen, um der Verwendung der Mitschnitte zu widersprechen. Loggen Sie sich dazu bei Amazon ein und gehen Sie oben rechts auf Mein Konto. Klicken Sie unter Digitale Inhalte und Geräte anschließend auf Inhalte und Geräte. Dort finden Sie oben die Option Alexa-Datenschutz. Auf der nun folgenden Seite können sie wählen "Legen Sie fest, wie Ihre Daten Alexa verbessern sollen" und die entsprechenden Optionen aktivieren oder deaktivieren.
Auch in den Alexa-Apps für iOS und Android können Sie im Menü unter Einstellungen/Alexa-Konto/Alexa Datenschutz diese Änderung vornehmen. Außerdem gibt es seit Anfang August einen neuen Schalter, mit dem Sie die Speicherung von Aufnahmen ablehnen können.
Überprüfen Sie regelmäßig Ihre Einstellungen, wenn Sie sich unsicher sind.
Achten Sie auf den blauen Leuchtring Ihres Lautsprechers: Wandern die Lichtpunkte im Kreis, werden Daten übertragen.
Möchten Sie jedes Risiko ausschließen, ziehen Sie den Stromstecker, wenn Sie das Gerät nicht verwenden. Und verbinden Sie es nur gezielt nur, wenn Sie es wirklich nutzen. Dieses Vorgehen verhindert allerdings die spontane Nutzung und ist mit Zeitaufwand verbunden.

Weiterlesen auf oekotest.de: