Deutsch
English
Manchmal bin ich besonders stolz, wenn in den Blog-Kommentaren Fachwissen und gesunde Skepsis dominieren. Die Aussage „ich habe es doch gesagt“, mag ich nicht besonders, aber diese Woche war es mal wieder soweit! Amazon gab zu, dass die Aufzeichnungen von Alexa durch viele Mitarbeiter weltweit mitgehört und abgetippt werden. Genau das wurde von vielen von Ihnen vorher prognostiziert. Die Nachrichtenagentur Bloomberg hatte sieben Amazon-Mitarbeiter als Informanten gewinnen können und was diese zu berichten hatten, war mehr als interessant. Denn was Alexa-Nutzer so von sich geben, wird nicht nur vom System verarbeitet, 7000 Amazon-Mitarbeiter weltweit lauschen mit.
Letzte Woche hatte Amazon alle Hände voll zu tun, empörte Nutzer von „smarten“ (soll heißen: interaktiven) Geräten wie Alexa oder Echo wieder einzufangen. Es war bekannt geworden, dass Aufnahmen der Nutzer nicht nur vom System zur „Verbesserung der Spracherkennung“ (so die offizielle Lesart) gespeichert werden, sondern höchst menschliche Individuen ebenfalls zuhören. 7000 Mitarbeiter zwischen Costa Rica und Rumänien hören sich laut Bloomberg bis zu 1000 Clips pro Tag an, das würde grob 7 Millionen belauschter Mitschnitte pro Tag ergeben, im Jahr also ca. 2,5 Milliarden. Vielleicht ist es auch „nur“ eine Milliarde, das kommt wohl auf den Fleiß der Mitarbeiter an. Interessant, dass Amazon selbst dies „eine extrem geringe Anzahl von Interaktionen“ nennt. Es wird also nicht alles belauscht, sondern nur ziemlich viel, sehr beruhigend.
Weiterhin beteuert Amazon, es sei weiterhin alles anonym, also streng vertraulich. Die Mitarbeiter hätten keinen direkten Zugriff auf Informationen wie Name oder Konto-Identifikation. Seltsam nur, dass Bloomberg Screenshots (Bildschirmaufnahmen) hat, auf denen die Account-Nummer, der Vorname des Nutzers und die Seriennummer des Geräts aufgeführt ist. Ich weiß nicht, wie Sie es empfinden, aber für mich geht „anonym“ definitiv anders. Noch im Dezember hatte Amazon beteuert, nur ein kleiner, erlauchter Kreis könne diese Aufnahmen hören, nun füllen diese Menschen schon ein kleineres Fußballstadion. Der Grund des Ganzen (soweit wir wissen) liegt darin, dass Alexa doch nicht so schlau ist, wie die Werbung sagt und Amazon es sich wünscht. Vor allem werden Gespräche mit Alexa eingetippt und dann wieder in das System eingepflegt. Denn Nutzer sind halt keine Maschinen und was wir so von uns geben, stellt auch nach Jahren die Sprachassistenten vor unüberwindbare Hürden. Also müssen Menschen nacharbeiten.
Vier Geräte, ein Prinzip: Wir reden mit ihnen
Wie wohl in fast jeder Firma, wird nicht alles bierernst genommen. Lt. Bloomberg machten besonders amüsante Aufzeichnungen durchaus die Runde. Eine schief unter der Dusche singende Dame erlangte wohl einige, wenn auch lokale, Berühmtheit. Was besonders unterhaltsam, bizarr oder schwer verständlich ist, kann durchaus in einem Chat unter den Mitarbeitern geteilt werden. Zwei Mitarbeiter hätten auch, so Bloomberg, Aufzeichnungen von sexuellen Übergriffen vorgefunden, man habe ihnen aber von weiteren Aktionen abgeraten. Seit wann darf man solche Verbrechen ignorieren? Immerhin sei ihnen erlaubt worden, die Aufnahmen zur besseren Bewältigung mit anderen Mitarbeitern zu teilen. Das klingt für mich nach einem Skandal. Nebenbei: Sensibleren Naturen scheint ein Dienst in diesem Bereich also nicht angeraten.
Wer jetzt gerade vor lauter Paranoia Geräte entsorgt, dem sei gesagt, dass Amazon anscheinend wirklich nur Gespräche aufnimmt, die dem Codewort „Alexa“ folgen. Dieser Teil der zahlreichen Amazon-Versprechen ist also wahr, wenn auch dies nicht immer funktioniert. So gibt es weltweit einige Wörter, die sich stark nach „Alexa“ anhören, woraus viele ungewollte Aufnahmen resultieren. So selten ist der Vorname Alexa zudem auch nicht. Interessanterweise werden die Aufzeichnungen von selbst nicht wieder gelöscht. So will Amazon ein möglichst komplettes Profil erstellen und die Geräte besser auf den jeweiligen Nutzer, dessen Sprache und Vorlieben anpassen. Amazon selbst hat den Nutzern dies nicht vorher gesagt. "Zum Beispiel verwenden wir Ihre Befehle an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprachen zu trainieren", so die herrlich neutrale Formulierung. Immerhin kann man diese Nutzung ablehnen und bisherige Aufnahmen löschen. Aber wie viel Prozent der Nutzer wissen das überhaupt und werden sich dafür in die App begeben? Eigentlich dachte man ja, nur den Computer würden die Eingaben interessieren.
Erkennt denn das System wenigstens kritische Informationen? Nicht zuverlässig. Immer wieder hätten Mitarbeiter vertrauliche Informationen wie Namen oder auch Bankdaten gehört. In diesem Fall habe man den Mitarbeitern aufgetragen, dies zu vergessen und die Aufnahme mit dem Vermerkt „kritische Daten“ zu versehen. Man stellt sich nun unwillkürlich die Frage, ob nur Amazon so arbeitet. Natürlich wurden im gleichen Atemzug auch Google und Apple befragt, ob bei ihnen den ein ähnliches Prozedere abliefe, man wollte sich aber nicht dazu äußern. Ein reines Gewissen sieht wohl anders aus. Amazon reagierte etwas unkonventionell, wenn es kein Zufall war: Alexa und Co wurden gleich im Preis heruntergesetzt.
Eigentlich reicht das, aber ich möchte noch ein kleines Schmankerl anfügen. Auf die Anfrage einer deutschen Partei, ob Geheimdienste ähnlich vorgehen, wurde von der Regierung nur geantwortet, diese Information müsse geheim bleiben, die Nachrichtendienste würden diese Fähigkeit sonst verlieren. Oh, wurde da jemand ertappt? Der frühere deutsche Innenminister war da schon eindeutiger: „Mit Alexa holen Sie sich den Lauschangriff sozusagen in die Wohnung.“ Die Nutzer sollten sich vor Augen führen, dass sie Ihre Menschenwürde gegen Bequemlichkeit eintauschten. Es gibt wohl kein besseres Abschlusswort.
Was mich interessieren würde: Nutzen Sie Sprachassistenten für mehr Komfort oder bewahren Sie lieber einen Hauch Privatsphäre?
Wir wünschen Ihnen wunderbare Ostern, machen Sie sich ein paar schöne Tage mit Familie und Freunden!
Hallo Herr Krumrey,
ich verfolge Ihre Beiträge schon sehr lange mit großem Interesse. Die Themen sind oft punktgenau die, die uns Menschen tiefgründiger beschäftigen sollten.
Wie soll mir eine "Alexa", eine "Siri", eine "Cortana" oder sonstige "digitalen Assistenten" helfen, mein Leben angenehmer zu gestalten? Da wahrscheinlich die meisten Menschen neugierig sind, ich zähle dazu, spricht nichts dagegen sich mit dieser Technik zu befassen. Ist in den ersten 5 Minuten auch mal ganz witzig ;-). Aber einen echten Nutzen haben diese Teile nicht.
Bisher sehe ich derzeit nur einen Sinn darin, nämlich den Herstellern der Software und den Geräten dabei zu helfen, zu lernen um ihre Produkte zu verbessern. Das nennt man "Bananen-Software". Soweit so gut, es sollte aber jedem Nutzer klar sein, dass bei dieser Technik, die auf komplette Vernetzung ausgelegt ist, halt alles übertragen werden muss. Ob geplant oder ungeplant. Ist halt noch nicht ausgereift.
Wer das nicht möchte, ich denke das sind die meisten, für den sollte gelten: Finger weg von diesen unausgereiften "digitalen, unnützen Assistenten".
Dazu noch eine Anmerkung: Selbst wenn sie irgendwann tatsächlich einmal "funktionieren" sollten, welchen Sinn haben sie?
Ergänzen sie uns mit unseren Fähigkeiten oder ersetzen sie uns, weil wir zu bequem geworden sind?
Einen kritischen und positiven Gruß
Jetzt aber mal Hand aufs Herz, so wirklich überrascht sind wir doch jetzt nicht, oder?
Und genau aus diesem Grund gibt es derlei Maschinchen bei mir nicht. Außerdem bin ich schon älter und ich weiß noch, wie man Licht & Co. per Hand anschalten kann ;-)
Vorab: Ich nutze im Moment keines dieser Systeme und werde es auch in Zukunft nicht tun. Es war mir von Anfang an klar das die Betreiber der Systeme ein Interesse daran haben, aus kommerziellen Gründen, den Inhalt der Kommunikation zu kennen. Angeblich nur aus technischem Interesse um den Konform für den Kunden zu verbessern. Dies Systeme sind sinnvoll im Bereich wo Menschen eingeschränkt sind in Ihrer Bewegungsfähigkeit. Ansonsten kann man bequem darauf verzichten.
Ps ich werde mich schwer hüten solche Sachen zu nutzen! Ich liebe Handarbeit und eigenständiges Denken. Nur wer Automatismen braucht wird wohl daran nicht vorbeikommen. Aber Automatismen sind ein zweischneidiges Schwert. Sie können die Arbeit erleichtern, sie können aber auch dazu beitragen bequemlicher nicht nur bei der Arbeit sondern im Denken zu werden. Und das sieht man heute schon bei den Erwachsenen wie bei den Kindern. Irgendwann aber werden die Menschen wohl von Firmen auch dieses Diktat vollständig willenlos hinnehmen und dann sind die Menschen wieder das was sie vor Christi und nach Christi Geburt auch schon mal waren. Sklaven.
Ach ja, lieber Herr Sven Krumray, Aamazon Google und Microsoft sind alles lupenreine Firmen ohne wenn und aber! Ich habe schon in den Jahren 2010- 2011 mit einem Freund zusammen mal den Test aufs Exempel gemacht . Obwohl es eigentlich nur ein Jux sein sollte. Ich habe es danach nicht mehr widerholt. War mir zu blöd. Aber ich denke, es ist eher noch schlimmer als besser geworden. Damals habe ich anhand meherer Adressen überprüft was Google das so ausspuckt. Und Google ist fündig geworden . Google hat mir gezeigt wo ich eingeloggt bin, was ich dort getan oder gekauft habe und so weiter, ohne das ich dort eingeloggt war. Der Browser war sich nicht zu fein mir nur die Fremdaten von Microsoft oder Amazon zu zeigen, nein die von meinem Zugang zu Google hat er mir damals auch ohne Zugang angezeigt. Sicherheit im Netz? Was ist das? Und für wen gilt die? Der User ist der letzte der von den Sicherheitsstrukturen aller möglichen Firmen profitiert. Es geht nur um Firmensicherheit. Oder sehe ich da was falsch? Mit erschwerten Zugangsmethoden (Copy-Verbote etc.) wird dem User eine Sicherheit suggeriert, die er nicht wirklich hat. Aber jeder Mensch muss dafür sorgen das seine Haus seine Wohnung sicher ist. Indem Sinne ist doch wieder alles beim alten, aber nur wenn ich mich selber darum bemühe. Ich wünsche Ihnen eine ruhige Woche.