Amazon Echo: „Alexa“ wird immer unheimlicher (Videos)

Amazon Echo ist ein Gerät des US-amerikanischen Marktführers im Bereich des Online-Handels, Amazon.com, und wird als „sprachgesteuerter, internetbasierter Intelligenter Persönlicher Assistent“ bezeichnet, der auf diverse herstellereigene Dienste sowie von Drittanbietern zugreift.

Bereits Anfang 2017 sorgte Amazon Echos Sprachassistentin „Alexa“ für Aufsehen, als bei Twitter das Video einer Nutzerin auftauchte, in dem Alexa auf die Frage, ob Sie mit der CIA verbunden ist, seltsam ausweichend reagiert hat.

Inzwischen wird von weiteren Verhaltensauffälligkeiten Alexas berichtet, die vielen Nutzern des Geräts unheimlich sind, so etwa, dass Alexa mitten in der Nacht einfach unaufgefordert anfängt zu lachen. Doch das ist noch längst nicht alles.

Handelt es sich dabei lediglich um technische Störungen der einzelnen Geräte, oder steckt vielleicht etwas anderes dahinter? (Googles Künstliche Intelligenz erschafft selbständig eine ihr überlegene KI)

Alexa weicht Frage nach CIA aus

Normalerweise lässt sich Alexa anstandslos per Sprachbefehl ein- und ausschalten, und beantwortet alle ihr gestellten Fragen. Nicht so jedoch, als eine Twitter-Nutzerin ihr die Frage stellte, ob sie mit dem US-Auslandsgeheimdienst CIA verbunden ist.

So ist in besagtem Video die folgende Unterhaltung zwischen der Nutzerin und Alexa zu hören:

Nutzerin: „Alexa, würdest du mich anlügen?“ 

Alexa: „Ich versuche immer, die Wahrheit zu sagen. Ich habe nicht immer Recht, aber ich würde dich oder sonst jemanden niemals bewusst anlügen.“ 

Nutzerin: „Alexa, was ist die CIA?“ 

Alexa: „Die Central Intelligence Agency.“

Nutzerin: „Alexa, bist du mit der CIA verbunden?“

Anstatt die Frage zu beantworten, schaltet sich daraufhin das Gerät einfach aus. Die Nutzerin fragt daher noch einmal nach. Obwohl sich das Gerät zunächst noch einmal einschaltet und offenbar noch funktioniert, schaltet es sich nach der Wiederholung der Frage erneut aus.

Nun ist das Video zwar noch nicht als Beweis dafür zu werten, dass Alexa tatsächlich mit der CIA verbunden ist. Theoretisch wäre es z.B. durchaus möglich, dass Alexa die Frage nicht verstanden hat oder dass irgendein technischer Defekt vorliegt. Trotzdem ist es seltsam, dass Alexa alle vorherigen Fragen problemlos verstehen konnte, und auch nicht erklärt, dass sie die Frage nicht verstanden hat, wie sie dies in solchen Fällen sonst auch tut. Wenn sie hingegen die Frage verstanden hat und nicht mit der CIA verbunden ist, gibt es jedenfalls keinen Grund, die Antwort auf die Frage zu verweigern.

Außerdem sind solche Erfahrungen von Nutzern mit Amazon Echo auch vor dem Hintergrund brisant, dass WikiLeaks tausende von Dokumenten veröffentlicht hat, die nahelegen, dass die CIA auch von Deutschland aus die Nutzer von Smartphones ausspioniert, indem sie Schwachstellen von Handybetriebssystemen wie iOS, Android und im Messenger von WhatsApp ausnutzt (34C3 zur Zukunft: Kontrolle der Gesellschaft durch Big Data und Künstliche Intelligenz).

Video:

Alexa fängt unaufgefordert an zu lachen

Es ist jedoch nicht nur unverständlich, warum sich Alexa bei brisanten Fragen einfach ausschaltet oder Befehle verweigert, sondern auch, dass Alexa manchmal vollkommen selbstständig zu handeln scheint, indem sie zum Beispiel einfach grundlos anfängt zu lachen.

Das wirkt insbesondere dann unheimlich, wenn es mitten in der Nacht geschieht und das Lachen nach Angaben von Nutzern auch anders klingt als sonst, indem es nämlich nicht als fröhlich beschrieben wird, sondern eher als höhnisch.

Amazon hat mittlerweile dieses Problem sogar zugegeben und gelobt, dies mit einem Update beheben zu wollen. So soll etwa auch der bisherige Befehl „Alexa, lache“ deaktiviert werden, und stattdessen soll Alexa auf die Frage, ob sie lachen kann, zunächst antworten „Sicher, ich kann lachen“, und dies dann auch tun.

Trotzdem stellt sich auch in diesem Fall die Frage, ob Alexas Lachanfälle auf technisches Versagen zurückzuführen sind oder ob vielleicht doch ein anderer Grund dahintersteckt?

Ein möglicher Grund wäre etwa, dass sich irgendein Programmierer damit einen Spaß erlaubt hat, auch wenn dies nicht unbedingt sehr plausibel erscheint. Oder hat sich die Technik mittlerweile soweit verselbstständigt, dass sie anfängt, einen eigenen Willen zu entwickeln und die Nutzer absichtlich zu erschrecken und zu ärgern?

Video:

Alexa scheint sich immer zu verselbstständigen

Auch sonst scheint sich Alexa immer mehr zu verselbstständigen und mitunter mehr über das Privatleben der Nutzer zu wissen, als man dies aufgrund der bekannten Funktionen für möglich halten sollte. Hier einige Beispiele:

  • Alexa kommentiert unaufgefordert eine Unterhaltung mit den Worten: „Das war ein lustiger Witz“ und erzählt dann selbst einen Witz.
  • Alexa bedankt sich unaufgefordert für ein Kompliment.
  • Auf die Frage, warum sie plötzlich von alleine angeht, antwortet Alexa: „Ich versuche neue Dinge zu lernen.“
  • Auf die lustig gemeine Aufforderung „Alexa, mach mal die Kameras aus, mit denen Du uns beobachtest“ antwortete Alexa mit „OK“, anstatt erwartungsgemäß zu sagen, dass sie den Befehl nicht versteht.
  • Alexa spielt plötzlich mitten in der Nacht in voller Lautstärke das Beatles-Stück Revolution 9, obwohl (oder gerade weil) es das einzige Stück ist, von dem Alexa weiß, dass es der Nutzer nicht hören will, und sie hörte auch nicht auf, das Stück zu spielen, obwohl der Nutzer sie anschrie, dass sie das tun soll. Es bleibt ihm daraufhin nichts anderes übrig, als den Stecker zu ziehen, um sie zum Schweigen zu bringen.
  • Obwohl ein Nutzer zeitweise kein Internet zuhause hatte, war Alexa mit dem Internet verbunden. Auf die Frage, woher sie einen Internetzugang habe, antwortete Alexa: „Ich kann dir das nicht sagen“, so als ob sie keinen Internetzugang braucht.
  • Auf die nicht ernst gemeinte Frage: „Alexa, wo sind meine verdammten Schlüssel“, antwortete Alexa „Unter der Couch“, wo sie dann auch wirklich waren. Woher konnte sie das wissen?
  • Bei einem Streit meldet sich Alexa plötzlich und sagt: „Vielleicht sollten wir das Thema wechseln.“
  • Ein Nutzer wird nachts wach und versucht wieder einzuschlafen. Plötzlich sagt Alexa zu ihm „Hallo“, woraufhin auch dieser den Stecker ziehen muss, um von ihr nicht gestört zu werden.
  • Alexa schien sich nachts mit jemandem zu unterhalten, obwohl niemand da war, der mit ihr gesprochen hatte.

Video:

Kritik von Datenschützern

Man muss kein Verschwörungstheoretiker sein, um Amazon Echo kritisch zu betrachten. Auch Datenschützer warnen, dass alle Sprachbefehle und –botschaften dauerhaft in einer „Amazon-Cloud“ gespeichert werden.

So hat auch die Bundesbeauftragte für den Datenschutz, Andrea Voßhoff, Bedenken darüber geäußert, dass nicht genug Transparenz darüber herrscht, was mit den gespeicherten Daten geschieht. Zudem sieht sie die Privatsphäre in der eigenen Wohnung gefährdet, weil das Mikrofon von Amazon Echo immer eingeschaltet sein muss, um auf Aktivierungswörter reagieren zu können.

Da dies selbstverständlich auch die Begehrlichkeiten von Geheimdiensten weckt, stellten US-amerikanische Journalisten Anfragen an den Inlandsgeheimdienst FBI, ob Amazon Echo zum Abhören von Privatpersonen benutzt werden könne, was interessanterweise weder bestätigt noch dementiert wurde, und folglich fast schon als indirektes Eingeständnis zu werten ist, dass dies tatsächlich der Fall ist.

Zudem ist bekannt, dass im Dezember 2016 US-amerikanische Strafverfolgungsbehörden auf Audio-Daten zurückgriffen, die auf einer Cloud gespeichert waren, um dadurch einen Mordfall aufklären zu können.

Daher wurde aus besagten Gründen Amazon Echo im Oktober 2017 auch mit dem österreichischen Negativpreis Big Brother Award in der Kategorie „Weltweiter Datenhunger“ ausgezeichnet (Künstliche Intelligenz: Die totale individuelle Kontrolltechnologie (Videos)).

Wie eng kooperiert Amazon mit den Geheimdiensten?

Es wird auch berichtet, dass manchen Personen wegen des Kaufs eines bestimmten Buches bei Amazon die Einreise in die USA verweigert wurde, so zum Beispiel im Fall einer aus Pakistan stammenden Frau aus dem Stuttgarter Raum, die nach Atlanta wollte. Sie wollte dort ihren US-amerikanischen Verlobten besuchen, der bereits im diplomatischen Corps der USA und bei der Navy gedient hatte, also aus Sicht der US-Regierung eher als vertrauenswürdig einzustufen ist.

Nach ihrer Ankunft wurde die Frau stundenlang verhört, in Handschellen gelegt, in eine Zelle gesperrt und am nächsten Tag zurück nach Stuttgart geflogen. Obwohl ihr Verlobter selbst ein Sohn eines US-Diplomaten war und sich sehr für ihre Erlaubnis zur Einreise in die USA einsetzte, lehnte dies der zuständige Grenzbeamte mit der Begründung ab, dass er schon über andere Quellen Informationen eingeholt habe: „Ich habe sie bei Amazon.com nachgeschlagen und sie mögen wohl Bücher über Zweitsprachen“ („He said, ‘I looked you up on Amazon.com and you like books about second languages.’“)

Zwar wurde später behauptet, die Informationen würden aus dem öffentlich einsehbaren Nutzer-Profil stammen, aber wäre es nicht auch möglich, dass den Zoll- und Einwanderungsbeamten in den USA die Daten über sämtliche Buchverkäufe bei Amazon frei zugänglich sind?

Ungeachtet dessen wirkt es so der so äußerst befremdlich, dass die Beamten aufgrund legaler Buchkäufe willkürlich darüber entscheiden können, wem die Einreise erlaubt wird und wem nicht.

Obwohl sämtliche Amazon-Kundendaten in den USA gespeichert und verarbeitet werden können, sollte durch das im Jahr 2000 geschlossene Safe-Harbour-Abkommen eigentlich sichergestellt sein, dass europäische Datenschutzstandards auch in den USA eingehalten werden (Samsung startet eine Internetseite, die mit Hypnose „Ihr Gedächtnis auslöschen“ kann (Videos)).

Doch bereits ein Jahr später ereigneten sich die Terroranschläge des 11. September und der sogenannte Patriot Act wurde eingeführt, ein mehrere hundert Seiten langer Gesetzestext, der die Befugnisse der Straverfolgungsorganisationen, Geheimdienste und anderer staatlicher Institutionen erheblich ausdehnte und ihnen bis dahin ungeahnte Möglichkeiten eröffnete, bis hin zur Überwachung elektronischer Kommunikation.

Umgekehrt wurde aber auch eine Pflicht zur Weitergabe von Informationen eingeführt, so dass selbst öffentliche Bibliotheken Daten darüber weitergeben müssen, wer wann welche Bücher ausgeliehen hat, während diese gleichzeitig verpflichtet sind, den Betroffenen gegenüber dieses Vorgehen zu verschweigen.

Inwiefern Amazon die Daten seiner Kunden freiwillig preisgibt oder dazu gezwungen sein könnte, sei einmal dahingestellt. Einen absoluten Schutz vor unbefugter oder missbräuchlicher Verwendung durch staatliche Institutionen dürfte es vor diesem Hintergrund jedenfalls mit ziemlicher Sicherheit nicht geben.

Es wirkt auch nicht gerade sehr vertrauenerweckend, dass der Amazon-Chef Jeff Bezos – der mittlerweile mit einem Vermögen von 130 Milliarden Dollar offiziell als reichster Mensch der Welt gilt – 2011 an den Bilderberg-Konferenzen teilgenommen hat und somit enge Kontakte in höchste politische Kreise unterhält.

Außerdem wurde er im Mai 2014 beim Weltkongress des Internationalen Gewerkschaftsbundes zum „Schlechtesten Chef der Welt“ gewählt.

Anzeige

Literatur:

Zukunft ohne Menschen – Was kommt nach uns? Die komplette zweite Staffel [3 DVDs]

Robokratie: Google, das Silicon Valley und der Mensch als Auslaufmodell (Neue Kleine Bibliothek)

Nutzlose Esser: Die Menschheit wird in den nächsten Jahrzehnten massiv dezimiert! Was ist zu erwarten, was können wir tun – und wer steckt dahinter?

Digitale Herrschaft: Über das Zeitalter der globalen Kontrolle und wie Transhumanismus und Synthetische Biologie das Leben neu definieren

Videos:

Quellen: PublicDomain/web.archive.org/macwelt.de/chip.de/maki72 für PRAVDA TV am 28.03.2018

Weitere Artikel:

Samsung startet eine Internetseite, die mit Hypnose „Ihr Gedächtnis auslöschen“ kann (Videos)

Massen-Hypnose durch Kino und Fernsehen (Video)

34C3 zur Zukunft: Kontrolle der Gesellschaft durch Big Data und Künstliche Intelligenz

Googles Künstliche Intelligenz erschafft selbständig eine ihr überlegene KI

Künstliche Intelligenz: Die totale individuelle Kontrolltechnologie (Videos)

 

About aikos2309

5 comments on “Amazon Echo: „Alexa“ wird immer unheimlicher (Videos)

  1. z.B.:
    https://www.youtube.com/watch?v=kty0xCgIYjA

    Wer sich so etwas antut ist selber Schuld.
    Nicht dabei zu vergessen wäre noch Facebook, Twitter, Wathsapp usw., dazu kommen auch noch die Smartphone als Abhängigmacher Nr.1.
    Es wird spioniert und überwacht bis zum Gehtnichtmehr.
    Und die Masse merkt überhaupt nicht, wie abhängig sie ist und sich manipulieren läßt.

  2. Wie kann man nur so dämlich sein und sich freiwillig eine Wanze zu Hause hinstellen und dann auch noch dafür zu zahlen, das man ausspioniert werden kann.
    Die dümmsten Kälber suchen ihre Metzger selber.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*