Laudator: padeluun

Video ansehen: vimeo.com/265814323/#t=1h56m25s

„Alexa, an wen geht der BigBrotherAward 2018 in der Kategorie Verbraucherschutz?“

Alexa-Stimme: „Der BigBrotherAward 2018 in der Kategorie Verbraucherschutz geht an

die Firma Amazon, für ihren Sprachassistenten Alexa“

Ich ahne, dass es für diese Art Preisträger viel Beifall geben würde, dabei habe ich Apple Siri, Google Assistant, Microsoft Cortana, Samsung Bixby und Nuance noch gar nicht erwähnt, die wir im Großen und Ganzen mit auszeichnen könnten. Aber von allen diesen Anwendungen ist Amazon-„Alexa“ die preiswürdigste. Das Gerät lauscht 24 Stunden am Tag in meiner Wohnung, weil es darauf lauert, dass ich das Wort „Alexa“ sage. Sobald es dieses Wort ‚hört‘, zeichnet es die nachfolgenden Sätze auf und sendet diese zur Analyse zu den Rechnern in der Amazon-Cloud. Dort wird mein Text übersetzt, analysiert und dann werden Aktionen fernausgelöst. Zum Beispiel wird ein Timer oder Wecker gestellt, Musik, meiner Stimmung entsprechend – oder was das Gerät dafür hält – abgespielt, ein Trommelwirbel gestartet oder auf Amazon ein neuer Goldhamster bestellt. Mit diesem „Alexa“ will Amazon noch mehr Macht im Onlineversandhandel kriegen. Damit wird Amazon noch weiter zu dem, was Marc-Uwe Kling in seinem Buch „Qualityland“ ‚The Shop‘ nennt. Zeichnen wir damit ‚wirtschaftliche Cleverness‘ und ‚Erfolg‘ mit unserem Negativpreis aus? Nein. Zu groß zu werden und Hybris anzustreben (und damit gefährlich zu sein) ist verwerflich.

Muss ich mehr sagen? Muss ich wirklich begründen, warum eine Abhörschnittstelle, die sich zum Beispiel als Wecker tarnt, aber ein allwissender Butler in fremden Diensten ist, der sich von mir höchstpersönlich ins Schlafzimmer tragen und an das weltweite Überwachungsnetz anschließen lässt, einen BigBrotherAward bekommen soll? Nein, muss ich nicht. Oder?

Herzlichen Glückwunsch an Amazon „Alexa“. Und gut. [Abtritt, Herr Liebold, übernehmen Sie.] Halt, bleiben Sie noch sitzen. Natürlich habe ich noch mehr zu sagen!

Rena Tangens hat in ihrer Laudatio zur Smart City von der „perfekten Verbindung des totalitären Überwachungsstaates aus George Orwells ‚1984‘ und den normierten, nur scheinbar freien Konsumenten in Aldous Huxleys ‚Schöne Neue Welt‘“ gesprochen. Die sogenannten „Sprachassistenten“ sind die lästige Ergänzung zum totalen Überwachungssystem, das sich ‚smart‘ nennt, aber teuflisch ist. Skylla und Charybdis in einem, das Private (Alexa) und das Öffentliche (‚Smarte‘ Straßenlaternen) wenden sich gegen mich. Es geht gegen meine Freiheit, gegen meine freie Entfaltung, gegen meine Würde. Bald wird es so sein, dass ich, wenn ich auf der Straße spreche, von der Straßenlaterne an der Stimme erkannt werde. Wer ich bin, hat das Gerät „Alexa“ verraten, das mein Stimmprofil aufgesaugt und der großen Big-Data-Krake zum Verdauen vorgeworfen hat. Diese imaginäre Datenkrake weiß dann nicht nur, wen ich besuche, sondern auch, welchen Weg ich nehme, um den Besuch abzustatten.

Heute, wo die Einführung gerade erst begonnen wird, habe ich mir angewöhnt, in einer fremden Wohnung erst einmal „Alexa, bestelle 100 große Dosen Ravioli“ zu rufen. Wenn die Wohnungsinhaber nervös reagieren, weiß ich, dass ich mich in einem verwanzten Haushalt befinde.

Und wenn es da draußen wirklich Leute gibt, die das Gerät – mit dem Gefühl, nun einen Butler zu haben – bei sich zu Hause installieren, denken Sie daran, dass derjenige, der das „Alexa“-Gerät installiert, die Möglichkeit hat, alles, was sie diesem „Alexa“ zu Gehör bringen, über seine Handy-App wieder abzuhören. Wer das Gerät einrichtet, kann auch noch Monate später alle Sprachfetzen, die Alexa aufgeschnappt hat, in einer langen Liste mit Datum und Uhrzeit verschriftlicht sehen und auf Klick auch neu abspielen. Das sollten z.B. auch Beratungsstellen für Stalkingopfer im Blick behalten.

Ich habe einige Tage mit diesem Gerät herumgespielt. Es ist schön, beim Nudelkochen einfach in den Raum zu rufen „Alexa, Timer 8 Minuten“. Auch beim morgendlichen Wecken, ohne sich umzudrehen, „Alexa, noch 10 Minuten“ knurren zu können, ist schön. Aber wenn das bedeutet, dass die Aufzeichnung im Internet bei Amazon gespeichert wird, und der Konzern damit weiß, wann ich aufstehe, dann sollte ich doch besser auf diesen Komfortgewinn verzichten. Denn mit „Alexa“ ist mein Wecker-Stellen keine lokale Aktion innerhalb meines Smartphones mehr, sondern wird zu einem Stück Big Data im Besitz von Amazon.

Ich werde immer wieder gefragt, ob Amazon mit „Alexa“ denn irgendetwas besonders Böses macht. Ob der Konzern nicht vielleicht doch heimlich ALLES aufzeichnet, was im Raum gesagt wird und das weiter schickt, auch wenn nicht vorher „Alexa“ gesagt wurde. Die Wochenzeitung „Die Zeit“ hat einen Techniker von Tactical Tech nachgucken lassen. Und der sagt: „Naja, könnte sein. Das Gerät verschlüsselt Daten, die es sendet, da kann man nicht herausbekommen, ob es nur ‚gewünschte‘ Aussagen sendet oder mehr.“

Wir schätzen das mal so ein: Amazon wird sich da schon möglichst sauber halten. Das, was das Gerät ohnehin tut, ist schon schlimm genug. Und noch schlimmer ist, was da in Planung ist.

Wir haben nachgeschaut, was für Patente es gibt, die sich Amazon, Google und Co. gesichert haben und die sehr schön zeigen, wohin die Reise in die ‚Bedenken-Second-Zukunft‘ gehen soll: Die Konzerne halten nicht nur Patente dafür, zu erkennen, WER spricht, sondern auch, aus der Stimme zu erkennen, in welcher Stimmung man gerade gerade ist. Von einer App, die das nutzt, haben wir ja eben schon von Peter Wedde gehört. Wenn Mama vormittags verzweifelt weint, wird gleich Klosterfrau Melissengeist geliefert. Der Ruf „Alexa, Musik“ spielt dann entsprechend des Psychogramms, das dem Konzern geläufig ist, Punkrock oder Gregorianische Choräle ein. Oder Amazon ruft präventiv die Polizei, die die Wohnung ‚swattet‘, wenn die Algorithmen aus der Stimme den Eindruck gewinnen, dass jemand vielleicht gleich ein Attentat verüben will. Es gibt Patente dafür, mehrere Stimmen zu unterscheiden und Personen zuordnen zu können. Da kann dann Klein-Bubi noch so oft mit tiefer Stimme „Alexa zeig Porno“ rufen, die Kindersicherung würde das verhindern. Die Nebenwirkung: Noch mehr manipulationsrelevante Informationen über die Privatsphäre und das Familienleben gehen an den Konzern. Und dass das „Alexa“ nur auf sein Schlüsselwort reagiert, ist auch bald Makulatur: Es gibt Patente, die den kompletten Audiostream nach bestimmten Keywörtern abfragen – und dann Werbung abspielen. Auf die Frage „Schatz, wollen wir heute Essen gehen?“ empfiehlt Alexa dann vorlaut das Sonderangebot bei „Little Italy“ und reserviert gleich einen Tisch auf der Terrasse.

Wie ein junger Hund versucht das „Alexa“ alles über uns zu lernen, indem es dauerhaft auf unsere Stimme, Intonation, bestimmte Wörter wie ‚mögen‘ oder ‚gekauft‘ hört, um das Aufgeschnappte wie alte gammelige Knochen im großen Datengarten von Amazon zu verbuddeln. Und Amazon belohnt mit Gollum‑Stimme: „Mein Schatz!“

Auch können die Kinder im Kinderzimmer automatisch verwarnt werden, wenn sie zu laut streiten, oder die Eltern werden gewarnt, wenn die Kinder im Flüsterton gemeinsam etwas aushecken.

Jetzt sagen die Konzerne wieder, dass das ja alles nur Features sind, die sie nur ‚mal so‘ angemeldet hätte, das würden sie doch gar nicht einbauen wollen. Aber erstens, höre ich sowas seit dreißig Jahren – und sehe, dass alles, was ‚niemals umgesetzt würde‘, heute Normalzustand ist. Und zweitens können wir niemals wissen, ob solche Features mehr oder weniger heimlich oder auch offen implementiert und freigeschaltet werden – oder es bereits schon sind.

Es geht nicht um ‚Missbrauch‘. Es geht um das Potential, das dieses Gerät hat. Und das Potential, das die Firma Amazon hat, um genau das erbarmungslos auszunutzen. Zumal das Alexa (wie ein Smartphone) nichts anderes als ein Computer ist, für den alle möglichen Firmen jetzt sogenannte Skills – also Apps – programmieren, die wir auf dem „Alexa“-System installieren sollen und die alle wieder für sich irgendwie Daten aus dem Haus ins Netz schaufeln werden. Da gibt es den „Furz-Skill“ (ja, der tut genau das, was Sie jetzt denken – allerdings noch ohne Duftnote), den FoxNews-TV-Skill (der steht auf Platz 1 der beliebtesten Skills), den Abfallkalender-Skill (der in Bielefeld nicht funktioniert) und hunderte oder tausende mehr. Hinterher will es wieder niemand gewesen sein – wie bei Facebook, die vorgeben, fassungslos zu sein, was Cambridge Analytica mit ihren Daten gemacht haben. Dabei ist genau das Ausforschen von Menschen und ihren Angewohnheiten, ihren geheimsten Wünschen, ihren Freundschaften, ihren politischen Überzeugungen bis hin zu ihren Gesundheitsproblemen das Geschäftsmodell dieser Konzerne. So auch bei Amazon.

Ich möchte den schwarzen Peter aber auch an die Menschen weiter reichen, die solche Spielzeuge in ihr Leben lassen und damit skrupellose Kaufleute dazu bringen, Instrumente herzustellen und zu verkaufen, die unsere Zivilisation gefährden. Das können wir an der just (Frühjahr 2018) laufenden Debatte zu Facebook1 sehen.

Liebe Menschen. Seid vernünftig. Sabine Leutheusser-Schnarrenberger ist 1996 als Justizministerin zurückgetreten, weil ihre Partei den großen Lauschangriff beschließen wollte. Heute stellen wir uns einen riesengroßen Lauschangriff freiwillig in unsere intimsten Lebensbereiche. Liefert Euch nicht aus, behaltet Eure Widerstrebsamkeit, ohne die Zivilisation und Demokratie nicht lebendig existieren können. Ja, das bedeutet, dass wir den Wecker noch ein paar Jahre von Hand stellen müssen. Aber wenn das alle tun, können wir unsere Kinder und Enkel darum beneiden, dass sie Technik komfortabel nutzen können, ohne die Angst, Opfer von Manipulation und Machtinteressen zu werden. Denn es ist unsere Aufgabe, jetzt dafür zu sorgen, dass wir datenschutz- und freiheitsfördernde Technik bekommen. Das ist möglich! Doch dafür müssen wir hartnäckig und widerständig bleiben – auch gegenüber unseren Freundinnen und Freunden und gegenüber uns selbst – und wir dürfen weder der Technikgläubigkeit, noch dem Kontroll- oder Spieltrieb, der Bequemlichkeit oder dem Überwachungswahn nachgeben.

Herzlichen Glückwunsch, Amazon, zum inzwischen dritten BigBrotherAward2.

1 BigBrotherAward 2011 an Facebook – https://bigbrotherawards.de/2011/kommunikation-facebook

2 BigBrotherAward 2015 in der Kategorie Arbeitswelt: https://bigbrotherawards.de/2015/arbeitswelt-amazon-logistik
BigBrotherAward 2015 in der Kategorie Wirtschaft: https://bigbrotherawards.de/2015/wirtschaft-amazon-mechanical-turk-elance-o-desk

 

Year: