Der BigBrotherAward 2020 in der Kategorie „Digitalisierung“ geht an Susanne Eisenmann, Ministerin für Kultus, Jugend und Sport des Landes Baden-Württemberg (und Spitzenkandidatin der CDU zur Landtagswahl 2021), weil sie wesentliche Dienste der Digitalen Bildungsplattform des Landes von Microsoft betreiben lassen will. Damit liefert sie die Daten und E-Mails von allen Lehrerinnen und Lehrern sowie Schülerinnen und Schülern Baden-Württembergs an das US-Unternehmen und die US-Geheimdienste aus.

Natürlich gibt es Warnungen und Bedenken gegen so eine Entscheidung – aber Frau Dr. Eisenmann ist nicht zu bremsen: In wenigen Wochen soll es losgehen, hat das Ministerium im Bildungsausschuss des Landtages Anfang Juli verkündet.¹

Wie konnte es so weit kommen?

Unsere Preisträgerin, Kultusministerin Susanne Eisenmann, steht unter erheblichem Druck. Im Februar 2018 hat sie die damals geplante, selbst betriebene Bildungsplattform „Ella“ wegen erheblicher technischer Mängel gestoppt,² drei Tage vor dem Testbetrieb in 100 Schulen. Dann folgte ein Pannenbericht auf den nächsten: Gutachten offenbarten, dass der beauftragte landeseigene IT-Dienstleister eigenmächtig Subunternehmer beauftragt hatte.³ Absprachen waren unklar. Der Landesrechnungshof monierte „erhebliche Mängel im Projektmanagement“.⁴ Die Ministerin warf den kommunalen Haupt-Dienstleister aus dem Projekt.⁵ Und alles sollte noch mal neu aufgesetzt werden. Die Zeitungen titelten immer wieder „ein Scherbenhaufen“ oder „Bildungsplattform steht vor dem Aus“. Zweieinhalb Jahre lang.

Nun will Frau Eisenmann im kommenden Jahr als Ministerpräsidentin für Baden-Württemberg kandidieren, und die Corona-Krise hat das Gaspedal, was Digitalisierung von Schulen angeht, nochmal so richtig durchgetreten. Deshalb muss die Digitale Bildungsplattform endlich funktionieren, bevor der Wahlkampf in die heiße Phase geht! Bedenken Second!

Warnungen vor Microsoft gab es genug.

Fangen wir mit unserer eigenen Warnung an: Nach dem BigBrotherAward 2002 an Microsoft fürs Lebenswerk⁶ vergaben wir 2018 den Preis für die Übermittlung von Telemetriedaten durch Windows 10.⁷ Der Datenhunger wächst.

Die vom Ministerium geplante Version „A3“ von Microsoft 365 enthält Schreib- und Tabellensoftware, Dateiablage, Videokonferenzen, Mailserver etc.⁸ Gespeichert wird alles auf Microsoft-Servern und die Software erhebt genaue Daten, z.B. wann welcher Nutzer wie lange an einem Dokument arbeitet.⁹ „Ist kein Problem“, sagt das Ministerium, „denn in der A3-Version lassen sich Privatsphäre-Einstellungen konfigurieren.“¹⁰ Mag sein, Frau Ministerin, aber eben nicht alle. Die sogenannten „wesentlichen Dienste“ lassen sich nicht deaktivieren.¹¹

Sehr skeptisch ist auch der Landesbeauftragte für den Datenschutz, Dr. Stefan Brink. Er bezweifelte in einer Stellungnahme, ob Microsoft 365 in Schulen eingesetzt werden darf: „Es scheinen derzeit strukturelle Merkmale […] vorzuliegen, welche die Möglichkeit eines datenschutzkonformen Einsatzes ohne wesentliche Anpassung der Datenverarbeitung durch Microsoft fraglich erscheinen lassen.“¹² Die von der Ministerin beauftragte Datenschutz-Folgenabschätzung der Firma PwC, die übrigens laut ihrer Website mit Microsoft kooperiert¹³, habe „methodische Mängel“ und müsse „vor einem etwaigen Einsatz des Produkts“ erheblich überarbeitet werden.¹⁴

Damit nicht genug: Selbst ein frisches Urteil des Europäischen Gerichtshofs (EuGH) hat die Ministerin nicht erschüttert. Dieser hat am 16.7.2020 das Datenschutzabkommen „Privacy Shield“ zwischen der EU und den USA für ungültig erklärt.¹⁵ Damit ist klar, was eigentlich schon vorher klar war: Daten von Nicht-US-Bürger.innen, die ein US-Amerikanischer Konzern erhebt und speichert, können mit Hilfe des CLOUD Acts¹⁶ und FISA¹⁷ auch von US-Geheimdiensten ausgelesen werden.

Noch 12 Tage später argumentiert Frau Eisenmann in einer Presseerklärung¹⁸, ein Server in der EU würde das Problem lösen. Nein. Einfach nur Nein. Das Versprechen von Microsoft, die Daten ausschließlich auf Servern in der EU zu speichern, ist wertlos. Den US-Schnüffelbehörden ist egal, wo der Server steht.¹⁹ Das sagen Ihnen Fachleute – die Sie in Ihrer Pressenotiz herablassend als „selbsternannte Datenschützer“ bezeichnen – schon seit langer Zeit.

Sie aber haben sich auf Microsoft festgelegt.²⁰

Dabei arbeiten viele Schulen in Baden-Württemberg bereits mit dem sicheren Messenger Threema, der freien Lehrsoftware Moodle und der freien und datenschutzfreundlichen Videokonferenz-Software BigBlueButton. Und die Erfahrungen sind gut, haben Sie selbst gesagt.²¹ Warum also wollen Sie unbedingt wechseln? Wir verstehen es nicht.

Es ist uns auch unbegreiflich, warum die von Ihnen beauftragte Datenschutz-Folgeabschätzung und die Antwort Ihres Landesdatenschutzbeauftragten²² bei so einer wichtigen Entscheidung nicht für Lehrkräfte und Eltern transparent gemacht werden.

Stattdessen hören wir von Eltern und Lehrern in Baden-Württemberg seit Monaten, es gebe „Maulkörbe aus dem Ministerium“, oder „ich darf nicht darüber sprechen“, oder „ich werde nicht ernst genommen.“²³

Es soll nun endlich losgehen!

Im Herbst sollen zunächst die Lehrkräfte an einigen Dutzend Schulen E-Mail-Adressen und einen „persönlichen Arbeitsplatz“ mit Office-Software und Online-Speicher erhalten, alles von Microsoft 365, Speicherort: Microsoft-Server. Dabei geht es aber nicht nur um die Daten von Lehrkräften, die das Kultusministerium Microsoft in den Rachen wirft (was schon schlimm genug wäre): In Schulkonferenz-Protokollen, Excel-Tabellen oder E-Mails zwischen Lehrkräften verbergen sich automatisch auch sensible Daten über einzelne Kinder. Das lässt sich gar nicht sinnvoll trennen.

Und das wollen Sie ohne ausreichende Datenschutz-Folgeabschätzung durchwinken? Bis jetzt wurde die vernichtende Kritik des Landesdatenschutzbeauftragten nicht schlüssig entkräftet. Ob das bis zum Projektstart gelingt, halten wir für fraglich. Und ob Microsoft dann noch die geforderten Anpassungen bis Oktober vornehmen kann, ist umso fraglicher. Aber Sie, Frau Eisenmann, sind wild entschlossen.

Was für ein Coup für Microsoft!

Eine Schulplattform von Microsoft ist ein Dammbruch. Wenn sich Baden-Württemberg als erstes Kultusministerium in diese Abhängigkeit begibt, werden andere Bundesländer folgen.

Dabei sind E-Mails und Arbeitsplätze für Lehrkräfte nur der erste Schritt. „Mittelfristig“, so der Plan des Ministeriums, werden auch die Kinder die zentrale Dateiablage nutzen.²⁴ Und später werden ihnen auch die Office-Pakete zur Verfügung stehen – alles andere wäre bildungspolitischer Unsinn.

Dann werden sie schon von klein auf mit den Microsoft-Produkten vertraut gemacht und sich später kaum auf andere Software umstellen wollen. Das freut den Konzern. So kann er nämlich das Verbot von Produktwerbung an Schulen umgehen, denn er ist dann ja offiziell autorisierter Dienstleister des Ministeriums. Dieser Lock-in-Effekt gepaart mit den Datenschutz-Risiken ist ein pädagogischer Kardinalfehler.

So haben wir uns das mit der digitalen Souveränität²⁵ nicht vorgestellt.

Und noch etwas: Die Schulplattform mit Microsoft ist eine Zeitbombe.

Im ersten Schritt werden nur die Lehrkräfte angeschlossen. Die wehren sich vielleicht noch nicht – schließlich ist das eine Entscheidung ihres Arbeitgebers. Aber dann, in ein paar Monaten, kommen die Eltern ins Spiel.

Wir wissen, dass viele Eltern und Lehrkräfte in Baden-Württemberg nicht einverstanden sind mit datensammelnder Software. Was ist, wenn sie ihre Grundrechte wahrnehmen und klugerweise die Datenschutzerklärung von Microsoft nicht akzeptieren wollen? Wollen Sie dann ein Ja erzwingen? Oder Kinder vom Unterricht ausschließen? Die Zustimmung zur Datenverarbeitung muss freiwillig sein – da beißt sich die DSGVO mit der Schulpflicht, Frau Ministerin, oder?

Würden Sie, liebe Frau Eisenmann, wollen, dass ein Konzern und US-Geheimdienste wissen, was Sie in ihrer Jugend über gängige Erörterungs-Themen der 70er-Jahre in Aufsätzen geschrieben haben? Über Sterbehilfe? Abtreibung? Homosexualität? Oder Todesstrafe? Diese Frage sollten sich im Übrigen auch andere Schulen und Ministerien stellen, die mit Microsoft liebäugeln. Sie dürfen sich gerne von dieser Laudatio mit angesprochen fühlen, wenn wir sagen:

Frau Eisenmann, kehren Sie um!

Stoppen Sie Ihre Pläne zur Einführung von Microsoft 365 als Bestandteil der Bildungsplattform, bevor es zu spät ist! Bevor Eltern- und Lehrerverbände Sie mit einer Klagewelle überziehen.

Gehen Sie den Weg weiter, den Sie mit dem Einsatz von Threema, BigBlueButton und Moodle bereits eingeschlagen haben: Setzen Sie weiter auf Freie Software, offene Formate, Dezentralität und auf Nextcloud (Software, die übrigens direkt vor Ihrer Haustür, in Stuttgart, entwickelt wird). Kostentechnisch ist das sowieso das Beste. Das findet auch der Landesrechnungshof.²⁶

24 Millionen sind für die Bildungsplattform Baden-Württemberg geplant. Investieren Sie dieses Geld in die Anpassung freier Software für Ihre Belange! Bauen Sie Know-How auf! Rüsten Sie Server-Systeme und Speicherplatz auf, so wie Sie es beim Moodle-Einsatz zu Beginn der Corona-Krise getan haben.²⁷ Vom so investierten öffentlichen Geld profitieren dann nämlich auch andere. (Stichwort: „Public Money? Public Code!“)

Ja, das wird dann vor der Landtagswahl nicht mehr alles fertig. Aber Eltern und Lehrkräfte werden Ihnen danken. Und unsere freiheitlich-demokratischen Bildungsideale – die es allemal wert sind, erhalten zu werden – auch.

Herzlichen Glückwunsch zum BigBrotherAward 2020 in der Kategorie Digitalisierung, Frau Dr. Susanne Eisenmann.

Verantwortlich für den Text: Claudia Fischer, Jessica Wawrzyniak, Leena Simon

Der BigBrotherAward 2020 in der Kategorie Politik geht an die Bundesregierung (CDU/CSU–SPD), vertreten durch die Bundeskanzlerin Dr. Angela Merkel (CDU), wegen ihrer rechtlichen und politischen Mitverantwortung für den völkerrechtswidrigen US-Drohnenkrieg, der über die Satelliten- und Datenrelais-Station der US-Airbase Ramstein in der Pfalz abgewickelt wird. Es ist die größte Militärbasis der USA im Ausland mit knapp zehntausend Militärs und Zivilbediensteten. Von hier, also von deutschem Boden aus, werden bewaffnete Drohneneinsätze im Nahen und Mittleren Osten sowie auf dem afrikanischen Kontinent gesteuert.

Die „unbemannten“ Luftfahrzeuge dienen sowohl der Ausforschung von Zielpersonen als auch willkürlicher Hinrichtungen von „Terrorverdächtigen“, die der jeweils amtierende US-Präsi­dent ohne rechtsstaatliche Verfahren zuvor angeordnet hat. Solche Angriffe, denen regelmäßig auch unbeteiligte Zivilpersonen zum Opfer fallen, verstoßen gegen Menschenrechte, humanitäres Völkerrecht und gegen das Verbot willkürlicher Tötungen. Denn zumeist finden sie außerhalb internationaler bewaffneter Konflikte statt und können nur selten mit einer akuten Gefahr für Leib und Leben und dem Recht auf Selbstverteidigung legitimiert werden.

Letztlich haben wir es also mit einem Mord-Programm zu tun, das die US-Regierung unter Präsident Georg W. Bush nach 9/11 begonnen hatte und das dann unter den Präsidenten Barack Obama und Donald Trump noch erheblich ausgeweitet wurde. Solche staatlich organisierten Menschenjagden mit gemeingefährlichen Mitteln sind zweifelsohne heimtückisch und grausam. Doch, so mögen sich manche fragen, was haben sie mit Big Brother und unserem gleichnamigen Negativpreis zu tun?

Um das zu beantworten, müssen wir ein wenig ausholen. In den vergangenen Jahren und Jahrzehnten kam es im Irak, in Afghanistan, Syrien, Pakistan, Jemen, Libyen und Somalia zu zahlreichen US-Drohnenangriffen auf angeblich „terrorverdächtige“ Personen. Tausende von Menschen sind auf diese Weise umgebracht, korrekter: ermordet, viele verletzt und verstümmelt worden.

Im Sommer 2012 waren bei einem US-Drohnenangriff im Jemen drei Mitglieder der Familie Bin Ali Jaber ums Leben gekommen. Ein Jahr später, im Dezember 2013, sind im Jemen gleich 17 Mitglieder eines Hochzeitskonvois aus der Luft getötet worden. Und so ging es im Jemen, im Nahen und Mittleren Osten, in Afrika und Pakistan weiter bis ins Jahr 2020: Im Januar dieses Jahres traf es den berüchtigten iranischen General Qassem Soleimani bei einem Aufenthalt im Irak – ein Drohnen-Anschlag, bei dem auch Soleimanis Begleiter sowie Unbeteiligte ums Leben kamen und der zu einer gefährlichen Eskalation im Nahen und Mittleren Osten geführt hat.

Wegen solcher Drohnenmorde müssten die Drohnenkrieger und ihre Helfershelfer womöglich auf der Anklagebank des Internationalen Kriegsverbrecher-Tribunals landen – wegen vielfachen Mordes und mutmaßlicher Kriegsverbrechen. Wir begnügen uns heute mit der Verleihung eines BigBrotherAwards und wollen damit etwas sichtbar machen, was vielen vielleicht nicht so klar ist.

1. Solchen Drohnenangriffen geht immer eine mehr oder weniger lange Phase der Ausspähung und Ausforschung potentiell verdächtiger Zielpersonen voraus, ihrer Verhaltensmuster, ihres sozialen Umfelds und örtlicher Gegebenheiten. Vor ihren Attacken erstellen die Militärs für die Zielauswahl geheime Raster und werten Signale von Handys und Computern aus, um „Terrorverdächtige“ oder „Gefährder“ ausfindig zu machen – und damit mögliche Todeskandidaten. Die dabei gewonnenen Koordinaten, Ortungsdaten, Fotos und Videos werden über die US-Militärbasis Ramstein in die USA geleitet, wo sie zusammen mit Satellitenbildern, Telefonüberwachungsdaten und – auch deutschen – Geheimdienst-Informationen ausgewertet sowie zu Personen-, Kontakt-, Verhaltens- und Risikoprofilen verdichtet werden. Später bilden sie dann die Datengrundlage für den finalen Angriff.

Insoweit kann man auch von „Cyberkrieg“ sprechen, der den Drohnenkrieg erst ermöglicht. Letztlich genügt ein hinreichender Verdacht – etwa die mutmaßliche Zugehörigkeit zu einer Terrorgruppe und eine angebliche Bedrohung für die USA –, um auf die geheime Todesliste („kill list“) der US-Administration zu geraten.¹

Den Knopf zum todbringenden Abschuss der Raketen drückt der steuernde „Drohnenpilot“ – wie in einem Computerspiel – per Joystick in den Tausende von Kilometern entfernten USA. Dabei erfolgen Drohnensteuerung und Abschussimpuls über die Daten- und Satelliten-Relaisanlage in Ramstein und über ein transatlantisches Glasfaserkabel. Von Ramstein aus wird also der weltweite Drohnenkrieg der USA logistisch unterstützt und ferngesteuert.² Und weshalb ausgerechnet über Ramstein? Weil die Erdkrümmung eine direkte Steuerung aus den USA unmöglich macht. Deshalb gilt die US-Airbase in der Pfalz als unverzichtbares „zentrales Nervensystem“³ des US-Drohnenprogramms.

2. Das bedeutet: Deutschland ist längst integraler Bestandteil des völkerrechtswidrigen US-geführten so genannten Kriegs gegen den Terror und in alle völkerrechtswidrigen US- und NATO-Kriege und Kriegsverbrechen verstrickt – obwohl doch nach Artikel 26 des Grundgesetzes „Handlungen, die geeignet sind und in der Absicht vorgenommen werden, das friedliche Zusammenleben der Völker zu stören, insbesondere die Führung eines Angriffskrieges vorzubereiten“, verfassungswidrig und mit Strafe bedroht sind.

Aus diesem Grund rückt die Bundesregierung in den Fokus eines „BigBrother­Awards“: Sie trägt rechtliche und politische Mitverantwortung, weil sie nichts gegen dieses mörderische Treiben auf deutschem Staatsgebiet unternimmt. Die Militärbasis Ramstein ist keineswegs exterritoriales Gebiet, sondern liegt im Geltungsbereich des Grundgesetzes – auch wenn de facto Grundgesetz und Völkerrecht hinter den Toren Ramsteins ihre Gültigkeit verlieren. Die Bundesregierung hat den (potentiell) betroffenen Menschen gegenüber eine gesetzliche Pflicht zu handeln – juristisch ausgedrückt: eine „Garantenpflicht“.

So sieht es im Übrigen auch das Ober­verwaltungsgericht Nordrhein-Westfalen: Das Gericht hat Anfang 2019 die Bundesregierung gerügt und dazu verurteilt, künftig ihrer Schutzpflicht nachzukommen und aktiv nachzuforschen, ob Kampfdrohnen-Einsätze über Ramstein gegen Völkerrecht verstoßen.⁴ Das humanitäre Völkerrecht, das u.a. willkürliche Tötungen von Zivilpersonen verbietet, bindet gemäß Grundgesetz (Art. 25) auch Regierung, Behörden und Justiz der Bundesrepublik. Dieser Schutzpflicht, so das Gericht, sei die Bundesregierung bislang nicht nachgekommen. Tatsächlich hat sie bis heute jegliche Verantwortung zurückgewiesen und damit den von deutschem Staatsgebiet ausgehenden Tod von Menschen billigend in Kauf genommen.

Geklagt hatten drei Mitglieder der jemenitischen Familie Bin Ali Jaber, die durch Raketenbeschuss aus US-Droh­nen nahe Angehörige verloren hatten und selbst schwer traumatisiert sind. Ohne die Militärbasis Ramstein, so die Kläger, würden ihre Verwandten noch leben. Angesichts der anhaltenden Drohnenangriffe leben sie in ständiger Angst und fürchten weiterhin um ihr eigenes Leben und das ihrer Angehörigen. Sie fordern von der Bundesrepublik, die US-Drohnen­steuerung über Ramstein mit geeigneten Maßnahmen zu unterbinden. Stattdessen aber hat die Bundesregierung Revision gegen das Gerichtsurteil eingelegt, um es zu kippen.

3. Der berechtigten Forderung der Kläger schließen wir uns an, denn die willkürlichen Tötungen per Joystick aus sicherer Distanz, ermöglicht durch Datenverarbeitung und ‑weiterleitung in Ramstein, sind letztlich eine Form von Staatsterror, und die Bundesregierung macht sich mitschuldig. Sie könnte militärische US-Stützpunkte hierzulande durch deutsche Sicherheitsbehörden kontrollieren lassen – schließlich sind diese bei Verdacht auf Verbrechen nach dem Legalitätsprinzip zu Strafermittlungen verpflichtet. Anlässlich des Drohnenangriffs auf den iranischen General Soleimani hatten Abgeordnete der Linksfraktion deshalb Strafanzeige gegen Regierungsmitglieder wegen Beihilfe zum Mord durch Unterlassen erstattet – allerdings ohne Erfolg: Der Generalbundesanwalt hat die Einleitung von Ermittlungen verweigert, weil es keine „Erfolgsabwendungspflicht“ deutscher Funktionsträger gäbe, zumindest hafteten sie nicht strafrechtlich für Völkerrechtsverstöße ausländischer Staaten.⁵

Dennoch sind die deutschen Staatsorgane nach Rechtsprechung des Bundesverfassungsgerichts verpflichtet, „auch im eigenen Verantwortungsbereich das Völkerrecht durchzusetzen, wenn dritte Staaten dieses verletzen“.⁶ Dazu könnte die Bundesregierung auch das Truppenstationierungsabkommen mit der US-Regierung kündigen. Schließlich soll nach Plänen von US-Präsident Trump ohnehin ein Teil der US-Truppen aus Deutschland abgezogen werden – wovon allerdings die Militärbasis Ramstein nicht betroffen ist. Dass die zuständigen Staatsorgane bisher beharrlich untätig bleiben, ist nicht nachvollziehbar und dürfte an Verfassungsbruch grenzen.

Solange hier keine radikale Wende zu erkennen ist, bleiben Proteste und Aktionen der Friedensbewegung gegen Ramstein als zentrales Daten- und Operations-Drehkreuz der US-Kriegspolitik und gegen völkerrechtswidrige Drohnenkriege weiterhin bitter nötig. Der Antiterror-Drohnenkrieg ist seinerseits Terror und produziert immer neuen Terror, wie Ex-Droh­nen­piloten bereits Ende 2015 in einem offenen Brief an den damaligen US-Präsidenten Barack Obama festgestellt haben: Der US-Drohnenkrieg sei, so wörtlich, „eine der verheerendsten Triebfedern des Terrorismus und der Destabilisierung“.⁷ Und das mit deutscher Duldung.

Herzlichen Glückwunsch zum BigBrotherAward 2020 an Kanzlerin Angela Merkel und die Große Regierungskoalition in Berlin.

Erinnern Sie sich an Ihre Schulzeit? Wissen Sie noch, was Sie gelernt haben? Dreisatz, Prozentrechnung, lateinische Grammatik, Länder dieser Erde, Photosynthese …

Und waren Sie immer aufmerksam? Na …?

Haben Sie nicht auch ganz anderes gelernt, nämlich spontan zu improvisieren, wenn die Hausaufgaben nicht gemacht waren, ein Gedicht aufzuschreiben statt französische Vokabeln zu wiederholen, interessiert zu schauen, während die Gedanken ganz woanders reisen …

„Die Gedanken sind frei! Wer kann sie erraten? Sie fliegen vorbei wie nächtliche Schatten. Kein Mensch kann sie wissen, kein Jäger erschießen. Es bleibet dabei: Die Gedanken sind frei!“

Damit ist jetzt Schluss! Endlich ist ein Mittel gefunden, jederzeit die Aufmerksamkeit von Schülerinnen und Schülern im Klassenraum zu überprüfen: Das FocusEdu Stirnband! Es misst die Gehirnwellen der Schülerinnen und Schüler per EEG – in Echtzeit. Damit kann man den Schülern endlich ganz einfach auf die Stirn geschrieben ansehen, ob sie gerade konzentriert sind oder nicht. Eine LED auf dem Stirnband leuchtet deutlich sichtbar: blau wenn entspannt (also unaufmerksam), gelb wenn aufmerksam, rot wenn sehr konzentriert. Die Konzentrationsdaten werden zeitgleich per Funk an den Lehrerrechner übertragen. So kann die Lehrerin auch nach der Stunde noch kontrollieren, wer wann aufmerksam war oder auch nicht. Das können natürlich auch die Schulleitung und die Eltern kontrollieren. Wird alles abgespeichert.

Das ist nicht Science Fiction. Das ist kein Witz.

Das ist unser Preisträger für den BigBrotherAward 2020 in der Kategorie Bildung! Und das ist: Die Firma BrainCo.

BrainCo ist ein Tech-StartUp aus dem Dunstkreis der Harvard Universität und des MIT¹ in den USA. BrainCo stellt EEG-Stirnbänder und die Software dazu her und propagiert die Nutzung dieser Stirnbänder im Klassenzimmer. O‑Ton:

„BrainCos FocusEdu bietet die weltweit erste Technologie, die das Engagement der Schüler im Klassenzimmer in Echtzeit quantifizieren kann.“

EEG – „Elektroenzephalografie“ – ist eine Technik, mit der Gehirnwellen ausgelesen werden. Für das Standardverfahren, das „nasse EEG“, müssen die Elektroden dafür mit Kontaktgel auf die Kopfhaut geklatscht werden. Inzwischen gibt es trockene Polymer-Messelektroden. Die sauen nicht mehr die Haare voll und lassen sich einfach in ein schickes Stirnband einbauen. Damit ist der Markt eröffnet.

In Deutschland werden BrainCos Stirnbänder zur Zeit noch vorwiegend zur Selbstoptimierung per Bio-Feedback angepriesen. Aber eigentlich geht es um den Massenmarkt, der sich mit der Digitalisierung der Bildung auftut.² Mit der Analyse von Gehirnwellen lässt sich angeblich feststellen, wie konzentriert jemand ist. Und diese Technik soll jetzt in die Klassenzimmer einziehen, um die Schülerinnen und Schüler zu besseren Lernleistungen anzutreiben.

Jetzt denken Sie vielleicht: Na gut, aber wenn ein Schüler statt eine Matheaufgabe zu lösen ganz intensiv an einen neuen Reim für einen HipHop-Song denkt, ist er doch auch voll konzentriert – nur auf was anderes. Falsch gedacht. Denn von BrainCo wird nicht nur die Konzentration von Einzelnen ausgewertet, sondern auch, ob das Konzentrationslevel eines Schülers synchron mit den anderen aus der Klasse auf und ab geht. Wenn nicht, ist klar: Er denkt an etwas anderes. Und schon steht die Lehrerin neben dem Schüler – „um ihm zu helfen“.

Kein Entkommen für den jungen Songschreiber.
Keine Chance mehr für Gedankenverbrechen.

Lieber George Orwell, ein Update für „Thought Crime“ ist verfügbar. Wollen Sie es installieren?

Ob die Messung der Konzentration per EEG verlässlich funktioniert, ist dabei fraglich. Denn auch bei medizinisch genutzten EEG ist bekannt, dass schon geringe Bewegungen der Gesichtsmuskeln und der Augen Artefakte erzeugen, die das Ergebnis verfälschen können. Was aber ganz bestimmt funktioniert, ist die Konditionierung der Schülerinnen und Schüler: „Ich muss ganz konzentriert sein, sonst werde ich ertappt, denn es wird alles aufgezeichnet.“

Das ist nicht Lernen – das ist Dressur.
Wir meinen, das ist Digitale Gewalt.

Diese Überwachungstechnik bleibt leider nicht eine Kuriosität im Forschungslabor von BrainCo, sondern sie wird in den USA bereits testweise in Schulklassen eingesetzt – quasi im Freilandversuch. Dasselbe passiert in China. BrainCo-Firmengründer Bicheng Han hat nämlich beste Beziehungen zur Volksrepublik. Der wichtigste BrainCo-Investor ist China Electronics Corporation, die größte staatseigene IT-Firma³, und es gibt Niederlassungen in Beijing, Shenzhen und Hangzhou. Die Fotos und Videos⁴ von Schulen in USA und China, wo die Stirnbänder eingesetzt werden, sind mehr als verstörend.

Für uns klingt das alles monströs – aber weit weg. So etwas kann doch in Deutschland nicht passieren.

Irrtum!

An der Uni Tübingen forscht seit einigen Jahren eine Gruppe von Wissenschaftler.innen an genau dieser Technik!

Und das ist unser zweiter BigBrotherAwards-Preisträger in der Kategorie Bildung:

Der Leibniz-Wissenschaftscampus der Uni Tübingen.

Das Forschungsprojekt dort heißt „Eine kognitive Schnittstelle zur Verbesserung des Unterrichts: Analyse der Aufmerksamkeit im Klassenzimmer“ und arbeitet ebenfalls mit EEG.⁵ Auch hier sind die Forscher.innen überzeugt, per EEG Konzentration messen zu können.

In einem weiteren Projekt gehen die Tübinger noch einen Schritt weiter: Per EEG analysiert man bei den Schüler.innen typische Muster der Gehirnaktivität, die dann an ein computerbasiertes Lernprogramm zurückgemeldet werden. Das System erkennt eine Überforderung an winzigen Veränderungen in der Gehirnaktivität und an der Pupille. Wenn ein Schüler mit einer Aufgabe überfordert ist, schaltet das Programm automatisch auf eine leichtere Lernstufe zurück.⁶

„Um optimal lernen zu können, sollten Aufgaben fordernd, aber weder über- noch unterfordernd sein“, erläutert Gerjets. „Unsere Idee ist deshalb, Lernaufgaben so zu präsentieren, dass die Schwierigkeit konstant in einem mittleren Bereich liegt.“⁷

Toll. So können die Begriffsstutzigen mit den Mittelmäßigen und den Überfliegern in einem Raum sitzen – aber nicht mehr so, dass sie voneinander lernen, sondern alle in Einzelhaft vor ihrem Computer.

Neben dem EEG machen sich die Forscher aus Tübingen dabei eine weitere Technik zunutze: Eyetracking, also die Verfolgung der Augenbewegungen per Infrarotkamera. Damit können sie feststellen, was ein Schüler gelesen hat und was nicht. Beim Umblättern zur nächsten Seite des Unterrichtsstoffs könnte es so passieren, dass eine Schülerin die Meldung bekommt: „Moment – du hast den Text in dem grauen Kasten noch nicht gelesen.“

Liebe Forscher vom Leibniz-Wissenschaftscampus Tübingen: Glauben Sie ernsthaft, dass Sie so Schülerinnen und Schüler zu Freiheit und Verantwortung erziehen?

Das ist Gängelei. Bevormundung. Und Kleinhalten in der Mittelmäßigkeit.

Ja, es macht Spaß, mit Technik herumzuspielen. Super, wenn man dafür auch noch Forschungsgelder bekommt. Aber es ist Ihre Pflicht, bei all dem auch die größeren Folgen für die Gesellschaft zu bedenken.

Warum überhaupt diese Konzentration auf die Konzentration? Weil sie sich zumindest scheinbar messen, überprüfen, kontrollieren lässt. Weil man damit Rankings machen kann. Möglicherweise, weil Konzerne wie Bertelsmann in Lernplattformen ihre nächste Cash Cow mit Riesen-Wachstumspotential⁸ sehen.

Opfern wir gerade die wichtigsten Ziele der Bildung – Lernen lernen und Wachsen der Persönlichkeit – einer maschinell überprüfbaren „Leistung“?

Wenn ich an meine Schulzeit zurückdenke und mich frage, was war wirklich wichtig? Dann war das nicht der Lehrstoff an sich – auch wenn der mir eine gute Basis gegeben hat – sondern es war die Persönlichkeit der Lehrerinnen und Lehrer, die mit Leidenschaft, Mut und Engagement bei der Sache waren:

Unser Klassenlehrer Herr Dedering, der eigenmächtig eine von fünf Stunden Deutsch pro Woche in eine Stunde Politik verwandelt hat. Weil er überzeugt war, dass junge Staatsbürgerinnen und -bürger wissen sollten, wie Demokratie, Rechtsstaat und Gesetzgebung funktionieren. Und dass Meinung begründet und politischer Streit geübt werden muss. Herr Halle, dessen soziales Engagement von uns Jugendlichen belächelt wurde und ihm den Spitznamen „Kuchen-Dieter“ einbrachte wegen der vielen von ihm organisierten Basare zugunsten von Schulen in Afrika. Und der doch bei etlichen von uns den Anstoß gegeben hat, uns für eine bessere Welt zu engagieren. Ein großes Danke dafür an meine ehemalige Schule, die Platz für Persönlichkeiten hatte – schräge und fiese, gegen die wir uns behaupten lernten, ebenso wie Vorbilder fürs Leben.

Bildung ist das, was übrig bleibt, wenn wir alles vergessen haben.

Schließlich gibt es da noch einen Trend, der uns zu denken geben sollte:

Ausgerechnet die Manager und Programmiererinnen von Silicon Valley-Firmen wie Google, Apple, Facebook, Microsoft & Co schicken ihre Kinder inzwischen auf Montessori- und Waldorf-Schulen⁹ ohne Computer, Tablet und Smartphone¹⁰. Im Job arbeiten diese Eltern dafür, dass Menschen möglichst viel Lebenszeit am Computer verbringen. Für ihre eigenen Kinder wollen sie das lieber nicht.

Nein, diese Laudatio ist kein Plädoyer, nun gar keine Computer mehr in die Schule zu lassen. Das liegt uns als Digitalcourage fern – denn wir lieben Technik! Aber diese Laudatio ist ein Plädoyer gegen Digitalisierung als pädagogischen Imperativ und Allheilmittel. Ein Plädoyer gegen die Verdatung und Dauerüberwachung von Schülern, gegen ihre Dressur mittels Lernsoftware und Learning Analytics, gegen die Abwertung der Rolle von Lehrerinnen und Lehrern als menschliches Gegenüber und gegen die Kommerzialisierung der Bildung.

Werden Schülerinnen und Schüler in Zukunft noch etwas Rahmensprengendes wie die Relativitätstheorie erdenken oder sprachgewaltige neue Literatur verfassen, wenn sie nicht mehr aus dem Fenster schauen und ihre Gedanken wandern lassen dürfen? Menschen brauchen das träumerische, kreative und sprunghafte Denken, um auf Neues zu kommen. Wir brauchen das Eigenständige, das Widerständige und das Lernen von Solidarität. Wir brauchen es als einzelne Menschen – und unsere Gesellschaft braucht es auch.

Nochmal zum Mitschreiben: Gewöhnung an Dauerüberwachung darf nicht zum geheimen Lehrplan in Schulen und Hochschulen werden. Der Einsatz von EEG und Eyetracking im Unterricht verletzt die Menschenwürde.

Lassen Sie das sein.

Liebe Preisträger – wir hoffen, Sie haben aufmerksam zugehört und sagen

herzlichen Glückwunsch zum BigBrotherAward, Firma BrainCo und Leibniz-Wissenschaftscampus Tübingen!

Der BigBrotherAward 2020 in der Kategorie „Behörden und Verwaltung“ geht an den Innenminister des Landes Brandenburg, Michael Stübgen, und seinen Vorgänger, Karl-Heinz Schröter, für die dauerhafte Speicherung von Autokennzeichen.

In Brandenburg wurden über viele Jahre Informationen zu über 40 Millionen Fahrzeugen im Computersystem für die automatische Kennzeichenerfassung, genannt „KESY“, dauerhaft gespeichert.

Dass wir überhaupt von dieser Tatsache wissen, ist Zufall. Wie kam es dazu?

Seit Februar 2019 wird das Mädchen Rebecca aus Berlin vermisst und wurde bis heute nicht gefunden. Die bundesweite Berichterstattung über diesen Fall hat ein pikantes Detail aus der Brandenburger Polizeipraxis ans Licht gebracht: Polizisten aus Berlin haben recht freimütig über die automatischen Kontrollstellen für Kfz-Kennzeichen auf der Autobahn A 12 berichtet. Dort wurde das Auto des zunächst verdächtigten Schwagers von Rebecca von der Kennzeichenerfassung unmittelbar nach dem Tatzeitpunkt vom KESY-System erfasst.

Die eigentlichen Ermittlungen begannen jedoch erst deutlich später, und im Rahmen dieser Ermittlungen wurden dann Daten zu diesem Fahrzeug aus KESY abgerufen. Das Auto des Schwagers wurde in den Datensätzen gefunden. Und die Polizei in Berlin präsentierte die Erfassung des Fahrzeuges kurz nach der Tat als wichtige Erkenntnis.

Sehr zum Leidwesen der Polizei-Kollegen aus dem benachbarten Brandenburg. Denn die Fahnderinnen und Fahnder dort waren gar nicht begeistert von der Gesprächigkeit ihrer Berliner Kollegen. Aufmerksame Beobachter fragten sich nämlich schnell, wie es möglich sein kann, dass die Durchfahrt eines Autos registriert und gespeichert wurde, bevor es überhaupt zur Fahndung ausgeschrieben war. Schnell war klar, dass das Brandenburger System sehr umfangreich (und womöglich auch sehr lange) ohne konkreten Anlass die Nummernschilder aller durchgefahrenen Fahrzeuge in Datensätzen speichert und aufbewahrt. 40 Millionen Datensätze, aus denen man Bewegungsprofile herauslesen kann, wurden auf Vorrat gespeichert. Eine Vorratsdatenspeicherung für Bewegungsdaten von Autos.

Das ist allerdings nicht erlaubt:

§ 36a des Brandenburgisches Polizeigesetzes regelt die „anlassbezogene automatische Kennzeichenfahndung“. Dabei sagt schon der Titel, dass es sich nicht um eine dauerhafte Überwachung handeln soll, sondern eben „anlassbezogen“ – also nur dann, wenn wirklich jemand gesucht wird, der mit dieser Fahndungsmethode gefunden werden könnte. So hat es wohl auch das Bundesverfassungsgericht gelesen, als es in seinem Urteil zur automatischen Kennzeichenerfassung die Brandenburger Regelung als vorbildlich lobte.¹

Doch die Realität sieht leider anders aus.

Dass die Umsetzung in Brandenburg fragwürdig ist, ist schon länger bekannt. Bereits 2015 hat die Landesbeauftragte für den Datenschutz in Brandenburg in ihrem Jahresbericht festgestellt, dass die Geräte nicht – wie eigentlich im Gesetz vorgesehen – im „Fahndungsmodus“ betrieben werden, sondern in einem „Aufzeichnungmodus“. Das heißt: Anstatt jedes erkannte Kennzeichen sofort gegen eine Liste gesuchter Kennzeichen abzugleichen und danach zu löschen, wird in Brandenburg jedes vom Gerät erfasste Kennzeichen mit Zeitstempel, Standort und Fahrtrichtung auf einem zentralen Server gespeichert. Von Fahrzeugen, die regelmäßig auf der A 12 fahren, z.B. zur Arbeit und zurück, hat die Polizei also ein langsam wachsendes Bewegungsprofil erstellen können.

Um die im Brandenburgischen Polizeigesetz festgeschriebene Zweckbindung für KESY zu umgehen, haben sich die Verantwortlichen einen besonderen Kniff überlegt: Sie sorgten dafür, dass es immer eine richterliche Anordnung gegen irgendjemand gab, die eine solche Überwachung rechtfertigte. Dabei werden Paragraphen der Strafprozessordnung herangezogen, die sich von ihrem Wesen her nur gegen bestimmte Tatverdächtige richten – eine umfängliche Vorratsdatenspeicherung wird dadurch keinesfalls erlaubt. Trotzdem interpretierte die Polizei in Brandenburg diese als Berechtigung, einfach alle Daten dauerhaft aufzuheben. Richter in Ermittlungsverfahren haben also eine umfassende Überwachung angeordnet, wahrscheinlich allerdings ohne zu hinterfragen, wie diese konkret umgesetzt wird. Sonst hätten sie schon viel früher stutzig werden müssen, dass sich diese Maßnahmen nicht ohne eine umfassende Vorratsspeicherung realisieren lassen.

An Löschfristen ist die Polizei offenbar nicht interessiert, so dass sich bis Anfang des Jahres 2020 rund 40 Millionen Datensätze angesammelt hatten. „Kann man ja bestimmt alles irgendwie irgendwann mal brauchen.“

Und damit nicht genug: Wie sich herausstellte, hatten auch noch eine unüberschaubare Anzahl von Behördenmitarbeiterinnen und -mitarbeitern Zugriff auf die gespeicherten Daten.

Der Öffentlichkeit wurde KESY von Anfang an als unverzichtbares Mittel im Kampf gegen Kriminalität (und Terrorismus – natürlich!) verkauft. Die Polizei versuchte, die Kritiker zu beschwichtigen, indem sie argumentierte, dass die Geräte ja nur bei Treffern in der Fahndungsliste Alarm schlagen.

Völlig unverständlich ist, warum die brandenburgische Datenschutzaufsicht nicht viel früher die Notbremse gezogen hat, obwohl sie schon 2015 festgestellt hat, dass die Geräte praktisch permanent im Aufzeichnungsmodus laufen.

Immerhin hat die Datenschutzbeauftragte überhaupt geprüft. Erstaunlicherweise hat sie dann aber in ihrer „datenschutzrechtlichen Teilprüfung“ vom 28. Juli 2016 für Brandenburg festgestellt, dass die gesetzliche Regelung (§ 36a BbgPolG) hinreichend bestimmt, normenklar sowie verhältnismäßig sei, nicht an einem Mangel der Erforderlichkeit leide und „die gegenwärtige Anwendungspraxis der präventiven Kennzeichenfahndung den datenschutzrechtlichen Bestimmungen entspricht“. Aha.

Nachdem der politische Druck der Opposition nach Bekanntwerden der umfangreichen Vorratsdatenspeicherung größer wurde, ist die Datenschutzbeauftragte zurück gerudert, hat eine Beanstandung ausgesprochen² und die Polizei angewiesen, für mehr Datenschutz zu sorgen. Als Konsequenz darauf wurde der Kreis der Zugriffsberechtigten auf die „Live-Daten“ von über 50 Personen auf unter 20 begrenzt und die alten gespeicherten Daten sollten gelöscht werden – falls sie nicht noch gebraucht werden.

Auf jeden Fall wird fleißig weiter erfasst und gespeichert.³

Wie es weiter geht mit KESY und der Vorratsdatenspeicherung für Kennzeichen, dürfte das Verfassungsgericht Brandenburg entscheiden. Dort klagt ein Autofahrer (Marko Tittel von der Piratenpartei) gegen den Aufzeichnungsmodus, während der Innenminister und heutige BigBrotherAward-Preisträger Michael Stübgen Kritikern vorwirft, eine Änderung der Praxis „würde nur Verbrecher freuen“.⁴

Das ist falsch, lieber Herr Stübgen: Uns würde es sehr freuen, wenn unsere Grundrechte auch in Brandenburg geachtet werden, und alle Menschen, die hin und wieder die A 12 benutzen, freut das sicher auch.

Herzlichen Glückwunsch zum BigBrotherAward 2020 nach Brandenburg, an den amtierenden Innenminister Michael Stübgen und den Innenminister a.D. Karl-Heinz Schröter.

Den BigBrotherAward 2020 in der Kategorie „Mobilität“ erhält die Firma Tesla Inc., vertreten durch die Tesla Germany GmbH in München.

Nein, nicht für das Abholzen eines Forstes in Brandenburg, um eine neue Fabrik zu bauen, und auch nicht für die Unfälle wegen unaufmerksamer Fahrerinnen und Fahrer, die zu sehr auf die Tesla-Assistenzsysteme vertrauten.

Die Firma Tesla erhält den BigBrotherAward dafür, dass sie Autos verkauft, die ihre Insassen und die Umgebung des Autos umfassend und langfristig überwachen. Die erhobenen Daten werden permanent ausgewertet und können für beliebige Zwecke weiter genutzt werden.

Der Autohersteller Tesla findet für seine Elektroautos viel Anerkennung. Für viele Reiche und Ökos haben die Autos Kultstatus. Dass es sich dabei um Überwachungsanlagen auf vier Rädern handelt, spielt dabei offenbar keine Rolle. Die hippen Autos aus Kalifornien haben Sensoren für praktisch alles, was mit dem, in dem und um das Auto herum passiert.

Die Datenschutzerklärung

Um diese Überwachungsorgie zu legitimieren, beruft sich Tesla in den allgemeinen Geschäftsbedingungen – den AGB – auf eine Einwilligung, auf den Kaufvertrag, auf berechtigte Interessen, ohne sich im Detail näher festzulegen.¹

In den AGB wird dem Kunden mitgeteilt, was das Unternehmen alles – ich zitiere – „möglicherweise auf unterschiedlichen Wegen“ erfasst, u.a. bei „digitalen Dienstleistungen“, „aus anderen Quellen“, dem „Tesla-Konto“, „Offline“, „über Ihren Browser oder Ihr Gerät“.

Bzgl. der Erfassung „über Ihr Tesla-Fahrzeug“ erhebt die Firma den Anspruch, „Telematikprotokolldaten“, „Fernanalysedaten“, „weitere Fahrzeugdaten“, die „Wartungshistorie“ sowie „Informationen über Ladestationen“, als „erweiterte Funktionen“ „Navigationsdaten“ sowie „kurze Videoaufnahmen von den Außenkameras des Fahrzeugs“² zu erfassen.

Welche Sensordaten an Tesla übermittelt und gespeichert werden und welche im Auto bleiben und überschrieben werden, bleibt unklar. Die Rechte, die sich die Firma von Elon Musk in den AGB einräumen lässt, sind quasi unbegrenzt. Im Sinne des Verbraucherschutzes muss angenommen werden, dass sie alles, was sie in den AGB erklärt, auch zu tun gedenkt. Zitat:

„Mit der Nutzung unserer Produkte oder Dienstleistungen … erklären Sie sich mit der Übermittlung von Informationen von Ihnen, über Sie oder über Ihre Nutzung … in Länder außerhalb Ihres Wohnsitzlandes, einschließlich der USA, einverstanden.“

Wer so viel Datenverarbeitung nicht will, kann widersprechen, online, per E-Mail oder Post an eine Adresse – in den USA. Doch davon rät Tesla im nächsten Atemzug auch gleich wieder ab. Die Firma schreibt:

„Dies kann dazu führen, dass bei Ihrem Fahrzeug eine lediglich eingeschränkte Funktionalität, ernsthafte Schäden oder Funktionsunfähigkeit eintreten.“³

Ein Hoch auf die Freiwilligkeit!

Rundum-Überwachung

Eine zentrale Funktion der Tesla-Autos ist die Video- und Ultraschallüberwachung sowohl im Fahr- als auch im Parkmodus:

„Acht Kameras gewähren eine 360-Grad-Rundumüberwachung der Fahrzeugumgebung in bis zu 250 Meter Entfernung. Ergänzt werden sie durch zwölf aktualisierte Ultraschallsensoren.“⁴

Diese Sensoren dienen der Fahrerassistenz und der „Autopilot“-Funktion, also dem halbautonomen Fahren. Sie dienen auch als Ergänzung der Dashcams, um bei Unfällen im Nachhinein Informationen auszulesen. Unabhängig von einem Unfall lassen sich per Knopfdruck jeweils die letzten 10 Minuten abspeichern. Und über die USB-Schnittstelle können die einlaufenden Daten dauernd ausgelesen und ausgewertet werden.

Schaltet man die Kameras in den seit 2019 verfügbaren „Wächtermodus“, den „Sentry-Mode“, erfassen sie zudem dauernd die Umgebung. Bemerkt eine Kamera eine auffällige Bewegung, leuchtet auf dem Bildschirm ein roter Punkt auf und es erfolgt eine Aufzeichnung. Dafür genügt es, dass eine Person nahe am Auto vorbeigeht oder ein anderes Auto nahe vorbeifährt. Auf Youtube können Hunderte solcher Clips besichtigt werden. Bei einer Erschütterung oder einem Eindringen ins Fahrzeug wird auf einem Smartphone Alarm geschlagen und auf Wunsch dreht vor Ort die Stereoanlage automatisch voll auf.⁵

Nummernschild-Erfassung und Gesichtserkennung – alles ist möglich

Was mit der Technik möglich ist, zeigte der Sicherheitsforscher Truman Kain, der mit wenig Aufwand einen „Surveillance Detection Scout“ bastelte, einen Minicomputer, den er mit der USB-Schnittstelle von Tesla-Fahrzeugen verbunden hat. Damit konnte er sämtliche Kameras im laufenden Betrieb auswerten, Kfz-Kennzeichen erfassen und sogar Gesichtserkennung durchführen. Registriert der Scout z.B. wiederholt das gleiche Kennzeichen, so sendet er automatisch eine Benachrichtigung an das Handy des Halters sowie auf den Autobildschirm: „Ein Auto verfolgt dich“.⁶

Musks Überwachungsphantasien

Eine weitere Kamera befindet sich beim Tesla Model 3 und Y im Innenraum, oberhalb des zentralen Rückspiegels. Sie ist auf die Fahrzeuginsassen gerichtet. Der Tesla-Chef Elon Musk rechtfertigte in einem Video diese Kamera damit, dass seine Autos für Fahrtenvermittlungen oder als selbstfahrende Taxis genutzt werden sollen. Über die Innenkamera könnten Dritte bei Beschädigungen und Verschmutzungen zur Verantwortung gezogen werden.⁷

Musk ist damit längst nicht am Ende seiner Überwachungsphantasien. Per Twitter teilte er mit, untermalt von Musik, dass seine Firma an einem Feature arbeitet, das Tesla-Modelle mit Passanten sprechen lässt. In einem Video spricht dann ein „Model 3“ einen Fußgänger an: „Steh nicht nur herum und starr mich an – steig ein.“ Musk erklärt dazu: „Teslas werden bald mit Menschen sprechen, wenn ihr das wollt. Das ist real.“⁸ Nicht mehr lange, und diese geparkten Autos mischen sich ungebeten in Gespräche ein, wenn wir uns bei einem Spaziergang in Ruhe unterhalten wollen.

Tesla und die DSGVO

Tesla erwähnt die seit Mai 2018 in Europa geltende Datenschutzgrundverordnung – DSGVO – mit keinem Wort. Die AGB sind teilweise nur über mehrere Klicks abrufbar, enthalten keine Datumsangabe, können jederzeit einseitig geändert werden, was auch passiert, und sie berufen sich für die Übermittlung in die USA auf das Privacy Shield⁹, das kürzlich vom Europäischen Gerichtshof für ungültig erklärt wurde.¹⁰

Also verstößt schon der Normalbetrieb von Teslas gegen die DSGVO. Von einer Datenschutz-Information in „präziser, transparenter, verständlicher und leicht zugänglicher Form in einer klaren und einfachen Sprache“ über die Verarbeitung, so wie die DSGVO es fordert¹¹, kann keine Rede sein.

Ein weiterer Kritikpunkt: Die Pseudo-Zustimmung wird vom Eigentümer des Autos, also zumeist dem Halter oder der Halterin, eingeholt. Erfasst werden aber vorrangig die Daten der Fahrerinnen und Fahrer oder der Mitfahrenden, die mit dem Halter nicht identisch sein müssen.

Ein absolutes No-Go nach europäischem Datenschutzrecht ist auch die Dauererfassung der Autoumgebung, also des öffentlichen Raums. Wenn Menschen gefilmt und aufgezeichnet werden, die nur an einem Auto vorbei gehen, ohne dass sie sich konkret verdächtig machen, ist dies klassische illegale Vorratsdatenspeicherung. Im öffentlichen Raum rund um einen Tesla werden wir erfasst, verfolgt, gefilmt, und möglicherweise identifiziert, je nachdem, welche Technik im Auto gerade aktiv ist. Wir wissen nicht, was davon das Auto gerade tut. Ebenso ist die für die Betroffenen nicht erkennbare Video-Erfassung des Innenraums, die in bestimmten Modellen möglich ist, unzulässig.¹²

Fazit

Für uns ist offensichtlich: Die Tesla-Autos sind schlicht und einfach unzulässig. Wer einen Tesla kauft – es gab 2019 alleine 10.000 Neuzulassungen in Deutschland – müsste zunächst viele Dienste deaktivieren, um die DSGVO einzuhalten.¹³ Ohne Datenschutzbelehrung dürfte er niemanden ans Steuer lassen und niemanden mitfahren lassen. Tesla ist damit ein Fall für die – zweifellos total überforderten – Datenschutzbehörden.

Wir haben nichts gegen Kfz-Assistenzsysteme, auch nichts gegen halbautomatisiertes Fahren. Dafür sind Sensoren und sog. künstliche Intelligenz nötig. Aber diese Daten können und müssen aus Datenschutzsicht weitgehend im Auto bleiben. Eine Datenweitergabe und eine externe Speicherung muss auf definierte Situationen, z.B. auf das Auslösen des Airbags, beschränkt werden. Teslas dagegen sind eine dauernd aktive Datenschleuder mit Langzeitgedächtnis.

Wenn wir Tesla heute mit einem BigBrotherAward auszeichnen, sollten deutsche oder europäische Hersteller das nicht als Freibrief für ihre Kfz-Automatisierung ansehen. Im Gegenteil: Auch deren Angebot stinkt datenschutzrechtlich in vieler Hinsicht zum Himmel. Dazu vielleicht bei nächster Gelegenheit mehr.

Besonders stinkt es aber bei Tesla. Deshalb:

Herzlichen Glückwunsch zum BigBrotherAward 2020 in der Kategorie „Mobilität“, Tesla Germany GmbH.

Durch das neue Verfahren ergibt sich natürlich die Frage, ob die beiden Gruppen (Abstimmung mit Wahlzetteln im Saal – Abstimmung online) ein verschiedenes Stimmverhalten hatten. Dies war tatsächlich der Fall. Bei der Online-Abstimmung kam der Preis „Technik“ mit etwa einem Viertel der Stimmen deutlich vor den drei nachfolgenden auf den zweiten Platz, während bei den Papierstimmen ein Mittelfeld aus den Kategorien „Biotechnik“, „Kommunikation“ und „Technik“ etwa gleichauf lag.

In beiden Gruppen lag jedoch eine Kategorie klar in Führung mit jeweils der Hälfte der abgegebenen Stimmen: Der Preis in der Kategorie „Behörden & Verwaltung“, der an den Hessischen Innenminister Peter Beuth gegangen war – der Innenminister ist dafür verantwortlich, dass die Analysesoftware „Gotham“ der Firma Palantir im IT-System der hessischen Polizei installiert und in Betrieb gesetzt wurde. Wir „gratulieren“!

Der BigBrotherAward 2019 in der Kategorie Verbraucherschutz geht an ZEIT ONLINE, vertreten durch deren Chefredakteur und Mitglied der Chefredaktion der Zeit, Jochen Wegner, dafür, dass sie

1.) auf ihren Websites zeit.de und mycountrytalks.org zum Teil in großem Stil Werbetracker, wie auch das Facebook-Pixel einsetzen,

2.) dafür, dass sie 2017 bei ihrem Projekt „Deutschland spricht“ alle personenbeziehbaren Daten inklusiv der politischen Meinung auf den Rechnern von Google abgespeichert und verarbeitet haben und

3.) dass sie sich für das Nachfolgeprojekt „My Country Talks“ nicht nur von dem nimmersatten Werbeunternehmen mit Weltmachtsanspruch Google bei ihrem Projekt sponsern lassen, sondern dass sie zusätzlich Trackingtools eingebunden haben, mit denen Informationen an Dritte weiter gegeben werden können.

Vorbemerkung:

Dies ist das erste Mal, dass ich einen BigBrotherAward an jemanden gebe, mit dem Rena Tangens und ich seit vielen Jahren befreundet sind. Freunde zu kritisieren ist besonders schwer. Deshalb halte ich diese Laudatio in Form eines persönlich gehaltenen offenen Briefes.

Und ich möchte noch eine Vorbemerkung anschließen. Wir schätzen sowohl „Die Zeit“, als auch „ZEIT ONLINE“. Wir schätzen auch das Projekt „Deutschland spricht“, das jetzt internationaler „My Country Talks“ heißt. Wir wissen, dass dieser BigBrotherAward mindestens drei Viertel aller Medienhäuser in Deutschland betrifft, die hier eigentlich ebenfalls stehen müssten, um den BigBrotherAward entgegen zu nehmen. Wie so oft ist auch dieser BigBrotherAward dafür gedacht, dass sich etwas verbessert – und zwar bei Medien, aber auch bei Organisationen, Firmen und Regierungsstellen.

Lieber Jochen,

Du hast mich immer gerne scherzhaft „langhaariger Bombenleger“ genannt – und in einem Artikel, den Du im Mai 1995 über uns – damals hießen wir noch FoeBuD – in der taz geschrieben hast, gleichzeitig unsere sauberen Büros und unsere zielstrebige Zuverlässigkeit beeindruckt herausgestellt.

Als wir 1998 auf Inline-Skates von Bielefeld nach Bonn geskatet waren, um einen Preis namens „Sinnformation“ abzuholen, haben wir in Deinem Wohnzimmer übernachtet.

Es ist 2017. Das Jahr eines Bundestags-Wahlkampfs. Ihr plantet ein Projekt, das Euch viel Wertschätzung und Ehre einbringt. Es heißt „Deutschland spricht“. Menschen mit möglichst gegensätzlichen Meinungen sollen privat und persönlich, von Angesicht zu Angesicht miteinander ins Gespräch kommen. Auf einer Website konnten sich interessierte Menschen bewerben. 28.000 Menschen haben dort einen Fragebogen mit neun Fragen ausgefüllt, der politische Standpunkte abfragte. Dann wurden jeweils zwei Menschen mit möglichst gegensätzlicher Meinung und die nicht allzu weit auseinander wohnen, miteinander in Kontakt gebracht, damit sie ein Gespräch auf neutralem Boden führen können. Einige dieser Termine habt Ihr begleitet und darüber berichtet. Du, Jochen, Chefredakteur und Miterfinder des Projekts, hast selber mitgemacht. Dein Artikel über Dein Treffen mit Deinem „Nachbarn Mirko“ ist ein großartiges Stück Journalismus.

Das Projekt „Deutschland spricht“ selbst, wurde – völlig zurecht – mit einem Grimme Online Award ausgezeichnet.

Eine Sache aber war echt blöd: Wie immer musste es schnell gehen, und es durfte halt nichts kosten. Also habt Ihr sämtliche Daten Eurer Teilnehmer mit allen politischen Meinungen in den Cloudtools der Google Office-Suite gespeichert und verarbeitet. Mitarbeitende der Zeit, unter anderem Du, erzählten uns, dass Ihr diese Tools (bei Whistleblowern werden sich jetzt die Nackenhaare hochstellen) für weite Teile der vernetzen Redaktionsarbeit verwendet.

Es ist so verführerisch für Unternehmer: Ich kann diesen professionellen Cloud-Dienst, mit dem ich die Daten meiner Kundinnen und Kunden, meine Mails und Terminkalender verarbeite, ganz einfach bestellen. Damit es datenschutzkonform aussieht, muss man eine lange Vereinbarung unterzeichnen. Während einen oben in der Browserzeile ein freundlich gehaltenes „google.com“ anlächelt, klickt man „Zustimmen“ an und schließt einen Vertrag mit einer Google-Firma ab, die von sich behauptet, in Irland angesiedelt zu sein.

Ich habe mal nachgeguckt. Die Infos, aus denen ich schließen kann, wo diese Clouddienste angesiedelt sind, weisen nach Mountain View, Kalifornien, und werden von der „Google LLC“ betrieben.

Was ist denn so schlimm daran sei, dass redaktionelle Inhalte und politische Meinungen von Personen auf den Rechnern eines Großkonzerns, der ein Weltmonopol anstrebt, verarbeitet werden? Denn immerhin habt Ihr doch einen Vertrag untereinander, wo doch drinsteht, dass die Daten ganz ganz sicher sind und da gibt’s ja auch das EU-US-Privacy-Shield-Abkommen.

Doch Privacy Shield ist Augenwischerei. Das kann ich in 40 Treffern auf ZEIT ONLINE nachlesen. In 160 weiteren Treffen lese ich auf den Webseiten von ZEIT ONLINE, dass es da FISA¹ gibt. Das heißt „Foreign Intelligence Surveillance Act“ (auf deutsch: Gesetz zur Überwachung in der Auslandsaufklärung). Demnach dürfen die US-Geheimdienste bei allen US-Firmen ungehindert auf die Daten von Nicht-US-Bürgern zugreifen, wann immer sie wollen – egal, wo der Server steht. Und wie wir durch Edward Snowden gelernt haben, hatten die US-amerikanischen Behörden eine Standleitung zu Google.

Wäre es da nicht etwas blauäugig anzuzunehmen, dass Eure Daten, die Daten der Mitmacherinnen bei „Deutschland spricht“ und die Eurer Informantinnen und so weiter nicht längst in den Rechnern der NSA schlummern?

Dabei müsstet Ihr Bescheid wissen. Schließlich finde ich 1.600 mal den Namen „Edward Snowden“ bei Euch auf der Website. Ihr habt grandiose Artikel zur Causa Snowden veröffentlicht, hervorragende Analysen, FAQs und Kommentare. Alles verdrängt? Alles nicht so schlimm?

Achja, Wenn ich es richtig gesehen habe, werden die Webseiten von Zeit-Online über ein sogenanntes Content Delivery Network namens Fastly ausgeliefert. Die von mir getesteten IP-Nummern weisen nach Paris, aber Fastly ist eine US-amerikanische Firma, die in San Francisco, Kalifornien, angesiedelt ist. Und wie gesagt : FISA – der Foreign Intelligence Surveillance Act – gilt auch dann, wenn die Server US-amerikanischer Firmen in Europa stehen. Dieses Gesetz bricht im Zweifelsfall jede Vereinbarung, die Ihr mit einer Firma habt.

Zurück zu „Deutschland spricht“. Dafür haben Euch aufmerksame Leserinnen und Leser bereits 2017 für einen BigBrotherAward nominiert. Wir hatten Euch sehr früh Bescheid gesagt, dass das, was Ihr da auf Google-Strukturen treibt, überhaupt nicht geht. Und nun habt Ihr das Projekt weiterentwickelt. Es heißt jetzt „My Country Talks“. Ihr habt eine Software programmieren lassen, – und Ihr habt Partner in fünfzig Ländern, die das auch nutzen. Und überall in diesen Ländern helft Ihr, dass Menschen zusammenkommen kommen und miteinander reden. (Ich betone es nochmal: Das Projekt ist toll, und macht das bitte unbedingt weiter!)

Die schnelle Projektumsetzung 2017 war halt so nach dem Motto „Digitalisierung first, Bedenken second“ vor sich gegangen. Die neue Software wird nun nicht mehr bei Google in den USA gehostet, sondern in Frankfurt.

In der Amazon Cloud.

…

Ich kann von außen natürlich nicht in die Software Eurer Dienstleistungsfirma reingucken; und Du hattest mir im Privatgespräch versichert, dass keine Daten mehr bei Google verarbeitet werden. Und ich habe mir natürlich die Datenschutzerklärung angeschaut, die identisch mit der Datenschutzerklärung von ZEIT ONLINE ist.

Ich habe sie mir sogar ausgedruckt. Es sind neunundsiebzig (79) Seiten. Einige der Inhalte musste sogar ich mir mittels des Blogs des IT-Security-Spezialisten Mike Kuketz erst mal übersetzen lassen:

Ihr nutzt Trackingtechniken von DoubleClick und erklärt gleich mal in der Datenschutzerklärung, dass Ihr auch nicht genau wisst, was Google mit den erfassten Daten macht. Und da ist der „DoubleClick Bid Manager“ – das ist doch jetzt die „Google Marketing Plattform“, wo alles noch besser miteinander verzahnt ist und Google Analytics (das erwähnt Ihr zwei Seiten weiter) noch tiefer eingewoben ist. Und man kann sich mit einem Facebook-Login bei Euch einloggen. Und da ist auch das Facebook-Pixel: Ihr verratet Facebook, wer Eure Leserinnen und Leser sind. Und zwar alle! Auch, die, die bewusst keinen Account bei den Datenverbrechern von Facebook haben. Und was Facebook mit den Daten macht – das wisst Ihr auch nicht, schreibt Ihr in den Datenschutzinformationen. Das ist wenigstens ehrlich, bedeutet aber juristisch auch, dass Ihr das gar nicht nutzen dürft. Zumindest soweit ich die Datenschutzgrundverordnung verstanden habe. Und noch mehr Google, Facebook, Google, Facebook, Google, Google. AdSense, AdWords, Google Publisher Tags, Tag Manager (da kann man täglich andere Tracker drin aktivieren!) und und und – oh, die Google-Fonts – das sind die Schriften, die von Google nachgeladen werden – werden gar nicht erwähnt! Ca. 30 Tracker und Dienste stehen in Eurer Datenschutzerklärung; etwa 140 unterschiedliche Ziele rufe ich auf, wenn ich bei ZEIT ONLINE vorbeisurfe. Sie, verehrtes Publikum, können es selbst mal ausprobieren mit den einfach zu bedienenden Tools namens Webkoll² und PrivacyScore³.) Übrigens: Auch, wenn die Datenschutzerklärung von MyCountryTalks (die Ihr einfach nur kopiert habt) behauptet, wahnsinnig viele Tracker und Drittwebsites aufzurufen: Es sind in Wirklichkeit „nur“ sehr wenige. Allerdings mit die Schlimmsten. DoubleClick, Google Analytics, Google Fonts und der Google Tag Manager zum Beispiel.

Ich wünsche mir mal eine Gesamtausgabe der Zeit, die alle Tracker erklärt und mal so richtig aufbereitet (mit Grafiken und Datenjournalismus genial erklärt), was da wann wohin fließt und was für ein Leser.innenverfolgungssystem Ihr da aufgebaut habt. Und wo nicht immer wieder nur „Marketing und Optimierungszwecke“ angegeben sind, so als ginge es nicht knallhart darum, Kohle zu machen.

A propos Kohle.

Wie ich schon mehrmals sagte: Auch andere Redaktionen und Verlage arbeiten so wie Ihr. Drei Viertel aller Nachrichtenseiten nutzen Tracker, wie ein Beitrag im Blog rufposten.de⁴ sehr klar darstellt. Überall gibt es verzweifelte Journalisten, die gerne anders Geld verdienen würden, als damit, dass ihrem Verlag nicht anderes einfällt, als Leserinnen zu ‚verdaten und verkaufen‘. Und die großen Jungs in den Verlagen und Redaktionen gucken dann immer so ein bisschen herunter auf uns „langhaarige Bombenleger“, die idealistisch sind, die einfach nicht verstanden haben, dass man Geld verdienen muss in dieser Welt und Bedenken eben second sind. Und ich höre immer wieder „das tun doch alle“. Das fühlt sich manchmal durchaus ein bisschen arrogant an …

Wie sage ich es jetzt, ohne meinerseits arrogant zu klingen: „Das tun doch alle“, ist sicherlich kein guter Satz, um zu erklären, warum man Ethik und Moral außer acht lässt. Und wir kennen uns mit dieser Herausforderung durchaus aus: Auch wir Idealisten müssen Geld einnehmen, damit wir das ganze Jahr arbeiten und auch, um zum Beispiel die BigBrotherAwards finanzieren können.

Dafür verkaufen wir auch so etwas wie Abos (Fördermitgliedschaften) und Einzelexemplare (Spenden). Auch Digitalcourage bezahlt jeden Monat Gehälter. Aber wir nutzen keine Software von Google. Unsere Mitgliederverwaltung kippen wir nicht in die Cloud. Wir denken ERST darüber nach, wie wir diejenigen schützen, die uns ihre Daten anvertrauen. Wir suchen sorgfältig nach freier Software, bauen Netzwerke, damit diese weiterentwickelt und für den deutschen Raum angepasst werden kann. Hey, hier gäbe es unglaubliche Möglichkeiten für Startups, Märkte, technische Innovation, bessere Geschäftsmodelle und Arbeitsplätze, die Spaß machen. Jetzt fehlt eigentlich, dass Ihr (und all die Verlage, Organisationen, Behörden, die jetzt mitgemeint sind) da mitmacht, statt Geld und Seelen über den großen Teich zu werfen und unsere freie Zukunft jenseits des Überwachungskapitalismus für ein, zwei Linsengerichte zu verkaufen.

Google ist aber einer der gierigsten Konzerne, der ein Datenmonopol anstrebt, und sich überall breit macht mit freundlichen bunten Lettern, Kicker in seine Firmenräume stellt, wo die Mitarbeiter der EU-Parlamentarier gern zum Feierabend auf ‘ne Mate vorbeikommen und chillen, der kleine Wettbewerbe für Webdesigner ausschreibt, eine Konferenz hier und zwei Lehrstühle dort mitfinanziert, der (wie Facebook auch) Reisen ins „Valley“ für Journalisten sponsert und Seminare und komplette Journalismus-Stipendien vergibt. Sprich: Google, Facebook und Co betreiben „Landschaftspflege“ wie aus dem Lehrbuch der Lobbyarbeit. Was kann es da besseres geben, als mal der ZEIT ONLINE eine Software für ein freundliches, verbindendes Projekt zu finanzieren ?

Und während wir „langhaarigen Bombenleger“ vor der Datenkrake Google warnen, sieht Google für Menschen, die sich für ganz normal halten, ganz normal aus. Sie nehmen Googles Webtools, bauen sie in ihre kleinen Projekte ein, sammeln Daten für Google (meist ohne es zu merken). Redakteure kommen auf die Idee, die Google Suite für Redaktionsarbeit zu nehmen, ohne dass das innere Kontrollorgan, das jede Journalistin und jeder Journalist haben muss, anschlägt. So erodiert sie weg, die Seele.

Der Journalist Alexander Fanta hat in einem Netzpolitik.org-Kommentar⁵ beschrieben, wie sehr er sich schämt, seine beiden Journalismus-Stipendien von Google finanziert bekommen zu haben und warum er das heute nicht mehr machen würde.⁶ 2018 hat er zusammen mit Ingo Dachwitz eine Recherche⁷ nachgelegt, wieviel Geld Google in Medienprojekte steckt.

Fast alle nehmen Geld: Die FAZ erhielt 500.000, Spiegel 700.000, die taz 109.000, die Funke Mediengruppe 500.000, die Wirtschaftwoche 600.000, der Berliner Tagesspiegel ist mit mehreren 100.000 Euro dabei, die Rheinische Post erhielt 300.000. „Tatsächlich“, schreiben Alexander Fanta und Ingo Dachwitz, „ist es einfacher aufzuzählen, welche großen Verlage sich bisher nicht fördern ließen: Auffällig ist das Fehlen der Namen Axel Springer, Hubert Burda und Süddeutsche Zeitung.“

Ich musste da an ein Bild denken, das mir 2013 einen Schauer über den Rücken gejagt hat. Deutsche Chefredakteur reisen gemeinsam ins Silicon Valley. Sie besuchen all die netten Datenkraken, machen hier ein Foto am Konferenztisch, da im Besucherraum. Aber eines der Bilder ist extrem instinktlos: Die Gruppe der Chefredakteure präsentiert sich vor den Facebook-Bannern im Facebook Hauptquartier. Das war so ein Statement für „Bedenken garnicht“. Natürlich ist es sinnvoll, dass Chefredakteure sich über diese neuen digitalen Medien informieren und selbst ein Bild machen. Aber man stellt sich nicht vor die Banner der Feinde, die Euch Eure Arbeit und Werbegelder stehlen, und macht ein PR-Foto! .

Da passt es in die Geschichte der Korrumpierung, dass jüngst ein Vorstandmitglied des Deutschen Journalistenverbands (DJV) folgendes Statement veröffentlichte - „Her mit der Kohle“ steht in der Überschrift und ich zitiere wörtlich:

„Facebook finanziert der Hamburger Media School ein ‚Digital Journalism Fellowship‘, inklusive Klassenfahrt in die USA. Wer jetzt die große Einmischung erwartet, hat zwei grundlegende Sachen nicht verstanden. Erstens finanzieren Facebook, Google und Co schon lange den Journalismus über konkrete Weiterbildungsangebote – bei der Hamburger Media School, aber auch hier im DJV. Zweitens haben erfahrene Journalisten in der Regel genug Medienkompetenz, um genau zu wissen, worauf sie sich einlassen.“

Dieser Artikel lässt genau daran Zweifel aufkommen.

Deshalb, lieber Jochen, wünsche ich mir: Kehr um vom Weg, den Überwachungskapitalismus voranzutreiben und die Daten Eurer Leserinnen und Leser als Preis für Eure journalistische Arbeit zu verschachern. Gebt Google das Geld wieder zurück. Sucht hartnäckig weiter nach Möglichkeiten, Journalismus ehrenvoll und in Würde zu betreiben und zu finanzieren. Verlange das auch von Deinen Herausgebern und Verlegern! Das wäre wahre Innovation.

Wenn dieser Wunsch in Erfüllung ginge, wenn dazu dieser BigBrotherAward beitragen kann, dann sage ich gerne und aus vollem Herzen:

Herzlichen Glückwunsch, liebe ZEIT online, lieber Jochen, zum BigBrotherAward 2019 in der Kategorie Verbraucherschutz.

Nachtrag: Jochen Wegner hat unter großem respektvollem Applaus den BigBrotherAward für ZEIT ONLINE persönlich entgegengenommen. Wir haben tatsächlich nur das öffentlich einsehbare Frontend von mycountrytalks.org untersucht (bei dem mittlerweile alle Tracker abgeschaltet sind). ZEIT ONLINE beteuert in ihrem Blog Glashaus, dass sie unsere früher schon geäußerte Kritik gehört hatten und die neu programmierte Anwendung, die als Snippets in den Websites der Partnermedien eingebunden wird, extrem datensparsam arbeitet. Seine Erläuterungen klingen plausibel. Wir werden das im weiteren Dialog mit ZEIT ONLINE weiter beobachten. Besonders die Einbindung der Snippets auf den trackingverseuchten Websites der Partnermedien dürfte eine Herausforderung sein. Am Wesenskern meiner Laudatio ändert sich nichts. // padeluun, 9.6.2019

Mood Tracker

Die Zahl der Menschen, denen eine Depression diagnostiziert wird, steigt konstant. Das hat mehrere Ursachen. Unter anderem ist das Tabu nicht mehr so stark. Für viele ist das Thema dennoch weiterhin schambehaftet: Sie werten es als Schwäche, traurig, antriebslos und verzweifelt zu sein. Entsprechend hoch ist die Hemmschwelle, mit Freunden oder der Ärztin über solche Gefühle zu sprechen. Deshalb hilft sich die eine oder der andere mit sogenannten Moodtracker-Apps aus: Die helfen, die eigene Stimmung zu reflektieren und einzuordnen, ob man unter einer Depression leidet.

Diese Verletzlichkeit nur mit meinem Smartphone zu teilen, in das nur ich rein schaue – vertraulich und anonym – klingt erstmal sehr verlockend. Leider ist das manchmal gar nicht so anonym: Unternehmen wie Google und Facebook machen selbst vor sensiblen Gesundheitsdaten nicht halt.

Ein beliebter Moodtracker ist beispielsweise Moodpath¹. Die App wirbt mit dem Slogan „Wege aus der Depression“ und damit, ein CE-zertifiziertes Produkt zu sein. Außerdem behaupten sie, die Nutzung sei anonym: Es sei keine Anmeldung per E-Mail oder via Facebook nötig. Letzteres stimmt zwar, Anonymität gibt es aber nicht.

Der Tech-Blogger Mike Kuketz hat sich die App genauer angeschaut² und herausgefunden, welche Daten eben doch – genau! – an die Datenkrake Facebook übermittelt werden:

• IP-Adresse

• Google Werbe-ID (82bbc559-8c1d-4202-a9f0-deb029f62a45)

• Paketname der App (de.moodpath.android)

• App-Versionsnummer (1.0.5)

• Android-Version (6.0.1)

• Gerät (Nexus 5)

• Displayauflösung (1080, 1800)

• […]

Das reicht aus, um Sie – ja, Sie höchstpersönlich – als Nutzer.in der App zu identifizieren.

Ähnlich verhält es sich bei dem Online-Angebot Selfapy³. Die Plattform wirbt damit, die Zeit zu überbrücken, bis jemand einen Therapieplatz hat, oder laufende Therapien unterstützend zu begleiten. Angeboten werden Beratungen und Online-Kurse mit ausgebildeten Psychotherapeut.innen. Das Problem: Die Website ist verseucht mit Google-Trackern.

Diverse Datenskandale haben gezeigt, dass auch den größten Unternehmen bei Datensicherheit nicht zu trauen ist. Erst im April 2019 wurde bekannt, dass die Passwörter von Millionen Instagram-Nutzer.innen abhanden gekommen sind, im Mai wurde eine Sicherheitslücke in WhatsApp bekannt, die es erlaubt, Spyware zu installieren – beide Dienste gehören zur Facebook-Unternehmensgruppe⁴.

Und selbst wenn unsere Daten zumindest nicht gestohlen würden – wollen wir unsere psychische Gesundheit und Krankheit mit einem Unternehmen teilen, dass nicht einmal davor zurückschreckt, psychisch labile Jugendliche seinen Werbekunden als Zielgruppe anzubieten⁵?

BVG

Eine Lüge begleitet uns schon so lange und begegnet uns so oft im Alltag, dass viele Menschen angefangen haben, sie zu glauben: „Zu Ihrer Sicherheit wird dieser Bereich videoüberwacht“. Alle Studien legen nahe, dass Videoüberwachung vor Gewalt und Terror nicht schützt⁶. Zugleich ist der Kollateralschaden gewaltig: Wer sich beobachtet fühlt, verhält sich anders. Diesem Überwachungsdruck und dieser Selbstzensur sind alle Menschen ausgesetzt, die sich durch eine Innenstadt bewegen. Kaum noch ein Ort, an dem wir nicht von Kameras angeglotzt und abgefilmt werden.

Transparenz gibt es nicht: Ich weiß nicht, ob die Kamera speichert oder nicht. Ich weiß nicht, wann die Aufnahmen gelöscht werden. Ich weiß nicht ob die Kamera vernetzt ist und wo die Bilddaten hingeschickt werden. Wir sind dem ausgeliefert, solange wir uns im öffentlichen Raum bewegen, und können nichts tun, außer zu hoffen, dass die Betreiber der Überwachungsanlage Gesetze einhalten und wissen, wie IT-Sicherheit geht.

Die Berliner Verkehrsbetriebe (BVG) legt noch einen drauf: Eine Kleine Anfrage im Berliner Senat brachte zum Vorschein, dass die neuen Kameras in den Bahnen und Stationen der BVG neben Bildern auch Tonaufnahmen aufzeichnen und versenden können⁷.

Die BVG versichert zwar, die Mikrofone seien deaktiviert, überprüfen können die Fahrgäste das jedoch nicht. Außerdem zeigt die Erfahrung: Überwachungstechnik, die einmal angeschafft wurde, wird irgendwann genutzt. Nie wird die Anschaffung von Überwachungsanlagen als Fehlschlag abgehakt und wieder entfernt. Meistens werden sie ausgebaut und für immer mehr Zwecke verwendet.

So viel Vertrauen von allen Fahrgästen zu verlangen, erscheint absurd. Vor allem, wenn das fragliche Unternehmen seinen Fahrgästen offenbar genug misstraut, um sie zu jeder Zeit aus mehreren Winkeln mit Kameras zu überwachen.

Eigentlich sollte längst klar sein: Sicherheit braucht weder Kameras noch Mikrofone. Menschen, die aufeinander Acht geben und in Notsituationen couragiert eingreifen, funktionieren da besser.

[In einer vorherigen Version dieses Artikels stand "Berliner Verkehrsgesellschaft". Diesen Fehler haben wir 11.06.2019 korrigiert.]

„Smart Cart“ – Edeka in Porta Westfalica

„Der modernste Einkaufswagen der Welt!“ Dieser Werbeslogan eines datensammelnden Startups und des Edeka-Centers in Porta-Westfalica wirkt etwas gequält. Gemeint ist der sogenannte „EASY Shopper“⁸, ein vernetzter Einkaufswagen, der den Kund.innen die ultimative Bequemlichkeit verspricht: Selber scannen, und dafür nicht lange an der Kasse anstehen. Auf dem eingebauten Tablet das gesuchte Produkt eingeben und per GPS direkt dort hin navigiert werden. Tolle Rabatt-Aktionen, und: Schon zuhause die Einkaufsliste erstellen und den Wagen müssen Sie dann im Laden nur noch dahin schieben, wo er es sagt!

Woher der Wagen Ihre Einkaufsliste kennt? Genau da liegt der Haken.

Die Wägen können auf zwei Wegen aktiviert werden: Mit der dazugehörigen App, oder mit der „DeutschlandCard“ – eine Rabattkarte à la Payback, die sich für die teilnehmenden Unternehmen nur durch Datenhandel lohnt. gespeichert werden die Vorlieben der Einkaufenden: Kaffee oder Tee, Billig-Fleischwurst oder veganer Bioaufstrich, Menstruationstasse oder Binden, das Klopapier recyclet oder extra weich …

Diese Daten zu erheben, zu speichern, zu verkaufen ist schamlos – das auch noch im Superlativ als „modern“ zu bewerben erst recht.

Wir haben es schon mal gesagt – damals ging es um Gesichtserkennung und personalisierte Werbung⁹: Lieber Einzelhandel, wir mögen es, unüberwacht und anonym einzukaufen. Im Internet ist das leider nahezu unmöglich, im Offline-Laden geht das – noch! Und wir wollen, dass das so bleibt. Bitte macht euch dieses Alleinstellungsmerkmal nicht selber kaputt!

Lob: Freie Ärzteschaft und Jens Ernst

Unter dem Titel Telematik soll eine Infrastruktur aufgebaut werden, um Gesundheitsdaten zwischen Arztpraxen, Krankenkassen und Apotheken auszutauschen. Das ist ein Teil der Umstellung auf die elektronische Gesundheitskarte, die eCard. Umsetzen soll das die Gematik, die „Gesellschaft für Telematikanwendungen der Gesundheitskarte mbH“.

Der Austausch von Gesundheitsdaten über das Internet ist an sich problematisch. Die grundsätzliche Kritik daran sei hier aber nur am Rande erwähnt.

Hier geht es um Sorgfalt bei der IT-Sicherheit. Für die Anbindung an die Telematik-infrastruktur müssen Praxen und Krankenhäuser zertifizierte Konnektoren kaufen und installieren lassen. Das ist leider ordentlich schief gegangen.

In hunderten von Arztpraxen wurden bei der Installation der Konnektoren, durch eine falsche Konfiguration, die Firewall und Antivirenprogramme deaktiviert: Die Daten aller Patientinnen und Patienten hingen schlecht geschützt im Netz. Die Verantwortung für den Fehler will die Gematik auf die umsetzenden Dienstleister und die Ärzte abschieben. Diese stehen massiv unter Druck, weil Strafzahlungen drohen, wenn sie nicht bis Ende Juni 2019 – also bis Ende dieses Monats! – an die Infrastruktur angeschlossen sind.

Nur dort, wo aufmerksame IT-Arbeiter.innen der Praxen den Telematik-Admins auf die Finger geschaut haben, ist dieser grobe Fehler aufgefallen. Vor allem Jens Ernst: Er pflegt die IT einiger Ärzt.innen und hat die Schlamperei öffentlich gemacht. Das ist Courage! Dieses Lob gebührt Jens Ernst und allen anderen Menschen in freien Arztpraxen, die fahrlässigen Umgang mit sensiblen Daten sehen und sich Arbeit machen, um die Öffentlichkeit zu informieren und das Problem hinter dem einzelnen Fall zu lösen.

Der BigBrotherAward 2019 in der Kategorie Technik geht an das „Technical Committee CYBER“ des Europäischen Instituts für Telekommunikationsnormen (ETSI), vertreten durch den Chairman Alex Leadbeater, für seine Bemühung, das „Enterprise Transport Security“-Protokoll (ETS)¹ als Teil des neuen technischen Standards für die Verschlüsselung im Internet festzulegen und damit abgesicherte Verbindungen mit einer Sollbruchstelle auszustatten.

Aber von Anfang an:

Verschlüsselte Verbindungen, z.B. beim Online-Banking oder beim Internet-Einkauf, sind mittlerweile Standard. Wir erkennen sie an zwei Zeichen: Erstens wird im Browser ein Schloss-Symbol in der Adressleiste vom Browser eingeblendet, und vor der Adresse steht ein „https“. Der Kommunikationskanal zwischen Browser und Server ist nun mittels „Transport Layer Security“, kurz TLS, gesichert. Das bisher dafür genutzte Protokoll TLS in der Version 1.2 ist gut zehn Jahre alt, und im Laufe der Zeit wurden Angriffsmöglichkeiten entdeckt, mit denen Kriminelle oder auch staatliche Stellen die Verschlüsselung knacken können. Es muss ein neuer Standard her.

Seit über zwei Jahren setzen sich internationale Gremien wie die „Internet Engineering Task Force“, kurz IETF, mit Kryptographie-Experten zusammen und überlegen, wie eine solche Verschlüsselung ausgestaltet sein muss, damit sie für die nächsten Jahre als sicher gelten kann. Heraus kam die die Version 1.3 der Transport Layer Security, kurz TLS. In den meisten Browsern ist eine vorläufige Version davon schon integriert. So weit, so gut, so sicher. Wenn da nicht das ETSI wäre.

Denn noch während der Beratungen über TLS 1.3 meldeten sich unter anderem Vertreter der Finanzindustrie zu Wort und wandten ein, dass sie strenge Compliance-Auflagen hätten, die es erforderlich machen, auch verschlüsselte Kommunikation, z.B. von Finanzberatern mit ihren Kunden, zu protokollieren - zum Beispiel um nachweisen zu können, dass sie gesetzestreu arbeiten. Sie behaupteten, sie bräuchten einen Nachschlüssel, um trotz Verschlüsselung für Dritte selbst alles lesen zu können. Dabei handelt es sich zwar um Daten, die sie auch auf ihren Servern im Klartext lesen könnten, aber für eine IT-Abteilung ist es einfacher, solche Daten an einem zentralen Punkt abzugreifen.

Diese Idee für einen Nachschlüssel fanden natürlich auch die europäischen Geheimdienste brillant. Allen voran der britische GCHQ, der über Mitglieder des National Cyber Security Centre im „Technical Committee CYBER“ beim Europäischen Institut für Telekommunikationsnormen (ETSI), unserem Preisträger, vertreten ist.

Das IETF hingegen hatte sich mit dem Standard TLS 1.3 ausdrücklich gegen den Nachschlüssel entschieden. Dessen ungeachtet ging das ETSI mit dem Kopf durch die Wand und entwickelte eine spezielle Version von TLS, das sogenannte Enterprise-TLS, kurz ETS.

ETS hat nun diesen Nachschlüssel. Es ist eine Verschlüsselung mit Sollbruchstelle. Während beim stärkeren TLS 1.3. ein Server und ein Browser regelmäßig neue Schlüssel technisch miteinander aushandeln, wird bei ETS ein fester Schlüssel beim Server-Betreiber hinterlegt. Das mag für Banken noch legitim sein, da es dort in der Regel um ihre „eigenen“ Kommunikationsinhalte geht.

Der Haken beim ETS-Standard ist aber, dass staatliche Stellen die Server-Betreiber verpflichten können, einen solchen festen Schlüssel einzustellen und diesen herauszurücken, um damit sämtliche Kommunikation mit Internetseiten im Nachhinein entschlüsseln zu können, zum Beispiel versendete Nachrichten. Falls dieser Nachschlüssel Kriminellen in die Hände fällt, können die zum Beispiel auch Passwörter und andere sensible Informationen abgreifen.

Eine besondere Gemeinheit ist außerdem, dass dieser „kaputte“ Verschlüsselungsstandard für Browser und damit die Nutzer.innen nicht vom „echten“ zu unterscheiden ist. Es wird weiterhin das Schlüsselsymbol angezeigt; und der Browser hat technisch kaum eine Möglichkeit zu erkennen, ob ein fester Verbindungsschlüssel hinterlegt ist.

Die Mitglieder unseres Preisträgers, des „Technical Committees CYBER“, haben damit trotz aller Warnungen der IETF und anderer Experten einen zweiten Standard geschaffen, der wohl auch in der Praxis verwendet werden wird. Aber wer ihn verwendet, bringt damit Nutzerinnen und Nutzer in die erhebliche Gefahr, dass ihre vermeintlich sichere Kommunikation ohne ihr Wissen ausspioniert werden kann.

Daher raten wir allen Entwicklern und technisch Verantwortlichen, einen großen Bogen um ETS zu machen und das deutlich sicherere TLS 1.3-Protokoll zu verwenden. Fatalerweise haben technisch nicht versierte Nutzerinnen und Nutzer kaum eine Möglichkeit, darauf Einfluss zu nehmen. Dieser zweite, unsichere ETS-Standard schafft eine verheerende Situation für die Online-Sicherheit. Da können wir nur ironisch „Danke für gar nichts“ sagen.

Herzlichen Glückwunsch zum BigBrotherAward 2019, Technical Committee CYBER des ETSI!

Der BigBrotherAward 2019 in der Kategorie Kommunikation geht an die Precire Technologies GmbH in Aachen für ihre wissenschaftlich zweifelhafte, wahrscheinlich rechtswidrige und gefährliche Sprachanalyse.

Precire – haben Sie noch nie gehört? Das mag sein. Aber es ist möglich, dass Precire schon von Ihnen gehört hat.

Stellen Sie sich einmal vor, Sie hätten sich auf eine neue Stelle beworben. Und – juchhu! – die erste Hürde ist geschafft: Sie haben eine Einladung zum Interview – allerdings per Telefon.

„Bitte beschreiben Sie den Ablauf eines typischen Sonntags.“

Nanu, das ist nicht die Frage, die Sie am Anfang eines Job-Interviews erwarten.

„Wie war Ihr letzter Urlaub?“

Die Rückfrage: „Warum interessieren Sie sich dafür?“ ist sinnlos. Denn erstens wird dieses Telefon-Interview von einem Computer geführt, zweitens interessiert der sich überhaupt nicht für Sie, und drittens interessiert sich auch die Firma, die hinter diesem Job-Test per Telefon steht, nicht für den Inhalt Ihrer Antworten. Der Computer am Telefon will einfach nur eine Sprechprobe von Ihnen – und dafür muss er Sie dazu bringen, 15 Minuten über irgendwas zu reden.

„Was macht Ihnen in Ihrem aktuellen oder erlernten Beruf am meisten Freude?“

Hm, der Kontakt mit Menschen?! Scherz. Aber es geht wie gesagt nicht darum, was Sie sagen, sondern wie Sie es sagen. Precire, das ist die Firma, mit deren Telefonstimme Sie da sprechen, behauptet, dass die Stimme jedes Menschen so unverwechselbar sei wie seine DNA. Und Precire behauptet, dass sie aus einer 15-Minuten-Stimmprobe den Charakter eines Menschen erkennen könnten und wie geeignet er oder sie für den Job ist.

Precire zerlegt dafür die aufgenommene Sprachprobe in angeblich über 500.000 Bestandteile und analysiert alles Mögliche: Stimmhöhe, Lautstärke, Modulationsfähigkeit, Sprechtempo und Rhythmus. Dazu die Häufigkeit der Wörter, die Länge der Sätze, die Länge der Pausen, wie verschachtelt die Sätze sind, wie viele Füllwörter und wie oft „man“ oder „ich“ verwendet werden, wie variabel die Stimme ist und die Akustik. Und der Computer beurteilt auch gleich, ob die Sprache emotional oder wissenschaftlich, zurückhaltend oder direkt ist. Dafür vergleicht Precire die gefundenen Sprachmuster mit denen von Testpersonen aus ihrem Datenpool. Und dann schlägt Precire Ihnen kurzerhand die Psychotest-Ergebnisse von ähnlich klingenden Testpersonen zu - und schließt daraus auf Ihren Charakter.

Als Ergebnis kommen dann Beurteilungen heraus wie die für die freie Journalistin Eva Wolfangel, die Precire im Selbstversuch getestet hat: Sie sei extrem neugierig (8 von 9), glücklicherweise auch sehr verträglich (ebenfalls 8), kontakt- (7) und risikofreudig (6) - doch gleichzeitig attestiert ihr das System einen „distanzierten Kommunikationsstil“, sie sei „wenig unterstützend“.¹

Mal so, mal so, einerseits, andererseits. Klingt wie das Wochenhoroskop auf einer Kreuzworträtsel-Seite. Hier eine kleine Kostprobe aus solchen Horoskoptexten:

„Du wünschst dir, dass deine Mitmenschen dich mögen, und dennoch tendierst du zu Selbstkritik.“ Oder „Manchmal haben Sie ernste Zweifel, ob Sie die richtige Entscheidung getroffen haben.“ Und besonders schön: „Du bist intelligent und lässt dir nicht so schnell etwas vormachen.“

Solche Texte sind trivial und ein bisschen schmeichelhaft, ein bisschen kritisch formuliert. Da ist immer für jeden was dabei, was zutrifft. Viele Menschen fühlen sich davon angesprochen und denken „Da ist was dran!“ Wissenschaftlich heißt dieses Phänomen auch „Barnum-Effekt“² – nach dem großen Zirkus.

Precire dagegen behauptet, ihr Verfahren sei wissenschaftlich abgesichert³. Und winkt mit einer Buchveröffentlichung im wirtschaftswissenschaftlichen Springer Gabler Verlag.

Wissenschaftlich?

Doch von seriöser Wissenschaft kann hier keine Rede sein, rügt Dr. Uwe Kanning, Professor für Wirtschaftspsychologie an der Hochschule Osnabrück in seiner Buchrezension⁴. Er argumentiert, es existiere keine unabhängige Forschung zum Thema, der Algorithmus sei eine Blackbox und Geheimnis des Anbieters. Die vorhandenen Studien haben keine eigenen Zahlen erhoben, sondern sind Masterarbeiten, die sich auf die Daten stützen, die Precire ihnen zur Verfügung gestellt hat. Andere Studien werden – auch auf Nachfrage – beharrlich nicht rausgerückt. Das bemängelt auch die freie Journalistin Bärbel Schwertfeger.⁵

Wir halten fest: Es gibt keine Belege für den direkten Zusammenhang zwischen Sprachparametern und beruflicher Leistung. Und es gibt keine Belege dafür, dass die so erstellten Prognosen irgendeine Aussagekraft für die zukünftige Leistung der Bewerberinnen und Bewerber haben.⁶

Die Sprachanalyse von Precire findet zumeist keine Kausalitäten – sondern nur Korrelationen. Und die können völlig zufällig sein. Da könnte ebenso nach Sternzeichen entschieden werden. Oder nach Schuhgröße. Übersetzt heißt das: Wenn der Computer herausfinden würde, dass in der Vergangenheit die drei erfolgreichsten Mitarbeiter Schuhgröße 44 hatten, dann würde er Ihnen in Zukunft auch nur Menschen mit Schuhgröße 44 als Führungspersonal vorschlagen.

Seit 2015 berichten die Medien immer mal wieder über Precire, mit wenigen Ausnahmen⁷ meist mit dem Tenor: „Schau mal an, was für faszinierende Technik es heutzutage gibt!“ Manchmal spürt man ein leichtes Gruseln, doch kaum ein Journalist stellt wirklich kritische Fragen und verlangt z.B. Zugang zu den Studien, die die Wissenschaftlichkeit von Precire angeblich belegen, die aber nicht öffentlich sind.

Und niemand spießt mal die zahlreichen Widersprüche auf: So sagt Precire, dass Psychotests nicht aussagekräftig seien, weil die Probanden ja ahnten, welche Antworten erwünscht seien. Und dann verwendet Precire selbst als Grundlage einen Datenpool mit Sprachproben von tausenden von Probanden – deren Charakter mittels Psychotest ermittelt wurde. Anders gesagt: Ihr Algorithmus versucht die Ergebnisse von Psychotests nachzubilden. Und niemand fragt nach, warum einerseits von einer „unveränderlichen Sprach-DNA“ die Rede ist, Precire aber andererseits selbst eine App zum Trainieren der Sprache anbietet⁸. Personalentwicklung durch Sprachtraining ist nämlich der zweite Geschäftsbereich von Precire. Die vorgebliche „DNA“ scheint also doch nicht so unveränderlich zu sein …

Die Teilnahme an so einer Sprachanalyse ist freiwillig – Bewerberinnen und Bewerber können nicht zum Telefoninterview mit dem Computer gezwungen werden. Das gilt auch mit der seit 2018 geltenden europäischen Datenschutzgrundverordnung (DSGVO), hier konkret Artikel 7 Absatz 4 (Freiwilligkeit bei der Einwilligung). Doch hey – wie weit ist es her mit der Freiwilligkeit, wenn jemand einen Job unbedingt haben will?

Und wer setzt Precire nun ein? Angeblich mehr als 100 Firmen in Deutschland. Einige sind bekannt: der Personaldienstleister und Zeitarbeitsvermittler Randstad, der Versicherungskonzern HDI und auch die Gothaer Versicherung, der Transport-Riese Fraport, das Handelsblatt, die Unternehmensberatung KPMG, der Stromversorger RWE, die Krankenkasse DAK, die Hotelgruppe Accor, IBM und Mobilfunkanbieter Vodafone.

Warum um Himmelswillen machen Firmen so etwas?

Weil es modern ist, und weil sie glauben, dass es sie entlastet. Einerseits von der Vorauswahl, andererseits von der Entscheidung. Der Computer ist schnell, da gibt es Zahlen. Und Zahlen sind Fakten, und der Computer ist objektiv. Oder etwa nicht?

Objektiv?

Thomas Belker, bisher Personalvorstand des Talanx-Versicherungskonzerns - Talanx ist Kunde von Precire -, ist von der Effizienz überzeugt. So überzeugt, dass er zum 1. Mai 2019 zu Precire gewechselt ist als neuer Geschäftsführer. Er meint, das Programm spare nicht nur Zeit und Geld – es sei auch objektiver und deswegen fairer. Zitat: „Die Maschine kennt unbewusste Vorurteile, die jeder Mensch hat, nicht. Ihr ist es egal, ob jemand Mann oder Frau ist oder welche Hautfarbe er hat.“ ⁹

Dirk Gratzel, Mitgründer von Precire, behauptet: „Eine Maschine ist weniger fehleranfällig als ein Recruiter. Eine Maschine kann nur objektiv.“¹⁰

Das ist eine äußerst naive Sicht der Dinge. Computer „verstehen“ uns nicht. Das dürfen wir aber nicht mit Neutralität verwechseln. Computerprogramme sind auch voreingenommen, denn sie werden von Menschen programmiert. Menschen, die ihre eigenen Wertvorstellungen für selbstverständlich halten und in die Software mit einfließen lassen. Menschen mit bestimmten Fragestellungen, Zielen und Motiven. Und vor allem wird die Software mit einer ausgewählten Personengruppe als Referenz trainiert, die dann bestimmt, was als „normal“, gut oder schlecht gilt.

Precire bietet auch einen Service für die Analyse von geeigneten Führungspersonen. Die Theorie: Wer ähnlich klingt wie ein DAX-Manager, könnte als Chef geeignet sein. Als Grundlage dafür wurden Stimmproben von Managern von 30 DAX-Unternehmen ausgewertet. Die haben den Zirkus mit dem Telefoninterview natürlich nicht mitgemacht. Stattdessen hat Precire kurzerhand Reden der Vorstandsmitglieder aus Youtube als Material verwendet. Nicht nur methodisch zweifelhaft. Uwe Kannings, Professor für Wirtschaftspsychologie an der Hochschule Osnabrück, schreibt in einem launigen Kommentar: „Die Stärke dieser Studie liegt in ihrem Unterhaltungswert.“ ¹¹

Wissenschaftlichkeit hin oder her: Schlimm sind die Folgen, wenn das Verfahren nun tatsächlich zur Auswahl von Führungspersonen eingesetzt wird. Wie im Precire-Werbe-Video zu sehen: „Sie suchen jemanden, der zu Ihrem Team passt“ – im Bild zu sehen: Mann mit grauem Anzug und roter Krawatte, der – na was wohl – einen anderen Mann in grauem Anzug und roter Krawatte als neuen Mitarbeiter begrüßt.¹²

Laut einer Untersuchung von 2019 gibt es in Deutschland mehr Chefs, die Michael heißen als Frauen (egal welchen Namens). Dasselbe gilt übrigens auch für Thomas, Andreas, Peter und Christian.¹³

Mehr Diversität in Firmenvorständen? Wird so ganz sicher nicht erreicht. Denn solche Auswahlverfahren nach Ähnlichkeit führen dazu, immer weiter „mehr desselben“ einzustellen. Nur jetzt verbrämt mit dem Mäntelchen der künstlichen Intelligenz.

Bei Menschen ist klar, dass der „human factor“ eine Rolle spielt. Die Voreingenommenheit per Algorithmus ist gefährlicher. Denn sie wird nicht erkannt, solange wir das Märchen vom „objektiven Computer“ glauben.

Precire reitet auf dem Trend, Sprachanalyse zur Ausforschung und Klassifizierung von Menschen zu verwenden und der „Künstlichen Intelligenz“ magische Urteilskräfte zuzuschreiben. Unbewusster Nebeneffekt: Vorurteile werden durch Reinigung in der Algorithmen-Waschmaschine ganz unauffällig wieder salonfähig gemacht. „Hat der Computer so ausgewählt. Wir wissen nicht, warum.“

Aber nicht alle Firmenchefs können sich mit der Personalauswahl per Computer anfreunden. Sebastian Saxe, IT-Vorstand der Hamburg Port Authority (das ist die Zentralverwaltung der Hamburger Hafenbehörden), sagt: „Ich bin ein Freund der Digitalisierung. Aber wenn wir unter den Bewerberinnen und Bewerbern eine Vorauswahl mit Software treffen würden, würden wir Leute mit Ecken und Kanten, die letztlich gut zu uns passen, nie zu Gesicht bekommen.“¹⁴

Danke für diese klaren Worte.

Callcenter

Vielleicht dachten Sie bis hierher „Diese Technik ist fies – aber ich bin ja nicht auf Job-Suche, also betrifft mich das nicht“. Falsch gedacht, denn nun kommen wir zum dritten Geschäftsbereich von Precire: Der Einsatz der Sprachanalyse im Callcenter.

Wie funktioniert das? Offenbar zeichnen Callcenter die Sprache von Anrufern auf, leiten sie an einen Server von Precire weiter und lassen sie dort in Echtzeit analysieren. Und Precire schlägt dann dem Callcenter-Agenten vor, wie er oder sie weiter vorgehen soll. Das ist, als ob die ganze Zeit ein Psychologe im Ohr des Callcenter-Agenten sitzt, mithört und ihm live einflüstert, was er als nächstes sagen oder anbieten soll. Die Software soll zum Beispiel erkennen: Ist die Kundin so sauer, dass sie kündigen will, oder will sie nur einen Rabatt rausschlagen? Precire preist an:

„Beschwerden sind unbewusste, emotionale Sprache pur, eine einmalige Datenquelle und hervorragende Chance, Ihre Kundenbindung dauerhaft zu vertiefen.“
„Durch eine direkte IT-Anbindung analysiert PRECIRE eingehende Beschwerden, erkennt psychologische Muster (…) und liefert Hinweise und Auffälligkeiten an die Entscheider.“
„Dabei lernt unser System – im Fall der next-best-action-Empfehlung – selbst mit jedem Nutzer dazu („Künstliche Intelligenz“) und hilft Ihnen, die vorhanden Sprachdaten Ihrer Kunden in einen echten Mehrwert zu wandeln.“¹⁵

Auch hier klingt der Marketingsprech von Precire übertrieben. Doch anders als bei der Vorhersage, ob jemand für einen Job geeignet ist, ist es durchaus möglich, dass die Sprechanalyse etwas über die Anrufenden herausfinden kann, z.B. die Herkunft über den Dialekt, Emotionen, Unsicherheit, Stress.

Seit 2014 schon bewirbt Precire seine Dienste im Callcenter-Bereich. Die Firma ist passenderweise 2016 Mitglied im Callcenter Verband und auch beim Deutschen Dialogmarketing Verband¹⁶ geworden. Sie hält sich aber merkwürdig bedeckt, konkret Auskunft über Callcenter in Deutschland zu geben, die die Sprachanalyse der Anrufenden schon im Einsatz haben. Was da alles denkbar ist, beantwortet ein Zitat von Precire-Gründer Dirk Gratzel: „Wir können alles beantworten, was von unseren Kunden gewünscht wird.“ Zum Beispiel: „Was verrät die Sprache eines Kunden über ihn?“, „Ist dieser Krankenversicherte depressiv?“, „Lügt dieser Versicherte, wenn er eine Schadensmeldung absetzt?“¹⁷

Dieser Einsatz von Sprachanalyse im Callcenter ist nicht nur unethisch – er ist illegal: Er verstößt gegen das Telekommunikationsgeheimnis und verletzt die Vertraulichkeit des gesprochenen Wortes (§ 201 StGB). Das ist strafrechtlich besonders sanktionierbar.

Es wird Zeit, dass sich jemand aufrafft, ein Verfahren einzuleiten. Die Landesdatenschutzbeauftragte von NRW zum Beispiel. Und die jeweils zuständigen Aufsichtsbehörden sollten auch die Precire-Konkurrenz, nämlich die Startups „100 Worte“ aus Heilbronn und „Audeering“ aus München mal unter die Lupe nehmen.

Emotions- und Motivationserkennung per Sprachanalyse ist gefährlich, denn sie kann ohne unser Wissen irgendwo im Hintergrund passieren, wann immer wir sprechen. Diese Art der Sprachanalyse ist geradezu darauf angelegt, uns zu übervorteilen. So werden die einzelnen Menschen immer ohnmächtiger und unangreifbare Macht wandert immer mehr zu großen Konzernen, Versicherungen, Banken und staatlichen Stellen, die Zugriff auf unsere Daten und solche Technologie haben.

Deshalb fordern wir den Gesetzgeber auf: Die Anwendung von Sprachanalyse und „künstlicher Intelligenz“ zur Charakter-, Emotions- und Motivationserkennung muss verboten werden!

Wenn Sie, liebes Publikum, das nächste Mal bei einem Callcenter anrufen und Sie bekommen die Ansage, dass „Teile des Gesprächs zur Qualitätsverbesserung aufgezeichnet werden“, dann sagen Sie ganz deutlich am Anfang des Gesprächs „Nein!“ und „Ich will nicht, dass Sie dieses Gespräch aufzeichnen!“.

Lernen Sie, „Nein“ zu sagen. Mit freundlicher, aber klarer Stimme.

Wir sagen „Nein“ zu Precire,

Herzlichen Glückwunsch zum BigBrotherAward 2019!