Technikpaternalismus

• „Pieps“ – du hast den Wasserkocher eingeschaltet.
  „Pieps“ – du hast die gewünschte Temperatur des Wasserkochers verändert.
  „Pieps“ – du hast den Wasserkocher hochgenommen.
  „Pieps“ – du hast den Wasserkocher zurückgestellt auf die Basis.
  (Wer hat dem Wasserkocher eigentlich erlaubt, mich zu duzen? Also, strenggenommen spricht er ja nicht, aber ich höre es dem „Pieps“ deutlich an, dass er mich duzt.) Die Töne lassen sich weder abstellen noch leiser machen.
  Morgens Tee zubereiten, ohne den Liebsten mit dem Gepiepse zu wecken: Leider Fehlanzeige.

• Wir sind am Bahnhof. Eingefahren ist ein ICE 4.
  Dauergeräusch: Düpp Düpp Düpp Düpp Düpp Düpp Düpp Düpp Düpp Düpp.
  Das will uns sagen: „Hier ist eine Tür“, „Hier ist eine Tür“, „Hier ist eine Tür“ … – im Zweifelsfall eine Viertelstunde lang, wenn der Zug so lange in einem Bahnhof steht.
  Dann plötzlich auf Warntonfrequenz und mit über 70 Dezibel Lautstärke: Didididididididididididididi!
  Das soll heißen „Achtung Achtung: Diese Tür wird bald geschlossen. Schnell, schnell! Bringen Sie Ihre Arme, Beine, Koffer und Kinderwagen in Sicherheit, sonst wird es brutal.“
  Lautstärke und Frequenz signalisieren akute Lebensgefahr. Während die Türen von ICE 1 bis 3 freundliche Signaltöne haben, versetzt der neue ICE 4 die Fahrgäste in sofortige Alarmbereitschaft und verursacht erhöhte Herzschlagfrequenz. Und zwar bei allen, nicht nur bei denen, die ein- oder aussteigen wollen.

Das Piepsen nervt. Aber darum geht es nicht. Es geht um das Phänomen, das dahinter steckt.

Dieser BigBrotherAward 2024 geht an einen Trend. Der Trend heißt „Technikpaternalismus“.

Haben Sie noch nie gehört?

Genau deshalb geben wir diesem Phänomen – dem Technikpaternalismus – jetzt einen BigBrotherAward. So erkennen Sie ihn in Zukunft, wenn Sie ihm begegnen.

Sarah Spiekermann und Frank Pallas haben 2005 den Begriff Technikpaternalismus geprägt.¹ Das Wort „Paternalismus“ kommt von lateinisch „pater“, also Vater.

„Paternalistisch“ nennt man Handlungen, die auf das vermeintliche Wohl von anderen ausgerichtet sind, aber oft gegen deren Willen.

Beim „Technikpaternalismus“ hat die Technik die Rolle des Pater familias übernommen, der alles besser weiß und uns ständig sagt, was wir tun und was wir lassen sollen. Ist doch zu unserem eigenen Besten … Technikpaternalismus ist die freundliche Belagerung mit guten Vorschlägen. Und dieses Phänomen hat gerade richtig Konjunktur.

Technikpaternalismus kommt in verschiedenen Formen daher. Technik zeigt dabei unterschiedlich unangenehme Eigenschaften:

1. Das Übergriffige, Bevormundende, Nervige, Aufdringliche

• Das sind zum Beispiel die Türengeräusche beim ICE 4 und inzwischen auch bei etlichen Nahverkehrszügen, z.B. der S-Bahn in München. Warum installieren die DB und die Waggonbaufirma Alstom solch nervende Lärmquellen? Natürlich nur zu unserem Besten.
  Meine Recherche ergab: Bei der Bahn beruft man sich auf eine EU-Verordnung namens TSI PRM², die Sehbehinderten die Nutzung der Bahn erleichtern soll. Das ist selbstverständlich ein richtiges und wichtiges Anliegen. Allerdings schlecht umgesetzt, denn Blinde brauchen keine lauten Töne. Im Gegenteil: „Diese Türsignale sind einfach zu laut“ und „Wenn es im ganzen Bahnhof laut piepst, können wir uns nicht mehr orientieren“, sagt zum Beispiel der Vertreter einer Schweizer Blindenorganisation. Möglicherweise hat man bei der Bahn und bei Alstom die EU-Verordnung schlicht missverstanden, mutmaßt ein Sprecher von Pro Bahn, denn die EU-Verordnung schreibt gar keine 70 Dezibel Lautstärke vor – sie ist da flexibel: 5 Dezibel mehr als die Umgebung reicht aus.

Eine weitere unangenehme Eigenschaft von Technikpaternalismus:

2. Das Kleinliche, Rechthaberische, Unflexible, Gnadenlose

• Das ist zum Beispiel der Videoassistent beim Fußball. Kaum ein Spielzug kann zu Ende gespielt werden ohne zentimetergenaue Vermessung von Abseitspositionen und Entlarvung von eventuellem Handspiel.³ Es drängt sich der Eindruck auf, dass die Spieler nur noch Spielfiguren eines Online-Spiels sind – immerhin mit ziemlich guter Grafik.

• Das Übergriffige, Bevormundende stört uns aktiv und geht uns auf die Nerven.

• Das Kleinliche, Gnadenlose führt uns ständig unsere menschliche Unvollkommenheit vor Augen und setzt uns unter Druck.

Doch es gibt auch noch eine dritte Darreichungsform von Technikpaternalismus, die erstmal ganz freundlich daherkommt:

3. Das Unauffällige, Bequeme, glatt Funktionierende – das wirklich Gefährliche

• Das ist die gefährlichste Form des Technikpaternalismus. Denn es

  lässt uns das gönnerhafte auf den Kopf Tätscheln – „mach dir mal nicht so viele Gedanken, Papa regelt das schon für dich“ – nicht so deutlich spüren. Es macht alles ganz einfach.

• 2013 haben wir Google einen BigBrotherAward verliehen.⁴ In der Laudatio damals habe ich die Chefs von Google selbst zu Wort kommen lassen. Hören wir uns ihre Zukunftsvisionen noch einmal an, denn die kommen näher: Zitat Eric Schmidt, Ex-CEO: „Wenn Sie mit Google suchen, bekommen Sie mehrere Ergebnisse. Das ist ein Fehler. Google sollte Sie so gut kennen, dass wir nur genau das eine Ergebnis anzeigen, das Sie gemeint haben.“ Da kommen wir doch ins Grübeln, was Google alles über uns wissen muss, um das eine, richtige Ergebnis anzuzeigen. Und dann sollten wir uns fragen, warum wir Google vertrauen sollten, dass es wirklich das für uns richtige Ergebnis auswählt – und nicht das für Google lukrativste.

• Das Telekom-KI-Phone ohne Apps
  Die Deutsche Telekom scheint an der Verwirklichung dieser Vereinfachungsvision zu arbeiten: Gemeinsam mit dem StartUp Brain.ai hat sie im Februar 2024 auf dem Mobile World Congress in Barcelona ihren Prototypen eines ersten KI-Smartphones⁵ vorgestellt, das zukünftig ganz ohne Apps laufen soll. Ohne Apps? Juchhu! Für einen Moment freuen wir uns, dass die Flut an immer neuen Apps ein Ende haben soll. Aber wie soll dieses Smartphone funktionieren? Nun, auf dem Telekom-Smartphone läuft ein Android-Betriebssystem und eine KI-Anwendung namens „Natural“. Mit Natural können wir in natürlicher Sprache kommunizieren – per Sprachbefehl. Als Beispiel wird gezeigt „Buche mir einen Flug nach Barcelona für Datum x, buche ein Hotel und für den Abend ein gutes Restaurant.“ Klingt verlockend, denn wer hat schon Lust, seine Zeit mit der Suche auf Flugreisen- oder Hotelportalen zuzubringen? Statt Webseiten durchsuchen per Browser entscheidet nun die KI für uns, was wir zu sehen bekommen. Sehr bequem. Aber was versteht die KI eigentlich unter einem guten Restaurant? Eines mit vielen Empfehlungen – die möglicherweise gekauft sind? Oder ein Restaurant, das ganz direkt Geld für Werbung an die künftigen KI-Anbieter zahlt? Denn die Finanzierung der Informationen ist unklar.

• Alle von der Telekom gezeigten Beispiele haben übrigens irgendwas mit Kaufen zu tun. Kommen wir mal zu den anspruchsvolleren Fragen, die über Konsum hinausgehen: Wie finde ich mit diesem KI-Smartphone die Nachrichten des Tages, spannende Texte über Politik, Technik und Gesundheit und wie finde ich wichtige Informationen vor der nächsten Bundestagswahl? Auch hier gibt das KI-Phone bestimmt eine Antwort. Aber aus welchen Quellen schöpft es die Ergebnisse? Die Telekom sagt: „Die Nutzer können sich auf das konzentrieren, was sie wollen, statt darauf, wie sie es erhalten.“ Das klingt wirklich sehr bequem. Aber es hört sich auch ein bißchen an nach dem Technikpaternalismus-Motto „Da zerbrich dir mal nicht deinen hübschen Kopf, Papa macht das schon für dich.“

• Die unauffällige Form des Technikpaternalismus fragt nicht mehr; das Vertrauen wird nicht thematisiert – die Technik ist einfach da und funktioniert. Irgendwie. Wie? Das wissen wir nicht.

Die Zukunftsvisionen von Big Tech

• Noch ein Zitat von Eric Schmidt: „Ich glaube, dass die meisten Menschen gar nicht wollen, dass Google ihre Fragen beantwortet. Sie wollen, dass Google ihnen sagt, was sie als nächstes tun sollen.“ Diese Art Zukunftsvisionen sind darauf angelegt, uns zu entmündigen. Oder, wenn wir mit dieser Technik aufwachsen, uns gar nicht erst mündig werden zu lassen.

• Das lassen wir uns alle nicht gerne sagen, denn wir halten uns für aufgeklärt und nicht manipulierbar. Allerdings kann sich die Aufklärung auch in die umgekehrte Richtung entwickeln. Wie Leena Simon in ihrem Buch⁶ schreibt – frei nach Kant: „Technikpaternalismus ist die selbstverschuldete Rückkehr des Menschen in die Unmündigkeit“.

Bequemlichkeit hat gefährliche Folgen: Wie wir Fähigkeiten verlernen und was das bedeutet

Bequemlichkeit führt dazu, dass wir viele eigene Fähigkeiten gar nicht erst entwickeln. Und Fähigkeiten, die wir zwar haben, aber nicht üben, verlernen:

• Wer sich stets vom Navi leiten lässt, lernt nicht mehr, Stadtpläne und Landkarten zu lesen. Viele sagen: Ist doch nicht schlimm – brauche ich auch gar nicht. Aber wer nur noch den Richtungsbefehlen des Navis folgt, entwickelt auch nicht mehr die ungefähre Übersichtskarte im Kopf, die eine Orientierung ohne Hilfsmittel zulässt. Da kann es mit einem Mobilphone ohne Strom in einer fremden Stadt oder ohne Mobilfunknetz in den Bergen echt unangenehm werden.

• Wer sich immer auf das Smartphone als Führer verlässt, verlernt es, andere Menschen anzusprechen.

• Wer die Informationen über das Tagesgeschehen nur noch aus Social Media bezieht und von Kurznachricht zu Kurznachricht, von Überschrift zu Überschrift, von Video zu Video hüpft, verliert die Fähigkeit, sich auf längere Texte mit Tiefgang zu konzentrieren.⁷

Je weniger Überblick wir selber haben, desto anfälliger werden wir für Manipulation. „Schau hierhin, geh dorthin, kauf das da.“ Hintergrundtext: „Wir kennen dich so gut, dass wir das alles für dich entscheiden können.“

Beim Technikpaternalismus geht es aber nicht nur um unsere individuellen Nachteile. Es geht darum, wie Technikpaternalismus unsere Gesellschaft pervertiert. Bei einem Gerät wie dem App-losen KI-Phone der Telekom sollten wir deshalb nicht nur die Bevormundung und Lenkung der einzelnen Nutzenden als Gefahren sehen. Sondern auch den Schaden, der allen Kreativen entsteht, deren Werke damit ausgebeutet werden und die dabei selber unsichtbar gemacht werden.⁸ Den Schaden, der Medien entsteht, deren Websites nicht mehr gefunden werden und die den Bach runter gehen. Den Schaden, den wir alle durch noch mehr Desinformation erleiden, die aus undurchsichtigen Quellen finanziert wird. Den Schaden für kleine Firmen, die schon heute ihre Produkte bei Amazon listen lassen müssen, um noch gefunden zu werden, und die sich in Zukunft wohl den KI-BigTech-Unternehmen werden andienen müssen.

Websites – das sind derzeit noch die Orte im Netz, die außerhalb der kommerziellen Plattformen stehen und die ermöglichen, auch unabhängig von BigTech-Firmen eigene Inhalte zu veröffentlichen. Ob sie einfach gefunden werden, entscheiden schon jetzt Suchmaschinen. Websites werden in Zukunft aber möglicherweise komplett bedeutungslos, wenn niemand mehr einen Browser auf seinem / ihrem mobilen Gerät hat. Der Flaschenhals⁹, zu dem die Verbindung zwischen Anbieter- und Nutzer.innen-Seite geworden ist, wird noch einmal enger.

Über all diese Folgen hat sich die Telekom im Zusammenhang mit ihrem App-losen Smartphone offenbar bisher keine Gedanken gemacht. Big Tech schon. Goldman Sachs schreibt im August 2024 in einer Analyse mit seltener Klarheit: Die gigantischen KI-Investitionen müssen sich lohnen für die Big Tech Unternehmen. Und die erste Idee, die dazu aufkommt: Menschen an Plattformen binden, um sie mehr gezielter Werbung auszusetzen.¹⁰

Der vorgebliche Butler schwingt sich unversehens zum Patriarchen auf und kommandiert Sie herum. Verdammt – Sie haben ihn selber in Ihr Haus gelassen!

Aber: Wir müssen das nicht tun. Technik ist menschengemacht. Sie wird von Menschen entwickelt nach den Vorgaben von Big Tech. Hinter den Algorithmen stecken Menschen mit Machtinteresse und einem Business-Plan.

Wir haben es in der Hand, andere Technik zu fordern, Monopole aufzubrechen und die Rahmenbedingungen anders zu gestalten. Lobbycontrol und Rebalance Now haben gemeinsam mit anderen Organisationen ein Whitepaper erarbeitet, das beschreibt, wie das gelingen kann.¹¹ „Beyond Big Tech“ ist ein Langfrist-Projekt, das Mut und Hartnäckigkeit erfordert.

Klar ist: Es geht nicht nur um philosophische Fragen – es geht knallhart darum, welche Technik wir in Zukunft nutzen, wer bestimmt, was darin passiert, wie wir arbeiten und kommunizieren werden und ob und wie unsere Gesellschaft funktionieren wird.

Um erwachsen zu werden, müssen wir von zu Hause ausziehen, Verantwortung übernehmen. Das heißt: kochen, den Müll rausbringen, selbst daran denken, eine Regenjacke einzupacken – oder eben fröhlich nass werden. Es heißt: eigene Entscheidungen treffen, eigene Fehler machen und lernen, sie zu vermeiden – oder auch sie beim nächsten Mal absichtlich wieder zu machen.

Es ist unsere eigene Faulheit, die den Aufstieg des Technikpaternalismus befördert. Wenn wir nicht wollen, dass Technik die Rolle des allwissenden Papas übernimmt, wenn wir nicht in die Unmündigkeit zurückfallen wollen, dann wird es unbequem – aber auch wild, süß und aufregend.

Diese Freiheit nehmen wir uns.

Danke, dass du uns mit dem einen oder anderen „Piep!“ daran erinnerst, lieber Technikpaternalismus.

Herzlichen Glückwunsch zum BigBrotherAward!