Laudatorin: Rena Tangens

Der BigBrotherAward 2019 in der Kategorie Kommunikation geht an die

Precire Technologies GmbH in Aachen

für ihre wissenschaftlich zweifelhafte, wahrscheinlich rechtswidrige und gefährliche Sprachanalyse.

Video der Laudatio auf media.ccc ansehen

Precire – haben Sie noch nie gehört? Das mag sein. Aber es ist möglich, dass Precire schon von Ihnen gehört hat.

Stellen Sie sich einmal vor, Sie hätten sich auf eine neue Stelle beworben. Und – juchhu! – die erste Hürde ist geschafft: Sie haben eine Einladung zum Interview – allerdings per Telefon.

Bitte beschreiben Sie den Ablauf eines typischen Sonntags.

Nanu, das ist nicht die Frage, die Sie am Anfang eines Job-Interviews erwarten.

Wie war Ihr letzter Urlaub?

Die Rückfrage: „Warum interessieren Sie sich dafür?“ ist sinnlos. Denn erstens wird dieses Telefon-Interview von einem Computer geführt, zweitens interessiert der sich überhaupt nicht für Sie, und drittens interessiert sich auch die Firma, die hinter diesem Job-Test per Telefon steht, nicht für den Inhalt Ihrer Antworten. Der Computer am Telefon will einfach nur eine Sprechprobe von Ihnen – und dafür muss er Sie dazu bringen, 15 Minuten über irgendwas zu reden.

Was macht Ihnen in Ihrem aktuellen oder erlernten Beruf am meisten Freude?

Hm, der Kontakt mit Menschen?! Scherz. Aber es geht wie gesagt nicht darum, was Sie sagen, sondern wie Sie es sagen. Precire, das ist die Firma, mit deren Telefonstimme Sie da sprechen, behauptet, dass die Stimme jedes Menschen so unverwechselbar sei wie seine DNA. Und Precire behauptet, dass sie aus einer 15-Minuten-Stimmprobe den Charakter eines Menschen erkennen könnten und wie geeignet er oder sie für den Job ist.

Precire zerlegt dafür die aufgenommene Sprachprobe in angeblich über 500.000 Bestandteile und analysiert alles Mögliche: Stimmhöhe, Lautstärke, Modulationsfähigkeit, Sprechtempo und Rhythmus. Dazu die Häufigkeit der Wörter, die Länge der Sätze, die Länge der Pausen, wie verschachtelt die Sätze sind, wie viele Füllwörter und wie oft „man“ oder „ich“ verwendet werden, wie variabel die Stimme ist und die Akustik. Und der Computer beurteilt auch gleich, ob die Sprache emotional oder wissenschaftlich, zurückhaltend oder direkt ist. Dafür vergleicht Precire die gefundenen Sprachmuster mit denen von Testpersonen aus ihrem Datenpool. Und dann schlägt Precire Ihnen kurzerhand die Psychotest-Ergebnisse von ähnlich klingenden Testpersonen zu - und schließt daraus auf Ihren Charakter.

Als Ergebnis kommen dann Beurteilungen heraus wie die für die freie Journalistin Eva Wolfangel, die Precire im Selbstversuch getestet hat: Sie sei extrem neugierig (8 von 9), glücklicherweise auch sehr verträglich (ebenfalls 8), kontakt- (7) und risikofreudig (6) - doch gleichzeitig attestiert ihr das System einen „distanzierten Kommunikationsstil“, sie sei „wenig unterstützend“.1

Mal so, mal so, einerseits, andererseits. Klingt wie das Wochenhoroskop auf einer Kreuzworträtsel-Seite. Hier eine kleine Kostprobe aus solchen Horoskoptexten:

Du wünschst dir, dass deine Mitmenschen dich mögen, und dennoch tendierst du zu Selbstkritik.“ Oder „Manchmal haben Sie ernste Zweifel, ob Sie die richtige Entscheidung getroffen haben.“ Und besonders schön: „Du bist intelligent und lässt dir nicht so schnell etwas vormachen.“

Solche Texte sind trivial und ein bisschen schmeichelhaft, ein bisschen kritisch formuliert. Da ist immer für jeden was dabei, was zutrifft. Viele Menschen fühlen sich davon angesprochen und denken „Da ist was dran!“ Wissenschaftlich heißt dieses Phänomen auch „Barnum-Effekt“2 – nach dem großen Zirkus.

Precire dagegen behauptet, ihr Verfahren sei wissenschaftlich abgesichert3. Und winkt mit einer Buchveröffentlichung im wirtschaftswissenschaftlichen Springer Gabler Verlag.

Wissenschaftlich?

Doch von seriöser Wissenschaft kann hier keine Rede sein, rügt Dr. Uwe Kanning, Professor für Wirtschaftspsychologie an der Hochschule Osnabrück in seiner Buchrezension4. Er argumentiert, es existiere keine unabhängige Forschung zum Thema, der Algorithmus sei eine Blackbox und Geheimnis des Anbieters. Die vorhandenen Studien haben keine eigenen Zahlen erhoben, sondern sind Masterarbeiten, die sich auf die Daten stützen, die Precire ihnen zur Verfügung gestellt hat. Andere Studien werden – auch auf Nachfrage – beharrlich nicht rausgerückt. Das bemängelt auch die freie Journalistin Bärbel Schwertfeger.5

Wir halten fest: Es gibt keine Belege für den direkten Zusammenhang zwischen Sprachparametern und beruflicher Leistung. Und es gibt keine Belege dafür, dass die so erstellten Prognosen irgendeine Aussagekraft für die zukünftige Leistung der Bewerberinnen und Bewerber haben.6

Die Sprachanalyse von Precire findet zumeist keine Kausalitäten – sondern nur Korrelationen. Und die können völlig zufällig sein. Da könnte ebenso nach Sternzeichen entschieden werden. Oder nach Schuhgröße. Übersetzt heißt das: Wenn der Computer herausfinden würde, dass in der Vergangenheit die drei erfolgreichsten Mitarbeiter Schuhgröße 44 hatten, dann würde er Ihnen in Zukunft auch nur Menschen mit Schuhgröße 44 als Führungspersonal vorschlagen.

Seit 2015 berichten die Medien immer mal wieder über Precire, mit wenigen Ausnahmen7 meist mit dem Tenor: „Schau mal an, was für faszinierende Technik es heutzutage gibt!“ Manchmal spürt man ein leichtes Gruseln, doch kaum ein Journalist stellt wirklich kritische Fragen und verlangt z.B. Zugang zu den Studien, die die Wissenschaftlichkeit von Precire angeblich belegen, die aber nicht öffentlich sind.

Und niemand spießt mal die zahlreichen Widersprüche auf: So sagt Precire, dass Psychotests nicht aussagekräftig seien, weil die Probanden ja ahnten, welche Antworten erwünscht seien. Und dann verwendet Precire selbst als Grundlage einen Datenpool mit Sprachproben von tausenden von Probanden – deren Charakter mittels Psychotest ermittelt wurde. Anders gesagt: Ihr Algorithmus versucht die Ergebnisse von Psychotests nachzubilden. Und niemand fragt nach, warum einerseits von einer „unveränderlichen Sprach-DNA“ die Rede ist, Precire aber andererseits selbst eine App zum Trainieren der Sprache anbietet8. Personalentwicklung durch Sprachtraining ist nämlich der zweite Geschäftsbereich von Precire. Die vorgebliche „DNA“ scheint also doch nicht so unveränderlich zu sein …

Die Teilnahme an so einer Sprachanalyse ist freiwillig – Bewerberinnen und Bewerber können nicht zum Telefoninterview mit dem Computer gezwungen werden. Das gilt auch mit der seit 2018 geltenden europäischen Datenschutzgrundverordnung (DSGVO), hier konkret Artikel 7 Absatz 4 (Freiwilligkeit bei der Einwilligung). Doch hey – wie weit ist es her mit der Freiwilligkeit, wenn jemand einen Job unbedingt haben will?

Und wer setzt Precire nun ein? Angeblich mehr als 100 Firmen in Deutschland. Einige sind bekannt: der Personaldienstleister und Zeitarbeitsvermittler Randstad, der Versicherungskonzern HDI und auch die Gothaer Versicherung, der Transport-Riese Fraport, das Handelsblatt, die Unternehmensberatung KPMG, der Stromversorger RWE, die Krankenkasse DAK, die Hotelgruppe Accor, IBM und Mobilfunkanbieter Vodafone.

Warum um Himmelswillen machen Firmen so etwas?

Weil es modern ist, und weil sie glauben, dass es sie entlastet. Einerseits von der Vorauswahl, andererseits von der Entscheidung. Der Computer ist schnell, da gibt es Zahlen. Und Zahlen sind Fakten, und der Computer ist objektiv. Oder etwa nicht?

Objektiv?

Thomas Belker, bisher Personalvorstand des Talanx-Versicherungskonzerns - Talanx ist Kunde von Precire -, ist von der Effizienz überzeugt. So überzeugt, dass er zum 1. Mai 2019 zu Precire gewechselt ist als neuer Geschäftsführer. Er meint, das Programm spare nicht nur Zeit und Geld – es sei auch objektiver und deswegen fairer. Zitat: „Die Maschine kennt unbewusste Vorurteile, die jeder Mensch hat, nicht. Ihr ist es egal, ob jemand Mann oder Frau ist oder welche Hautfarbe er hat.“ 9

Dirk Gratzel, Mitgründer von Precire, behauptet: „Eine Maschine ist weniger fehleranfällig als ein Recruiter. Eine Maschine kann nur objektiv.10

Das ist eine äußerst naive Sicht der Dinge. Computer „verstehen“ uns nicht. Das dürfen wir aber nicht mit Neutralität verwechseln. Computerprogramme sind auch voreingenommen, denn sie werden von Menschen programmiert. Menschen, die ihre eigenen Wertvorstellungen für selbstverständlich halten und in die Software mit einfließen lassen. Menschen mit bestimmten Fragestellungen, Zielen und Motiven. Und vor allem wird die Software mit einer ausgewählten Personengruppe als Referenz trainiert, die dann bestimmt, was als „normal“, gut oder schlecht gilt.

Precire bietet auch einen Service für die Analyse von geeigneten Führungspersonen. Die Theorie: Wer ähnlich klingt wie ein DAX-Manager, könnte als Chef geeignet sein. Als Grundlage dafür wurden Stimmproben von Managern von 30 DAX-Unternehmen ausgewertet. Die haben den Zirkus mit dem Telefoninterview natürlich nicht mitgemacht. Stattdessen hat Precire kurzerhand Reden der Vorstandsmitglieder aus Youtube als Material verwendet. Nicht nur methodisch zweifelhaft. Uwe Kannings, Professor für Wirtschaftspsychologie an der Hochschule Osnabrück, schreibt in einem launigen Kommentar: „Die Stärke dieser Studie liegt in ihrem Unterhaltungswert.“ 11

Wissenschaftlichkeit hin oder her: Schlimm sind die Folgen, wenn das Verfahren nun tatsächlich zur Auswahl von Führungspersonen eingesetzt wird. Wie im Precire-Werbe-Video zu sehen: „Sie suchen jemanden, der zu Ihrem Team passt“ – im Bild zu sehen: Mann mit grauem Anzug und roter Krawatte, der – na was wohl – einen anderen Mann in grauem Anzug und roter Krawatte als neuen Mitarbeiter begrüßt.12

Laut einer Untersuchung von 2019 gibt es in Deutschland mehr Chefs, die Michael heißen als Frauen (egal welchen Namens). Dasselbe gilt übrigens auch für Thomas, Andreas, Peter und Christian.13

Mehr Diversität in Firmenvorständen? Wird so ganz sicher nicht erreicht. Denn solche Auswahlverfahren nach Ähnlichkeit führen dazu, immer weiter „mehr desselben“ einzustellen. Nur jetzt verbrämt mit dem Mäntelchen der künstlichen Intelligenz.

Bei Menschen ist klar, dass der „human factor“ eine Rolle spielt. Die Voreingenommenheit per Algorithmus ist gefährlicher. Denn sie wird nicht erkannt, solange wir das Märchen vom „objektiven Computer“ glauben.

Precire reitet auf dem Trend, Sprachanalyse zur Ausforschung und Klassifizierung von Menschen zu verwenden und der „Künstlichen Intelligenz“ magische Urteilskräfte zuzuschreiben. Unbewusster Nebeneffekt: Vorurteile werden durch Reinigung in der Algorithmen-Waschmaschine ganz unauffällig wieder salonfähig gemacht. „Hat der Computer so ausgewählt. Wir wissen nicht, warum.“

Aber nicht alle Firmenchefs können sich mit der Personalauswahl per Computer anfreunden. Sebastian Saxe, IT-Vorstand der Hamburg Port Authority (das ist die Zentralverwaltung der Hamburger Hafenbehörden), sagt: „Ich bin ein Freund der Digitalisierung. Aber wenn wir unter den Bewerberinnen und Bewerbern eine Vorauswahl mit Software treffen würden, würden wir Leute mit Ecken und Kanten, die letztlich gut zu uns passen, nie zu Gesicht bekommen.“14

Danke für diese klaren Worte.

Callcenter

Vielleicht dachten Sie bis hierher „Diese Technik ist fies – aber ich bin ja nicht auf Job-Suche, also betrifft mich das nicht“. Falsch gedacht, denn nun kommen wir zum dritten Geschäftsbereich von Precire: Der Einsatz der Sprachanalyse im Callcenter.

Wie funktioniert das? Offenbar zeichnen Callcenter die Sprache von Anrufern auf, leiten sie an einen Server von Precire weiter und lassen sie dort in Echtzeit analysieren. Und Precire schlägt dann dem Callcenter-Agenten vor, wie er oder sie weiter vorgehen soll. Das ist, als ob die ganze Zeit ein Psychologe im Ohr des Callcenter-Agenten sitzt, mithört und ihm live einflüstert, was er als nächstes sagen oder anbieten soll. Die Software soll zum Beispiel erkennen: Ist die Kundin so sauer, dass sie kündigen will, oder will sie nur einen Rabatt rausschlagen? Precire preist an:

Beschwerden sind unbewusste, emotionale Sprache pur, eine einmalige Datenquelle und hervorragende Chance, Ihre Kundenbindung dauerhaft zu vertiefen.“
„Durch eine direkte IT-Anbindung analysiert PRECIRE eingehende Beschwerden, erkennt psychologische Muster (…) und liefert Hinweise und Auffälligkeiten an die Entscheider.“
„Dabei lernt unser System – im Fall der next-best-action-Empfehlung – selbst mit jedem Nutzer dazu („Künstliche Intelligenz“) und hilft Ihnen, die vorhanden Sprachdaten Ihrer Kunden in einen echten Mehrwert zu wandeln.“
15

Auch hier klingt der Marketingsprech von Precire übertrieben. Doch anders als bei der Vorhersage, ob jemand für einen Job geeignet ist, ist es durchaus möglich, dass die Sprechanalyse etwas über die Anrufenden herausfinden kann, z.B. die Herkunft über den Dialekt, Emotionen, Unsicherheit, Stress.

Seit 2014 schon bewirbt Precire seine Dienste im Callcenter-Bereich. Die Firma ist passenderweise 2016 Mitglied im Callcenter Verband und auch beim Deutschen Dialogmarketing Verband16 geworden. Sie hält sich aber merkwürdig bedeckt, konkret Auskunft über Callcenter in Deutschland zu geben, die die Sprachanalyse der Anrufenden schon im Einsatz haben. Was da alles denkbar ist, beantwortet ein Zitat von Precire-Gründer Dirk Gratzel: „Wir können alles beantworten, was von unseren Kunden gewünscht wird.“ Zum Beispiel: „Was verrät die Sprache eines Kunden über ihn?“, „Ist dieser Krankenversicherte depressiv?“, „Lügt dieser Versicherte, wenn er eine Schadensmeldung absetzt?“17

Dieser Einsatz von Sprachanalyse im Callcenter ist nicht nur unethisch – er ist illegal: Er verstößt gegen das Telekommunikationsgeheimnis und verletzt die Vertraulichkeit des gesprochenen Wortes (§ 201 StGB). Das ist strafrechtlich besonders sanktionierbar.

Es wird Zeit, dass sich jemand aufrafft, ein Verfahren einzuleiten. Die Landesdatenschutzbeauftragte von NRW zum Beispiel. Und die jeweils zuständigen Aufsichtsbehörden sollten auch die Precire-Konkurrenz, nämlich die Startups „100 Worte“ aus Heilbronn und „Audeering“ aus München mal unter die Lupe nehmen.

Emotions- und Motivationserkennung per Sprachanalyse ist gefährlich, denn sie kann ohne unser Wissen irgendwo im Hintergrund passieren, wann immer wir sprechen. Diese Art der Sprachanalyse ist geradezu darauf angelegt, uns zu übervorteilen. So werden die einzelnen Menschen immer ohnmächtiger und unangreifbare Macht wandert immer mehr zu großen Konzernen, Versicherungen, Banken und staatlichen Stellen, die Zugriff auf unsere Daten und solche Technologie haben.

Deshalb fordern wir den Gesetzgeber auf: Die Anwendung von Sprachanalyse und „künstlicher Intelligenz“ zur Charakter-, Emotions- und Motivationserkennung muss verboten werden!

Wenn Sie, liebes Publikum, das nächste Mal bei einem Callcenter anrufen und Sie bekommen die Ansage, dass „Teile des Gesprächs zur Qualitätsverbesserung aufgezeichnet werden“, dann sagen Sie ganz deutlich am Anfang des Gesprächs „Nein!“ und „Ich will nicht, dass Sie dieses Gespräch aufzeichnen!“.

Lernen Sie, „Nein“ zu sagen. Mit freundlicher, aber klarer Stimme.

Wir sagen „Nein“ zu Precire,

Herzlichen Glückwunsch zum BigBrotherAward 2019!


1 Quelle: Riffreporter, Eva Wolfangel: "Google, wird meine Ehe halten?" https://www.riffreporter.de/vr-reporterin/kuenstliche-intelligenz-psychologie/

2 Barnum-Effekt / Forer-Effekt. https://de.wikipedia.org/wiki/Barnum-Effekt

3 Precire Webseite: „Die wissenschaftliche Fundierung von Precire ist das Kernstück der Technologie: Zahlreiche Validierungsstudien (intern, extern) sichern das Verfahren ab.“ Zitiert nach Wirtschaftspsychologie aktuell, 6. November 2017: Ärger des Monats - Algorithmische Verirrungen https://www.wirtschaftspsychologie-aktuell.de/aerger/aerger-20171106-baerbel-schwertfeger-algorithmische-verirrungen.html

4 Uwe P. Kanning: Sprachanalyse: eine neue Methode der Personalauswahl? https://www.haufe.de/personal/hr-management/sprachanalyse-eine-neue-methode-der-personalauswahl_80_453994.html

5 Personalmagazin, 12/2015. Von Bärbel Schwertfeger: Personalauswahl per Sprachtest. https://www.mba-journal.de/wp-content/uploads/2016/01/Sprachtest.pdf
Kommentar von Bärbel Schwertfeger unter https://blog.recrutainment.de/2016/05/11/persoenlichkeitsprofil-aus-der-analyse-von-sprache-einfach-nur-creepy-oder-die-technologie-von-morgen-interview-mit-mario-reis-von-psyware-und-britta-nollmann-von-randstad/
"Hallo, als Autorin des Artikels im Personalmagazin habe ich mich ausführlich mit Precire beschäftigt und war doch mehrmals sprachlos, wie man versucht hat, mich “zu überzeugen” und partout keine relevanten Daten herausrückte (Ein Wissenschaftler, der sich dafür interessierte, sollte sogar einen Knebelvertrag unterschreiben) – einschließlich einer wohl als Einschüchterung gedachten anwaltlichen Abmahnung VOR Erscheinen des Artikels (danach kam nichts). Zumindest ein seltsames Geschäftsgebaren! Aber immerhin ernte ich mit meinem Testergebnis schöne Lacherfolge bei Menschen, die mich gut kennen. Bärbel Schwertfeger"

6 Wirtschaftspsychologie-aktuell.de: https://www.wirtschaftspsychologie-aktuell.de/fachbuch/20180425-klaus-stulle-psychologische-diagnostik-durch-sprachanalyse.html

7 Ausnahmen z.B. Bärbel Schwertfeger im Personalmagazin, 12/2015: Personalauswahl per Sprachtest. https://www.mba-journal.de/wp-content/uploads/2016/01/Sprachtest.pdf
Eva Wolfangel bei den Riffreportern: Google, wird meine Ehe halten? https://www.riffreporter.de/vr-reporterin/kuenstliche-intelligenz-psychologie/

8 Precire-Coach auf dem Handy - "Wie wir sprechen, zählt: Als Coaching-App hilft PRECIRE, die eigene Sprache zu analysieren und das Ausdrucksvermögen zu trainieren." https://precire.com/people/#1543827472589-3-0

9 Quelle: Frankfurter Rundschau, 26.05.18 Künstliche Intelligenz - Vorstand von Computers Gnaden. Von Annika Leister. https://www.fr.de/wirtschaft/vorstand-computers-gnaden-10974824.html

10 Quelle: Spiegel Nr. 3, 12.1.2019. Von Martin U. Müller: Plaudernd zum Job

11 Quelle: Wirtschaftspsychologie-aktuell.de, 25. April 2018: Fachbuch im Fokus. Von Prof. Dr. Uwe Peter Kanning. Buchrezension zu Klaus P. Stulle (Hrsg.): Psychologische Diagnostik durch Sprachanalyse. Validierung der Precire-Technologie für die Personalarbeit. Wiesbaden: SpringerGabler 2018 https://www.wirtschaftspsychologie-aktuell.de/fachbuch/20180425-klaus-stulle-psychologische-diagnostik-durch-sprachanalyse.html

12 Werbevideo von Precire: https://www.youtube.com/watch?v=VCZzfTJRf-c

13 Quelle: Manager Magazin, 6.3.2015 Analyse zur Frauenquote Weniger Frauen in Vorständen als Männer, die Thomas heißen. Von Christoph Rottwilm. https://www.manager-magazin.de/politik/artikel/weniger-frauen-in-mdax-vorstaenden-als-maenner-namens-thomas-a-1022017.html
Gründerszene: Michaels, Thomasse und Andreasse dominieren die Gründerszene https://www.gruenderszene.de/perspektive/vornamen-ranking-handelsregister

14 Quelle: Computerwoche, 16.06.2016: Personalauswahl 4.0 - Wenn Software in die Seele des Bewerbers schaut. Von Michael Schweizer. https://www.computerwoche.de/a/wenn-software-in-die-seele-des-bewerbers-schaut,3312154

15 Diese Zitate stammen übrigens von der alten Website von Precire und sind heute nur noch über das Zeitreise-Tool Wayback Machine bei archive.org zu finden. Damals hieß Precire noch „Psyware“ und schrieb mehr Klartext. 2016 hat die Firma sich umbenannt – die Ähnlichkeit von „Psyware“ (Psycho-Software) und „Spyware“ (Spionage-Software) war ihnen vielleicht doch zu heiß … https://web.archive.org/web/20141011204314/http://www.psyware.de/de/precire-choice

16 News auf Precire Website vom 22.7.2016: Mitgliedschaften beim Callcenter Verband und beim Deutschen Dialogmarketing Verband. https://precire.com/de/2016/07/22/mitgliedschaften-beim-call-center-verband-deutschland-und-beim-deutschen-dialogmarketing-verband/ (nicht mehr aufrufbar, aber auf dieser archive.org-Seite ist die News sichtbar: https://web.archive.org/web/20160729215351/https://precire.com/de/start/)

17 Quelle: FAZ, 20.5.2015: Persönlichkeitsanalyse – Deine Sprache verrät dich. Von Katrin Hummel https://www.faz.net/aktuell/gesellschaft/menschen/software-erkennt-persoenlichkeit-mit-sprachanalyse-13596216.html?printPagedArticle=true#pageIndex_0

Category: 
Year: