Laudator: Peter WeddeVideo der Laudatio

Der BigBrotherAward 2021 in der Kategorie Hochschulen geht an die

Proctorio GmbH in München-Unterföhring

für ihre KI-basierte Prüfungssoftware, die auch Proctorio heißt.

Der Name Proctorio leitet sich aus dem englischen Wort „Proctoring“ ab, das sich mit „beaufsichtigen“ übersetzen lässt. Proctorio geht es um „Online-Proctoring“, das heißt um die Beaufsichtigung von Prüflingen im Hochschulbereich per Internet.

Mit Blick auf dieses Geschäftsmodell war der Ausbruch der Corona-Pandemie Anfang 2020 für die Firma aus Marketingsicht ein absoluter Glücksfall: Lehrende mussten aufgrund umfassender Lockdown-Maßnahmen und „Shutdowns“ geplante Präsenzprüfungen von einem Tag auf den anderen einstellen. Anreisen zu Klausuren mit öffentlichen Verkehrsmitteln stellten ebenso eine Gesundheitsgefahr dar wie der stundenlange Aufenthalt in einem Hörsaal. Studierende machten sich berechtigte Sorgen um die Fortsetzung oder um den Abschluss ihres Studiums.

In dieser Situation wurden funktionierende technische Möglichkeiten für die Durchführung von Online-Prüfungen fast schon ebenso herbeigesehnt wie ein wirksamer Impfstoff gegen das SARS-CoV-2-Virus. Der optimale Zeitpunkt für das Angebot der Proctorio Software, die „vollautomatische und sichere Prüfungsaufsicht für Online Prüfungen“ ermöglichen soll, und die dabei laut Marketing-Text „skalierbar, kostengünstig und DSGVO-konform“1 ist. Die Software soll nach Aussagen auf der Firmenwebsite eine täuschungsgeschützte Durchführung von Online-Prüfungen in den eigenen vier Wänden von Studierenden mit deren eigenen Geräten ermöglichen, ohne dass noch eine unmittelbare menschliche Aufsicht notwendig ist.

Aber für welchen Preis?

Die Software Proctorio greift tief in die Integrität der privaten Geräte der Studierenden ein. Um an Prüfungen teilnehmen zu können, müssen sie die Software auf ihren Computern installieren und Proctorio für die Dauer einer Prüfung die Kontrolle über ihr Gerät überlassen.

Die Verwendung von Proctorio setzt zudem voraus, dass auf den Computern der Studierenden Google Chrome als Browser installiert ist. Dort werden von der Proctorio-Software zudem Drittanbieter-Cookies aktiviert, „um einen proaktiven Chat-Support“ anbieten zu können - über die US-amerikanische Firma OLARK.2

An einer Onlineprüfung teilnehmen kann nur, wer Proctorio den Zugriff auf seine Videokamera ermöglicht. Diese muss während der gesamten Prüfungszeit eingeschaltet sein. Prüfende können entscheiden, ob sie Studierende während der Prüfung persönlich beobachten, oder ob die Software dies für sie erledigt. Und die Prüfenden können Proctorio den Start von Anwendungen und Downloads blockieren lassen oder Erweiterungen und individuelle Einstellungen sperren. Sogar „Copy and Paste“ kann grundsätzlich unterbunden werden. Und wenn Prüfende das wollen, muss zu Beginn der Prüfung ein „Raum-Scan“ durchgeführt werden, bei dem Prüflinge der Videokamera ihren gesamten Arbeitsraum vorführen müssen. Dieser „Raum-Scan“ muss auf Aufforderung während der Prüfung wiederholt werden.

Und es kommt noch schlimmer: Hochschulen und Lehrende als potentielle Kunden werden von Proctorio mit dem Argument umworben, dass bei der Klausurdurchführung eine „vollautomatische Kontrolle“ möglich ist. Die Software wertet dafür die eingehenden Videoinformationen mit künstlicher Intelligenz aus und soll auf dieser Grundlage erkennen können, ob sich eine weitere Person im Raum aufhält.

Hinzu kommt eine von Proctorio als „Gesichtserkennung“3 bezeichnete Analyse der Augenbewegungen. Hierzu schreibt die Firma: „Das System erkennt Anomalien durch vermehrte Blicke in eine Richtung und markiert diese Vorfälle als potenziell verdächtig.“ 4 Weiter heißt es dort wenig später: „Das bedeutet nicht, dass sie bei Denkpausen nicht wegschauen dürfen. Solange sie keine Hilfsmittel verwenden, müssen sie keine Bedenken haben.“5 Wie gnädig, dass die Proctorio-Software Denkpausen erlaubt! Allerdings tragen die Studierenden auch hier das volle Risiko, falls die Software das doch irgendwie verdächtigt findet.

Im Automatikmodus wird das beobachtete Verhalten der Prüflinge mit den Mustern abgeglichen, die in der Software als „Normverhalten“ hinterlegt sind. Findet sie das beobachtete Verhalten in Ordnung – was immer das bedeutet – werden die vorhandenen Aufzeichnungen im Regelfall nach dreißig Tagen durch Proctorio gelöscht. Gibt es hingegen Auffälligkeiten, können die Prüfenden sich die entsprechenden Videos anschauen. Damit entscheidet im Automatikmodus allein die sogenannte „Künstliche Intelligenz“ von Proctorio darüber, ob ein Täuschungsverdacht besteht. Ganz selbstständig.

Derartige automatisierte Bewertungen des menschlichen Verhaltens sind immer bedenklich. Im Schul- und Hochschulbereich sollte die Aufhebung der Unschuldsvermutung durch Formen der „automatisierten Verdachtsbegründung“ schon mit Blick auf die hier verfolgten pädagogischen Ziele und auf die zu vermittelnden Grundwerte vollständig tabu sein.

Und für viele Studierende trägt es zur Erhöhung ihres persönlichen Klausurstresses bei, wenn sie stundenlang Auge in Auge mit einer Kamera arbeiten müssen, ohne zu wissen, ob ihr aktuelles Verhalten gerade den Argwohn eines Prüfers oder einer Software erregt.

Ich bin seit rund fünfundzwanzig Jahren Hochschullehrer und habe in dieser Zeit sehr viele Klausuren beaufsichtigt und viele mündliche Prüfungen abgenommen. Deshalb weiß ich, dass Prüfungs- und Klausursituationen für viele Studierende unabhängig vom fachlichen Leistungsstand sehr anstrengend und vielfach angstbesetzt sind. Bei einer Präsenzklausur können Prüfende Stress und Ängste von Studierenden oft durch ein paar freundliche aufmunternde Worte abbauen. Und ich finde es nie verdächtig, wenn jemand beim Nachdenken den Blick schweifen lässt - solange das Ziel nicht der Text von Sitznachbarn ist. Gleiches gilt in mündlichen Prüfungen, wo schnell zu erkennen ist, ob Studierende eine Antwort nicht wissen, oder ob ihnen vor Aufregung nur die Worte fehlen. Prüfende können in Präsenzsituationen Druck rausnehmen, Brücken bauen oder mit einer zulässigen Andeutung ermuntern. Eine Maschine kann hingegen nur Algorithmen abarbeiten und erkennt nicht, ob jemand seinen Blick nachdenklich schweifen lässt oder mit der Intention, eine Lösung abzuschreiben.

Auf der Grundlage dieses Wissens hätte ich vor der Corona-Pandemie der massenhaften Durchführung von beaufsichtigten Online-Klausuren ebenso wie viele meiner Kolleginnen und Kollegen vehement widersprochen. Dass wir trotz großer grundsätzlicher Bedenken in dieser besonderen Situationen Online-Klausuren zugelassen haben, heißt aber nicht, dass das jetzt ein Normalfall geworden ist. Für alle Standardfälle müssen Hochschulen „nach Corona“ wieder zurück zu Präsenzsituationen kommen. Und wo Online-Klausuren oder Online-Prüfungsgespräche sinnvoll sind, müssen sie unter der Aufsicht von Menschen stattfinden, die Blicke nicht nur erfassen, sondern auch verstehen können.

Eine Software wie Proctorio hat kein Verständnis für Studierende, sondern prüft, ob ihr Verhalten dem entspricht, das andere Menschen als „normal“ definiert haben. Studierende in den USA, wo Proctorio an einer Reihe Hochschulen im Einsatz ist, berichteten in der Washington Post6, das Programm habe bereits Verdacht geschöpft, wenn sie während einer Prüfung ungewöhnlich oft den Kopf, die Augen oder die Maus bewegt haben. Verdächtig war auch, dass sie „zu oft“ gescrollt, geklickt oder Fenstergrößen verändert hatten. Was immer diese Erkenntnisse auch aussagen sollen. Als „abweichend“, „abnormal“ und „auffällig“ hat die Software auch bewertet, dass Studierende früher oder später als andere fertig waren. Manche Studierende haben berichtet, dass sie sich aus Angst, dafür einen Betrugsversuch vorgeworfen zu bekommen, nicht getraut hätten, den Raum für eine Toilettenpause zu verlassen. In ihren eigenen vier Wänden.

Und wer zudem das Pech hatte, die Prüfung in einem Raum durchzuführen, in dem es viele Außengeräusche, eine langsame Internetverbindung, schlechtes Licht oder eine flackernde Kamera gab, über den generierte die Software ebenfalls einen Hinweis an die Prüfenden. Um derartige Einflussfaktoren auszuschließen, rät Proctorio Studierenden bezüglich der Auswahl eines geeigneten Raums in seinen „FAQ für Studierende“ übrigens: „Überlegen Sie sich im Vorfeld, welchen Raum Sie für die Prüfung verwenden möchten. Sie können Ihre Prüfung auch an einem Ort absolvieren, bei dem sie genügend Ruhe gewährleisten können (z. B. Büro).“7 Mit Blick auf die schwierige finanzielle Situation, in der viele Studierende sich seit Beginn der Pandemie befinden, ist das schon ziemlich zynisch.

In Normalzeiten wäre zu erwarten, dass Studierende gegen die Planung einer solchen „Rundum-Totalkontrolle“ protestieren und auf die Straße gehen würden. Aber wir haben eine Pandemie. Proteste und Versammlungen sind deshalb schwierig zu organisieren. Zudem geht es Studierenden verständlicherweise vor allem darum, mit ihrem Studium irgendwie voran und durch zu kommen. Da nehmen sie Online-Prüfungen in Kauf, zumal, wenn es keine Prüfungsalternativen gibt.

Aber vielleicht sind uns die Studierenden in den USA ja nur etwas voraus. Dort hagelte es Proteste bei Proctorio und in den sozialen Medien. In Deutschland erweckt hingegen unser Preisträger, die Proctorio GmbH in München, den Eindruck, Hochschulen, Lehrende und Studierende seien einhellig voll des Lobes. Glaubt man den Pressemitteilungen des Unternehmens, muss es Scharen von online-prüfwilligen Studierenden geben, die im Chor rufen „Aber das ist doch alles gut so. Dann werden doch ehrliche Studierende belohnt und die unehrlichen von der Software entdeckt.“

Ich will als Hochschullehrer auch gar nicht in Abrede stellen, dass Online-Klausuren von zu Hause aus für Studierende attraktiver und bequemer sein können als in einem Hörsaal in der Hochschule. Wer aber Online-Klausuren zum Standardfall macht, der nimmt in Kauf, dass Bildungsgerechtigkeit und Chancengleichheit auf der Strecke bleiben. Wer Online-Prüfungen in einem kleinen WG Zimmer auf seinem altersschwachen Notebook schreibt und dabei mit lauter Musik aus dem Nachbarzimmer beschallt wird, dessen Erfolgschancen sind in der Regel schlechter als die eines Studierenden, der über ein technisch gut ausgestattetes Arbeitszimmer in einer ruhigen Wohngegend verfügt. Dies gilt erst recht, wenn die Proctorio-Software genervtes Umherblicken oder laute Nebengeräusche verdächtigt findet und Prüfende veranlasst, hier noch einmal genauer hinzusehen.

Wir halten fest

  • Die Nutzung von Proctorio für die Beaufsichtigung von Online-Prüfungen führt zu einem schweren Eingriff in die Integrität der privaten Geräte der Studierenden.

  • Die permanente Videoüberwachung der Prüflinge während der Prüfungszeit ist ein schwerer Eingriff in ihre Privatsphäre und in ihre privaten Räume – insbesondere, wenn ein Raum-Scan stattfindet.

  • Die von der „KI“-Software durchgeführten automatischen Analysen ihres Verhaltens sind für die betroffenen Studierenden nicht transparent. Die allgemeine Unschuldsvermutung, die für alle Bürger gilt, wird durch die verwendeten Algorithmen und die hieraus folgende intransparente Kontrolle außer Kraft gesetzt.

  • Die Gestik und insbesondere Augenbewegungen werden permanent erfasst und ausgewertet. Die Software kann hieraus negative Schlussfolgerungen ziehen, was den Druck und den Stressfaktor für die Studierenden erhöht.

  • Online-Prüfungen zu Hause finden manche Studierende sicher angenehm. Sie gefährden aber aufgrund ungleicher Wohn- und Lebensverhältnisse die Chancengleichheit, die bei der Ablegung von „Präsenzprüfungen“ hergestellt werden soll.

  • Das Einsparpotential, das Proctorio für automatisierte Prüfungsaufsichten verspricht, macht die Software für kostenbewusste Hochschulen attraktiv. Diese Einsparung geht aber auf Kosten der Studierenden, die mit klassischen Präsenzprüfungen besser zurecht kommen als mit Online-Prüfungen unter den Augen einer Software.

  • Die Datenschutzkonformität ist schon deshalb zweifelhaft, weil belastbare Aussagen zur Rechtsgrundlage fehlen und eine „freiwillige Zustimmung“ der Studierenden in Prüfungssituationen wohl eher nicht gewährleistet ist.

Gründe genug für den BigBrotherAward in der Kategorie Bildung.

Herzlichen Glückwunsch, Protoctorio GmbH.

 

1 An der „DSGVO-Konformität“ gibt es zahlreiche berechtigte Zweifel:

So ist beispielsweise an die Abgabe einer wirksamen freiwilligen Einwilligung der Studierenden in die Verarbeitung ihrer Daten mit der Software Proctorio angesichts der bestehenden „Zwangsprüfungsituation“ nicht zu denken.

Die Verarbeitung personenbezogener Daten von Studierenden für Zwecke der „Produktentwicklung“ als Auftragnehmer (vgl. http://pruefungendaheim.de/wp-content/uploads/2020/10/Proctorio-GmbH-Privacy-Notice_DE_29092020.pdf, Seite 1) ist ohne ausreichende datenschutzrechtliche Grundlage.

Der Verweis auf ein „berechtigtes Interesse“ des Unternehmens Proctorio für die Verarbeitung von personenbezogenen Daten nach Art. 6 Abs. 1 lit. f) DSGVO verkennt das Überwiegen entgegenstehender Interessen, Grundrechte und Grundfreiheiten der Studierenden jedenfalls in den Fällen, in denen die Verwendung der Proctorio-Software für sie ohne Alternative ist.

2 Vgl. „Proctorio FAQ für Studenten“, Seite 8 (https://pruefungendaheim.de/wp-content/uploads/2020/05/Proctorio-FAQ-fu%CC%88r-Studenten.pdf).

3 Vgl. a.a.O., Seite 5.

4 Vgl. a.a.O., Seite 5.

5 Vgl. a.a.O., Seite 5.

6 Quelle: https://www.washingtonpost.com/technology/2020/11/12/test-monitoring-stu...

7 Vgl. „Proctorio FAQ für Studenten“, (a.a.O., Fn. 2), Seite 3.

Category: 
Year: