Schwarze Studenten werfen der Gesichtserkennungssoftware vor, vorurteilsbehaftet zu sein.

Foto: AP/ Jae C. Hong

Schon länger beschweren sich Studenten über den Einsatz von Gesichtserkennungs-Algorithmen von Firmen wie Proctorio. Denn People of Color berichten in den USA, dass die Prüfungsüberwachung ihre Gesichter nicht erkenne. Das mache es für sie schwierig oder gar unmöglich, an Tests teilzunehmen. Akash Satheesan, ein US-amerikanischer Softwareforscher und Student – an dessen Universität diese Software zum Einsatz kommen soll–, will nun bewiesen haben, dass Proctorio die Gesichter schwarzer Menschen in mehr als 50 Prozent der Fälle nicht erkennt. In Deutschland nutzt unter anderem die die Technische Universität München die Browsererweiterung.

57 Prozent bleiben unerkannt

"Ich beschloss, dem nachzugehen, weil (Proctorio, Anm.) behauptete, von 'weniger als fünf' Fällen gehört zu haben, in denen es Probleme mit der Gesichtserkennung aufgrund der Hautfarbe gab", sagt Satheesan gegenüber "Vice". "Ich wusste, dass das unwahrscheinlich ist ... also machte ich mich auf den Weg, um schlüssigere Beweise zu finden. Und ich bin mir ziemlich sicher, dass ich es geschafft habe."

Für seinen Test nutzte der Forscher Bilder von fast 11.000 Gesichtern aus dem Fair-Faces-Datensatz. Dabei handelt es sich um eine Bibliothek mit Bildern, die möglichst viele verschiedene Ethnien repräsentieren soll. Während bei seiner Überprüfung weiße Menschen meist erkannt wurden, konnten in 57 Prozent der Fälle die Gesichter schwarzer Personen nicht entdeckt werden.

Open Source

Seine Erkenntnisse veröffentlichte der Forscher in einer Reihe von Blogbeiträgen, in denen er beschreibt, wie er den Code hinter der Proctorio-Chrome-Erweiterung analysierte. Dabei fand er heraus, dass die Dateinamen, die mit der Gesichtserkennungsfunktion des Tools in Verbindung stehen, identisch mit jenen von Open CV sind. Dabei handelt es sich um eine Open-Source-Softwarebibliothek, die sich in der Vergangenheit bereits als vorurteilsbehaftet erwiesen haben soll. Die Berichterstatter ließen die Ergebnisse außerdem von einem Sicherheitsforscher überprüfen, der nach einer Analyse zum gleichen Schluss kam.

Schwarze Studenten beschreiben die schlechte Gesichtserkennung als frustrierend und angstauslösend, berichtet "Vice". Einige erzählen, dass die Software sie nicht jedes Mal erkennt, wenn sie einen Test ablegen. Andere befürchten, dass die Klausuren abrupt abgebrochen werden könnten. "Sie verwenden voreingenommene Algorithmen, sie fügen Stress zu einem bereits stressigen Prozess hinzu. Während einer stressiger Zeit entmenschlichen sie die Studenten", sagt Satheesan.

Auch in Europa genutzt

Proctorio kommt auch in Europa zum Einsatz, um in der Pandemie Prüfungen im Fernunterricht abzunehmen. Als Referenz findet man online unter anderem die Goethe-Universität in Frankfurt am Main, aber auch die Universität Bielefeld. Wie "Netzplolitik.org" berichtet, legte ein Student der deutschen Hochschule Fresenius im August 2020 sogar eine Datenschutzbeschwerde wegen der Nutzung ein. (mick, 9.4.2021)