Schon länger warnen Experten und Bürgerrechtsorganisationen vor blindem Vertrauen in Gesichtserkennung, wenn es um die Identifizierung von Verdächtigen geht. Fehlerkennungen können dann dazu führen, dass Unschuldige festgenommen werden. Und aufgrund technischer Herausforderungen durch stärkere Hautpigmentierung sowie ein Missverhältnis im Datenmaterial, mit dem solche Systeme trainiert werden, sei das Risiko für solche "False Positives" bei dunkelhäutigen Personen deutlich höher.
Diese Warnungen scheinen sich nun zu bestätigen. Bei allen sechs in den USA bisher aktenkundig gewordenen irrtümlichen Festnahmen auf Basis von automatischer Gesichtserkennung waren Afroamerikaner betroffen.
Hochschwangere Frau elf Stunden lang festgesetzt
Der letzte Fall war jener von Porcha Woodruff. Eines Morgens im Februar fuhr eine Abordnung des Detroit Police Department an der Adresse der 32-Jährigen vor. Vor den Augen ihres Lebenspartners und ihrer zwei Kinder wurde sie vor die Tür gebeten und ihr Handschellen angelegt. Man legte ihr einen Raubüberfall mit Autodiebstahl zur Last.
Besonders brisant: Woodruff war zum damaligen Zeitpunkt im achten Monat schwanger. Dennoch verbrachte sie elf Stunden auf einer Polizeidienststelle, wo sie befragt und ihr iPhone durchsucht wurde. Sie berichtete der "New York Times", wie sie von Schmerzen geplagt wurde, während sie auf einer Betonbank sitzen musste.
Sie wurde angeklagt, aber am Abend wieder auf freien Fuß gesetzt, allerdings mit einer Kaution von 100.000 Dollar. Sie begab sich ins Spital, wo ihr laut eigener Aussage Dehydrierung attestiert wurde. Einen Monat später ließ der zuständige Bezirksstaatsanwalt die Klage fallen. Woodruff ist damit nicht nur die erste Frau in den USA, die aufgrund fehlerhafter Gesichtserkennung festgenommen wurde. Sie ist auch die sechste Person afroamerikanischer Abstammung, die betroffen ist, womit bisher jeder einzelne Vorfall dieser Art jemanden mit dunkler Hautfarbe betraf.
Die Betroffene ist mittlerweile gegen das Detroit Police Department vor Gericht gezogen. Dessen Chef James White hat sich gegenüber "Business Insider" zur Causa auch schon zu Wort gemeldet. "Ich habe die Anschuldigungen in der Klagsschrift überprüft", sagt er. "Sie sind ziemlich besorgniserregend. Wir nehmen diese Angelegenheit sehr ernst." Sein Vorgänger James Craig hatte 2020 zu Protokoll gegeben, dass Gesichtserkennung in 96 Prozent der Fälle falsch liege, wenn man sie als alleiniges Ermittlungswerkzeug einsetze.
Studie zeigt Fehleranfälligkeit
Organisationen wie die American Civil Liberties Union (ACLU) sehen sich in ihren Vorwürfen bestätigt. Der Einsatz von Gesichtserkennung ohne ausreichende Überprüfungsmechanismen sei eine "sehr gefährliche Praxis", sagte der leitende Anwalt der ACLU, Phil Mayor, der "New York Times". Zusätzliches Gewicht erhält diese Aussage durch eine im Mai veröffentlichte Studie. Darin untersuchten Kriminologen den Einsatz von Gesichtserkennung bei Festnahmen an 1.136 Orten in den USA im Jahr 2016 und stellten fest, dass die Technologie dazu beiträgt, dass die Polizei Afroamerikanerinnen und Afroamerikaner überproportional häufig festnimmt.
Das Forscherteam verfasste dazu auch einen Text im "Scientific American". "Wir denken, dass dies an mehreren Faktoren liegt, darunter das Fehlen von afroamerikanischen Gesichtern in den Trainingsdaten, der Glaube an die Unfehlbarkeit solcher Software und die Erschwerung dieser Probleme durch die Voreingenommenheit von Beamten", schrieben sie.
Während es in den allgemeinen Trainingsdaten an Personen mit schwarzer Hautfarbe mangelt, seien diese dafür bei sogenannten "Mugshots" (von der Polizei angefertigte Fotos von festgesetzten Verdächtigen) überrepräsentiert, was ebenfalls zu Verzerrungen bei KI-basierter Auswertung und in weiterer Folge der Inhaftierung Unschuldiger beitrage. Gesichtserkennung habe immer noch massive Probleme dabei, dunkelhäutige Menschen voneinander zu unterscheiden.
Die Häufigkeit des Einsatzes von Gesichtserkennung variiert stark von Polizeikommando zu Polizeikommando. Währen in Detroit jährlich etwa 125 solche Suchen durchgeführt werden, waren es beim immer wieder mit Rassismusvorwürfen konfrontierten Baltimore Police Department im vergangenen Jahr 800. Auf eine Anfrage von "Business Insider" bezüglich der Nutzung der Technologie reagierte man dort allerdings nicht.
ACLU-Anwalt Mayor vertritt selbst einen Mann namens Robert Williams, einen anderen Afroamerikaner aus Detroit, der 2020 wegen eines Irrtums des Gesichtserkennungssystems von der Polizei festgenommen worden war. "Lausige Technologie führt zu lausigen Ermittlungen", meint der Jurist zur "New York Times". "Und die Zusicherungen, dass die Polizei diese Fälle seriös aufarbeiten wird, haben sich bisher nicht als wahr erwiesen." (gpi, 7.8.2023)