Strafverfolgungsbehörden sehen in Gesichtserkennung eine Technologie, die die Aufklärung von Verbrechen deutlich effizienter machen soll. Doch Kritiker warnen vor Problemen mit der Technologie. Neben Datenschutzaspekten geht es dabei vor allem um Fehlerkennungen. Gerade bei Menschen mit dunkler Hautfarbe sollen solche Systeme immer wieder versagen, was sowohl technische Gründe hat, als auch einem Bias im Datenmaterial – das oft vorwiegend hellhäutige Gesichter enthält – geschuldet sein soll.

Einen exemplarischen Fall für letztgenanntes Problem hat nun die American Civil Liberties Union aufs Tapet gebracht. Ein Mann war unschuldig vor den Augen seiner Frau und seiner beiden kleinen Töchter festgenommen worden, berichtet "The Verge".

Falsch durch Computer und Mitarbeiter identifiziert

Was war geschehen? Im Oktober 2018 war es in einem Uhrengeschäft in Detroit zu einem Ladendiebstahl gekommen. Der Täter konnte sich samt Beute aus dem Staub machen, war aber auf einem Überwachungsvideo zu sehen.

Von diesem Video wurden verschiedene Snapshots im März 2019 mit der städtischen Datenbank abgeglichen. Mehrere Personen landeten in einer Auswahl potenziell Verdächtiger, darunter auch Robert Williams. Williams wurde auf Basis der Fotos dann auch von einem Wachbediensteten, der den Ladendiebstahl gar nicht selbst beobachtet hatte, als Täter identifiziert.

Festnahme vor den Augen der Familie

Im Jänner rief das Detroit Police Department bei Williams an und erreichte seine Frau, der man mitteilte, dass ihr Mann sich stellen solle. Das Paar ging zunächst von einem Scherzanruf aus, doch als Williams an diesem Tag heimkam und in seiner Einfahrt parkte, blockierte ein Polizeiauto umgehend die Ausfahrt und Williams wurde vor seiner Familien in Handschellen gelegt und abgeführt.

Die Nacht verbrachte er in einer Verwahrungszelle "neben einer überquellenden Mülltonne", wie er in der "Washington Post" schilderte. Es wurden Fotos von ihm gemacht, seine Fingerabdrücke gescannt und auch DNA-Proben genommen. Am nächsten Tag wurde er von Polizisten befragt und erklärte, dass er nicht in dem Uhrengeschäft gewesen sein. Letztlich habe er sogar eines der ausgedruckten Fotos des Täters, der ihm abgesehen von der Hautfarbe nicht ähnlich gesehen habe, neben sein Gesicht gehalten und zitiert einen der Beamten mit den Worten "Der Computer muss sich geirrt haben."

Er wurde schließlich, nach 30 Stunden polizeilichem Freiheitsentzug, auf freien Fuß gesetzt. Die Ermittlungen gegen ihn wurden fallen gelassen, zunächst allerdings nur vorläufig und mit der Möglichkeit, ihn wieder zu belangen.

Bürgerrechtler erkämpften Datenlöschung

Schließlich wurde die American Civil Liberties Union (ACLU) in Williams' Fall tätig. Die Bürgerrechtsorganisation setzte sich dafür ein, dass die Vorwürfe gegen Williams vollständig fallen gelassen und seine Daten gelöscht werden.

Mit Erfolg, die Ermittler schlossen die Akte und willigten auch der Entfernung der Daten ein. Im Juli 2019 wurde von der Polizei in Detroit auch die Verwendung von Gesichtserkennung eingeschränkt. Diese kommt nun nur noch bei Gewaltfällen zum Einsatz

Der Fall Williams wirft allerdings ein Schlaglicht auf die laufende Diskussion rund um die Einsatz von Gesichtserkennung und Künstlicher Intelligenz auf behördlicher Ebene. Auch als Folge der Proteste gegen Rassismus und Polizeigewalt in den USA haben mehrere Tech-Unternehmen ihre Zusammenarbeit in diesem Bereich mit den Behörden ausgesetzt oder eingeschränkt, darunter IBM, Amazon und Microsoft.

Williams will seinen eigenen Fall dafür nutzen, sich gegen eine solche Verwendung von Technologie stark zu machen. Zwar könne er es nicht mehr rückgängig machen, dass seine Töchter seiner Festnahme zuschauen mussten, jedoch könne er dazu beitragen, dass sie nicht in einer Welt aufwachsen, in der "der Führerschein oder Facebook-Fotos dazu verwendet werden, sie nachzuverfolgen oder ihnen zu schaden." (gpi, 25.6.2020)