Das EU-Parlament hat für einen Beschluss gestimmt, der zu einem Verbot von KI-gestützter, biometrischer Massenüberwachung im öffentlichen Raum aufruft. Die Abgeordneten befürchten Diskriminierung, Ungerechtigkeit und eine algorithmische Voreingenommenheit durch den Einsatz von vorhersagender Polizeiarbeit mittels Künstlicher Intelligenz.
In einer Entschließung, die mit 377 gegen 248 Stimmen bei 62 Enthaltungen angenommen wurde, verweisen die auf die die Notwendigkeit menschlicher Aufsicht und starker rechtlicher Kontrollen, um Diskriminierung durch KI zu verhindern, insbesondere bei Strafverfolgung oder Grenzübertritten. Um die Privatsphäre der Bürgerinnen und Bürger zu wahren, fordert das EU-Parlament ein Verbot der Echtzeit-Nutzung einer automatisierten Erkennung von Personen in öffentlich zugänglichen Räumen mittels biometrischer Hilfsmittel – wie das etwa bei Gesichtserkennungssoftware der Fall ist. Bürger sollten demnach nur überwacht werden, wenn sie verdächtigt werden, eine Straftat begangen haben.
Das Parlament fordert zudem ein Verbot der Nutzung privater Gesichtserkennungsdatenbanken und der vorausschauenden Polizeiarbeit auf der Grundlage von gesammelten Verhaltensdaten. Die Abgeordneten wollen weiters ein Verbot von Social-Scoring-Systemen, die versuchen, die Vertrauenswürdigkeit von Bürgern auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten, so wie das etwa in China in Pilotprojekten getestet wird.
Menschen sollten Entscheidungen treffen
Die endgültige Entscheidung soll demnach immer von Menschen getroffenen werden. Die Abgeordneten weisen darauf hin, dass viele der derzeit verwendeten Identifizierungstechnologien viele Personen falsch identifizieren und daher Menschen, die aufgrund von Rassismus benachteiligt sind, Personen, die bestimmten ethnischen Gemeinschaften angehören, LGBTQ+-Personen, Kindern, älteren Menschen und auch Frauen Schaden zufügen würden. Das sei besonders bedenklich, wenn KI-Systeme in einem Kontext der Strafverfolgung oder Justiz eingesetzt werden.
Um sicherzustellen, dass die Grundrechte beim Einsatz dieser Technologien gewahrt bleiben, sollten die Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein, fordern die Abgeordneten. Wenn möglich, sollten die Behörden Open-Source-Software verwenden, um mehr Transparenz zu gewährleisten. Schließlich ist das Parlament besorgt über die Verwendung biometrischer Daten für Zwecke der Fernidentifizierung von Personen. Die Abgeordneten fordern die Kommission auf, Vertragsverletzungsverfahren gegen Mitgliedstaaten einzuleiten, wenn dies notwendig ist.
Meinung von EU-Datenschützern unterstützt
Die Abgeordneten schließen sich somit der Meinung der obersten EU-Datenschützer an: Im Juni hatte der Europäische Datenschutzausschuss (EDPB) gemeinsam mit dem EU-Datenschutzbeauftragten Wojciech Wiewiórowski zu einem Verbot biometrischer Identifikationstechnologien im öffentlichen Raum aufgerufen. Systeme zur automatisierten Identifikation durch Biometrie würden ein "Ende der Anonymität" in öffentlichen Räumen bedeuten, mahnten Wiewiórowski und die EDPB-Vorsitzende und Leiterin der österreichischen Datenschutzbehörde, Andrea Jelinek, in ihrer gemeinsamen Stellungnahme.
"Anwendungen wie Gesichtserkennung in Echtzeit greifen so sehr in Grundrechte ein, dass sie womöglich die Essenz dieser Rechte und Freiheiten infrage stellen", so die Datenschützer. Daher sei ein generelles, vorsorgliches Verbot von Gesichtserkennung im öffentlichen Raum "ein notwendiger Ausgangspunkt", wenn "wir unsere Freiheiten aufrechterhalten wollen" sowie eine "auf den Menschen zentrierte rechtliche Grundlage für KI" schaffen wollen. (red, 11.10.2021)