"Extrem hoch" seien die Risiken bei der Verwendung von biometrischer Identifikationstechnologie aus der Ferne – etwa Gesichtserkennung via Überwachungskamera. Zu diesem Ergebnis kommt der EU-Datenschutzbeauftragte Wojciech Wiewiórowski gemeinsam mit dem Europäischen Datenschutzausschuss (European Data Protection Board, EDPB). Daher rufen sie zu einem allgemeinen Verbot derartiger KI-Systeme im öffentlichen Raum auf.

Dabei verweisen sie auf die KI-Regulierung, die aktuell von der Union vorbereitet wird. Grundsätzlich wird diese begrüßt, müsste aber in Teilen verschärft werden. Die Kommission sieht in ihr zwar ein Verbot von biometrischer Identifizierung in Echtzeit vor, allerdings soll die Verwendung durch Behörden im Nachhinein weiterhin gestattet bleiben.

"Höchst unerwünscht"

Als Beispiele für gefährliche Identifikationstechnologien nennen die Datenschützer einerseits die automatisierte Gesichtserkennung aus der Ferne, aber auch Bewegungsmusteranalysen, das Mitlesen von Fingerabdrücken, DNA, Stimmen, Tastaturtippgeschwindigkeit und anderen biometrischen oder verhaltensspezifischen Signale "in jeglichem Kontext".

Auch KI, die die Emotionen einer Person lesen können soll, sei "höchst unerwünscht" und sollte verboten werden, außer für medizinische Zwecke. Darunter fallen beispielsweise Systeme, die Lügen erkennen wollen: Derartige Technologie wird aktuell etwa an den Grenzen im Rahmen eines von der EU geförderten Forschungsprojekts erprobt (mehr dazu hier). Auch sollten Systeme verboten werden, die biometrische Daten nutzen, um Personen aufgrund ihrer Ethnizität, ihres Geschlechts, ihrer politischen oder sexuellen Orientierung oder aus anderen diskriminierenden Gründen zu kategorisieren.

Verbot "notwendiger Ausgangspunkt"

Systeme zur automatisierten Identifikation durch Biometrie würden ein "Ende der Anonymität" in öffentlichen Räumen bedeuten, sagen Wiewiórowski und die EDPB-Vorsitzende und Leiterin der österreichischen Datenschutzbehörde, Andrea Jelinek, in einer gemeinsamen Stellungnahme.

"Anwendungen wie Gesichtserkennung in Echtzeit greifen so sehr in Grundrechte ein, dass sie womöglich die Essenz dieser Rechte und Freiheiten infrage stellen", so die Datenschützer. Daher sei ein generelles, vorsorgliches Verbot von Gesichtserkennung im öffentlichen Raum "ein notwendiger Ausgangspunkt", wenn "wir unsere Freiheiten aufrechterhalten wollen" sowie eine "auf den Menschen zentrierte rechtliche Grundlage für KI" schaffen wollen.

Die Datenschützer fordern zudem, dass die Regulierung weiter an die Datenschutzgrundverordnung angeglichen werde. Auch sollten die nationalen Datenschutzbehörden, die bereits jetzt KI-Verstöße ahnden, das künftig in den jeweiligen Mitgliedsstaaten tun, da die Regulierung dadurch harmonisierter wäre. Zudem hinterfragen die Datenschützer die "dominierende" Rolle der Europäischen Kommission im geplanten KI-Ausschuss. Dieser sollte unabhängiger von der Politik agieren können.

Zustimmung von Neos

Neos fühlen sich durch die Forderung des EU-Datenschutzbeauftragten nach einem Verbot von Gesichtserkennungssoftware bestätigt. Jetzt brauche es nicht nur ein Moratorium für die Anwendung dieser Technologie, wie von der EU-Kommission schon einmal gefordert, sondern so rasch wie möglich ein Verbot, forderte die Partei am Dienstag.

"Automatisierte Gesichtserkennungssoftware ist gefährlich, fehleranfällig und höhlt die Privatsphäre der Bürgerinnen und Bürger komplett aus. Es braucht so rasch wie möglich ein komplettes Verbot entsprechender Systeme zur automatisierten Identifikation durch Biometrie", verlangte der stellvertretende Klubobmann Niki Scherak.

"Wir haben immer schon vor solchen brandgefährlichen Technologien gewarnt. Der EU-Datenschutzbeauftragte gibt uns mit seinen Bedenken jetzt vollinhaltlich recht. ?Die Bundesregierung ist jetzt gefordert den Betrieb von Gesichtserkennungssoftware sofort zu stoppen", so Scherak weiter. ÖVP und Grüne würden diese Warnungen seit Monaten ignorieren. Jetzt muss endlich gehandelt werden und der Einsatz dieser schwer bedenklichen Software ein Ende gesetzt werden. Wenn das nicht passiert, zeigen ÖVP und die Grünen nur einmal mehr, dass ihnen die Privatsphäre der Bürgerinnen und Bürger in diesem Land herzlich egal ist", so Scherak. (muz, APA, 22.6.2021)

Update, 17:00: Reaktion von Neos ergänzt.