Eigentlich sollte die massenhafte biometrische Erfassung und Identifizierung von Personen im öffentlichen Raum im EU-Raum verboten sein – so wünscht es sich zumindest die EU-Kommission. Glaubt man den Erklärungen des Gremiums der Einzelstaaten, dem EU-Rat, dann wird das auch so bleiben, doch im Detail wollen sich die Mitgliedsländer großzügige Ausnahmen vom Verbot der biometrischen Überwachung genehmigen. So sollen vor allem Strafverfolger auf Gesichtserkennung zurückgreifen können.

Offiziell liest sich das im Positionspaper anders: Das grundsätzliche Verbot von "biometrischer Echtzeit-Fernidentifizierung im öffentlichen Raum" bleibe aufrecht, ganz auf der Linie der EU-Kommission. Man habe klargestellt, unter welchen Bedingungen die Strafverfolgungsbehörden "ausnahmsweise" die Möglichkeit habe, KI-gestützte System zur Identifizierung von Menschen im öffentlichen Raum nützen dürfen.

Ausnahmen für Grenzschützer und Strafverfolger

Diese Ausnahmen umfassen die automatisierte Gesichtserkennung etwa bei der gezielten Suche nach Opfern von Straftaten. Auch die Suche nach vermissten Kindern ist vom Verbot ausgenommen. Außerdem heißt es, dass künstliche Intelligenz auch bei "Gefahren für das Leben oder die körperliche Unversehrtheit natürlicher Personen" eingesetzt werden darf.

Ebenfalls dürfen KI-Systeme bei der Verfolgung von Terroristen und Verdächtigen von schweren Straftaten eingesetzt werden. Bei Letzteren gilt eine Straftat dann als "schwer", wenn sie im Heimatland mit drei Jahren Gefängnis bedroht wird. Das bedeutet, dass in Österreich die automatisierte Gesichtserkennung theoretisch eingesetzt werden kann, wenn jemand ein hochwertiges Rennrad im Wert von 5.000 Euro stiehlt und damit den Tatbestand des "schweren" Diebstahls erfüllt.

Dieser Ausnahmenkatalog soll aber laut dem Rat noch erweitert werden, so sollen Einwanderungs- und Asylbehörden derartige Systeme nutzen dürfen, zur Not, um eine Person gegen deren Willen zu erkennen.

Aber es werden im AI-Act auch umstrittene Praktiken generell verboten. So darf die KI nicht genutzt werden, um Social-Scoring-Modelle wie in China üblich zu entwickeln. In China wird bei Verstößen gegen die "Normen" des Zusammenlebens beispielsweise die Internetgeschwindigkeit gedrosselt. Das kann schon passieren, wenn man zu viele Strafzettel erhält oder zu viele Videospiele kauft.

Tursky: "Social Scoring darf es nicht geben"

Für Österreich hat Digitalisierungsstaatssekretär Florian Tursky im EU-Rat am AI-Act mitverhandelt. Tursky betont die Vorzüge der KI-Regulierung: "Künstliche Intelligenz kann eine Vielzahl von positiven Effekten mit sich bringen, zum Beispiel Effizienzsteigerungen, verbesserte medizinische Behandlung oder vertiefende Datenanalysen. Wir müssen aber auch gewährleisten, dass die für uns in Europa wichtigen Grund- und Freiheitsrechte nicht ins Hintertreffen geraten."

Bei anderen kritischen Anwendungen wie in Bewerbungsverfahren wird es strikte Kriterien geben, unter welchen Auflagen die Technologien angewandt werden dürfen und wie sie im Vorfeld zu genehmigen sind. So möchte die Europäische Union Betroffenenrechte stärken, wenn sie von der KI benachteiligt werden – etwas bei einem Bewerbungsgespräch.

"Für uns ist klar, Dinge wie Social Scoring und Massenüberwachung darf es in Europa nicht geben. Der zukünftige Rechtsrahmen wird dies sicherstellen und andererseits klären, welche weiteren Anwendungen genehmigungspflichtig sind bzw. unter starke Transparenzauflagen kommen", so der Staatssekretär. (pez, 7.12.2022)