Europa soll bei der Entwicklung künstlicher Intelligenz nach Vorstellung der EU-Kommission weltweite Standards setzen. Dazu schlug die Brüsseler Behörde am Mittwoch Regeln für den Umgang mit dieser Technologie vor, die sowohl mögliche Risiken von Anwendungen als auch die Grundrechte der EU-Bürger berücksichtigen. Je höher die Gefahren sind, desto höher sollen auch die Anforderungen an ein Programm und seinen Entwickler sein. Für Regelverstöße sind hohe Strafen vorgesehen.

Bessere Anwendungen

Künstliche Intelligenz (KI) bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Dadurch können Computerprogramme zum Beispiel Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen, und Programme zur Bildbearbeitung nutzen ihr Wissen über Lichtverhältnisse und Objekte in einem Foto, um es zu optimieren.

Hochrisikoanwendungen

Konkret legte die EU-Kommission vor allem Regeln für sogenannte Hochrisikoanwendungen vor. Dazu zählt die Behörde unter anderem kritische Infrastruktur wie den Verkehrssektor oder Programme zur Personaleinstellung. Hier müssten unter anderem menschliche Aufsicht, umfangreiche Datensets und eine Risikobewertung sichergestellt werden.

Biometrische Identifikation

Auch die biometrische Identifikation im öffentlichen Raum soll nur in engen Grenzen und nach behördlicher Genehmigung erlaubt werden – etwa bei der Suche nach einem vermissten Kind oder einem drohenden Terroranschlag. Hier dürfe der Einsatz von Gesichtserkennung durch die Polizei, der in Österreich seit Ende 2019 geschieht, nicht eingeschränkt werden. Technologien wie das Sozialkreditsystem, das pilotweise in China ausprobiert wird und das regelkonformes Verhalten belohnt und Fehlverhalten bestraft, sollen gänzlich verboten werden.

Anwendungen mehrheitlich ungefährlich

Von den allermeisten Anwendungen – beispielsweise im Fall von Spam-Filtern oder Computerspielen, die mit KI arbeiten – gingen nach Ansicht der EU-Kommission jedoch keine oder nur geringe Risiken aus. Für sie sollten daher deutlich weniger strenge oder gar keine Auflagen gelten.

Über die Vorschläge der EU-Kommission müssen nun noch die EU-Staaten und das Europaparlament verhandeln. Kritiker hatten bemängelt, dass die Regeln nachteilig für die EU sein könnten: Internationale Unternehmen könnten sich aufgrund der umfassenden Regulierung davor sträuben, in Europa zu investieren. Es dürfte noch einige Jahre dauern, ehe in der EU neue Regeln gelten.

Reaktionen

Wirtschafts- und Digitalministerin Margarete Schramböck (ÖVP) begrüßte das Paket: "Ein klarer, aber flexibler Rechtsrahmen, der Innovationen fördert und gleichzeitig ein hohes Maß an Schutz und Sicherheit gewährleistet, ist beim Thema Künstliche Intelligenz unerlässlich." Schramböck betonte in der Aussendung, dass erstmals "rote Linien" für bestimmte KI-Anwendungen definiert wurden und bestimmte Praktiken zur Manipulation und Massenüberwachung verboten werden. "Österreich wird selbstverständlich die Grundlagen und Zielsetzungen des KI-Pakets der Europäischen Union in seine nationale KI-Strategie einfließen lassen", so die Ministerin.

Für SPÖ-EU-Delegationsleiter Andreas Schieder war es "gut", dass die EU-Kommission "klare Regeln vorlegt". Künstliche Intelligenz biete "ein großes Potenzial, aber dafür braucht es eine strenge Regulierung entlang demokratischer und ethischer Kriterien", so Schieder in einer Aussendung. "Wir wollen keinen Import eines chinesischen Überwachungsstaats mit Sozialkredit-Systemen und auch keinen Wildwuchs an diskriminierenden Algorithmen wie beim AMS." (muz, APA, 21.4.2021)