Das Boot muss noch nicht einmal an Land gegangen sein, schon sind seine Passagiere im Visier der Drohne. Akribisch verfolgt sie die Schritte der Migranten an einer EU-Außengrenze. Bewegen sie sich verdächtig an der Küste? Suchen sie ein Auto, verschwinden sie in den umliegenden Wäldern?

Das sind Fragen, die künftig, wenn es nach den laufenden Forschungsprojekten der EU gehen soll, von Algorithmen beantwortet werden. Entscheidet die künstliche Intelligenz (KI), dass das Verhalten einer Person bedenklich ist, wird ein Grenzbeamter oder eine Grenzbeamtin eingeschaltet.

Für Forschungsprojekte an den Grenzen hat die Union bisher im Rahmen des Förderprogramms Horizon 2020 mehr als 170 Millionen Euro in über 30 Projekte gepumpt, wie aus der EU-Datenbank Cordis zu entnehmen ist. Das erklärte Ziel: die Sicherheit durch technologisches Grenzmanagement zu stärken.

Vorhersagende Polizeiarbeit

Viele der Konzepte drehen sich darum, eine möglichst lückenlose Überwachungsinfrastruktur aufzubauen. Grenzübertritte sollen automatisiert werden, um Personal zu sparen. Datenbanken nationaler Polizeibehörden, Visainformationen und biometrische Daten sollen verknüpft werden, um Kontrollen zu stärken.

Die unterschiedlichen Forschungsansätze entsprechen jenen die auch in einer Studie des US-Thinktanks Rand Corporation beschrieben werden. Sie wurde von der Grenzagentur Frontex in Auftrag gegeben und befasst sich mit der Frage, wie KI vermehrt an den Grenzen genutzt werden könnte. Bestehende Daten sollen effektiver geteilt werden, Prozesse automatisiert und die Überwachung gestärkt werden.

Zudem sahen die Forscher Potenzial für Predictive Policing, also vorhersagende Arbeit. Der konkrete Einsatz der Technologien ist nicht bloß Zukunftsmusik: Schon jetzt setzt Frontex auf KI-gestützte Risikoanalysen, bei denen Positionsdaten, Schiff- und Wetterinformationen kombiniert werden, um verdächtige Boote zu erkennen. Der Migrationspakt, der im vergangenen Jahr beschlossen wurde, sieht zudem einen massiven technischen Ausbau von Frontex vor.

Zur Verwirklichung der Projekte werden Pilotphasen der Behörden in Kooperation mit teilnehmenden Forschungsinstituten und Industriepartnern durchgeführt. Die jeweiligen Konzepte werden in der Praxis angewandt, sofern sie ausreichend fortgeschritten sind.

Lückenlose Überwachung

Zahlreiche Projekte sehen den Einsatz unbemannter Fahrzeuge vor – beispielsweise Drohnenschwärme, Unterwasserboote und fahrende Vehikel. Verdächtiges Verhalten soll automatisiert erkannt werden. Ein Projekt ist etwa "Foldout", in das die EU über acht Millionen Euro investiert hat. Erforscht werden vor allem Sensoren und Kamerasysteme, die irreguläre Migranten in belaubten Wälder erkennen sollen.

"Foldout wird ein System bauen, das verschiedene Sensortechnologien kombiniert und sie zu einer intelligenten Überwachungsplattform verschmilzt", heißt es in der Projektbeschreibung. Helmut Leopold vom halbstaatlichen Austrian Institute of Technology (AIT), das Foldout koordiniert, sagt: "Bisher war der Wissensstand: Es gibt Hubschrauber, die herumfliegen und aufpassen. Das ist teuer und ineffizient."

Bei dem Projekt wird der Einsatz von Satelliten, aber auch Zeppelinen getestet, die von Drohnen und Sensoren am Boden unterstützt werden. Damit sollen Verdächtige mittels selbstlernender Algorithmen erfasst werden. Grenzbeamte werden dann alarmiert und erhalten eine Handlungsempfehlung. Pilottests der Projekte haben sich aufgrund der Pandemie verzögert, sollen aber noch folgen.

Risiken erkennen

Ein weiteres Projekt, genannt "Tresspass", wird ebenfalls mit rund acht Millionen Euro Fördergeldern unterstützt. Es will ein Konzept für möglichst reibungslose Grenzübertritte schaffen, sagt Jeroen van Rest von der Niederländischen Organisation für Angewandte Naturwissenschaftliche Forschung (TNO) zum STANDARD. Seine Institution ist für die technische Umsetzung mitverantwortlich.

Geforscht werde, wie man mittels eines "risikobasierten Ansatzes" Passagiere erkennt, die womöglich an Schmuggel, grenzüberschreitender Kriminalität oder illegaler Einwanderung beteiligt sind. Pilotphasen werden an einem Hafen in Griechenland, einem Flughafen in den Niederlanden und einer ländlichen Grenze zwischen Polen und Belarus erprobt.

"Personen mit niedrigem Risiko sollen leicht passieren können, während jene, die eine Gefahr darstellen können, strenger kontrolliert werden", sagt er. Inwiefern jemand gefährlich sein könnte, variiere – beispielsweise könnte jemand als riskant eingeschätzt werden, der ein Objekt trägt, das von Kameras als mögliche Waffe erkannt wird. Ebenso Teil des Projekts, sofern eine Person dazu auserkoren wird, von Grenzbeamten interviewt zu werden: die Erkennung von Unwahrheiten.

Fragwürdige Technologie

Zwar wird in den FAQs des Projekts verneint, dass es sich um einen "Lügendetektor" handle, allerdings würde eine Technologie erprobt, um Grenzbeamte dabei zu unterstützen, "unaufrichtige" Aussagen rascher zu erkennen.

Zur Erkennung von verdächtigen Behauptungen oder Lügen gebe es verschiedene Faktoren, die man nutzen könne, sagt van Rest auf Nachfrage. Derartige Software könnte zum Beispiel die Inhalte eines Gesprächs nach Richtigkeit oder der Geschwindigkeit, in der von Erlebnissen erzählt wird, analysieren. "Ein Faktor ist die Zahl der verwendeten Worte, die ähnlich sind zu jenen, die in der Frage genutzt wurden."

Die Theorie dahinter sei, dass man eine genaue Erinnerung an ein Erlebnis auch mit eigenen Worten wiedergeben können sollte. Auch die Reaktion des Befragten auf eine Frage könne analysiert werden, beispielsweise Gesichtsausdrücke. Letztlich würden Menschen die finalen Entscheidungen treffen.

Aus wissenschaftlicher Perspektive gebe es, sagt van Rest, das Potenzial, Interviewsituationen, bei denen ein großes Machtgefüge zwischen Fragesteller und der antwortenden Person herrsche, fairer zu gestalten. Die tatsächlichen Indikatoren, die bei Tresspass herangezogen werden, könne man aufgrund von EU-Vorgaben leider nicht bekanntgeben, sagt van Rest.

Die Seriosität derartiger Lügendetektoren ist wissenschaftlich umstritten. So kritisieren Forscher immer wieder, dass die Unterschiede zwischen Lügnern und Nichtlügnern sich in bisherigen Studien kaum finden ließen. Zudem gebe es individuelle wie auch kulturelle Unterschiede, wie Menschen die Unwahrheit sagen. Daher sei es schwierig, allgemeine Aussagen zu treffen. Derartige Algorithmen seien oft viel zu wenig geprüft.

Ein Beispiel liefert ein EU-Vorgängerprojekt, iBorderCtrl, das bis 2019 erprobt wurde. Eine US-Journalistin des Portals "The Intercept" konnte es testen und beantwortete alle Fragen wahrheitsgemäß, wurde aber nur zu 76 Prozent als glaubwürdig eingeschätzt. Das System empfahl eine weitere Befragung durch Grenzbeamte.

Ethikbeirat

EU- Projekte werden im Regelfall von einem Ethikbeirat begleitet – bei Tresspass wird dieser von der Uni Freiburg geleitet. "Am Ende könne es durchaus sein, dass wir die Empfehlung abgegeben, dass eine Technologie nicht verwendet werden sollte", sagt Elisa Orru von der Hochschule. Jedoch liege es letztlich in der Hand der Union, zu entscheiden, wie die Ergebnisse genutzt werden. "Die Meinung eines Ethikbeirats kann nur ein Teil einer breiten Debatte sein, die die Öffentlichkeit miteinschließen muss."

Das Problem dabei: Detailinfos zu derartigen Projekte bleiben oft im Dunkeln. Ein Versuch, über die Plattform AsktheEU etwa an Dokumente zu Foldout zu gelangen, lieferte zwar eine Fundgrube an Inhalten. Bei genauerem Blick wurden sie aber so geschwärzt, dass kaum Informationen zu entnehmen sind. Im Fall von iBorderCtrl klagt der deutsche Pirat Patrick Breyer vor dem EuGH, da die Veröffentlichung von Dokumenten zurückgehalten wurde.

Später wurde durch die Rekonstruierung geschwärzter Inhalte bekannt, dass Infos bewusst vor der Öffentlichkeit zurückgehalten wurden, um zu verhindern, dass nachteilige Effekte bei einer möglichen Umsetzung entstehen.

Kritik an Intransparenz

Die Juristin Petra Molnar, die unter anderem den "Migration Tech Monitor" mitbetreut, der technologische Experimente an den Grenzen dokumentiert, kritisiert im STANDARD-Gespräch: Häufig bleibe das Ausmaß der eingesetzten Methoden ebenso intransparent wie die Frage, welche von ihnen letztlich in welcher Form adaptiert werden.

Durch die fehlende Kommunikation erfahre die Bevölkerung oft erst nachträglich, mit welchen Methoden gearbeitet wird. So werde die notwendige öffentliche Debatte zurückgehalten. Gleichzeitig bedeute es in der reellen Umsetzung, dass die Projekte bereits gegen Menschen an den Grenzen eingesetzt werden – obwohl die Methoden zum Teil sogar gegen die Rechtslage verstoßen könnten.

"Während Geflüchtete in Lagern noch nicht einmal eine ordentliche Grundversorgung haben, werden sie bereits mittels Kameras überwacht und ihre biometrischen Informationen gespeichert." Molnar kritisiert, dass es keine zentrale Institution gebe, die die Auswahl der Projekte überprüfe und das transparent dokumentiere.

Grenzschutz als Spielfeld

Insgesamt sei Überwachung an den Grenzen aktuell ein "wilder Westen", in dem Regierungen ein Spielfeld entdeckt hätten. Grenzschutz werde in der EU vorwiegend als Mittel verstanden, um Asylantragszahlen zu reduzieren, kritisiert Erik Marquardt von den europäischen Grünen, der in der Frontex-Untersuchungsgruppe sitzt, die Menschenrechtsverstöße an den Außengrenzen untersucht.

Potenzielle zukünftige Migranten sollen Bilder von brutal bewachten Grenzen sehen. Das soll sie dazu bewegen, sich gar nicht erst auf den Weg zu machen. "Dabei ist das ja eigentlich gar nicht die Aufgabe eines Außengrenzschutzes. Wenn jemand an der Außengrenze steht und sagt: Hallo, ich möchte Asyl beantragen, dann entscheidet man ja nicht mit einer Schallkanone, ob er das Recht dazu hat, sondern mit einem rechtsstaatlichen Verfahren. Davon wendet sich die EU immer weiter ab", sagt Marquardt.

Den Verantwortlichen dürfte bewusst sein, wie umstritten viele der geplanten Maßnahmen sind. So befasst sich etwa unter dem Namen "Meticos" ein Projekt mit den "Herausforderungen", smarte Grenzmanagementtechnologien künftig gesellschaftlich akzeptierter zu gestalten. Dafür stellt die EU öffentliche Fördergelder in Höhe von rund fünf Millionen Euro zur Verfügung. (Muzayen Al-Youssef, Johannes Pucher, 19.6.2021)