Die Europäische Union will mit der geplanten Chatkontrolle der Verbreitung von Darstellungen sexualisierter Gewalt an Kindern Einhalt gebieten. Ein wichtiges Projekt, das in seiner aktuellen Fassung schwerwiegende Implikationen für die sichere Online-Kommunikation der gesamten EU-Bevölkerung mit sich bringen dürfte. Auf behördliche Anordnung sollen Messengerdienste wie Whatsapp und Host-Provider dazu gezwungen werden, auf Smartphones von Usern nach Missbrauchsmaterial zu suchen.

Datenschützer warnen schon seit Monaten, dass die Umsetzung der geplanten Maßnahme eine Unterwanderung von verschlüsselter Kommunikation mit sich bringen würde. App-Anbieter sichern Nachrichten auf dem Transportweg mittlerweile über Ende-zu-Ende-Verschlüsselung ab, damit sie nicht abgegriffen werden können. Erst bei Ankunft beim Empfänger ist der Inhalt wieder lesbar. Mögliche Scans nach CSAM, also Child-Sexual-Abuse-Material, kann deshalb nur auf dem Endgerät stattfinden – was wiederum voraussetzt, dass Messenger eine Hintertür in ihre Dienste einbauen. Der Vorgang wird auch Client-Side-Scanning genannt.

Deutliche Kritik

Obwohl die Chatkontrolle einen täterzentrierten Lösungsansatz verfolgt, argumentiert die EU-Kommission das Vorhaben mit dem Kinderschutz. Während Grundrechtsorganisationen längst davor warnen, dass das Gesetz nicht zielführend wäre, hielten sich Kinderschutzorganisationen noch mit Kommentaren zurück. Zumindest bisher. Im Vorfeld einer Anhörung im deutschen Bundestag am Mittwoch haben laut einem Netzpolitik.org-Bericht unter anderem der Deutsche Kinderschutzbund und die Zentral- und Ansprechstelle Cybercrime (ZAC) Nordrhein-Westfalen eine ausführliche Stellungnahme veröffentlicht – in denen sie Kritik an der geplanten Messenger-Überwachung üben.

Joachim Türk vom Kinderschutzbund betont zwar, dass die "EU-Initiative ein deutliches Signal an alle Staaten der EU" sende, "stärker gegen sexualisierte Gewalt an Kindern vorzugehen". Ein Teil der vorgeschlagenen Maßnahmen, insbesondere "das anlasslose Scannen privater Kommunikation", würden allerdings zu weit gehen. Laut ihm greife dies nicht nur in die Grundrechte Erwachsener ein, sondern in jene von Kindern und Jugendlichen. Es sei ein "wesentlicher Pfeiler von Demokratie und Partizipation", dass Minderjährige in einem Umfeld aufwachsen, "in dem freie Meinungsäußerung und vertrauliche Kommunikation selbstverständlich sind".

Kriminalisierung Minderjähriger

Die Chatkontrolle könne außerdem dazu führen, dass Kinder und Jugendliche vermehrt kriminalisiert werden. Das sei schon jetzt in der Kriminalstatistik erkennbar. Der Grund: Minderjährige würden häufig freiwillig Bildmaterial an andere Teenager verschicken, das als pornografisch eingestuft wird. Dadurch würden sie sich strafbar machen. Wie DER STANDARD berichtete, gab es im Vorjahr bereits 1.073 Anzeigen wegen der Darstellung von sexuellem Missbrauch von Minderjährigen gegen Personen, die selbst unter 18 Jahre alt waren.

Aber nicht nur das. Laut Türk würden in dieser Debatte "häufig Datenschutz und Kinderschutz gegeneinander ausgespielt". Dabei seien dies Dinge, die sich nicht gegenseitig ausschließen, sondern bedingen. "Ein anlassloser Angriff auf verschlüsselte persönliche Nachrichten setzt ein wesentliches Verfassungsrecht außer Kraft und damit gleich mehrere Kinderrechte", sagt er. Die Aufrechterhaltung ebendieser sei unerlässlich, damit Kinder Vertrauen in ihre Bezugspersonen entwickeln – ohne Sorge haben zu müssen, dass sie permanent überwacht werden. "Besonders für Kinder und Jugendliche, die wegen ihrer sexuellen oder geschlechtlichen Identität, ihrer Behinderung, Herkunft oder Hautfarbe oder anderer Merkmale von Diskriminierung betroffen sind, ist dies relevant, denn sie sind online speziellen Risiken ausgesetzt", führt Türk aus.

Prävention statt technischer Lösungen

Hinzu komme, dass der Fokus auf eine technische Lösung das gesamtgesellschaftliche Problem ausblende. Laut dem Kinderschutzbund sei es "ein fataler Fehler mit verheerenden Folgen für demokratische Grundrechte aller Menschen", sexualisierte Gewalt gegen Kinder im Internet rein technisch lösen zu wollen. Viel wichtiger sei es stattdessen, in Präventions- und Aufklärungsmaßnahmen zu investieren. Laut Türk beinhalte das eine Medienkompetenzförderung für Kinder, aber auch Lehrpersonen und Eltern. Darüber hinaus brauche es eine Stärkung von Ermittlungsbehörden, um die Verfolgung von Straftaten wie Cybergrooming effektiver zu gestalten. Derzeit fehle es noch "massiv an geschultem Personal, das auch im Netz unterwegs und ansprechbar ist".

Die Kinderschutzorganisation lehnt aber nicht alle geplanten Maßnahmen ab. Zum Beispiel spricht sie sich für den Vorschlag aus, eine zuverlässige Form der Altersverifikation einzuführen – sofern diese keine Ausweispflicht oder Erhebung biometrischer Daten impliziere. Es sei zudem wichtig, dass Host-Provider und Plattformbetreiber zur Durchführung von Risikoanalysen ihrer Dienste verpflichtet werden. Diese sollen potenzielle Gefahren für Minderjährige aufzeigen und ermöglichen, sie aus dem Weg zu räumen.

Abseits der Realität

Vielen dieser Kritikpunkte schließt sich interessanterweise auch die Zentral- und Ansprechstelle Cybercrime (ZAC) Nordrhein-Westfalen an. Diese untersteht der Generalstaatsanwaltschaft Köln und kümmert sich um "digitale Kriminalitätsphänomene". In einer 21-seitigen Stellungnahme zur Chatkontrolle hält ZAC-Leiter Markus Hartmann fest, dass es "Bedenken in Bezug auf ihre Angemessenheit" gebe. Zwar sei die geplante Aufdeckungsanordnung – mit der der Scan privater Unterhaltungen ermöglicht werden soll – durchaus dafür geeignet, die Zahl erkannter Straftaten zu erhöhen. Es gebe jedoch Bedenken gegenüber jenen Maßnahmen, die sich gegen die Ende-zu-Ende-Verschlüsselung richten.

Mit ihrem Fokus auf ebendiese würde sich die EU-Kommission "in erheblichem Maße von der Realität der Strafverfolgungspraxis" entfernen, sagt Hartmann. "Deren zentrales Hemmnis ist nicht ein Mangel an verschlüsselungsbedingt nicht erkannten Straftaten, tatrelevanten Plattformen oder deliktsspezifischen konkreten Verbreitungswegen." Viel wichtiger sei die "unzureichende technische und personelle Ausstattung der Strafverfolgungsbehörden", wegen der eine zeitgerechte Abarbeitung aller Fälle kaum möglich sei.

Schwache KI

Die ZAC hebt außerdem die Schwächen von KI-basierten Erkennungssystemen hervor. Solche sollen eingesetzt werden, um Grooming, also die Kontaktanbahnung zu Kindern, aufzuspüren. Ein interner EU-Bericht warnte schon vergangenen Sommer, dass die Genauigkeit bestehender Grooming-Erkennungstechnologien bei nur 90 Prozent liegt – was hunderttausende falsch-positive Ergebnisse nach sich ziehen und unschuldige Menschen in den Mittelpunkt von Ermittlungen rücken könnte.

Ganz grundsätzlich betont Hartmann, dass Ende-zu-Ende-Verschlüsselung "eine überragende Bedeutung für die Informationssicherheit" habe und das "einzige wirksame Mittel" zur Sicherstellung von Vertraulichkeit darstelle.

Damit schließen sich der Deutsche Kinderschutzbund und die Zentral- und Ansprechstelle Cybercrime vielen der Kritikpunkte an, die auch Datenschützerinnen und Grundrechtsorganisationen aufwerfen. Laut dem Chaos Computer Club würde die Chatkontrolle "die Überwachung aller Kommunikationsinhalte bedeuten" und damit "fundamentale Prinzipien von vertraulicher, sicherer digitaler Kommunikation untergraben". Die geplanten Strukturen seien weder grundrechtskonform noch technisch realisierbar, schreibt der Hackerverein in einem aktuellen Statement.

Österreich gegen die Chatkontrolle

Auch innerhalb des EU-Parlaments regt sich Widerstand. Bei einer Sitzung im Oktober 2022 übten mehrere Abgeordnete scharfe Kritik an der geplanten Ausgestaltung der Chatkontrolle. Unter anderem wurde die Sorge geäußert, dass das Gesetz die Tür für Massenüberwachung öffnen könnte. Der STANDARD berichtete. Selbst der Europäische Datenschutzbeauftragte stellte im Rahmen eines Gutachtens fest, "dass der Vorschlag in seiner jetzigen Form möglicherweise mehr Risiken für Einzelpersonen und damit für die Gesellschaft im Allgemeinen birgt als für die Straftäter".

Auf politischer Ebene hat sich bisher nur Österreich explizit gegen die Chatkontrolle in ihrer aktuellen Fassung ausgesprochen. In einem mehrheitlich angenommenen Antrag im EU-Unterausschuss des Nationalrats wurde unter anderem die mangelnde Grundrechtskonformität kritisiert.

Beschlossene Sache ist das Gesetz – und somit auch die geplante Messenger-Überwachung – noch nicht. Der Ball liegt derzeit beim EU-Parlament, das in den zuständigen Ausschüssen eine gemeinsame Position und Änderungsvorschläge formulieren muss, mit denen es dann in die Verhandlungen mit Rat und Kommission treten kann. Ob sich Letztere von ihren weitreichenden Plänen abbringen lassen wird, bleibt aber abzuwarten. Trotz all der öffentlichkeitswirksamen Kritik, scheint diese vehement an der Chatkontrolle festhalten zu wollen. (Mickey Manakas, 1.3.2023)