US-Regierungsbehörden werfen der Videoplattform Tiktok vor, zu wenig gegen die Verbreitung von Kinderpornografie zu unternehmen. Darüber hinaus vermissen sie Schutzmechanismen, um jugendliche Nutzerinnen und Nutzer vor Übergriffen älterer Nutzer zu bewahren. Das US-Justiz- und Innenministerium haben eine Untersuchung gestartet, wie Tiktok mit kinderpornografischen Inhalten umgeht und eine private Funktion von Tätern missbraucht wird.

"Tiktok ist der perfekte Ort für Täter, um Kinder kennenzulernen, zu umgarnen und sie in ihren Bann zu ziehen", sagt Erin Burke, die Leiterin der Missbrauchsabteilung im Department of Homeland Security, in der Financial Times. Es sei aktuell die Plattform der Wahl für derartiges Verhalten. Das belegen auch Zahlen. Die Anzahl von Ermittlungen des US-Innenminsteriums wegen Kinderpornografie und Missbrauch auf Tiktok hat sich zwischen 2019 und 2021 versiebenfacht.

Moderation kommt nicht nach

Die rasant gestiegene Popularität von Tiktok, mit mittlerweile über einer Milliarde Userinnen und Usern, hat ähnlich wie bei anderen Social-Media-Plattformen dazu geführt, dass beanstandete Inhalte kaum mehr moderiert werden können. Zwar hat die Plattform bereits auf 10.000 Moderatorinnen und Moderatoren aufgerüstet, das ist aber immer noch um ein Drittel weniger als Meta, mit seinen Plattformen Facebook, Whatsapp und Instagram.

Diese stehen ebenfalls immer wieder in der Kritik, zu wenig gegen Kinderpornografie zu tun, haben ihre internen Prozesse und Algorithmen in den vergangenen Jahren aber deutlich geschärft. Das zeigt sich auch bei der Meldung von Beanstandungen. Während Tiktok gerade einmal 155.000 Videos an die US-Kinderschutzorganisation "National Center for Missing & Exploited Children" (NCMEC) meldete, waren es bei Instagram mit ähnlich großer Nutzerbasis 3,4 Millionen Fälle.

Kinderporno über private Funktion

Tiktok zufolge verfolge man beim Thema Kindesmissbrauch eine Null-Toleranz-Politik, entferne entdeckte Inhalte sofort und arbeite, wenn notwendig, auch mit Behörden zusammen. Genau das sieht man bei diesen aber anders. Im Vergleich zu den US-Plattformen wirke das in chinesischer Hand befindliche Tiktok weit weniger motiviert, um die Zusammenarbeit zu suchen und proaktiv Kinder vor missbräuchlichem Verhalten zu schützen.

Eine Funktion beschäftigt nun die Justizbehörden besonders. So gibt es bei Tiktok eine "Nur ich"-Einstellung, mit denen Videomaterial nur für die eingeloggte Person in ihrem Account sichtbar ist. Offenbar wird die Funktion seit längerem genutzt, um Kinderpornografie zu verbreiten. In öffentlichen Postings finden sich mehr oder weniger verklausulierte Stichwörter, die auf die illegalen Inhalte hinweisen. Mit Interessierten wird dann das Passwort des Accounts geteilt. So können sie dann im Privaten die hochgeladenen Kinderpornovideos ansehen.

Auch Whatsapp im Visier

Derartige Privatsphäre-Funktionen sind auch auf anderen Plattformen ein Problem. Whatsapp etwa kämpft seit Jahren mit Chatgruppen, an denen man teilweise sogar ohne Bestätigung der Gruppenadministratoren teilnehmen konnten. Zum Betreten notwendig waren lediglich Einladungslinks, die aber ebenfalls auf der Plattform kursierten. Sogar eigene Verzeichnisse tauchten immer wieder auf, die einen Überblick über kinderpornografische Inhalte boten bzw. wo sie zu finden sind.

Dass Whatsapp mit dem Moderieren nicht mehr nachkam bzw. auch die automatischen Softare-Algorithmen überfordert waren, führte zu ähnlich scharfer Kritik. Die Verschlüsselung der Chats trug das ihre dazu bei, dass sich die Meta-Plattform lange Zeit schwer tat. Nicht zuletzt aus diesem Grund will die EU künftig auch verschlüsselte private Nachrichten auf Geräten durchleuchten können – was wiederum eine Reihe von Datenschutzproblemen mit sich ziehen würde.

Selbst Apple scheitert

Wie heikel ein automatischer Scan von Inhalten wie Chats, E-Mails oder Fotos ist, musste auch Apple einsehen, das sich ebenfalls dem Kampf gegen Kinderpornografie verschrieben hat. Das im Sommer 2021 angekündigte Unterfangen wurde nach heftigen Protesten der eigenen Kundschaft und Belegschaft wieder abgeblasen.

Nicht zuletzt aufgrund des überaus jungen Alters der Tiktok-Userschaft müsse die Plattform jetzt alles unternehmen, um gegen Kindesmissbrauch und die Verbreitung von kinderpornografischen Aufnahmen vorzugehen, fordern Kinderschützerinnen. Neben mehr Personal und einer besseren Schulung zum Erkennen von problematischen Inhalten müsse auch der automatische Software-Algorithmus optimiert werden. (Martin Stepanek, 17.4.2022)