Der Algorithmus der Fotoplattform Instagram vergrößert die Reichweite von Account-Netzwerken, die den Kauf von Darstellungen sexualisierter Gewalt gegen Kinder (CSAM) bewerben. Das geht aus einer gemeinsamen Untersuchung des "Wall Street Journal" ("WSJ") und Forschenden der University of Stanford und der University of Massachusetts Amherst hervor.

Der "WSJ"-Bericht betont in diesem Fall, dass das Missbrauchsmaterial nicht nur auf der Plattform zu finden ist. Stattdessen würden die Beiträge dank des Algorithmus aktiv beworben werden. Konkret würde Instagram Pädophile miteinander in Verbindung setzen – und auf fast direktem Weg zu den Verkäufern von Missbrauchsmaterial führen.

Eindeutige Hashtags

Dass es sich bei dem angebotenen Material um Darstellungen sexualisierter Gewalt gegen Kinder handelt, wird laut dem "Wall Street Journal" nicht mal versteckt. Die Inhalte würden mit offensichtlichen Hashtags wie #pedowhore, #preteensex und #pedobait beworben. Das Material selbst sei dahingegen nicht auf Instagram zu finden. Stattdessen, so die Berichterstatter, posten die Verkäufer Listen mit zum Kauf erhältlichen Inhalten. Teilweise sei es Interessenten sogar möglich, bestimmte Handlungen in Auftrag zu geben. Auch Videos von Kindern, die sich selbst verletzten, finde man unter den Angeboten, genauso wie "Bilder von Minderjährigen, die sexuelle Handlungen mit Tieren vollziehen". Wer genug Geld bezahlt, habe auch die Möglichkeit eines persönlichen Treffens.

Meta selbst kündigte infolge des Berichts an, eine interne Task Force einzurichten, die sich mit den aufgeworfenen Problemen auseinandersetzen wird. In einem Statement gegenüber der US-Zeitung schrieb das Unternehmen, dass die Ausbeutung von Kindern "ein schreckliches Verbrechen" sei. "Wir suchen ständig nach Möglichkeiten, uns aktiv gegen dieses Verhalten zu wehren." In den letzten zwei Jahren habe die Plattform 27 Pädophilen-Netzwerke offline genommen, weitere Schritte seien geplant.

Erste Maßnahmen

Seit Erhalt der Anfragen des "WSJ" will Meta außerdem mehrere Tausend Hashtags blockiert haben, die Kinder sexualisieren. Einige davon haben laut der Zeitung mehrere Millionen Beiträge. Darüber hinaus würde das System die Empfehlung von Begriffen verhindern, die im Kontext der sexualisierten Gewalt gegen Kinder stehen.

"Dass ein Team von drei Akademikern mit begrenztem Zugang ein so großes Netzwerk finden konnte, sollte bei Meta Alarm auslösen", sagt Alex Stamos, Leiter des Stanford Internet Observatory und ehemaliger Chief Security Officer von Meta zur Causa. "Ich hoffe, dass das Unternehmen wieder in menschliche Ermittler investiert." (red, 7.6.2023)