Es ist kein Geheimnis mehr, dass soziale Netzwerke mit großer Nutzerbasis problematischen Inhalten eine Plattform bieten. Hassrede, Frauenfeindlichkeit und Verschwörungsideologien erlangen auf Facebook, Instagram und Co trotz Moderationsbemühungen eine teils massive Reichweite. Belästigung findet aber nicht nur über öffentliche Kanäle statt, wie eine Studie des Center for Countering Digital Hate (CCDH) sehr deutlich zeigt.

Bei der Untersuchung von insgesamt 8.717 Instagram-Direktnachrichten (DMs) an berühmte Frauen zeigte sich: Eine von 15 DMs verstieß gegen die Regeln zu Missbrauch und Belästigung – und Instagram reagierte in neun von zehn Fällen nicht auf die Meldung der Inhalte. Selbst Monate später waren 227 von 253 identifizierten Accounts noch erreichbar. Dabei legen die Forschungsergebnisse nahe, dass die Hälfte der Täter weitere Nachrichten verschickt, sollten sie nicht gesperrt werden. Die Forschenden sprechen deshalb von einer "Epidemie frauenfeindlicher Beschimpfungen".

Kleines Sample, großes Problem

Für die Untersuchung hat das CCDH mit fünf Frauen zusammengearbeitet, die gemeinsam 4,8 Millionen Follower haben. Darunter befinden sich zum Beispiel die Schauspielerin Amber Heard, die britische TV-Moderatorin Rachel Riley und die Journalistin Bryony Gordon. Zwar ist das Sample relativ klein, laut dem "Guardian" betonen die Forschenden jedoch, dass die Ergebnisse ein Scheinwerferlicht auf die Realität unzähliger Frauen auf der Fotoplattform werfen würden.

Eigentlich verbietet Instagram laut seinen Richtlinien folgende Inhalte explizit: Hassrede, Frauenfeindlichkeit, Homophobie, Rassismus, Mobbing, Belästigung, Gewaltaufrufe und Todesdrohungen. Auch Fotos oder Videos, auf denen Nacktheit oder sexuelle Handlungen zu sehen sind, dürfen auf der Plattform nicht geteilt werden. Auch nicht in Direktnachrichten.

Dennoch fanden die Forschenden "125 Beispiele für bildbasierten sexuellen Missbrauch". Eine von sieben Sprachnachrichten, die die teilnehmenden Frauen von fremden Personen erhalten haben, war missbräuchlich. Diese Sprachnachrichten zu melden ist hingegen unmöglich. Ebenso wenig wie solche, die im "vanish mode" verschickt werden. Dabei handelt es sich um Messages, die sich nach einer bestimmten Zeit selbst löschen.

Striktere Regeln?

Instagram scheint sich eigentlich selbst dessen bewusst zu sein, dass Nutzerinnen Gefahr laufen, Hassrede und missbräuchlichen Nachrichten ausgesetzt zu werden. Im April letzten Jahres stellte das Unternehmen deshalb "neue Instrumente zum Schutz unserer Gemeinschaft vor Missbrauch" vor.

Damals hieß es, dass Personen, die beleidigende DMs verschicken, strenger bestraft werden sollen. Außerdem sollen Nachrichten herausgefiltert werden, die beleidigende Wörter, Phrasen oder Emojis enthalten, heißt es in einem Blogbeitrag. Eine Maßnahme, an der Instagram laut dem CCDH kläglich scheitert. Die Plattform versäume es laut den Forschenden systematisch, "Konten zu entfernen, die gegen seine Regeln verstoßen". (mick, 8.4.2022)