Fälschliche Erkennungen durch maschinenlernende Filter sind immer wieder Thema – oft irren sie sich beim Kontext einer Botschaft.

Foto: reuters

Die Moderation auf großen sozialen Plattformen wird häufig zu einem entscheidenden Teil durch Algorithmen durchgeführt. Zwar gibt es auch menschliche Moderatoren, die Inhalte auf Verstöße der jeweiligen Nutzungsbedingungen prüfen. Für sämtlichen Content wäre das aber aufgrund der schieren Menge an Inhalten oft kaum mehr möglich. Die selbstlernenden Systeme sind allerdings nicht vor Fehlern gefeit, wie eine Untersuchung der Carnegie Mellon University nun nahelegt.

So sahen sich die Pittsburgher Forscher den Fall des größten Schachkanals mit über einer Million Abonnenten auf Youtube, "Agadmator", an. Der kroatische Spieler und Moderator des Kanals, Antonio Radić, war im Juni 2020 während eines gemeinsamen Videoauftritts mit dem Schachgroßmeister Hikaru Nakamura plötzlich verbannt worden. Sein Account blieb 24 Stunden lang gesperrt, weil er "schädliche und gefährliche" Inhalte geteilt habe. Genauer begründet wurde das nie. Radić teilte später die Annahme, dass es wohl zu der Sperre gekommen sei, weil er über Schwarz gegen Weiß gesprochen hatte, damit aber Schachfiguren meinte.

Kontext fehlt

Der Algorithmus dürfte allerdings den Kontext seiner Aussage nicht erkannt haben. Die Forscher prüften diese Theorie, indem sie eine branchenübliche, aktuelle Software mehr als 680.000 Kommentare prüfen ließen. Die Inhalte wurde aus fünf populären Schachkanälen bei Youtube gesammelt. 1.000 der Kommentare wurden manuell untersucht. Das Ergebnis: In 82 Prozent der Fälle wurden die Kommentare fälschlicherweise als problematisch beurteilt, weil Worte wie Schwarz, Weiß, Angriff und Gefahr zu lesen waren. Dabei waren diese in Bezug auf das Spiel getätigt worden.

Verpflichtende Uploadfilter

Fälschliche Erkennungen durch maschinenlernende Filter sind immer wieder Thema: so etwa vor wenigen Wochen, als ein US-Polizist mit einem Lied der Beatles die Aufnahme eines Aktivisten verhindern wollte. Er hatte auf den Urheberrechtsfilter der sozialen Netzwerke gehofft. Und auch bei der anstehenden Urheberrechtsreform der EU gelten Uploadfilter als wahrscheinlichste Maßnahme und werden auch im aktuellsten Arbeitsentwurf aus Österreich vorgesehen. Internetplattformen müssen noch vor der Veröffentlichung eines Inhalts dafür sorgen, dass keine Copyright-Verletzung vorliegt. Der Arbeitsentwurf vom Dezember sieht in Bezug auf die Nutzung von Inhalten eine Bagatellschranke von wenigen Sekunden bei Videos vor. (muz, 22.2.2021)