Auch nach Weihnachten geht die Veröffentlichung von Twitter-Interna unter der Bezeichnung "Twitter Files" weiter. Widmete man sich zuletzt den Werkzeugen, über die Twitter zur Beschränkung von Reichweite verfügt, sowie Begehrlichkeiten des FBI, behandelt die neueste Publikation der Rolle des Netzwerks in der Debatte zur Corona-Pandemie.

Einleitend wirft David Zweig Twitter vor, besagte Debatte "manipuliert" zu haben. Es seien für die US-Regierung "unangenehme Informationen zensiert", "Ärzte und andere Experten mit anderen Meinungen diskreditiert" und "gewöhnliche Nutzer unterdrückt" worden. Gravierende Vorwürfe also, die sich in dieser Schärfe allerdings schwer argumentieren lassen.

Dass Twitter nach Ausbruch der Pandemie begonnen hat, gegen Desinformation vorzugehen, ist allgemein bekannt. Auch andere Social Networks begannen, diesbezüglich Regeln aufzustellen. Dabei ging es unter anderem um abstruse Verschwörungserzählungen, in denen etwa behauptet wurde, die Krankheit würde über 5G-Funkmasten weiterverbreitet, oder auch möglicherweise unrichtige Berichte über Panikkäufe in Supermärkten.

Fokus auf Impfgegner

Anfragen und Besprechungen zum Umgang mit solchen Inhalten gab es bereits mit der US-Regierung unter Trump, die das erste Jahr der Pandemiebekämpfung in den USA verantwortete. Unter anderem wurde eine wöchentliche Telefonkonferenz zum Austausch von Trendbeobachtungen und anderen Daten eingerichtet.

Laut Zweig sei der Fokus nach dem Regierungswechsel zu Jahresbeginn 2021 dann auf reichweitenstarke Impfgegner gewandert. Genannt wird hier im Speziellen Alex Berenson. Der ehemalige "New York Times"-Journalist war in den Monaten zuvor mit einigen fehlerhaften bis falschen Aussagen aufgefallen.

So behauptete er einen Zusammenhang zwischen schweren Erkrankungen und Covid-Impfungen auf Basis von Daten, die eigentlich deren hohe Sicherheit belegten. Dazu behauptete er entgegen der damaligen Informationslage, dass vor allem für Menschen mittlerer und jüngerer Altersgruppen das Risiko von Nebenwirkungen höher sei als das Risiko einer Covid-Infektion.

Er erklärte, Israel habe sich mit seiner frühen Impfkampagne geschadet, obwohl zu dieser Zeit die Hospitalisierungen und Todesfälle in Zusammenhang mit Covid-19 unter Geimpften stark rückläufig waren. Er hatte zudem prognostiziert, dass es in den USA bei weniger als 500.000 Infektionsfällen bleiben würde. Im Frühjahr 2021 war diese Zahl bereits überschritten, nach aktuellem Stand wurden in den USA laut WHO-Daten mehr als 102 Millionen Infektionen registriert.

Im Juli 2021 kritisierte Präsident Joe Biden öffentlich die sozialen Netzwerke dafür, den Tod von Menschen durch Desinformation zuzulassen. Stunden nach dieser Ansprache wurde Berensons Konto laut Zweig gesperrt und später komplett stillgelegt. Dieser klagte das Netzwerk und kehrte nach einem Vergleich im August 2022 wieder auf die Plattform zurück. Berenson war zuvor im April schon einmal Thema eines Treffens zwischen Mitarbeitern des Weißen Hauses und Twitters damaliger Policy-Chefin Lauren Culbertson gewesen.

Laut ihrem Bericht wurden seitens der Regierung großteils "pointierte, aber faire Fragen" gestellt, die man auch beantworten konnte. Einzig der Umgang mit Berenson erwies sich in den Gesprächen als harte Nuss. Die Regierungsvertreter seien "sehr verärgert" darüber gewesen, dass ihrer Ansicht nach nicht genügend getan und verschiedene Konten nicht deplatformt wurden. Eine Schilderung, die per se dagegen spricht, dass Twitter sich beliebig den Wünschen des Biden-Teams gebeugt hätte.

Keine "Kapitulation", aber überforderte Moderation

Auch Zweig selbst schreibt, dass Twitter vor den Wünschen "nicht kapituliert" habe. Intern sei in der Moderation oft im Detail über einzelne Fälle diskutiert und Sensibilität für freie Meinungsäußerung gezeigt worden. Dennoch kam es aber, so schreibt er, "zur Unterdrückung von Ansichten", auch von "Ärzten und wissenschaftlichen Experten", deren Positionen in Konflikt mit jener der Regierung standen.

Als Teil des Problems nennt Zweig auch den Aufbau des Moderationsprozesses. Dabei geht es einerseits um automatisierte Kennzeichnung über KI-gesteuerte Bots, die trotz aller technologischen Fortschritte für "so nuancierte Tätigkeiten" noch ungeeignet seien. Zudem bestand das Moderationsteam in großen Teilen aus externen, oft in den Philippinen arbeitenden Vertragsnehmern.

Diesen wurden Entscheidungsabläufe in einer Baumstruktur als Anleitung vorgelegt. Menschen ohne fachliche Expertise damit zu beauftragen, Postings zu Themen wie Herzmuskelentzündung zu moderieren, verursache jedoch absehbar eine "signifikante Fehlerquote".

Bei besonders umstrittenen Fällen sei die Entscheidung aber letztlich bei Mitarbeitern in höheren Ebenen gelegen, die schlussendlich über Maßnahmen wie Sperrungen entschieden. Und bei diesen verortet Zweig eine die Regierungspositionen begünstigende Voreingenommenheit.

Beispiele für Moderationsversagen

Ausgewirkt habe sich das etwa bei Martin Kulldorf, einem Epidemiologen der Harvard Medical School. Im März 2021 antwortete dieser auf die Frage eines anderen Twitter-Users, dass Covid-Impfungen vor allem für ältere Menschen, Angehörige von Risikogruppen und deren Pflegekräfte wichtig seien. Für Kinder oder Menschen, die bereits einmal infiziert waren, seien sie nicht notwendig.

Das sorgte intern für einen E-Mail-Austausch, und schließlich wurde Kulldorfs Tweet mit einer Warnung versehen, dass er "irreführend" sei. Likes, Antworten und Retweets wurden gesperrt. Als Hinweis wurde ergänzt, dass er den Empfehlungen der Gesundheitsbehörde CDC (Center for Disease Control) widersprach, die zum damaligen Zeitpunkt die Impfung für die meisten Menschen empfahl.

Als weiteres Beispiel führt Zweig einen Tweet des Accounts "KelleyKga" an. Dieser hatte einem anderen Nutzer selektiven Umgang mit CDC-Daten betreffend Covid-Todesfälle bei Kindern vorgeworfen und dazu eine aus der Datenbank der Behörde stammende Tabelle als Screenshot gepostet. Auch dieser Tweet erhielt eine "Irreführend"-Kennzeichnung. Das Posting sei erst durch Meldungen anderer User von einem Bot in die Moderationsschleife eingereiht worden, wo letztlich ein Mensch diese Maßnahme beschlossen habe. Auf die Beschwerde der Nutzerin antwortete Twitter unter anderem, dass man aktuell Maßnahmen gegen Inhalte, die eine stärkere Ausbreitung von Covid begünstigen könnten, priorisiere.

Es gebe "unzählige" weitere Beispiele für solche Fälle, schreibt Zweig. Angeführt werden auch der Tweet eines Arztes, der auf eine Studie verweist, deren Daten eine Korrelation zwischen Herzstillständen bei 16- bis 39-Jährigen und Covid-Impfungen zeigen soll, und ein weiterer Mediziner, der aufgrund mehrerer "Desinformations"-Verstöße gesperrt wurde. Einer dieser Verstöße bestand im Teilen einer peer-reviewten Studie, laut der es gemäß Auswertung von Samenspenden infolge einer mRNA-Covid-Impfung zu einem temporären Rückgang an Spermien kommt. Eine Angabe zu den anderen Verstößen, die dem Account angelastet wurden, wird allerdings nicht gemacht.

Diskussion um Trump-Posting

Das CDC ist in den USA mitverantwortlich für die Pandemiebekämpfung von staatlicher Seite und bezieht seine Empfehlungen sowohl aus eigener Expertise als auch aus externen Quellen. Es ist auch verantwortlich für die Veröffentlichung offizieller Richtlinien – im Rahmen der Pandemie etwa bezüglich Impfungen oder Masken. Dass Twitter – und andere Netzwerke – sich bei ihrer eigenen Regelsetzung an diesen Richtlinien orientieren, ist keine Überraschung, zumal sie selbst nicht über medizinisches Fachwissen verfügen.

Als Beispiel für den vermuteten Bias wird auch die Reaktion auf ein Posting von Donald Trump im Oktober 2020 – zu diesem Zeitpunkt war er noch Präsident – genannt. In diesem schrieb Trump, dass er nach überstandener Covid-Infektion nun aus dem Krankenhaus entlassen werde, er sich "besser fühle als vor 20 Jahren" und man "keine Angst vor Covid haben" und "sein Leben nicht davon dominieren lassen" solle.

Das sorgte für eine Nachfrage durch Jim Baker, stellvertretender Leiter von Twitters Rechtsberatung, an die Trust-&-Safety-Abteilung, warum dieser Tweet keinen Verstoß gegen die Covid-19-Richtlinien von Twitter darstelle. Darauf antwortete deren Chef Yoel Roth – gegen den Elon Musk kürzlich eine Welle homophoben Hasses lostrat –, dass es sich hier nur um ein allgemeines, optimistisches Statement handle und niemand dazu angestiftet werde, etwas Gefährliches zu tun oder entgegen den CDC-Richtlinien zu handeln.

Ein fehleranfälliges System, aber keine Verschwörung

Zweig sinniert am Ende darüber, wie diese Pandemie und deren Auswirkungen wohl mit einer "offeneren Debatte" auf Twitter und anderen Plattformen über "den Ursprung von Covid, Lockdowns, die wahren Risiken für Kinder" und andere Themen ausgesehen hätten. Den zu Beginn in Aussicht gestellten Nachweis für eine umfassende Manipulation des Meinungsaustauschs zur Pandemie bleibt er letztlich aber schuldig.

Stattdessen zeigt er, dass Twitter eben nicht radikal alle potenziell der Regierungslinie widersprechenden Postings entfernte oder in ihrer Reichweite limitierte und auch intern kritisch über Maßnahmen gesprochen wurde. Was aber ebenfalls zu sehen ist, ist ein auf mehreren Ebenen fehleranfälliges Moderationssystem mit sichtlichem Verbesserungsbedarf.

Es zeigt die Problematik der Nutzung von Bots, die trotz aller KI-Fortschritte immer noch schlecht in der Interpretation von Kontext sind, sowie der Auslagerung an schlecht geschulte, externe Mitarbeiter. Dies sorgte dafür, dass auch beim Thema Covid immer wieder Postings gemaßregelt wurden, die selbst gemäß den damals gültigen Richtlinien des Netzwerks unproblematisch waren und nicht hätten sanktioniert werden dürfen. (gpi, 28.12.22)