Dem Moderator würde man auf den ersten Blick durchaus abkaufen, dass er etwas von jenem Handwerk versteht, das er für Wolf News auf dem Bildschirm ausübt. Fesch gekampelt, mit einem sorgsam gepflegten Dreitagebart und im Nadelstreifenanzug könnte der Herr namens "Alex" auch bei CNN oder der BBC die Nachrichten moderieren. Doch an "Alex" stimmt etwas nicht, seine Lippen bewegen sich beim Sprechen unnatürlich, während seine Augen starr in die Kamera blicken und mechanisch blinzeln. Dieser Eindruck täuscht nicht, denn "Alex" existiert nicht. Sein Gesicht, die Gelfrisur, der schicke Anzug, die etwas steife Mimik: alles Fake, erstellt von einer künstlichen Intelligenz (KI).

Mit einer etwas seltsam abgemischt klingenden Stimme berichtet er von Amokläufen und den fehlenden Maßnahmen gegen Waffengewalt in den USA und wirft der US-Regierung "heuchlerische Wiederholung leerer Phrasen" vor. Eine Kollegin von "Alex" betont dagegen die gewichtige Rolle Chinas und dessen Bedeutung in geopolitischen Fragen. Auch sie ist nicht echt.

Deepfake-Propaganda um 30 Euro im Monat

Neu sind derartige Deepfakes nicht, vor allem weil es handwerklich deutlich besser gemachte Beispiele gibt. Doch im Fall von Wolf News kommt eine besondere Komponente hinzu, es ist der erste dokumentierte Fall einer staatlichen Einflussnahme, bei der ausschließlich KI-generiertes "Nachrichtenmaterial" zur Verbreitung von Propaganda eingesetzt wurde.

Das auf Fehlinformationen spezialisierte Forschungsunternehmen Graphika hat am Dienstag einen Bericht veröffentlicht, der zeigt, wie weit umstrittene Deepfake-Technologien bereits fortgeschritten sind. Die beiden falschen Anchor von Wolf News lassen sich dabei recht einfach auf das Angebot der Firma Synthesa zurückführen.

"Jason" und "Anna" sehen genau so aus wie die Darsteller in den Propagandavideos und können für 26 Euro im Monat gekauft werden. Synthesa wurde vor fünf Jahren in Großbritannien gegründet. Die Videos des Unternehmens werden hauptsächlich für Schulungen, Erklärvideos oder Produktmarketing verwendet. Die Anwendung für staatliche Propaganda ist neu.

Die digitalen Zwillinge basieren auf dem Aussehen echter Schauspieler und Schauspielerinnen und können 120 verschiedene Sprachen und Dialekte sprechen. Darüber hinaus bietet das Unternehmen 85 Charaktere mit verschiedenen Geschlechtern, Altersgruppen, Ethnien, Stimmtönen und sogar Modetrends zur Auswahl an.

Eine fragwürdige Premiere

"Dies ist das erste Mal, dass wir so etwas in freier Wildbahn sehen", sagte Jack Stubbs, der Vizepräsident der Abteilung Intelligence bei Graphika. Die Nutzungsbedingungen von Synthesia verbieten eigentlich die Erstellung "politischer, sexueller, persönlicher, krimineller und diskriminierender Inhalte". Das Unternehmen betreibt eine vierköpfige Abteilung, die für die Überwachung der nutzergenerierten Inhalte zuständig ist. Bei Synthesa betont man, dass subtile Propaganda schwerer aufzuspüren sei als plumpe Fehlinformationen, explizite Inhalte oder Hassrede.

Das "Spamouflage"-Netzwerk

Victor Riparbelli, Mitbegründer und CEO von Synthesia, erklärte gegenüber der "New York Times", dass das Unternehmen die volle Verantwortung für die Sicherheitslücke übernehme und dass die Abonnenten, die hinter Wolf News stehen, in der Folge wegen Verstoßes gegen die Richtlinien des Unternehmens gesperrt worden seien.

Laut den Analysen von Graphika dürften die Macher von Wolf News Teil eines großangelegten chinesischen Spam-Netzwerkes sein. Das Ziel dürfte die Verbreitung prochinesischer Propaganda im Sinne der Kommunistischen Partei sein. Das von Graphika "Spamouflage" getaufte Netzwerk soll laut dem Report enge Kontakte mit der chinesischen Führung pflegen.

Obwohl die nun von Graphika aufgedeckte digitale Propaganda nur wenige Menschen online erreichte, warnt das Unternehmen, dass es nur eine Frage der Zeit ist, bis "threat actors" eine bessere Technologie für extrem überzeugende Videos und Bilder für ihre Desinformationskampagnen nutzen.

In einem Blogbeitrag, der im November letzten Jahres auf der Website von Synthesia veröffentlicht wurde, forderte Riparbelli die Regierungen auf, umfassende Gesetze zur Regulierung der "synthetischen Medien" und der Deepfake-Industrie zu erlassen. (pez, 8.2.2023)