Olga Loieks Gesicht tauchte plötzlich in tausenden Videos auf chinesischen Plattformen auf. Dort sprach sie plötzlich Mandarin, eine Sprache, die die echte Olga gar nicht beherrscht.
Screenshot Youtube/@olgaloiek

Olga Loiek ist eine typische Youtuberin mit einer mittelgroßen Reichweite: Sie veröffentlicht Videos über Ernährung, gibt Entspannungstipps und spricht im Netz über ihre Reisen. Zwar hat die 21-Jährige erst 19 Videos veröffentlicht, aber dennoch 17.200 Follower. Olga betreibt ihren Kanal auch nur nebenbei, denn eigentlich studiert die Ukrainerin Computational Science an der University of Pennsylvania. Jüngst machte die junge Frau eine Entdeckung: Ihr Gesicht ist in chinesischen Social-Media-Kanälen omnipräsent.

Die Konten mit ihrem Konterfei trugen dutzende verschiedene Namen wie Sofia, Natasha, April und Stacy. Diese "Mädchen" sprachen Mandarin – eine Sprache, die Olga nicht beherrscht. Die digitalen Klone stammten aber offenbar aus Russland und sprachen über die chinesisch-russische Freundschaft oder warben für russische Produkte. "Ich habe gesehen, dass 90 Prozent der Videos von China und Russland handelten, von der chinesisch-russischen Freundschaft, davon, dass wir starke Verbündete sein müssen, und von der Werbung für Lebensmittel", berichtet Olga gegenüber der BBC.

Einer der größten Accounts war "Natasha imported food" mit mehr als 300.000 Abonnenten. "Natasha" sagte Dinge wie "Russland ist das beste Land. Es ist traurig, dass sich andere Länder von Russland abwenden und dass russische Frauen nach China kommen wollen". Dazwischen wurde ausgiebig Werbung für Süßigkeiten made in Russia gemacht.

Somebody Cloned Me in China...
It is one thing to see funny deepfakes in Instagram Reels, and it is another to receive a message saying that your face has been reused for propaganda purposes in China... It has been difficult to paint the picture of what's happening and I wanted to share thi
Olga Loiek

"Ich möchte nicht, dass irgendjemand denkt, dass ich jemals in meinem Leben solche schrecklichen Dinge gesagt habe. Ein ukrainisches Mädchen als Gesicht zu benutzen, um für Russland zu werben. Das ist verrückt", so Olga.

Videos wurden mit Heygen erstellt

Die Fakes wurden offenbar mit generativer Künstlicher Intelligenz erstellt. Olgas Mandarin sprechenden KI-Klone tauchten im Jahr 2023 auf. Kurz nachdem sie ihren Youtube-Kanal erstellt hatte. Wenig später erhielt die echte Olga Nachrichten von Menschen, die behaupteten, sie hätten sie in Videos gesehen, in denen sie Mandarin spricht. Olga machte sich auf die Suche nach ihrem Abbild und wurde auf der chinesischen Plattform Xiaohongshu fündig. Dabei handelt es sich um eine Art Instagram-Klon. Olga war auch der unfreiwillige Star zahlreicher Videos auf Bilibili, dem chinesischen Nachbau von Youtube. Olga hat laut eigenen Angaben mittlerweile 35 Accounts mit ihrem KI-Fake gefunden, viele davon haben die russische Flagge in der Bio, was die Ukrainerin umso mehr schmerzt.

Woher die Videos kamen oder wie sie erstellt wurden, war zunächst unklar, bis Olgas Verlobter einen Tweet über die KI-Videos absetzte. Daraufhin meldete sich Heygen, ein Unternehmen, das einen KI-Videogenerator anbietet. Der Service sorgte im Herbst des Vorjahres für Aufsehen, schaffte es das Tool doch, nicht nur die Sprache des Protagonisten zu ändern, sondern auch dessen Lippenbewegungen einigermaßen überzeugend an das Gesagte anzupassen, wie DER STANDARD berichtete.

Heygen berichtete dem Paar, dass mehr als 4900 Videos mit dem Gesicht von Olga erstellt wurden. Das Unternehmen sperrte schließlich die Verwendung von Olga in KI-generierten Videos. Das Unternehmen nannte die Videos "unautorisierten Content" und versprach ein Update der eigenen Sicherheitsvorkehrungen, damit derartige Deepfakes nicht mehr vorkommen können.

"Gesichtsaustausch" ist in China verboten

Dass Heygen und andere Tools für derartige Zwecke missbraucht werden, ist nicht neu, wie Angela Zhang von der Universität von Hongkong gegenüber der BBC erklärt. In China existiere eine riesige Schattenwirtschaft, die sich auf Fälschungen, den Missbrauch persönlicher Daten und die Herstellung von Fälschungen spezialisiert habe, so die Expertin. Und das, obwohl China versucht hat, KI und deren Einsatzmöglichkeiten zu regulieren und es sogar einen zivilrechtlichen Schutz vor digitalen Fälschungen gibt. Im Jahr 2023 wurden 525 Personen wegen "KI-Gesichtstauschs" verhaftet.

Doch warum gingen dann Fakevideos von Olgas zu Tausenden ins Netz? Das könnte an den für China und Russland genehmen Botschaften liegen, die von den Avataren verbreitet wurden, vermutet Emmie Hine von der Universität Bologna. Zwar sei es unklar, ob Olgas Gesicht in einer koordinierten gemeinsamen Aktion der beiden Länder geklont wurde, aber dass die Erzählung der gemeinsamen chinesisch-russischen Propaganda entspricht, sei bestimmt kein Hindernis.

"Selbst wenn diese Konten nicht explizit mit der Kommunistische Partei Chinas verbunden sind, kann die Förderung einer gleichgerichteten Botschaft die Wahrscheinlichkeit verringern, dass ihre Beiträge gelöscht werden", so Hine. Doch wie kann man sich als Privatperson davor schützen, dass das eigene Programm für Propaganda missbraucht wird? Das sei aktuell kaum möglich, so die Expertin. Ihr wenig zufriedenstellender Rat: einfach nichts hochladen, was man für KI-Fakes verwenden kann, also weder Bild- noch Video- oder Audiomaterial. (pez, 15.5.2024)