Es kann scheinbar jeden treffen: Diverse europäische Bürgermeister – darunter auch Wiens Michael Ludwig – wähnten sich in einem Gespräch mit Witali Klitschko, und "Harry Potter"-Autorin J. K. Rowling glaubte, sich mit Wolodymyr Selenskyj zu unterhalten. In all diesen Fällen wurden die Opfer aber reingelegt, die Gespräche waren gefälscht, die vermeintlichen ukrainischen Politiker saßen gar nicht hinter der Kamera.

Nicht selten fiel in diesem Kontext das Wort "Deepfake" – also die Bezeichnung einer Technologie, bei der mithilfe künstlicher Intelligenz Personen in Bilder und Filmszenen montiert werden, in denen sie ursprünglich nicht zu sehen waren. Zwar dürfte es sich in den vorliegenden Fällen gar nicht um Deepfakes, sondern um sogenannte Shallow Fakes – Fälschungen mit weit weniger technisch versierten Mitteln – handeln. Dennoch rückt das Thema "Deepfakes" nun wieder in den Vordergrund. Und viele Menschen fragen sich, ob sie auch selbst damit experimentieren können.

Fake per App

Tatsächlich ist es heute sogar möglich, per App einfache Fakes von sich selbst zu erstellen – sei es, indem man sich in bekannte Filmszenen hineinmontiert oder indem man kosmetische Änderungen an sich selbst vornimmt. Eine dieser Apps wurde von einem ukrainischen Start-up entwickelt und trägt den Namen Reface. Sie wurde unter anderem schon von Elon Musk via Twitter beworben und über 100 Millionen Mal installiert.

Gestaltet nach dem Freemium-Modell können hier Basisfunktionen genutzt und weitere Funktionen hinzugefügt werden. Zur Basisausstattung gehört etwa, dass man ein Foto von sich selbst hochlädt und dieses anschließend in bekannte Filmszenen montieren kann. Somit dauerte es nur wenige Schritte, bis ich mich im Selbstversuch in Conan, den Barbaren ...

Foto: Reface/Stefan Mey

... oder in Jack Sparrow aus "Fluch der Karibik" verwandelte.

Mit einer anderen Funktion von Reface wiederum können statische Bilder animiert werden, sodass sie zum Beispiel ein Lied singen. Die Ergebnisse wirken mal mehr, mal weniger überzeugend – beeindruckend ist aber in jedem Fall, wie niederschwellig der Zugang zu diesen Fake-Tools ist.

Das betrifft übrigens nicht nur die App Reface, sondern auch zahlreiche andere Miniprogramme. Wo früher etwa ausgefeilte Photoshop-Fähigkeiten benötigt wurden, lassen sich nun Falten und Pickel in einfachen Apps mit ein paar Fingertippsern entfernen. Vor einigen Jahren sorgte auch ein Programm namens "Face App" für Aufsehen, mit dem man Menschen auf Porträts künstlich jünger oder älter erscheinen lassen konnte.

Eine Frage des Datenschutzes

Die mediale Aufmerksamkeit bekam die von Russen entwickelte Face App aber nicht nur wegen ihrer technischen Finesse, sondern auch wegen diverser Kritikpunkte in Sachen Datenschutz, wie die Datenschutzbeauftragte Kathrin Strauß 2019 in einem Beitrag auf der Website datenschutzexperte.de erläuterte: Denn die Bearbeitung der Fotos findet nicht auf dem Handy, sondern auf Servern von Amazon Web Services (AWS) statt, dort werden sie unter anderem von Googles KI-Software Tensorflow analysiert.

Unklar ist laut Strauß überhaupt, was mit den biometrischen Daten – also dem Foto eines Gesichts – passiert, wenn es einmal auf die Server übertragen wurde. Denn immerhin bestätigen User mit der Zustimmung zu den AGB, dass das Unternehmen uneingeschränkt, unwiderruflich, unbefristet, weltweit und gebührenfrei Zugriff auf die Bilder – und somit auf die personenbezogenen Daten – erhält. Nicht ausgeschlossen sei, dass die eigenen Bilder zum Trainieren von KIs verwendet werden. In den USA wurde die App somit gar zum nationalen Sicherheitsrisiko erklärt – dass Russen hinter dem Projekt stecken, stärkte schon damals nicht unbedingt das Vertrauen.

Datenauskunft und Datenlöschung

Der Umgang mit dieser Thematik erinnert laut Thomas Lohninger von der österreichischen Grundrechtsorganisation Epicenter Works an jene Punkte, die schon gegen das auf Gesichtserkennung spezialisierte Unternehmen Clearview AI ausjudiziert worden sind: Das eigene Gesicht gilt als persönliche Daten, und das Foto vom eigenen Gesicht als geistiges Eigentum – somit haben Betroffene sowohl datenschutzrechtlich als auch urheberrechtlich entsprechende Mittel in der Hand.

Zwar ging es im Fall von Clearview AI darum, dass diese ohne Zustimmung der Betroffenen Fotos im großen Stil aus sozialen Netzwerken abgesaugt hatten, während bei den Deepfake-Apps die Menschen ihre Bilder selbst hochladen. Allerdings handelt es sich hier um eine Datenverarbeitung auf Basis von Einwilligung, wie Lohninger dem STANDARD erläutert – und dieses Einverständnis kann jederzeit widerrufen werden. So ist es möglich, sowohl einen Antrag auf Datenauskunft als auch auf Datenlöschung zu stellen. Das Team hinter Reface stellt hierfür in der eigenen Datenschutzerklärung gar eine E-Mail-Adresse zur Verfügung.

Vorsicht vor Fakes

Wohlgemerkt: Das gilt nur für die eigenen Daten. Vergleichsweise wenig Einfluss hat man darauf, dass andere Menschen fremde Bilder verwenden, um Fake-Fotos und Fake-Videos zu erstellen. In besonders drastischen Fällen werden etwa Gesichter prominenter Personen in pornografische Szenen montiert, zumindest aber können Menschen durch derartige Fakes in die Irre geführt werden, durch soziale Medien ist der Verbreitung solcher Inhalte Tür und Tor geöffnet.

Generell sollte daher mit fortschreitender Technologie auch mehr Skepsis gegenüber Inhalten im Netz herrschen, und diese sollten hinterfragt werden, so Lohninger. Das zeigen nicht zuletzt die aktuellen Fälle, die auch für die Wiener Stadtverwaltung recht unangenehm waren. (Stefan Mey, 30.6.2022)