Im Vorfeld diverser wichtiger Wahlen wird Meta in den kommenden Monat beginnen, per KI generierte Bilder auf Instagram, Facebook und Threads mit einem Wasserzeichen zu kennzeichnen. Zudem wird es Maßnahmen gegen Userinnen und User geben, die per KI generierte Videos nicht als solche kennzeichnen, wie das Fachmedium "The Verge" berichtet.

Generiert man Bilder mit Metas KI-Tool namens Imagine AI, so werden diese schon jetzt automatisch mit einem Wasserzeichen ausgestattet. Nun möchte Meta auch KI-Bilder kennzeichnen, die mit den Tools von Konkurrenten wie Midjourney, Google, OpenAI oder Adobe generiert werden. Das Unternehmen arbeitet derzeit an einem Tool, mit dem synthetische Inhalte auch dann erkannt werden sollen, wenn die Metadaten eines Bildes verändert wurden, um die Beteiligung von KI im Schaffensprozess zu verschleiern.

Etliche Initiativen

Laut Nick Clegg, Präsident für Global Affairs bei Meta, hinkt die Tech-Branche beim Erkennen und Kennzeichnen von KI-Inhalten hinterher. Meta sei sich aber bewusst, wie einfach mit diesen Technologien irreführende Inhalte erstellt werden können, und arbeite daher an Gegenmaßnahmen.

Unter anderem arbeitet Meta mit externen Experten zusammen, um auf existierenden System aufzubauen. Adobe hatte zuletzt selbst ein Wasserzeichen zum Kennzeichnen von KI-generierten Inhalten vorgestellt, Google setzt zwecks Kennzeichnung auf ein System namens Synth ID.

Videos kennzeichnen

Laut Clegg wird Meta von Userinnen und Usern auch erwarten, dass sie via KI generierte Videos kennzeichnen. Kommen sie dieser Aufforderung nicht nach, so können die von Meta ergriffenen Maßnahmen von Verwarnungen bis zur Löschung des Postings reichen.

Dass die Plattformen im Superwahljahr von KI-Fakes überrannt werden, zweifelt Clegg stark an: Es sei äußerst unwahrscheinlich, dass ein synthetisch erstelltes Video von großer politischer Bedeutung nicht rasch vom Moderationsteam entdeckt werde. (red, 13.2.2024)