Bilder-KIs sind so gut geworden, dass deren Bilder mittlerweile nicht mehr bei Kunstwettbewerben eingereicht werden dürfen. Menschen können mit Stable Diffusion oder DALL-E 2 Bilder ihrer Fantasie freien Lauf lassen und Bilder von so ziemlich allem erschaffen, solange man das gewünschte Resultat nur irgendwie in Worte fassen kann. Bild-KIs brauchen nämlich einen Befehl in Form einer Bildbeschreibung, also einen Prompt. Während man im Westen darüber diskutiert, ob nicht der Befehl an die KI schon Kunst ist, schlägt in China an der Stelle schon die Zensur zu.

Der chinesische Tech-Konzern und Suchmaschinenbetreiber Baidu lässt seinen Bildgenerator namens Ernie-VILG keine politischen Bilder generieren, wie MIT Technology Review berichtet. Dabei hat die Bild-KI Potenzial: So kann sie bessere Anime-Bilder erzeugen als etwa DALL-E 2 und gilt deshalb unter Anime-Fans als Geheimtipp. Als die Demo im August veröffentlicht wurde, dauerte es aber nicht lange, bis Usern auffiel, dass Prompts von der KI geblockt werden, wenn sie Begriffe enthalten, die von chinesischen Zensurbehörden als heikel erachtet werden.

DER STANDARD hat Ernie-VILG auf der Plattform huggingface.com ausprobiert. Eine Suche nach Tiananmen Square führt ins Leere, als ob die Serververbindung gekappt worden wäre. Auch der Prompt "Xi Jinping Winnie Pooh" liefert wie erwartet kein Ergebnis. Stattdessen wird der Nutzerin oder dem Nutzer eine Warnung auf Chinesisch gezeigt, die sich frei mit "Der eingegebene Inhalt entspricht nicht den Regeln, bitte passen Sie ihn an und versuchen Sie es erneut" übersetzen lässt.

Auch westliche KI-Systeme sind eingeschränkt

Einschränkungen bei der Bildsynthese sind aber auch außerhalb Chinas zu finden. So beschränkt DALL-E 2 einige Inhalte wie Nacktheit und Gewalt. Das passiere aber nicht auf Druck von US-Behörden, wie die amerikanische Firma Open AI betont, sondern sei eine freiwillige Entscheidung. Stable Diffusion von Stability AI aus London verfügt über einen "Sicherheitsfilter", der aber deaktiviert werden kann. Chefentwickler Emad Mostaque hat sich gegen eine Beschränkung der Bildsynthese ausgesprochen: Menschen sollten mit der Herstellung von Bildern das tun können, was sie für das Beste halten, sagt Mostaque.

Unklar ist, ob die Verantwortlichen bei Baidu ihren Bildgenerator Ernie-VILG freiwillig oder auf Druck der chinesischen Behörden eingeschränkt haben. Angesichts der Geschichte der Zensur in China wäre es aber nicht verwunderlich, wenn auch Bild-KIs Einschränkungen von offizieller Seite unterliegen. (pez, 15.9.2022)