Die Regel Nummer 34 besagt bekanntlich, dass, wenn etwas existiert, es auch Pornografie davon gibt, und zwar ohne Ausnahme. Freilich handelt es sich dabei mehr um ein Meme als um ein Naturgesetz, dennoch war es nur eine Frage der Zeit, bis Bild-KIs dazu verwendet werden, um Pornografie zu erstellen. Die Discord-Community Unstable Diffusion hat es sich zum Ziel gesetzt, dem Bildgenerator Stable Diffusion explizites Bildmaterial zu entlocken.

Einen Bildgenerator dazu zu bringen, Pornografie zu generieren, mag banal klingen, ist aber gar nicht so einfach. Zum einen verbieten die Nutzungsbedingungen der meisten Bild-KIs die Erstellung von Pornos. Stable Diffusion verfolgt einen liberaleren Ansatz und gestattet alles, was sich im rechtlichen Rahmen bewegt. Aber: Bild-KIs sind notorisch schlecht darin, realistisch aussehende nackte Menschen zu generieren, weil sie darauf nicht trainiert sind.

Während die Datenbanken millionenfach mit Bildern von bekleideten Personen in Alltagssituationen gefüttert sind, gibt es kaum Lehrmaterial mit nackten Menschen. Nur 2,9 Prozent der für das Training der KI verwendeten Bilder enthalten pornografische Inhalte. Das führt dazu, dass Stable Diffusion zusätzliche Gliedmaßen auf nackte Körper pflanzte oder Genitalien extrem verzerrt darstellte.

Von Softcore über BDSM bis hin zu Furries

Das mussten auch die Admins von Unstable Diffusion erfahren, als ihr Discord-Bot noch in den Kinderschuhen steckte und auf die Basisversion von Stable Diffusion zurückgriff. Mittlerweile sei man aber auf einem guten Weg, erklärt Arman Chaudhry, einer der Administratoren, gegenüber Techcrunch. So könne man mittlerweile Gesichter und verzerrt dargestellte Arme reparieren.

Seit dem Start der Community im August hat sich ein kleines Geschäft um die Pornos aus der Bild-KI entwickelt. Über Patreon verzeichnen die Admins Einnahmen von rund 2.500 Dollar im Monat, die Community ist auf 50.000 Mitglieder gewachsen, und das Kernteam besteht mittlerweile aus 13 Personen. Inzwischen bietet der Server eine Vielzahl an Unterkategorien für von KI generierte Pornos für unterschiedliche sexuelle Vorlieben und Fetische. So gibt es einen Kanal nur mit Bildern von Männern, eine Softcore-Sektion, einen Kanal für BDSM-Inhalte sowie diverse Furry- und Anime-Channels.

Händische Moderation für "ethische" Plattform

Laut den Angaben der Admins wurden mittlerweile 4,375 Millionen Bilder mit Unstable Diffusion generiert. Chaudhry will, dass sich die Community vernünftig weiterentwickelt und am Ende "ethische" Pornografie entsteht. So ist es beispielsweise verboten, Fakes mit den Bildern Prominenter oder extrem gewalttätige Inhalte zu erstellen. Irgendwann soll ein Geschäft daraus werden, so ist etwa ein Abomodell für den Discord-Bot geplant, sagt Chaudhry. Offen bleibt die Frage, wie die Plattform die selbstaufgestellten Regeln einhalten will, wenn die Community wächst und der Administrationsaufwand steigt.

Ein weiteres Problem sehen die von Techcrunch befragten Experten darin, dass durch die manuelle Moderation die Vorurteile der KI verstärkt werden könnten und diese falsche Idealbilder von Körpern vermittelt und gängige Pornoklischees bedient. So sei Sex zwischen weißen, heterosexuellen Menschen schon jetzt dominierend, während weniger verbreitete Erotikdarstellungen wie Homosexualität, Bisexualität und Transpersonen zu kurz kommen könnten.

Als nächsten Schritt will Unstable Diffusion eine Kickstarter-Kampagne starten und Investoren anlocken, sagt Chaudhry. Ob die hehren Ideale der Realität standhalten, wird sich erst zeigen. Laut Techcrunch werden Erinnerungen an den Fall Mindgeek, das Mutterunternehmen von Pornhub, wach. Zahlreiche Zahlungsanbieter zogen sich von der Plattform zurück, als bekannt wurde, dass auf der Seite Kinderpornografie und Sex-Trafficking-Videos kursierten. (pez, 22.11.2022)