Künstliche Intelligenz ist nicht frei von Vorurteilen. Wobei Vorurteil wohl das falsche Wort ist: Die Software wurde offenbar mit Inhalten gefüttert, die oftmals klischeebehaftet sind oder bestimmte Blickwinkel einnehmen. Aktuell trendet es beispielsweise auf Tiktok, dass man sich professionelle Fotos von Bild-KIs erstellen lässt, um seine Social-Media-Kanäle damit zu füllen. Nun mehren sich die Beiträge von schwarzen Frauen, in denen sie darüber klagen, von der Software regelmäßig stark sexualisiert zu werden.

Tiefer Ausschnitt

Ein Beispiel ist die junge US-Amerikanerin Lana Denina, die ihre von KI generierten Ergebnisse online zeigte. Nach dem Hochladen von Referenzfotos erweiterte die von ihr gewählte Software Remini, ein KI gestützter Fotoeditor, diverse Outfits. Dabei fiel auf, dass alle einen sehr tiefen Ausschnitt aufweisen und von manchen Online-Kommentaren als "Onlyfans"-tauglich erkannt wurden. Ein Foto zeigt die Frau etwa mit einem offenen Blazer und keinerlei Kleidung darunter.

"Die KI sexualisierte mich aufgrund meines Körpers und jahrzehntelangen Fetischen", schrieb sie auf Twitter. Die künstliche Intelligenz sei "voreingenommen gegenüber PoC (People of Color). Ich bin entsetzt."

In der unter ihren geposteten Fotos laufenden Diskussion schreibt Denina, dass sie professionelle, nicht-sexualisierte Porträts als Basis für die KI verwendet habe. Die junge Frau habe auch mehrere Versuche gestartet, und die Ergebnisse seien immer dieselben gewesen. Andere ebenfalls dunkelhäutige Frauen melden sich ebenfalls zu Wort und bestätigen die Vorwürfe, dass die KI ihnen gegenüber voreingenommen sei.

Kodierter KI-Blick

Die Vorwürfe werden nicht zum ersten Mal laut. Bereits 2019 meldet sich Joy Buolamwini, Vorstand der digitalen Interessengemeinschaft Algorithmic Justice League, in einem Interview mit der "Time" zu Wort. Die Art und Weise, wie viele KI-Systeme erstellt würden, führe zu eklatanten blinden Flecken bei dem, was sie erkennen und erstellen können, warnte sie schon damals.

Das Problem sei, dass diese Systeme von überwiegend hellhäutigen Männern trainiert werden. Dadurch würde ein "kodierter Blick" und eine "Voreingenommenheit" der künstlichen Intelligenz entstehen. Die Ergebnisse können deshalb immer wieder "diskriminierend oder ausschließend" sein.

Auch im Vorjahr stützt eine Studie diese früh geäußerte Warnung. In einer Kollaboration dreier internationaler Universitäten wurden Roboter ausschließlich von einer KI trainiert. Den Forscherinnen fiel auf, dass die Roboter zunehmend rassistischer und sexistischer wurden, was ausschließlich mit den Austausch mit der KI entstanden sein kann.

"Unsere Welt ist verdammt"

Postings von weißen Frauen, die man derzeit auf Tiktok ausgespielt bekommt, tragen tatsächlich Businesskleidung, wie man sie erwarten würde. Es gibt auch positive Beispiele von dunkelhäutigen Frauen, etwa von der Tiktok-Nutzerin Rachel Wonng.

Lana Denina schrieb ein paar Stunden nach ihrem Tweet in die Kommentare, dass sie mehrfach belästigt worden sei, da sich offenbar viele Männer vom "KI-Busen" angeheizt gefühlt hätten. Sie musste "zumindest 30" Leute blocken. Resignierend fügte sie hinzu: "Unsere Welt ist verdammt."

Eine positive Meldung konnte sie aber auch verlautbaren: Eine verantwortliche Person von Remini meldete sich via Direktnachricht bei der Frau. Darin heißt es, man habe sich des Problems bereits angenommen. Man habe bessere "Content-Filter" eingebaut, um solche Dinge künftig nicht mehr möglich zu machen. "Es gibt noch Hoffnung, wenn man sich ausreichend aufregt", freut sich Denina. (red, 19.7.2023)