Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.