21.11.2022

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

Das Text-to-Image-Modell “Stable Diffusion” des Londoner Startups, Stability AI, wird seit Monaten auf Discord für KI-generierte Pornos verwendet.
/artikel/ki-generierte-pornos-koennten-pornodarstellerinnen-ersetzen
(c) Adobe Stock - sakkmesterke

Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.

Deine ungelesenen Artikel:
28.07.2026

“Zu wenige gute Leute”: poptop verlässt Niederösterreich

Das Kindermöbel-Startup poptop gibt seinen Standort Traiskirchen bis Ende Oktober auf und zieht in den 5. Wiener Gemeindebezirk. Die Endmontage übernehmen künftig die Zulieferer, das Fulfilment ein externer Partner, eine Stelle fällt weg. Parallel baut das Unternehmen eine zweite Fertigung in Serbien auf. Bis 2028 will CEO John Brady das zwölfköpfige Team verdoppeln.
/artikel/zu-wenige-gute-leute-poptop-verlaesst-niederoesterreich
28.07.2026

“Zu wenige gute Leute”: poptop verlässt Niederösterreich

Das Kindermöbel-Startup poptop gibt seinen Standort Traiskirchen bis Ende Oktober auf und zieht in den 5. Wiener Gemeindebezirk. Die Endmontage übernehmen künftig die Zulieferer, das Fulfilment ein externer Partner, eine Stelle fällt weg. Parallel baut das Unternehmen eine zweite Fertigung in Serbien auf. Bis 2028 will CEO John Brady das zwölfköpfige Team verdoppeln.
/artikel/zu-wenige-gute-leute-poptop-verlaesst-niederoesterreich
(v.l.) John Brady von poptop, Fußballprofi Thomas Müller als Star-Investor sowie Christian Bezdeka und Marcus Ihlenfeld von woom. (c) poptop

„Niederösterreich, es war schön. Aber ihr habt einfach zu wenige gute Leute.“ Mit diesem Satz, versehen mit einem Herz-Emoji, hat John Brady auf LinkedIn den Umzug seines Startups kommentiert. poptop hat den Mietvertrag für ein Büro in 1050 Wien unterschrieben, ab September 2026 arbeitet das Team dort. In dasselbe Büro zieht soundslikeaplan, das Programm der beiden poptop-Mitgründer Marcus Ihlenfeld und Christian Bezdeka.

poptop wurde 2023 von Ihlenfeld, Bezdeka und Brady gegründet und entwickelt Kindermöbel, darunter einen mechanisch höhenverstellbaren Kinderschreibtisch, der ohne Strom auskommt. Im zweiten vollen Geschäftsjahr lag der Umsatz bei mehr als zwei Millionen Euro, für 2026 peilt das Unternehmen sechs Millionen Euro und erstmals Profitabilität an. Seit 2025 ist Fußballprofi Thomas Müller, über eine siebenstellige Finanzierungsrunde, als Investor an Bord. Das Tagesgeschäft liegt von Beginn an bei Brady als CEO, Ihlenfeld und Bezdeka verantworten Produktvision und Design.

Bekannt sind die beiden vor allem durch woom: 2013 in einer Wiener Garage gegründet, ab 2015 von Klosterneuburg aus gewachsen und im Geschäftsjahr 2025 bei rund 149 Millionen Euro Umsatz. Aus der operativen Führung des Kinderfahrradherstellers haben sie sich 2022 zurückgezogen, seither sind sie dort Miteigentümer und im Beirat. Seit 2025 geben sie mit soundslikeaplan ihr Wissen an andere Gründer:innen weiter. Es ist das einzige der drei Unternehmen, das sie selbst operativ betreiben, und der Grund, warum sie beim Wiener Büro mit an Bord sind.

„Wenn du schnell sein willst, musst du im selben Raum sitzen“

Bisher waren die Teams auf zwei Standorte verteilt: Operations und Marketing von poptop in Traiskirchen, die Produktentwicklung gemeinsam mit dem soundslikeaplan-Team im 19. Wiener Gemeindebezirk. Was nach Arbeitsteilung aussah, sei in Wahrheit ein Effizienzproblem gewesen, heißt es in einer Aussendung: Meetings über zwei Standorte hinweg, Wege, die niemand fahren wollte, Entscheidungen, die zu lange dauerten. „Wenn du schnell sein willst, musst du im selben Raum sitzen. Punkt“, sagt Brady. Es sei der vierte Umzug in drei Jahren.

Zwölf Mitarbeiter:innen, doppelt so viele bis 2028

Den Wechsel nach Wien begründet Brady mit dem Personalbedarf. poptop wachse und brauche qualifizierte Leute, in Niederösterreich sei das schwieriger als nötig. „Niederösterreich hat uns gut behandelt. Aber der Talentpool in Wien ist um ein Vielfaches größer. Wenn wir das Team aufbauen wollen, das poptop in den nächsten Jahren braucht, führt kein Weg an einem zentralen Wiener Standort vorbei“, so der CEO.

Konkret zählt poptop nach eigenen Angaben aktuell zwölf Mitarbeiter:innen. Bis 2028 soll sich das Team verdoppeln, Schwerpunkte sind laut Brady Produktentwicklung sowie Marketing und Sales.

Auch woom hat Niederösterreich verlassen: Das Unternehmen übersiedelte im Februar 2024 von Klosterneuburg in den 19. Wiener Gemeindebezirk, 155 der 162 Beschäftigten wechselten mit. Der Grund war damals allerdings ein anderer, die Geschäftsführung führte Platzmangel an. Ihlenfeld und Bezdeka waren zu diesem Zeitpunkt bereits nicht mehr operativ tätig.

Ausgelagert wird die Endmontage, nicht die Produktion

In der Aussendung heißt es, Produktion und Fulfilment würden komplett ausgelagert. Auf Nachfrage von brutkasten präzisiert Brady das: Die Kernproduktion sei immer extern gelaufen, mit den bestehenden Zulieferern arbeite poptop schon bisher zusammen. In Traiskirchen habe das Unternehmen lediglich die Endmontage einzelner Produkte selbst gemacht, und die übernehmen künftig ebenfalls die Zulieferer. „Es geht also nicht um eine Verlagerung eigener Produktion, sondern um die Bündelung von Arbeitsschritten“, sagt der CEO.

Bis Ende Oktober sollen alle Produkte verkaufsfertig an den neuen Fulfilment-Partner Quivo gehen und von dort direkt zu den Kund:innen. Hinter Quivo steht die Wiener LOGSTA GmbH, deren Fulfilment-Center beim Flughafen Schwechat liegt. Die Logistik bleibt damit in Österreich. Parallel baut poptop laut Brady einen zusätzlichen Produktionspartner in Serbien auf, der bereits im Herbst starten soll. Damit stehe die Fertigung künftig auf zwei Beinen – Asien und Europa – und das Unternehmen werde lieferfähiger und flexibler.

Marcus Ihlenfeld begründet den Schritt in der Aussendung so: „Unsere Stärke liegt in Produktentwicklung und Marketing. Das [Anm. Fertigung] können andere besser. Und je früher man das akzeptiert, desto besser.“

Eine Stelle fällt weg

In Produktion und Fulfilment arbeiten nach Angaben von Brady aktuell zwei Personen, im Operations-Team zwei weitere. Eine Stelle im Fulfilment fällt bis Jahresende weg. Eine Person betreut künftig von einem externen Standort aus das gesamte Retourenmanagement und bleibt an Bord. Das zweiköpfige Operations-Team wechselt nach Wien und soll verstärkt werden, weil die Steuerung der externen Produktions- und Fulfilment-Partner mehr Gewicht bekommt. Den Standort Traiskirchen gibt poptop bis Ende Oktober vollständig auf.

Werkstatt und Schauraum ziehen mit

Die Produktentwicklungswerkstatt zieht mit und soll am neuen Standort mehr Platz bekommen. Prototypen sollen künftig direkt neben dem Büro gebaut, getestet, verworfen und neu gemacht werden. Dazu kommt laut Aussendung ein Schauraum, in dem Eltern und der Fachhandel die Produkte direkt am Standort testen können.

Für soundslikeaplan entsteht am neuen Standort außerdem ein eigener Schulungsraum. „Wir haben zehn Jahre lang jede Lektion selbst durchgemacht, mit allen Umwegen und Schmerzen“, sagt Christian Bezdeka. „Wenn wir anderen Gründern ein paar dieser Umwege ersparen können, ist schon viel gewonnen. Dafür brauchen wir einen Raum, in dem das persönlich passiert. Und den haben wir jetzt.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen