21.11.2022

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

Das Text-to-Image-Modell “Stable Diffusion” des Londoner Startups, Stability AI, wird seit Monaten auf Discord für KI-generierte Pornos verwendet.
/artikel/ki-generierte-pornos-koennten-pornodarstellerinnen-ersetzen
(c) Adobe Stock - sakkmesterke

Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.

Deine ungelesenen Artikel:
02.06.2026

Paketabgabe: „Wir brauchen weniger Symbolpolitik und mehr intelligente Steuerung“

Die von der Bundesregierung geplante Paketabgabe trifft bei heimischen Startups und Scaleups auf breite Ablehnung. Kritisiert wird dabei nicht das Ziel, sondern die Umsetzung. Wir haben uns umgehört.
/artikel/paketabgabe-wir-brauchen-weniger-symbolpolitik-und-mehr-intelligente-steuerung
02.06.2026

Paketabgabe: „Wir brauchen weniger Symbolpolitik und mehr intelligente Steuerung“

Die von der Bundesregierung geplante Paketabgabe trifft bei heimischen Startups und Scaleups auf breite Ablehnung. Kritisiert wird dabei nicht das Ziel, sondern die Umsetzung. Wir haben uns umgehört.
/artikel/paketabgabe-wir-brauchen-weniger-symbolpolitik-und-mehr-intelligente-steuerung
Wir sprachen zur Paketabgabe mit (vl.) Johannes Braith, Petra Dobrocka und Georg Weiss | (c) brutkasten / byrd / quivo / Hintergrund / (c) RoseBox via Unsplash
Wir sprachen zur Paketabgabe mit (vl.) Johannes Braith, Petra Dobrocka und Georg Weiss | (c) brutkasten / byrd / quivo / Hintergrund / (c) RoseBox via Unsplash

Bereits seit der Veröffentlichung des Ministerialentwurfs zu einer neuen Paketsteuer im Mai trifft diese in der öffentlichen Diskussion auf Kritik. Vorgesehen ist eine Abgabe von zwei Euro pro zugestelltem Paket, die ab dem 1. Oktober 2026 von großen Online-Handelsplattformen mit einem Jahresumsatz ab 100 Millionen Euro eingehoben werden soll. Nachdem das vorparlamentarische Begutachtungsverfahren zum Gesetzesentwurf am 26. Mai 2026 offiziell geendet hat, geht die Vorlage im nächsten Schritt in die Debatte und finale Abstimmung im Nationalrat.

Mit den prognostizierten Einnahmen von jährlich rund 280 Millionen Euro will die Bundesregierung die geplante Mehrwertsteuersenkung auf Grundnahrungsmittel teilweise gegenfinanzieren. Zudem wolle man den lokalen stationären Handel gegenüber den internationalen E-Commerce-Riesen stärken, so die Argumentation. Und auch der Umweltschutzaspekt wird seitens der Regierung ins Treffen geführt. Diese Begründung lassen viele Kritiker:innen aber nicht gelten.

Dobrocka: „wird nur das Angebot verringern und die Kosten für österreichische Kunden in die Höhe treiben“

Auch unter Gründer:innen heimischer Startups und Scaleups im Logistik-Bereich, die für brutkasten erreichbar waren, herrscht breite Ablehnung gegenüber der Paketabgabe. Dabei ist es nicht die Zielsetzung, die kritisiert wird. „Grundsätzlich finde ich es begrüßenswert über Maßnahmen zu diskutieren, die den österreichischen Markt vor einer Flut an ausländischen Sendungen schützen und österreichische Unternehmer stärken. Aber diese Maßnahme tut das nicht“, meint etwa Petra Dobrocka, Co-Founderin und CCO des Wiener Logistik-Scaleups byrd. „Selbst wenn ein heimischer Händler die Ware in Österreich verpackt und mit der österreichischen Post an einen österreichischen Kunden schickt: Sobald der Verkauf über einen Marktplatz wie Amazon läuft, greift die Steuer.“ Die Maßnahme werde letztlich „nur das Angebot verringern und die Kosten für österreichische Kunden in die Höhe treiben.“

Braith: „Emissionsärmere Zustellformen gezielt begünstigen“

Ähnlich argumentiert auch Storebox-Co-Founder und CEO Johannes Braith. Er führt zusätzlich eine ökologische Perspektive ins Treffen. „Wir brauchen aus meiner Sicht weniger Symbolpolitik und mehr intelligente Steuerung. Wenn Politik Lenkungswirkung ernst meint, dann sollte sie emissionsärmere Zustellformen gezielt begünstigen und nicht pauschal jede Form des Versandhandels verteuern“, so der Gründer. Das Gesetz unterscheide nämlich zu wenig zwischen emissionsintensiven und emissionsarmen Zustellmodellen. Klassische Haustürzustellung sei ineffizient und verursache Retourenverkehr und Parkdruck, meint Braith und führt Click-&-Collect-Modelle mit gebündelter Anlieferung ins Treffen, wie sie auch sein Unternehmen umsetzt.

Weiß: EU-Regelung statt „Alleingang“

Georg Weiß, Co-Founder und CEO des Wiener Logistik-Scaleups Quivo, würde in dem Zusammenhang lieber eine europäische Lösung sehen. „Auf EU-Ebene gibt es ja auch Vorschläge, etwa Zölle für Kleinpakete unter 150 Euro einzuführen, um den europäischen Markt vor Billigprodukten zu schützen. Das halte ich für die sinnvollere Maßnahme, als aus Österreich heraus einen Alleingang zu machen und eine Zwei-Euro-Paketgebühr einzuführen“, so der Gründer gegenüber brutkasten.

AustrianStartups: Nachteile für Startups und Scaleups befürchtet

Kritik an der Paketsteuer kommt auch von AustrianStartups. „Wer Österreich als Innovationsstandort stärken will, kann nicht gleichzeitig die Vertriebskanäle innovativer Unternehmen im E-Commerce belasten. In der aktuellen Form würde der Entwurf vor allem Startups, Scaleups und KMUs treffen, die über Plattformen verkaufen oder aus Österreich versenden“, meint man dort. Auch befürchtet man potenzielle Probleme für Scaleups in der Branche, weil ein gleitender Übergang bei der Umsatzschwelle fehle: „Für Scaleups, die gerade die 100-Millionen-Euro-Grenze überschreiten, bedeutet das einen abrupten Kostenschock in genau der Phase, in der sie skalieren wollen.“

Kaminski: „Das ist das Gegenteil von dem, was erreicht werden soll“

Zudem hebt AustrianStartups eine besondere Problematik im Secondhand- und Refurbishment-Bereich hervor und zitiert dazu refurbed-Co-Founder Kilian Kaminski: „Bei einem refurbishten iPhone beispielsweise ist der Produktpreis zwar relativ hoch, aber die Marge für Refurbisher ist sehr gering. So eine Abgabe kann nicht einfach weitergegeben werden. Das Resultat: Preise im Reuse-Bereich steigen, neue Billigwaren nicht. Das ist das Gegenteil von dem, was erreicht werden soll. Falls die Abgabe kommt, braucht es zwingend eine Ausnahmeregelung für Secondhand und Refurbished.“

AustrianStartups forderte daher bereits im Mai „eine Rücknahme des Entwurfs in seiner aktuellen Form“. Sollte dies nicht passieren jedenfalls aber eine „Prüfung eines EU-weiten Rahmens statt eines österreichischen Alleingangs“ und eine Ausnahmeregelung für Secondhand, Refurbished und Reuse.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen