21.11.2022

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

Das Text-to-Image-Modell “Stable Diffusion” des Londoner Startups, Stability AI, wird seit Monaten auf Discord für KI-generierte Pornos verwendet.
/artikel/ki-generierte-pornos-koennten-pornodarstellerinnen-ersetzen
(c) Adobe Stock - sakkmesterke

Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.

Deine ungelesenen Artikel:
09.07.2026

Regierung will öffentliche Beschaffung neu aufsetzen: Startups sollen profitieren

Innovations- und Wirtschaftsministerium wollen bis Jahresende einen "nationalen Aktionsplan Strategische Öffentliche Beschaffung" ausarbeiten. Mit einem Volumen von rund 70 Milliarden Euro jährlich sollen künftig Innovationsstrategie und europäische Souveränität dem Billigstbieterprinzip vorgezogen werden.
/artikel/regierung-will-oeffentliche-beschaffung-neu-aufsetzen-startups-sollen-profitieren
09.07.2026

Regierung will öffentliche Beschaffung neu aufsetzen: Startups sollen profitieren

Innovations- und Wirtschaftsministerium wollen bis Jahresende einen "nationalen Aktionsplan Strategische Öffentliche Beschaffung" ausarbeiten. Mit einem Volumen von rund 70 Milliarden Euro jährlich sollen künftig Innovationsstrategie und europäische Souveränität dem Billigstbieterprinzip vorgezogen werden.
/artikel/regierung-will-oeffentliche-beschaffung-neu-aufsetzen-startups-sollen-profitieren
Wirtschaftsminister Wolfgang Hattmannsdorfer und Innovationsminister Peter Hanke (Archivbild) | (c) BKA/Paul Gruber
Wirtschaftsminister Wolfgang Hattmannsdorfer und Innovationsminister Peter Hanke (Archivbild) | (c) BKA/Paul Gruber

Sie wird regelmäßig als möglicher Hebel genannt, um Startups abseits von klassischen Förderungen staatlich zu unterstützen: die öffentliche Beschaffung. Gleichzeitig wird kritisiert, dass diese oft nicht die kommunizierten Zielsetzungen, etwa in der Stärkung der heimischen Innovationslandschaft, widerspiegelt. Das will die österreichische Bundesregierung nun mit einem „nationalen Aktionsplan Strategische Öffentliche Beschaffung“ ändern, der bis Jahresende unter Federführung von Wirtschafts- und Innovationsministerium ausgearbeitet werden soll.

Öffentliche Auftraggeber stärker als Erst- und Referenzkunden für Startups etablieren

Der Aktionsplan soll „als Handlungsleitfaden für den Bund, seine Beteiligungen sowie weitere öffentliche Auftraggeber dienen“. Ziel sei es, Innovation, Wettbewerbsfähigkeit, Nachhaltigkeit und europäische Wertschöpfung stärker in Beschaffungsprozessen zu verankern. Ein besonderer Schwerpunkt liege darauf, öffentliche Auftraggeber stärker als Erst- und Referenzkunden für innovative Unternehmen und Startups zu etablieren. Damit sollen „neue Technologien schneller zur Marktreife gelangen und zusätzliche Impulse für Wachstum und privates Kapital entstehen“.

Hanke: „Das Billigstbieterprinzip ist in dieser Form nicht mehr zeitgemäß“

Innovationsminister Peter Hanke führt aus: „Mit rund 70 Milliarden Euro jährlich verfügt der Staat über enorme Gestaltungskraft. Diese wollen wir künftig gezielt einsetzen, um Innovationen schneller in die Anwendung zu bringen, die Wettbewerbsfähigkeit unseres Standorts zu stärken und europäische Souveränität auszubauen.“

Hier gelte es neue Wege zu gehen: „Das Billigstbieterprinzip ist in dieser Form nicht mehr zeitgemäß. Wir brauchen eine Beschaffung, die europäische Souveränität und Innovationskraft in den Vordergrund stellt“, so Hanke. Der Staat soll dabei „als Ankerkunde vorangehen“ und innovativen Unternehmen die Möglichkeit geben, ihre Lösungen erstmals im Markt einzusetzen. „Das stärkt unsere Startups, schafft heimische Wertschöpfung und macht Österreich technologisch unabhängiger“, meint der Minister. Bundesbeteiligungen wie die ÖBB und ASFINAG seien dabei bereits Vorreiter. Ziel sei es, dass die Republik ihre Rolle als Eigentümer konsequenter ausbaue.

Und Wirtschaftsminister Wolfgang Hattmannsdorfer ergänzt: „Der Staat soll nicht nur einkaufen, sondern Innovationen den Weg in den Markt ebnen. Wenn die öffentliche Hand als Erst- und Referenzkunde vorangeht, schaffen wir Marktchancen für heimische Unternehmen, stärken europäische Wertschöpfung und machen aus Innovation schneller wirtschaftlichen Erfolg. Genau diesen Paradigmenwechsel treiben wir jetzt voran.“

Spinoff-Gründungen als konkrete KPI für „Austrian Quantum Cluster“

Zeitgleich geben die beiden Minister per Aussendung auch ein Update zu weiteren Maßnahmen im Bereich der in der Industriestrategie 2035 (brutkasten berichtete) definierten Schlüsseltechnologien. In der AI Factory Austria seien demnach 53 von insgesamt 80 Millionen Euro Projektkosten als Investition in einen Supercomputer vorgesehen, der kommendes Jahr in Wien in Betrieb gehen soll.

Zudem nennen die Ministerien einige KPIs für den „Austrian Quantum Cluster“, in den heuer 30 Millionen Euro aus dem Fonds Zukunft Österreich fließen (brutkasten berichtete). Demnach soll der „erste Megacluster Österreichs“ unter der Ägide von aws (Austria Wirtschaftsservice), FFG (Forschungsförderungsgesellschaft), CDG (Christian Doppler Forschungsgesellschaft) und FWF (Wissenschaftsfonds) etwa mindestens fünf Spinoffs hervorbringen und mindestens acht Millionen Euro Folgeinvestitionen für Startups bzw. Scaleups hebeln. „Wir wollen Quantentechnologie nicht nur erforschen, sondern in Österreich entwickeln, produzieren und vermarkten. Unser Ziel ist klar: Aus Spitzenforschung soll Spitzenindustrie werden“, kommentiert Hattmannsdorfer. Dabei setze man auf „Fokus statt Gießkanne“.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen