21.11.2022

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

Das Text-to-Image-Modell “Stable Diffusion” des Londoner Startups, Stability AI, wird seit Monaten auf Discord für KI-generierte Pornos verwendet.
/artikel/ki-generierte-pornos-koennten-pornodarstellerinnen-ersetzen
(c) Adobe Stock - sakkmesterke

Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.

Deine ungelesenen Artikel:
28.07.2026

Because we care: Salzburger Startup plant Backend-Lösung für Pflege-Anbieter:innen

Das Startup „because we care“ hilft bei der Vereinbarkeit von Pflege und Beruf. Mit fast 200.000 Zugriffsberechtigten startet das Unternehmen nun Module für mentale Gesundheitsprävention und ein KI-gestütztes System zur Vermittlung von Pflegediensten.
/artikel/because-we-care-salzburger-startup-plant-backend-loesung-fuer-pflege-anbieterinnen
28.07.2026

Because we care: Salzburger Startup plant Backend-Lösung für Pflege-Anbieter:innen

Das Startup „because we care“ hilft bei der Vereinbarkeit von Pflege und Beruf. Mit fast 200.000 Zugriffsberechtigten startet das Unternehmen nun Module für mentale Gesundheitsprävention und ein KI-gestütztes System zur Vermittlung von Pflegediensten.
/artikel/because-we-care-salzburger-startup-plant-backend-loesung-fuer-pflege-anbieterinnen
© Rollz International / Pexels

„Der Spagat zwischen Karriere und der Betreuung von Angehörigen betrifft in Österreich derzeit rund 400.000 Erwerbstätige“, erklärt Mitgründer von because we care Andreas Gruber. Bis zum Jahr 2050 soll fast jede fünfte erwerbstätige Person eine Pflegeverantwortung übernehmen müssen, fügt er hinzu. Um diesen wachsenden Druck auf Mitarbeitende und Unternehmen abzufedern, positioniert sich „because we care“ als digitale Informationsplattform für Arbeitgeber:innen.

Das Kernprodukt mit bald 200.000 Zugriffsberechtigten hilft pflegenden Angestellten dabei, sich im hochkomplexen heimischen Pflegesystem zurechtzufinden, Anträge zu stellen und entlastende Schritte einzuleiten. Es gehe laut Gruber darum, sich mit Angehörigen auf das Alter vorzubereiten, „lange bevor jemand zu Hause die Treppe runtergefallen ist“. Ursprünglich unter dem Dach der Organisation „Austria Assisted Living“ angesiedelt, agiert die Plattform seit Ende 2024 als eigenständige GmbH, um den wachsenden Markt gezielter zu adressieren.

Branchenübergreifende Nutzungsrate von zehn Prozent

Wie Gründer Andreas Gruber im Gespräch erklärt, verzeichne man bei den teilnehmenden Unternehmen branchenübergreifend eine stabile Nutzungsrate von etwa zehn Prozent. Dies sei für ihn ein klares Indiz, dass das oft unter der Oberfläche schwelende Thema Angehörigenpflege in der Arbeitswelt „voll präsent“ sei. Bislang lag der Fokus der Plattform vor allem auf Lotsenfunktionen für akut Betroffene.

Im September erweitert das gebootstrappte Startup das Angebot jedoch um ein Modul zur mentalen Prophylaxe. Dieses wurde gemeinsam mit Fachleuten aus Psychologie und Mentaltraining entwickelt und richtet sich gezielt an die gesamte Belegschaft. Ziel ist es, rechtzeitig Strategien gegen psychische Belastungen im Arbeits- und Pflegealltag zu vermitteln.

Umbau der Pflegevermittlung

Neben der inhaltlichen Erweiterung steht das Startup vor einem nächsten großen Schritt: Im Oktober soll das System „because we match“ nach aktueller Testphase mit einem großen Salzburger Pilotkunden live gehen. Dieses adressiert einen zentralen Flaschenhals im System, wie Gruber erklärt: die oft wochenlange Suche nach verfügbaren Pflegediensten. Laut dem Gründer vergehen im Schnitt 60 Tage, bis eine Regelversorgung greift – eine Zeitspanne, in der Angehörige unzähligen Anbietern nachtelefonieren müssen. „Wir drehen dieses System jetzt um“, erklärt er im Interview.

Künftig sollen Suchende eine zentrale, rund um die Uhr erreichbare Hotline anrufen können. Dort erfasst ein KI-Voice-Agent den konkreten pflegerischen Bedarf strukturiert und filtert emotionale Bedürfnisse von harten fachlichen Anforderungen. Pflegedienstleister:innen in der jeweiligen Region sehen diese anonymisierten Gesuche auf der Plattform und können sich anschließend bei den Suchenden vorstellen und ihre Leistungen anbieten.

Sprachgesteuertes CRM für das Back-Office

Gleichzeitig sollen die Leistungserbringer von einer digitalen Entlastung im Hintergrund profitieren. Die Software soll im Idealfall für die mobilen Pflegekräfte als sprachgesteuertes CRM-System fungieren. Einsätze lassen sich direkt per Spracheingabe festhalten, während intelligente Voicemails eingehende Anrufe filtern und priorisieren.

Dieser technische Ansatz soll bürokratische Hürden drastisch reduzieren, den Dienstleister:innen das ungeliebte Backoffice abnehmen und „effizienteres Arbeiten näher am Menschen ermöglichen“. Der Hebel dieser Effizienzsteigerung ist laut Gruber beträchtlich: „Wenn wir jeder Pflegefachkraft 30 oder 40 Minuten Orga am Tag abnehmen, geht sich ein Klient mehr aus.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen