21.11.2022

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

Das Text-to-Image-Modell “Stable Diffusion” des Londoner Startups, Stability AI, wird seit Monaten auf Discord für KI-generierte Pornos verwendet.
/artikel/ki-generierte-pornos-koennten-pornodarstellerinnen-ersetzen
(c) Adobe Stock - sakkmesterke

Seit einigen Wochen füllen detaillierte Bilder, die von künstlicher Intelligenz generiert wurden, die News-Feeds vieler sozialer Medien. Das im August dieses Jahres veröffentlichte Deep-Learning-Modell Stable Diffusion, das detailreiche Abbildungen auf der Basis von Textbeschreibungen erstellt, wird seit Monaten von einer Gemeinschaft namens Unstable Diffusion auf Discord für Pornoerzeugung eingesetzt.

Der Einsatz von KI zur Erstellung von Pornos ist zwar nicht neu, aber das Modell des im Jahr 2019 in London gegründeten Startups – Stability AI – ist in der Lage, realitätsnähere Beispiele als andere Algorithmen zu erzeugen. Prinzipiell wurde Stability AI nicht für die Generierung von Pornos entwickelt, allerdings wurden die Möglichkeiten der Nutzung vom Startup nicht eingeschränkt. Laut Techcrunch versucht nun die Admin-Gruppe Unstable Diffusion, das bereits über 50.000 Mitglieder zählt, mit KI-Pornogeneratoren Geld zu verdienen.

KI-generierte Erwachsenenfilme als neue Geschäftsidee

Mittlerweile verfolgen die Betreiber:innen der Gemeinschaft das Ziel, ein Geschäft rund um hochwertige KI-generierte Pornos aufzubauen. Um die allgemeinen Entwicklungen zu finanzieren sowie die Server am Laufen zu halten, wurde inzwischen eine Mitgliedschafts-Plattform entwickelt, die aktuell über 2.500 US-Dollar monatlich von hunderten Spendern einbringt.

„In nur zwei Monaten ist unser Team auf über 13 Personen sowie viele Berater und freiwillige Community-Moderatoren angewachsen“, sagt Arman Chaudhry, Mitglied des Administratoren-Teams von Unstable Diffusion. „Wir sehen die Möglichkeit, Innovationen in Sachen Benutzerfreundlichkeit, Benutzererfahrung und Ausdruckskraft zu schaffen, um Tools zu entwickeln, von denen professionelle Künstler und Unternehmen profitieren können“, erklärt Chaudhry weiter.

KI-generierte Pornos könnten Existenz von Porno-Darsteller:innen bedrohen

Während Online-Gemeinschaften es versuchen, mit KI-generierten Erwachsenen-Filmen Geld zu verdienen, sehen Ethiker:innen diese Technologie und die daraus resultierenden Folgen als sehr bedenklich. Den Mitgliedern ginge es hauptsächlich darum, die Fantasien der Kund:innen zu erfüllen. „Die Risiken bestehen darin, dass noch unangemessenere Erwartungen an den Körper und das Sexualverhalten von Frauen gestellt werden, dass die Privatsphäre und die Urheberrechte von Frauen verletzt werden, indem sexuelle Inhalte, die sie geschaffen haben, ohne ihre Zustimmung in den Algorithmus eingespeist werden”, sagt Ravit Dotan, VP für responsible AI bei Mission Control.

Zudem sei es wichtig zu erwähnen, dass Erwachsenenschauspieler:innen, die ihren Lebensunterhalt hauptsächlich mit der Erzeugung von Sexfilmen verdienen, am meisten unter dieser Technologie leiden. „Ein Aspekt, der mich besonders beunruhigt, ist die ungleiche Auswirkung, die KI-generierte Pornos auf Frauen haben. Eine andere KI-basierte App, die Menschen ausziehen kann, funktioniert zum Beispiel nur für Frauen“, erklärt Dotan weiter.

Deine ungelesenen Artikel:
vor 15 Stunden

Primedea: Teleradiologie-Startup holt Preseed-Investment von Hansmann

Mit Hauptsitz in Zürich und Standort in Wien will Primedea dem Engpass bei der Radiologie-Befundung durch ein Netzwerk von Ärzt:innen begegnen. Zwei der drei Co-Founder sind Österreicher: Der Radiologe Florian Huber und Serial Founder Christopher Zemina, der brutkasten ein paar Fragen beantwortete.
/artikel/primedea-teleradiologie-startup-holt-preseed-investment-von-hansmann
vor 15 Stunden

Primedea: Teleradiologie-Startup holt Preseed-Investment von Hansmann

Mit Hauptsitz in Zürich und Standort in Wien will Primedea dem Engpass bei der Radiologie-Befundung durch ein Netzwerk von Ärzt:innen begegnen. Zwei der drei Co-Founder sind Österreicher: Der Radiologe Florian Huber und Serial Founder Christopher Zemina, der brutkasten ein paar Fragen beantwortete.
/artikel/primedea-teleradiologie-startup-holt-preseed-investment-von-hansmann
Die Primedea-Gründer v.l.: Samuel Frey, Florian Huber und Christopher Zemina | (c) Primedea
Die Primedea-Gründer v.l.: Samuel Frey, Florian Huber und Christopher Zemina | (c) Primedea

Rund eine Million MRT-Untersuchungen gab es in Österreich im Jahr 2024 – etwa doppelt so viele wie zehn Jahre davor. Währenddessen bleibe laut Ärztekammer fast jede zweite genehmigte Ausbildungsstelle für Radiologie unbesetzt, heißt es vom Startup Primedea mit Sitz in Zürich und Wien in einer Aussendung, „und die Pensionierungswelle der geburtenstarken Jahrgänge steht erst bevor. Spitäler und Institute haben ausgelastete Geräte, aber nicht genug Fachpersonal für die Befundung.“

Plattform verbindet Spitäler und Zentren mit Fachärzt:innen

Bei diesem Problem setzt das Unternehmen an. Die These: Die Situation lässt sich erheblich verbessern, wenn die vorhandenen Kapazitäten von Fachärzt:innen besser genutzt werden. Konkret setzt Primedea auf ein Netzwerk von Radiolog:innen, das über die Plattform mit Spitälern und Radiologiezentren verbunden wird und orts- und zeitungebunden für Befundungen zur Verfügung steht. Dadurch sollen Notfallbefunde in unter 30 Minuten, reguläre Befunde in zwölf bis 24 Stunden vorliegen. Die Bezahlung erfolgt dabei pro Befund.

Mehrere KI-Touchpoints

Eine zentrale Rolle spielt dabei auch KI: Die Primedea-Plattform ist direkt an die Radiologie-Informationssysteme der Kunden angebunden und Untersuchungen können hochgeladen werden. Die KI trifft dann zunächst eine Vorauswahl, um die Untersuchung passenden Fachärzt:innen zuzuordnen. Diese werden dann unter anderem durch ein Speech-to-Report-Sprachmodell auch bei der Befundung unterstützt. Dabei soll das System mit dem Netzwerk laufend verbessert werden.

Co-Founder Florian Huber hält zugleich fest: „KI wird Radiologinnen und Radiologen nicht ersetzen, aber sie wird ihnen Arbeit abnehmen: Sie wird in der Priorisierung, Vorstrukturierung und Befundung unterstützen. Wir setzen KI dort ein, wo sie den Befund schneller und sicherer macht. Die Verantwortung bleibt immer beim Facharzt.“

Komplementäres Founder-Team mit zwei Österreichern

Der Radiologe stammt ursprünglich aus Wien und ist seit Jahren in Zürich tätig. Dort gründete er das Startup gemeinsam mit dem deutschen Serial-Entrepreneur Samuel Frey, der für IT und KI verantwortlich ist und dem Österreicher ,Christopher Zemina, der Wirtschaft, Finanzen, Vertrieb und Rechtliches abdeckt. Dieses setzt seit der Gründung im März dieses Jahres auch auf einen zweiten Standort in Wien, an dem Zemina sitzt.

Er ist in der heimischen Startup-Szene kein Unbekannter. Nach fünf Jahren als Principal bei Speedinvest gründete er 2020 in Berlin das Fintech-Startup Airbank mit, das später in Friday Finance umbenannt wurde. Nach einem 20-Millionen-US-Dollar-Investment im Jahr 2022 erfolgte im Jahr 2023 der Exit an den Mitbewerber Pliant, wie brutkasten berichtete. „Ich war nach dem Exit noch zwei Jahre bei Pliant. Das war eine tolle Zeit, das Unternehmen hatte seine Series-C-Runde und hat sich gut entwickelt. Ich wollte aber wieder etwas Eigenes gründen“, erzählt Zemina gegenüber brutkasten.

Huber und Frey kenne er bereits seit einigen Jahren. „Es hat sich zeitlich gut ergeben. Beide sind ebenfalls aus ihrem jeweils letzten Unternehmen hinausgegangen. Sie haben die Idee zu Primedea bereits mitgebracht und ich bin noch vor der Gründung als dritter Co-Founder dazugestoßen. Wir sind dabei extrem komplementär und ergänzen einander perfekt“, so der Co-Founder.

Hansmann Family Office steigt mit mittlerem sechsstelligen Betrag ein

Damit überzeugte man nun auch Österreichs bekanntesten Business Angel Hansi Hansmann, der mit seinem Family Office mit einem nicht konkret bezifferten mittleren sechsstelligen Betrag bei Primedea einstieg. „Ich investiere vorrangig in Gründer. Bei Primedea sitzt ein Radiologe am Tisch, der das Problem jeden Tag selbst am Befundungsplatz erlebt, daneben zwei Gründer, die schon einmal ein Unternehmen aufgebaut haben. Diese Kombination aus Fachwissen und Umsetzungsstärke sieht man selten“, wird der Investor in einer Aussendung zitiert.

Freilich dürfte Hansmann auch die Geschäftsentwicklung des Startups interessiert haben, das seit Juni live ist und neben einigen Kunden, darunter das Institut Röntgen Eisenstadt und das Institut Frühwald in St. Pölten, auf ein Netzwerk aus bislang 20 Fachärzt:innen verweisen kann. „Es läuft operativ gut und geht schon Richtung Profitabilität“, verrät Zemina gegenüber brutkasten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-generierte Pornos könnten Pornodarsteller:innen ersetzen