14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
30.09.2026

„Sales before the product“: Florian Kandler über Traction und den Weg zu den ersten Kund:innen

„Ich kann nichts verkaufen, ich habe das Produkt noch nicht": Für Florian Kandler ist das einer der großen Denkfehler junger Gründer:innen. Im Interview erklärt der Startup-Coach, wie man Traction aufbaut, bevor das Kapital dafür da ist.
/artikel/sales-before-the-product-florian-kandler-interview
30.09.2026

„Sales before the product“: Florian Kandler über Traction und den Weg zu den ersten Kund:innen

„Ich kann nichts verkaufen, ich habe das Produkt noch nicht": Für Florian Kandler ist das einer der großen Denkfehler junger Gründer:innen. Im Interview erklärt der Startup-Coach, wie man Traction aufbaut, bevor das Kapital dafür da ist.
/artikel/sales-before-the-product-florian-kandler-interview
Startup-Coach Florian Kandler rät Gründer:innen, schon vor dem fertigen Produkt zu verkaufen | Foto: Bianca Perfahl

Florian Kandlers Startup Report erscheint heuer in elfter Ausgabe und wurde im Mai gemeinsam mit KPMG präsentiert. Er ist bewusst kein Datenwerk und kein politisches Papier: Die Zahlen bekomme man ohnehin auf Knopfdruck, so Kandler. Stattdessen befragt er jene Gründer:innen, die bereits Funding eingesammelt haben, nach ihren konkretesten Learnings. Kandler hat seit seiner Rückkehr aus dem Silicon Valley über 3.000 Gründer:innen begleitet, die zusammen mehr als eine Milliarde Euro aufgenommen haben, und ist bereits im achten Jahr offizieller Startup-Coach bei „2 Minuten 2 Millionen“.

Aus den Antworten lässt sich heuer eines klar herauslesen: Der Druck Richtung Traction steigt. Kapital konzentriert sich auf wenige Segmente, die Abstände zwischen den Runden werden länger, und Investor:innen wollen Proof from the Market sehen, nicht bloß eine gute Geschichte. Lukas Lauder von Repark bringt es im Report auf den Punkt: „Investors don’t invest in your product, they invest in momentum.“

Daraus ergibt sich ein Dilemma, das gerade First-Time-Founder kennen: Wie baut man Traction auf, wenn das Kapital dafür noch fehlt? Kandlers Antwort ist ein Mindset-Shift, den er „Sales before the product“ nennt.

Du machst den Report seit elf Jahren. Welcher Trend sticht heuer am stärksten heraus?

Die starke Verschiebung hin zu Traction. Die Leute wollen immer mehr Momentum und Proof from the Market sehen, nicht nur den Beweis, dass jemand eine gute Geschichte erzählen kann oder dass theoretisch Potenzial da ist. Stefan Steiner von Don’t Call it Deo sagt es so: nicht nur auf die Idee fokussieren, sondern auf Market Traction. Storytelling ist für Pitch Competitions oder Community Pitches nett, aber wenn du mit Investor:innen sprichst, musst du in einen anderen Gang schalten. Da zählt Groove.

Zieht sich das durch alle Phasen?

Durch alle Fundingphasen, von den ganz Kleinen bis zu den Großen. Nur bedeutet Traction in jeder Phase etwas anderes, und es verschiebt sich, was dort durchschnittlich und was überdurchschnittlich ist. Was sich nicht verschiebt: Es muss heute einfach mehr an Traction da sein als noch vor einigen Jahren. Eine Idee und eine tolle Vision allein, und dann kommt das Geld, das funktioniert nicht mehr.

Das klingt nach einem Dilemma: Ohne Kapital ist Traction schwer aufzubauen.

Das ist einer der großen Denkfehler, die ich bei jungen Gründer:innen immer wieder sehe. Viele kommen mit: „Ich hatte vor Jahren die Idee, habe daran gebastelt, das Potenzial ist riesig, und jetzt suche ich einen strategischen Investor, der mich bei Marketing und Vertrieb unterstützt.“ Bastler mit Idee, null Market Validation. Oder: „Ich kann ja nichts verkaufen, ich habe das Produkt noch nicht.“ Das ist grundfalsch. In der Sekunde, in der du die Idee hast, überlegst du: Wer ist die ideale Zielgruppe? Du baust deine Hypothese darum, gehst raus und sprichst mit diesen Leuten, auch wenn dein Produkt erst in drei Jahren fertig ist. Die Traction, die du aufbaust, ist das Interesse, das du dort erzeugst.

Hast du ein Beispiel?

Ich betreue gerade einen Gründer, der schon jetzt Pre-Orders schreibt und pro Kunde 10.000 Euro kassiert, damit sich diese das Recht sichern, die ersten Pilotkunden werden zu dürfen. Das Produkt ist noch lange nicht fertig, er hat aber ganz klar einen Nutzen bei den Kunden identifiziert und mit smartem Verkauf FOMO erzeugt. So konnte er schon Aufträge erhalten, bevor das Produkt fertig ist. Das ist Traction.

Und im Consumer-Bereich?

Da sage ich den Leuten bei „2 Minuten 2 Millionen“: Der Pitch ist so gut, wie er sein kann. Aber bis du in sechs Wochen im Studio bist, mach eine einzige Sache. Geh raus in alle Mom-and-Pop-Shops, die dein Produkt brauchen können, verkauf es ihnen, gib es ihnen auf Kommission, erzeug Traction. Wenn das Produkt noch nicht fertig ist, hol dir zumindest ein Stück Papier, etwa eine unterzeichnete Absichtserklärung, das zeigt: Die Leute wollen das. Erst letzte Woche hat ein Gründer aus Tirol, der sich gerade auf seinen großen Auftritt im Studio vorbereitet, genau das umgesetzt. Fünf Tage später schickte er mir eine aufgeregte WhatsApp-Nachricht, dass er über sein altes berufliches Netzwerk bereits zwei Vorbestellungen gewinnen konnte.

Was braucht es, damit das gelingt?

Zwei Dinge. Erstens ein Produkt, das wirklich mit dem Markt resoniert. Wenn du das nicht hast, hast du ohnehin kein Anrecht auf Kapital. Und zweitens die Fähigkeit und die Bereitschaft, rauszugehen. Die fehlt vielen, teils weil sie es nicht können, teils weil sie es nicht wollen. Aber das lässt sich mit Kompetenzaufbau ganz gut heilen: Sobald du merkst, das funktioniert und die Leute finden es geil, kriegst du auch Mut. Ich sehe das regelmäßig in meinen Beratungen, wie meine Gründer dann plötzlich Eigendynamik entwickeln. „Sales before the product“ ist einer der größten Mindset-Shifts, die junge Gründer:innen verstehen müssen. Wenn man die Methoden einmal kennt, kann das wirklich jeder umsetzen.

Und wenn diese Bereitschaft im Team fehlt?

Dann wird es schwierig. Wenn alle Angst vor dem Kunden haben, fehlt genau die Person, die keine Angst hat, und die braucht es. Die anderen verkriechen sich hinterm Computer, denken sich digitale Ad-Kampagnen aus oder gehen zum Investor und sagen: „Ich brauche 300.000 Euro, davon 150.000 fürs Marketing.“ Das gibt dir niemand, solange du nicht im Kleinen getestet hast, ob die Leute es überhaupt brauchen. In 99 Prozent der Fälle gibt es Growth Hacks, mit denen du ohne Cash-Budget Staub aufwirbeln und sehen kannst, ob es funktioniert oder nicht.

Konkret: Wie geht man mit einem unfertigen Produkt im B2C auf Kund:innen zu?

Ein möglicher Weg im Consumer-Bereich ist, die Leute auf Social Media abzufangen. Ich betreue gerade eine Gründerin, die eine sehr intelligente Functional-Cosmetics-Brand aufbaut. Jeder Investor hofft, dass jemand im Team versteht, daraus auf Social Media Buzz zu bauen. Wenn dein Produkt neuartige Eigenschaften hat, musst du es so vermarkten, dass die Leute heiß werden und du vielleicht einen Pre-Sale machst, wie beim Fashion Drop: Die Kollektion kommt erst im September, aber die Leute zahlen heute schon. Irgendjemand muss diese Message rüberbringen, ob als Person und Fürsprecherin, wie coole Food-Gründerinnen, die vor der Kamera ihr Produkt zeigen, oder abstrakter über Content und meinetwegen KI-generierte Avatare. Und das ist nur einer von mehreren möglichen Wegen, die man je nach Unternehmen und Situation einschlagen kann.

Und im B2B?

Da musst du ran an den Speck, und Networking ist entscheidend. Ich gebe in Workshops eine Übung: Nimm dein Telefon, schau, wer da drin ist und wer von denen wen kennen könnte. Ruf deine zehn besten Freunde an, die dich mögen, dir Gutes wollen und die wissen, dass du kein Depp bist, und sag: „Ich suche jemanden in dem und dem Bereich, kennst du wen?“ Du wärst überrascht, wie schnell die ersten Termine stehen. Funktioniert auch auf Konferenzen und Events, wo diese Menschen herumlaufen. Aber weg von diesen drögen Kundeninterviews à la „Würdest du das kaufen?“. Das ist fast wertlos, für die Unternehmer:innen wie für Investor:innen. Wer es ernst meint, liest „The Mom Test“, denkt den Inhalt dieses Buchs konsequent wie ein Verkäufer weiter und baut aus dem Gespräch direkt einen Sales-Funnel. Im besten Fall ist das eine Pre-Order mit Cash, im nächstbesten eine Pre-Order ohne Cash, dann ein Letter of Intent.


Info: Fundraising Winter Camp™ 2026

Jeden Winter bereitet Florian Kandler eine kleine Gruppe von zehn Startups in drei Wochen online auf ihre Investor:innen-Suche vor. Das Camp 2026 startet am 14. Jänner.. Die Sommer-Version des Camps läuft seit 10 Jahren immer im Juli. Die Plätze sind jedes mal ausgebucht. Wer beim nächsten Durchgang dabei sein will, kann sich über Florian Kandlers Newsletter auf www.GetFunding.how/camp voranmelden und wird zum nächsten Camp eingeladen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören