14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
02.10.2026

Was CEOs von der Gen Z lernen können: Reverse Mentoring als Innovationsmotor der Zukunft

Die Halbwertszeit von Wissen schrumpft rasant in einer Zeit, in der Wandel schneller passiert, als Erfahrung aufgebaut wird, dreht Reverse Mentoring die klassische Lernhierarchie um. Eine Spurensuche zwischen Machtgefällen und dem Mut zum Nichtwissen.
/artikel/was-ceos-von-der-gen-z-lernen-koennen-reverse-mentoring-als-innovationsmotor-der-zukunft
02.10.2026

Was CEOs von der Gen Z lernen können: Reverse Mentoring als Innovationsmotor der Zukunft

Die Halbwertszeit von Wissen schrumpft rasant in einer Zeit, in der Wandel schneller passiert, als Erfahrung aufgebaut wird, dreht Reverse Mentoring die klassische Lernhierarchie um. Eine Spurensuche zwischen Machtgefällen und dem Mut zum Nichtwissen.
/artikel/was-ceos-von-der-gen-z-lernen-koennen-reverse-mentoring-als-innovationsmotor-der-zukunft
Mit ihrer Reverse-Mentoring-Agentur forciert Ines Hanusch Zukunftssicherheit in Wirtschaft und Politik. © brutkasten

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


Wir leben in einer paradoxen Arbeitswelt: Führungskräfte werden für ihr über Jahrzehnte angesammeltes Wissen bezahlt doch exakt dieses Erfahrungswissen kann angesichts rasanter technologischer und kultureller Umbrüche zum blinden Fleck werden. Genau hier setzt eine Methodik an, die traditionelle Rollenbilder auf den Kopf stellt: Reverse Mentoring.

Ines Hanusch, Gründerin der Reverse-Mentoring-Agentur bond & grow, begleitet Unternehmen und Politik bei diesem Paradigmenwechsel. Für sie ist der Kerngedanke simpel, aber radikal: „Beim klassischen Mentoring lernt die Jüngere von der Erfahreneren. Beim Reverse Mentoring ist es umgekehrt: Die Führungskraft sitzt in der Lernenden-Position gezielt, strukturiert und vor allem nicht nebenbei.“

Kein Kaffeetratsch und keine Therapie

Doch was genau ist Reverse Mentoring in der Praxis? Hanusch wird nicht müde zu betonen, was es nicht ist: Es sei kein lockeres Kaffeegespräch, kein Coaching mit einer einzigen Zielvorgabe und schon gar keine Therapie. Auch der oft gehörte Einwand, man könne sich doch einfach mit den eigenen Kindern austauschen, greift für die Expertin ins Leere: „Mit den eigenen Kindern teile ich eine Sozialisation, ein Machtgefälle, ob ich will oder nicht.

Das Kind wird mir vieles nicht sagen, und ich werde vieles nicht hören wollen.“ Wahre Wirkung entstehe erst durch psychologische Sicherheit ohne persönliche Verstrickung eine Atmosphäre, in der ein junger Mensch kein Interesse daran hat, zu gefallen, sondern ehrlich zu sein.

Der Blick von innen: Reibung als Chance

In klassischen Organisationen verhindert die Hierarchie oft genau jenen Raum der psychologischen Sicherheit, in dem ungefiltert und ohne Angst vor Konsequenzen gesprochen werden kann. Ines Hanusch beschreibt das systematische Dilemma eindrücklich: Je weiter Führungskräfte auf der Karriereleiter nach oben klettern, desto mehr manifestiert sich die Angst vor Inkompetenz und Statusverlust. „Wenn Top-Entscheider:innen plötzlich von jemandem lernen, der dreißig Jahre jünger ist, entsteht unweigerlich intensive Emotion, Irritation und Reibung“ – doch exakt in diesen Momenten verankert sich laut Hanusch der größte Lerneffekt.

Wie sich dieser Rollentausch in der Realität anfühlt, schildert eine 21-jährige Mentorin, die im Rahmen von bond & grow Top-Entscheider:innen begleitet. Kristin Barnowsky sieht in ihrer Aufgabe eine enorme Verantwortung: Für sie bedeutet Reverse Mentoring, erfahrenen Führungskräften neue Perspektiven mit auf den Weg zu geben und dabei auch hin und wieder Reibung zu erzeugen“. Nervosität vor dem ersten Aufeinandertreffen ist keine Seltenheit, wie sie verrät. Ihr persönlicher mentaler Trick für das erste Meeting? „Ich stelle mir einfach vor, dass die Person mich bereits mag und ich sie auch. Dadurch gehe ich wesentlich natürlicher, authentischer und positiver in das Gespräch.“

Die größte Herausforderung im laufenden Prozess ist für sie das Gespür dafür, wie tief man in die Glaubenssätze des Mentees eindringen darf. Wenn auf Mentee-Seite Widerstand entsteht, stecke dahinter oft eine unbewusste Angst; etwa das Gefühl, nicht gehört oder gesehen zu werden. Es erfordere Empathie und präzises Timing, unangenehme Themen anzusprechen, ohne die Führungskraft emotional zu überfordern, erklärt die 21-Jährige.

Für wen das Konzept geeignet ist – und wann es scheitert

Die Zahlen sprechen für sich, doch Reverse Mentoring ist kein Selbstläufer. Laut Hanusch eignet es sich primär für Führungskräfte, die Nichtwissen als Startpunkt und nicht als Schwäche betrachten. In hierarchisch geprägten Unternehmen erfordere das immense Größe. „Statusverlust berührt das Selbstbild direkt, und das ist unbequem“, analysiert Hanusch. Viele Führungskräfte fürchten den Moment, in dem sie erkennen müssen, dass jemand, der viele Jahre jünger ist, über entscheidendes Know-how verfügt – sei es über moderne Arbeitskulturen, neue Konsumgewohnheiten oder schlicht den Umgang mit Unsicherheit in Krisenzeiten.

Wann also scheitert Reverse Mentoring? Die Expertin zieht eine klare Grenze: „Ich rate ab, wenn Unternehmen Reverse Mentoring als Imagemaßnahme einsetzen wollen, ohne wirkliche Bereitschaft, etwas zu verändern.“ Ohne intrinsische Motivation beider Seiten, einen geschützten Rahmen und professionelles Matching wird das Format zur reinen Simulation.

Innovation durch unbefangenes Denken

Wenn die Rahmenbedingungen jedoch stimmen, entpuppt sich Reverse Mentoring als machtvoller Innovationsmotor. In vielen Branchen sind junge Menschen näher an der Zielgruppe oder stellen diese gar selbst dar. Sie spüren kulturelle Trends früher und besitzen den Mut, Unbequemes auszusprechen. Kristin Barnowsky erlebt das regelmäßig in ihren Mentoring-Sessions, etwa wenn es um künstliche Intelligenz, Automatisierung von Workflows oder den Einsatz von Social Media geht. Doch der tiefere Wert liegt oft jenseits der Technologie: Es geht um das Hinterfragen erstarrter Prozesse. „Oft sehen die Dinge, die uns Sorgen machen, nur für uns so aus; aus einer anderen Perspektive sind sie plötzlich Chancen für innovative Veränderungen“, resümiert die Mentorin.

Letztlich profitiert nicht nur die Führungskraft auch die jungen Mentor:innen wachsen, bauen sich ein Netzwerk auf und erleben direkte Selbstwirksamkeit. Die wichtigste Frage für Ines Hanusch: „Was, wenn du von denen lernst, die bisher nicht gefragt wurden? Es tut manchmal weh, sich spiegeln zu lassen. Aber nur so entsteht Fortschritt.“ In einer Wirtschaft, die händeringend nach Fachkräften und neuen Wegen sucht, könnte die Bereitschaft, vom Nachwuchs zu lernen, bald über die Existenz von Unternehmen entscheiden. Oder wie Ines Hanusch sagt: „Wer heute keine Kultur des gegenseitigen Lernens etabliert, verliert morgen den Anschluss bei existenziellen Themen wie Mitarbeiterbindung und Innovation.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören