14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
27.10.2026

World-Energy-Council-CEO: „Energiewende ist zu einem der am meisten missverstandenen Begriffe geworden“

Eine positive Zukunftsvision statt einer "Geschichte von Verzicht und Leiden" - wir sprachen am Rande des Verbund Venture Day 2026 mit Angela Wilkinson, CEO des World Energy Council.
/artikel/world-energy-council-ceo-energiewende-ist-zu-einem-der-am-meisten-missverstandenen-begriffe-geworden
27.10.2026

World-Energy-Council-CEO: „Energiewende ist zu einem der am meisten missverstandenen Begriffe geworden“

Eine positive Zukunftsvision statt einer "Geschichte von Verzicht und Leiden" - wir sprachen am Rande des Verbund Venture Day 2026 mit Angela Wilkinson, CEO des World Energy Council.
/artikel/world-energy-council-ceo-energiewende-ist-zu-einem-der-am-meisten-missverstandenen-begriffe-geworden
Angela Wilkinson beim Verbund Venture Day 2026 | Verbund / elephant and porcelain
Angela Wilkinson beim Verbund Venture Day 2026 | Verbund / elephant and porcelain

Wiewohl die Debatte rund um den Klimawandel in den vergangenen Jahren nachweislich leiser geworden ist, bleibt die Energiewende großes Ziel – in Österreich und Europa alleine schon wegen der brandaktuellen Frage der Souveränität. Dabei versteht man unter Energiewende keineswegs weltweit das selbe, meint Angela Wilkinson, Secretary General und CEO des World Energy Council (WEC) im Interview.

Wir trafen die Chefin der in London ansässigen Dach-Organisation, die über 3.000 Partner-Organisationen in mehr als 100 Ländern hat, beim Verbund Venture Day 2026 an der WU Wien, wo sie auch eine Keynote hielt und an einer Podiumsdiskussion teilnahm. Ihre Kernaussage: Die Menschheit brauche in der Energiewende eine positive gemeinsame Vision.


brutkasten: Was macht das World Energy Council eigentlich genau?

Angela Wilkinson: Das World Energy Council wurde vor 100 Jahren am Ende des Ersten Weltkriegs gegründet. Die ursprüngliche Mission lautete: Wie verhindern wir am Ende der großen Weltreiche eine Situation, in der Nationalstaaten wegen knapper Ressourcen gegeneinander Krieg führen? Das sind die Wurzeln unserer Organisation. Seit 100 Jahren arbeiten und wachsen wir als globale Gemeinschaft – ein verteiltes Netzwerk aus Expertinnen und Experten, Entscheidungsträgern, Unternehmern und Innovatoren, die eine gemeinsame Mission teilen: mehr und bessere Energie für alle Menschen auf der Welt.

Wie kann man sich die konkrete Arbeit des WEC vorstellen?

Wir haben drei Hauptaktivitäten: Erstens erstellen wir Berichte – keine rein technischen Datenstudien wie die IEA (Anm. Internationale Energieagentur), sondern nutzen eigene Frameworks wie den „World Energy Trilemma“-Ansatz. Damit erfassen wir praktische Erfahrungen aus verschiedenen Ländern dazu, wie Regierungen Versorgungssicherheit, Leistbarkeit und Nachhaltigkeit bei der Gestaltung ihrer Energiesysteme in Einklang bringen. Wir analysieren Praxisbeispiele, um Märkte und Politiken zu verbessern.

Zweitens organisieren wir Veranstaltungen: Wir bringen unsere Gemeinschaft aus 120 Ländern zusammen. Unser nächster World Energy Congress findet vom 26. bis 29. April 2027 in Riad statt und führt über 100 Ministerinnen und Minister, mehr als 5.000 CEOs und rund 18.000 Teilnehmende zusammen. Angesichts der globalen Elektrifizierungswelle untersuchen wir, was das System zusammenhält – von Verträgen über Vertrauen, Narrative und Daten bis hin zur Infrastruktur. Wir agieren dabei technologieagnostisch.

Drittens betreiben wir Community Building: Nachhaltige Veränderungen erfordern echte Gemeinschaften. Wie hier beim Ökosystem von Verbund X schafft eine Gemeinschaft das nötige Vertrauen für konstruktive Debatten und arbeitet pragmatisch mit den vorhandenen Stärken, statt in polarisierte Diskussionen zu verfallen.

Sie haben in Ihrer Keynote gesagt, es gebe weltweit recht klare Ziele für die Energiewende, aber es fehle an einer positiven Vision. Können Sie das näher ausführen?

Energiewende ist zu einem der am meisten missverstandenen Begriffe geworden. Europäer verstehen darunter den Verzicht auf fossile Brennstoffe, Golfstaaten das Eliminieren von Treibhausgasemissionen, während man in den USA den Begriff derzeit überhaupt meidet und lieber von „Energieüberfluss“ spricht. Die Realität ist jedoch: Energie ist das Betriebssystem und das Fundament des Ökosystems unserer Zivilisation. Wir sprechen meist nur darüber, was die Zukunft nicht sein soll. Wir führen aber keine inspirierende Debatte mit den Menschen auf der Straße darüber, welche neuen Möglichkeiten ihr Leben verbessern können. Die Energiewende wird zu sehr als Geschichte von Verzicht und Leiden dargestellt.

Sie meinten in Ihrer Keynote auch, es brauche die Aktivierung noch nicht vorhandener Nachfrage…

Es geht darum, Nachfrage als aktiven Gestalter der Energiewende einzubinden, statt nur als deren Folge. Ein Beispiel: Meine 26-jährige Tochter arbeitet in der Modeindustrie und hat per se keinen Bezug zur Energie; aber Branchen wie die Bekleidungsindustrie besitzen reale Stellschrauben. Anstatt nur über Erzeugung, Übertragung und Speicherung zu sprechen und den Endverbraucher zu vernachlässigen, müssen wir in der Energiebranche vom konkreten Nutzen für das tägliche Leben der Menschen aus denken. Wenn Menschen verstehen, wie Energie ihr Leben verbessert, begreifen sie auch deren Wert. Wir brauchen eine Geschichte der Möglichkeiten aus dem Alltag heraus und keine reine Technologie-Story von oben.

Sie sagten in Bezug auf die Energiewende auch: „Moleküle werden bleiben.“ Wie lautet dazu Ihre Prognose?

Selbst wenn wir das Ziel von 50 bis 60 Prozent Elektrifizierung bis 2050 erreichen, bleiben 40 Prozent übrig. Meine Wette gilt sauberen Molekülen – sei es durch CO2-Abscheidung, dekarbonisierte Barrels oder wasserstoffbasierte Treibstoffe. Flüssige und gasförmige Brennstoffe bieten eine Transportfähigkeit, Energiedichte, saisonale Speichermöglichkeit und Flexibilität, die Elektronen und Batterien schlicht nicht haben. Die Zukunft gehört einer Kombination aus Elektronen, Molekülen und Qubits.

Als CEO des World Energy Council haben Sie eine globale Perspektive. Welche Rolle spielen Europa und speziell Österreich in diesem globalen System?

Österreich verfügt mit Initiativen wie dem Verbund X Accelerator über ein starkes Innovations-Ökosystem. Meine Aufgabe besteht darin, solche lokalen Innovatoren auf die globale Bühne zum World Energy Congress zu bringen, damit verschiedene Regionen voneinander lernen können. Verbund X hat Gegenstücke in vielen Ländern. Bottom-up-Initiativen sind hervorragend, aber Bottom-up und Top-down müssen sich treffen, um echte Wirkung zu entfalten.

Zum Abschluss: Wie würden Sie in sehr wenigen Worten die wichtigsten Maßnahmen beschreiben, um die von ihnen skizzierte Vision umzusetzen?

In zwei Begriffen: Energy Literacy und Energy Fluency. Die meisten der neun Milliarden Menschen verstehen das Energiesystem nicht und wissen nicht, woher ihre Energie kommt. Selbst wenn ich in Europa Energieexperten frage, wie viel Energie sie verbrauchen, können es viele nicht beantworten. Wenn wir nicht einmal unseren eigenen Energieverbrauch benennen können – was verwalten wir dann überhaupt?

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören