14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
22.10.2026

VERBUND X Venture Day 2026: über die Grenzen hinaus

Der diesjährige VERBUND X Venture Day mit mehr als 200 Gästen aus 15 Ländern und über 130 verschiedenen Organisationen stand einmal mehr im Zeichen der Zusammenarbeit - und das (auch) beim großen Thema europäische Souveränität.
/artikel/verbund-x-venture-day-2026-ueber-die-grenzen-hinaus
22.10.2026

VERBUND X Venture Day 2026: über die Grenzen hinaus

Der diesjährige VERBUND X Venture Day mit mehr als 200 Gästen aus 15 Ländern und über 130 verschiedenen Organisationen stand einmal mehr im Zeichen der Zusammenarbeit - und das (auch) beim großen Thema europäische Souveränität.
/artikel/verbund-x-venture-day-2026-ueber-die-grenzen-hinaus
Impression vom VERBUND Venture Day 2026 | (c) VERBUND / elephant and porcelaine
Impression vom VERBUND Venture Day 2026 | (c) VERBUND / elephant and porcelaine

„Von der Innovation zur Skalierung und von der Skalierung zu einem stärkeren Europa“ mit diesem einen Satz könne man das große Ziel für den europäischen Energiesektor zusammenfassen, sagt VERBUND-X-Geschäftsführer Franz Zöchbauer in seinen einführenden Worten zum VERBUND Venture Day 2026, der erstmals beim neuen Energy-Launchpad-Partner WU Wien stattfand. „Wir haben die Lösungen, aber es dauert zu lange, bis sie am Markt sind. Wir müssen skalieren, aber kein Player kann das alleine. Es braucht ein Ökosystem und hier zählen die Menschen“, so Zöchbauer.

Franz Zöchbauer | (c) VERBUND / elephant and porcelaine
Franz Zöchbauer | (c) VERBUND / elephant and porcelaine

Die Zusammenarbeit im Ökosystem als Motto beim VERBUND Venture Day ist nicht neu, der Diskurs, in den das Motto dieses Jahr eingebettet ist, durchaus: Auch hier dominiert das große Thema europäische Souveränität. Der Titel des diesjährigen Events lautet „Scaling Beyond Borders“.

10,25 Billionen Euro für die Energiewende

Zöchbauer drückt die Ambition hinter der eingeforderten Skalierung in Zahlen aus: Es brauche Schätzungen zufolge 10,25 Billionen Euro, um das Energiesystem Europas bis 2040 zu transformieren. „Das ist 70 mal das Volumen des Marshallplans oder das Volumen von 25 Jahren globale VC-Investments“, so der VERBUND-X-Geschäftsführer. Es handle sich also um eine epochale Investment-Chance. Doch er erinnert: „Zahlen ändern die Welt nicht. Menschen tun es.“

Achim Kaspar | (c) VERBUND / elephant and porcelaine
Achim Kaspar | (c) VERBUND / elephant and porcelaine

Dabei sei die Energiewende keineswegs nur ein Wunsch, sondern eine Notwendigkeit, betont VERBUND-COO Achim Kaspar in einer Panel-Diskussion unter dem Titel „Owning the Future“: „Wir sind an einem Wendepunkt. Man liest jeden Tag von Problemen beim Transport fossiler Energieträger. Wir müssen auf erneuerbare umsteigen.“ Für VERBUND sei dabei schon lange klar: „Wir wollen nicht das nächste Kodak werden.“

„Es laufen mehrere Energiewenden parallel“

Diese europäische Sicht auf die Energiewende setzt Angela Wilkinson, CEO des World Energy Council, im Panel und bei ihrer Keynote in die globale Perspektive: „Es laufen mehrere Energiewenden parallel. In Europa geht es um den hundertprozentigen Umstieg auf erneuerbare Energieträger. Im nahen Osten etwa geht es um Technologien, um den CO2-Ausstoß auch mit fossilen Energieträgern auf Null zu bringen.“

Angela Wilkinson | (c) VERBUND / elephant and porcelaine
Angela Wilkinson | (c) VERBUND / elephant and porcelaine

Bei der Souveränität gehe es letztlich um die Möglichkeit, sich seine Abhängigkeiten auszusuchen, „nicht um teuren Isolationismus“, meint Wilkinson. Was ihr insgesamt fehle, sei eine kollektive Vision für eine bessere Zukunft. „Wir haben klare Ziele bei der CO2-Reduktion, aber keine gemeinsame positive Perspektive. Wir haben die Energiewende zwar an die Wall Street gebracht, aber nicht auf die Hauptstraße, wo die Menschen sind.“

Konsequenter Fokus auf die Kund:innen

Darum, wie die Transformation direkt zu den Menschen gebracht werden kann, ging es in einem Talk von VERBUND-CEO Michael Strugl und Greg Jackson, Gründer von Octopus Energy. Strugl sieht das britischen Unternehmen dabei als Vorbild: „Octopus ist ein echter Champion, wenn es um Kundenservice geht.“ Als er Jackson zum ersten Mal nach dessen Geschäftsmodell gefragt habe, sei die Antwort denkbar simpel gewesen: „Ich will den Kunden weniger verrechnen.“ Dieser konsequente Fokus auf die Kund:innen sei der Schlüssel, sagt Strugl.

Michael Strugl | (c) VERBUND / elephant and porcelaine
Michael Strugl | (c) VERBUND / elephant and porcelaine

Viele Energieunternehmen würden Kund:innen bisher nur als reine Abnehmer verstehen, meint Jackson. Octopus setze stattdessen auf radikale Vereinfachung und digitale Flexibilität: „Statt schwer lesbarer, regulierter PDFs nutzen wir einfache E-Mails, auf die man direkt antworten kann.“ Diese Kundennähe gepaart mit intelligenter Steuerung – etwa beim Laden von Elektrofahrzeugen – sei der Treiber für das rasante Wachstum des Unternehmens. Für Strugl ist das eine klare Orientierung für die gesamte Branche: „Innovatoren und Disruptoren helfen uns dabei, das gesamte System in ein erneuerbares, dezentrales und digitalisiertes Energiesystem zu verwandeln.“

Tragende Rolle für Gründer:innen – Unis entscheidend

Es sind also nicht nur Politiker:innen und Verantwortliche in Energiekonzernen, sondern auch Gründer:innen, die bei der Energiewende eine tragende Rollen spielen. Hier wiederum sind die Universitäten entscheidende Akteure, wie Franz Zöchbauer am Panel gemeinsam mit WU-Wien-Rektor Rupert Sausgruber und TU-Wien-Rektor Jens Schneider erläutert. „Es gibt im Energiesektor so viel Potenzial, aber man braucht nicht nur viel Geld sondern auch die Ideen“, bringt es Schneider auf den Punkt.

Jens Schneider (l.) und Rubert Sausgruber (r.) | (c) VERBUND / elephant and porcelaine

„Starke Gründer:innen, aber viele Hindernisse am Weg“

Dass natürlich auch die Politik ihren Beitrag leisten muss, um die Skalierung über die Grenzen hinaus zu ermöglichen, erörtert Startup-Staatssekretärin Elisabeth Zehetner in ihrer Keynote. Man müsse die Herausforderung angehen, Startups in Europa zu halten. „Wir haben starke Gründer:innen, aber viele Hindernisse am Weg“, sagt Zehetner und spricht nicht nur das bekannte Thema Wachstumskapital, sondern unter anderem auch die Ausgründungsbedingungen für universitäre Spinoffs an.

Elisabeth Zehetner | (c) VERBUND / elephant and porcelaine
Elisabeth Zehetner | (c) VERBUND / elephant and porcelaine

Als konkrete Maßnahmen – teils auf europäischer, teils auf nationaler Ebene – nennt die Staatssekretärin etwa den European Scaleup Fund und den heimischen Dachfonds und die Notwendigkeiten, die europäische Kapitalmarktunion zu stärken und die Mitarbeiter:innenbeteiligung auch durch steuerliche Anreize weiter zu verbessern. Denn letztlich sei das Ziel – ganz getreu dem Motto des Venture Days – klar: „Erfinde dein Produkt hier, bau dein Unternehmen hier und skaliere hier, aber verkaufe dein Produkt in die ganze Welt.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören