14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
04.08.2026

WienIT: 500 Nutzer:innen für die konzernweite KI-Plattform

Vor eineinhalb Jahren nahm das bei der WienIT angesiedelte Competence Center KI der Wiener Stadtwerke-Gruppe seine Arbeit auf. Eine Zeit, die vor allem von Aufbauarbeit geprägt war. Im Zentrum steht heute weniger ein einzelner Vorzeige-Use-Case als eine Infrastruktur: eine zentrale KI-Plattform für den gesamten Konzern. Warum dabei bewusst auf Eigenentwicklung gesetzt wird und Startups bislang nicht unmittelbar beteiligt sind.
/artikel/wienit-500-nutzerinnen-fuer-die-konzernweite-ki-plattform
04.08.2026

WienIT: 500 Nutzer:innen für die konzernweite KI-Plattform

Vor eineinhalb Jahren nahm das bei der WienIT angesiedelte Competence Center KI der Wiener Stadtwerke-Gruppe seine Arbeit auf. Eine Zeit, die vor allem von Aufbauarbeit geprägt war. Im Zentrum steht heute weniger ein einzelner Vorzeige-Use-Case als eine Infrastruktur: eine zentrale KI-Plattform für den gesamten Konzern. Warum dabei bewusst auf Eigenentwicklung gesetzt wird und Startups bislang nicht unmittelbar beteiligt sind.
/artikel/wienit-500-nutzerinnen-fuer-die-konzernweite-ki-plattform
Larisa Stanescu (l.) vom Competence Center KI der Wiener Stadtwerke-Gruppe und Product Owner Jonathan Mayer | (c) WienIT

Im August 2025 zog die WienIT in einem eigenen Beitrag eine erste Zwischenbilanz des Competence Center KI. Der Bogen spannte sich damals vom Wissensmanagement-Tool bis zur KI-gestützten Lösung für Förderanträge.

Ein Jahr später hat sich der Schwerpunkt verschoben. In den Vordergrund gerückt ist eine zentrale KI-Plattform, die allen Mitarbeitenden der Wiener Stadtwerke-Gruppe Zugang zu KI-Werkzeugen geben soll. Sie ist produktiv, und seit dem Rollout wurden nach Angaben des Unternehmens rund 500 Nutzer:innen gewonnen.

„Die vergangenen eineinhalb Jahre waren vor allem von Aufbauarbeit geprägt“, sagt Jonathan Mayer, Product Owner der KI-Plattform. Das größte Vorhaben sei die Entwicklung eben dieser Plattform gewesen, mit dem Ziel, einen „einfachen, sicheren und vertrauenswürdigen Zugang zu KI-Technologien“ zu ermöglichen.

Larisa Stanescu, die das Competence Center leitet, wertet die Zahl als Bestätigung: Die Entwicklung zeige, dass der Bedarf an KI-Werkzeugen im Arbeitsalltag groß sei und kontinuierlich wachse. Entscheidend sei dabei, dass die Plattform einen sicheren und unternehmenskonformen Zugang biete.

Vom Freitextfeld bis zur Bestellprognose

Inhaltlich sieht das Competence Center einen großen Bedarf im Wissensmanagement. Informationen würden immer umfangreicher und verteilter, KI könne relevantes Wissen schneller auffindbar machen.

Daneben kommt KI zur Datenanalyse zum Einsatz, etwa bei der Auswertung offener Antworten aus Mitarbeiter- und Kundenbefragungen. Freitextdaten enthielten oft wertvolle Erkenntnisse, deren manuelle Analyse aber sehr zeitaufwendig sei, so Mayer.

Stanescu betont, dass klassische Data-Science- und Machine-Learning-Ansätze darüber nicht in Vergessenheit geraten dürfen. Aktuell arbeite man an mehreren Use Cases in der Logistik, bei denen historische Daten genutzt werden, um Bestellmengen und Bestellzeitpunkte präziser zu prognostizieren.

Larisa Stanescu vom Competence Center KI | (c) WienIT

Digitale Souveränität als Leitprinzip

Die Frage nach Modellen und Infrastruktur ist für das Competence Center mehr als eine technische. „Digitale Souveränität ist für uns ein strategisches Leitprinzip“, sagt Mayer. Ziel sei es, die Kontrolle über die eigenen Daten und deren Verarbeitung zu behalten und gleichzeitig die Vorteile moderner Cloud- und KI-Technologien nutzen zu können.

Der Weg dorthin wird als pragmatisch beschrieben: Abhängig von den Anforderungen eines Use Cases und der Sensibilität der Daten wird entschieden, welche Infrastruktur und welche Technologien zum Einsatz kommen.

Konkret wird es beim nächsten Release der Plattform. Dann sollen Nutzer:innen zwischen verschiedenen Modellen selbst auswählen können, etwa europäischen Modellen oder Thinking-Modellen. Parallel dazu soll Model Routing implementiert werden, das automatisch das passende Modell für die jeweilige Fragestellung auswählt.

Warum Startups bislang nicht unmittelbar beteiligt sind

Bemerkenswert für ein Innovationsthema dieser Größenordnung: Startups sind bislang nicht unmittelbar beteiligt. „Aktuell arbeiten wir in unseren KI-Projekten nicht unmittelbar mit Startups zusammen“, sagt Stanescu. Den Wiener Stadtwerken sei der interne Knowhow-Aufbau besonders wichtig, weshalb auch im Hinblick auf digitale Souveränität stark auf Eigenentwicklungen gesetzt werde.

Eine grundsätzliche Absage ist das nicht. Entscheidend sei, ob eine Lösung konkreten Mehrwert biete und sich in die Anforderungen an Sicherheit, Datenschutz und Integration einfüge. Künftige Kooperationen schließe man keineswegs aus, so Stanescu: Gerade im dynamischen KI-Markt könnten Partnerschaften mit innovativen Unternehmen eine interessante Ergänzung zu etablierten Technologieanbietern sein.

Jonathan Mayer, Product Owner der KI-Plattform von WienIT | (c) WienIT

Keine hochsensiblen Daten, On-Premises als Option

Auf technischer Ebene arbeitet das Competence Center mit klaren Datenklassifizierungen. Derzeit werden auf der Plattform keine hochsensiblen Daten verarbeitet. In Pilotprojekten wird evaluiert, wie künftig auch sensiblere Anwendungsfälle umgesetzt werden können, etwa durch On-Premises-Modelle, bei denen Daten die eigene Infrastruktur nicht verlassen.

Unabhängig von der Technologie gelte ein Grundsatz, sagt Mayer: KI unterstütze Menschen bei ihrer Arbeit, ersetze aber nicht die menschliche Verantwortung. Bei wichtigen Entscheidungen bleibe die finale Bewertung und Freigabe stets in menschlicher Hand.

Begleitet wird der Rollout von einem Change- und Enablement-Ansatz. Jede neue Nutzerin und jeder neue Nutzer der Plattform erhält ein strukturiertes Onboarding zu den Regeln im Umgang mit KI, dazu kommen Informationsveranstaltungen, Schulungen und eine Community für den Erfahrungsaustausch.

„Welches Problem lösen wir?“

Eine der wichtigsten Erkenntnisse der vergangenen Monate formuliert Stanescu grundsätzlich: KI sei kein reines IT-Thema, technologische Exzellenz allein reiche nicht aus. Erfolgreiche Projekte entstünden dort, wo Fachbereiche, IT, Informationssicherheit, Datenschutz und Change Management früh eingebunden werden. Die Abstimmung dieser Anforderungen brauche oft mehr Zeit als die technische Umsetzung selbst.

Der Erfolg von KI-Anwendungen hänge zudem wesentlich stärker von Akzeptanz, Vertrauen und nutzbaren Anwendungsfällen ab als von der Leistungsfähigkeit einzelner Modelle. Statt „Welches Modell ist das beste?“ solle man fragen: „Welches Problem lösen wir für unsere Kolleginnen und Kollegen?“

Agentische KI und ein Hackathon

In den kommenden Monaten liegt der Schwerpunkt auf der Weiterentwicklung der Plattform. Der Zugang zu KI soll weiter vereinfacht, zusätzliche Anwendungsfälle sollen erschlossen werden.

Parallel beschäftigt sich das Competence Center mit agentischer KI. Das Competence Center für Intelligent Process Automation pilotiert erste agentische Fähigkeiten innerhalb der Wiener Stadtwerke-Gruppe. Evaluiert wird, wie KI künftig nicht nur Informationen bereitstellen, sondern komplexere Aufgaben und Prozessschritte eigenständig unterstützen kann.

Um die Innovationskraft im Konzern zu stärken, ist außerdem ein KI-Hackathon geplant, bei dem Mitarbeitende eigene Ideen umsetzen können.

Langfristig sieht das Competence Center seine Rolle nicht darin, einzelne Lösungen bereitzustellen, sondern nachhaltige KI-Kompetenz im gesamten Konzern aufzubauen. Der größte Hebel liege nicht in einzelnen Tools, sondern in den Menschen, die diese Technologien sinnvoll einsetzen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören