14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
23.10.2026

Ausgeraucht: Wie sich Philip Morris auf eine Zeit ohne Zigaretten vorbereitet

Die „Tschick“ in der Pause: Gehört sie bald der Vergangenheit an? Die EU und paradoxerweise auch Philip Morris International arbeiten seit Jahren an einer solchen Zukunft. Brutkasten besuchte eine Präsentation des Tabakriesen zu seinem Economic Footprint in der EU und fand eine Firma vor, die versucht, sich mit allen Mitteln neu zu erfinden.
/artikel/ausgeraucht-wie-sich-philip-morris-auf-eine-zeit-ohne-zigaretten-vorbereitet
23.10.2026

Ausgeraucht: Wie sich Philip Morris auf eine Zeit ohne Zigaretten vorbereitet

Die „Tschick“ in der Pause: Gehört sie bald der Vergangenheit an? Die EU und paradoxerweise auch Philip Morris International arbeiten seit Jahren an einer solchen Zukunft. Brutkasten besuchte eine Präsentation des Tabakriesen zu seinem Economic Footprint in der EU und fand eine Firma vor, die versucht, sich mit allen Mitteln neu zu erfinden.
/artikel/ausgeraucht-wie-sich-philip-morris-auf-eine-zeit-ohne-zigaretten-vorbereitet
Europa-Chef von Philip Morris Marco Hannappel bei der Präsentation zum EU Economic Footprint 2026. © Philip Morris / Footprint study 2026

Die Solvay Library in Brüssel hat etwas festlich Anmutendes. Der Raum wird von indirektem Tageslicht durchflutet, dezentes künstliches Licht sorgt für eine heimelige Stimmung. Vorne stehen drei Talkshow-Sessel, der mittlere ist stark ausgeleuchtet. Auf ihm wird später der Europa-Chef von Philip Morris International, Marco Hannappel, Platz nehmen. Der weltweit führende private Tabakproduzent veranstaltet ein Event, bei dem er neben seiner EU-Wertschöpfung auch seine Transformation weg von herkömmlichen Zigaretten hin zu einer selbsternannten „rauchfreien Zukunft“ bewirbt. Wobei „rauchfrei“ hier E-Zigaretten, Tabakerhitzer und Nikotinbeutel inkludiert.

Gleich vorweg: Philip Morris präsentiert in knapp 60 Minuten und auf 52 Seiten seinen EU Economic Footprint 2026, wobei die Daten von EY-Parthenon verarbeitet wurden. Die Marke, die zum Wirtschaftsprüfungs- und Beratungsnetzwerk EY gehört, schreibt im Disclaimer: „Es ist wichtig darauf hinzuweisen, dass die Daten von uns nicht unabhängig geprüft oder verifiziert wurden. Daher übernimmt EYP keine Gewähr oder Garantie für die Richtigkeit, Zuverlässigkeit oder Vollständigkeit der von PMI bereitgestellten Daten.“ Wenig überraschend fällt der Bericht sehr gut für den Tabakriesen aus. Philip Morris International liefere über 300 Milliarden Euro Gesamtbeitrag zur EU und sei für rund 0,4 Prozent des EU-BIP verantwortlich.

Alternative Produkte wie E-Zigaretten als „die bessere Wahl“

„Die Nachfrage nach den Nikotinprodukten ist da. Natürlich ist es immer am besten, gänzlich auf Tabak- und Nikotinprodukte zu verzichten. Für erwachsene Raucherinnen und Raucher, die andernfalls weiter rauchen würden, sind rauchfreie Alternativen die bessere Wahl als das Fortsetzen des Zigarettenkonsums“, erklärt Philip Morris Austria. Seine Antworten erhält brutkasten von der Presseabteilung.

Philip Morris versucht daher, eine Branche neu zu denken, und das nicht seit gestern, wie brutkasten berichtete. IQOS, Philip Morris’ eigene Marke für Tabakerhitzer, wurde vor über zehn Jahren in den Markt eingeführt. „Wenn es um innovative Produkte geht, dann ist IQOS unsere wichtigste Plattform. Wir entwickeln sie ständig weiter in Richtung höherer Leistung und geringerer Emissionen“, sagt Hannappel gegenüber brutkasten. Neu sind jedoch die Dimensionen, die Philip Morris erreicht. Im vierten Quartal dieses Jahres werden laut eigenen Angaben bereits 50 Prozent der Nettoumsätze in Europa mit alternativen Produkten erwirtschaftet.

Technologieunternehmen Philip Morris

Philip Morris möchte sich weg vom klassischen Tabakunternehmen und Zigarettenhersteller hin zu einem Technologieunternehmen entwickeln (brutkasten berichtete). So betreibt Philip Morris in Portugal ein Zentrum für generative KI, um globale Geschäftsabläufe zu unterstützen, wobei KI-Technologien eingesetzt würden, um die Entscheidungsfindung zu verbessern, Prozesse zu automatisieren und die Unternehmensleistung zu steigern. Für Philip Morris ein wichtiger Schritt, um die Transformation umsetzen zu können.

Im April dieses Jahres gab Philip Morris die Umgestaltung eines Werkes in Berlin-Neukölln bekannt. Anstatt Zigaretten zu produzieren, wird hier an Zukunftstechnologien wie KI oder Robotik gearbeitet.

Europa beschreibt Philip Morris International in seinem Bericht als globalen Hub für „Innovation, Produktion und Export“. Sein Zentrum für Innovationen betreibt Philip Morris International im schweizerischen Neuchâtel, wo Wissenschaftler und Ingenieure an den alternativen Produkten arbeiten. 2,2 Milliarden sollen hier zwischen 2021 und 2025 in die Forschung und Entwicklung investiert worden sein.

Philip Morris und Startups

Der Tabakriese setzt auch auf innovative Ideen von Startups. In dem Projekt „Be Leaf – Be The Future“ entwickeln sie Lösungen in den Bereichen der Agrartechnologie, Nachhaltigkeit und Kreislaufwirtschaft. Ein Beispiel ist das bayerische Startup Bioplasmar, das eine biologisch abbaubare Alternative zu herkömmlichem Kunststoff herstellt.

Auch in der österreichischen Startup-Szene ist Philip Morris aktiv. Im Mai diesen Jahres erwarb das Unternehmen mit seiner Tochter Aspeya 5,7 Prozent von Waterdrop im Zuge einer Finanzierungsrunde von insgesamt über 100 Millionen Euro.

Zielgruppe: Keine neuen Raucher:innen

„Wenn du bei uns in Wien in die Boutique gehst und sagst ‚Ich hätte gern das Produkt‘, dann ist die erste Frage, die dir gestellt wird: ‚Bist du volljährig'“, erklärt Philip Morris Austria. Auch online will man entsprechende Altersüberprüfungen durchführen. In Österreich arbeitete Philip Morris daher an einem Pilotprojekt zur Altersschätzung per Gesichtserkennung. Auch hier soll KI unterstützen.

„Wenn du volljährig bist, wirst du beraten. Aber nur, wenn du die zweite Frage auch mit ‚Ja‘ beantwortest, und zwar: ‚Sind Sie Konsument von Nikotin- oder Tabakprodukten?'“, heißt es von Philip Morris Austria. Man wolle nicht die Firma sein, über die Menschen mit dem Rauchen beginnen.

Kurzum: Philip Morris präsentiert sich als Unternehmen, das verantwortungsvoll mit sensiblen Themen wie Nikotin umgeht.

Der offene Brief von Frankreich und Co.

Ein Grund dafür kann der wachsende politische Druck sein. Am 6. Oktober schrieben sieben EU-Staaten rund um Frankreich und Spanien einen offenen Brief an den EU-Kommissar für Gesundheit und Tierschutz, Olivér Várhelyi. Sie sehen Regulierungslücken in der Produkt- und Werberichtlinie der Tabakindustrie. Daher fordern sie einen Stopp, neue Produkte „mit Hilfe von aggressivem Marketing und unbegründeten Behauptungen über ein geringeres Risiko auf den europäischen Markt zu bringen, mit dem Ziel, (junge) EU-Bürger zum finanziellen Vorteil der Industrie abhängig zu machen.“ Außerdem fordern die EU-Staaten für alle Produkte ein Aromenverbot sowie ein vollständiges Verbot von Nikotinbeuteln.

Hannappel hat mittlerweile auf dem Podium Platz genommen, seine Präsentation ist vorbei und er beantwortet Fragen von Journalist:innen aus ganz Europa. Angesprochen auf ein Nikotinbeutel-Verbot in Ländern wie z. B. Frankreich antwortet er: „Meiner Ansicht nach sind Verbote nie eine gute Option, weil dann in einigen Fällen illegale Märkte entstehen und man die Möglichkeit verliert, die Konsumenten zu erreichen.“

Das Event stand zwar im Zeichen des Economic Footprint, zeigt aber auch eine Firma, die versucht, sich an eine veränderte Welt anzupassen. Die Marschrichtung hin zu alternativen Produkten will man weiter verfolgen. Hannappel meint, ein solches Event jedes Jahr machen zu wollen, um ein besseres Verständnis in Europa zu erzeugen. Jedenfalls wird Philip Morris gespannt nach Brüssel blicken. Denn die nächste richtungsweisende Entscheidung der EU-Kommission bezüglich der geplanten Überarbeitung des Rechtsrahmens soll noch bis Ende 2026 fallen.


Transparenzhinweis: Die Reise- und Aufenthaltskosten wurden von Philip Morris Austria übernommen. Auswahl und Bewertung der Themen erfolgten unabhängig davon.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören