14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
08.09.2026

Gründen in 15 Minuten: Was Europa vom estnischen Startup-Wunder lernen kann

Noch immer kehren vielversprechende Startups Europa den Rücken, um in den USA zu skalieren. Um diese Abwanderung zu stoppen, fordert die Szene eine neue, grenzübergreifende Gesellschaftsform: die EU Inc. Während Brüssel noch über die Umsetzung debattiert, macht Estland seit über einem Jahrzehnt vor, wie es gehen kann: Ein Besuch in der Hauptstadt Tallinn liefert Antworten.
/artikel/gruenden-in-15-minuten-was-europa-vom-estnischen-startup-wunder-lernen-kann
08.09.2026

Gründen in 15 Minuten: Was Europa vom estnischen Startup-Wunder lernen kann

Noch immer kehren vielversprechende Startups Europa den Rücken, um in den USA zu skalieren. Um diese Abwanderung zu stoppen, fordert die Szene eine neue, grenzübergreifende Gesellschaftsform: die EU Inc. Während Brüssel noch über die Umsetzung debattiert, macht Estland seit über einem Jahrzehnt vor, wie es gehen kann: Ein Besuch in der Hauptstadt Tallinn liefert Antworten.
/artikel/gruenden-in-15-minuten-was-europa-vom-estnischen-startup-wunder-lernen-kann

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


Um vom Flughafen in Tallinn in die Innenstadt zu kommen, bietet sich eine Fahrt mit dem Fahrdienst Bolt an. Die Autos, E-Scooter und Leih­räder des estnischen Unicorns prägen hier das Straßenbild. 2013 gegründet macht das Unternehmen mittlerweile mehr als zwei Milliarden Euro Umsatz. Die Erfolgsgeschichte von Bolt ist in Estland kein Einzelfall: Bei 1,3 Millionen Einwohner hat der baltische Staat bereits zehn Unicorns hervorgebracht – eine der höchsten Konzentrationen pro Kopf weltweit. Das Auto wird per App bestellt, keine zwei Minuten später ist es da. Der Fahrer scherzt über die durchaus kühlen 16 Grad Mitte Juli: „Estonian summer!“, sagt er schmunzelnd, mit russischem Akzent. Ungewöhnlich ist das in Estland nicht, war man hier vor knapp 40 Jahren doch noch Teil der Sowjetunion.

„Das Land hatte es natürlich nicht einfach. Als es 1991 unabhängig wurde, standen die Esten erst mal vor dem Nichts. Aber sie hatten auch die Chance, von null anzufangen – und haben dann aufs richtige Pferd gesetzt: die Digitalisierung“, sagt Tim Schnöckelborg, ein Deutscher, der seit eineinhalb Jahren in Estland lebt und hier bereits mehrere Unternehmen gegründet hat.

Der digitale Staat

An diesem sonnigen Tag tummeln sich auf dem Rathausplatz in der Mitte Tallinns viele Menschen. Schnöckelborg ist einer von ihnen. Vom digitalen Staat hat er vor allem bei der Gründung seiner Unternehmen profitiert. Bei einem Kaffee erklärt er, was den Kern des Systems ausmacht:

„Der große Vorteil kommt dadurch zustande, dass hier die gesamte Administration des Landes digitalisiert ist. Du kannst also mit der elektronischen Unterschrift alles nutzen, was ein Staat an Dienstleistungen bietet.“

© Hannah Fasching – Tim Schnöckelborg.

Wer sich einen Überblick verschaffen will, kann das e-Estonia Briefing Centre aufsuchen, ein eigenes Besucherzentrum, das über den digitalen Staat informiert. Ein Besuch zeigt: Die digitale Gesellschaft basiert zunächst auf Wissen. Durch landesweite Schulungsprogramme und Initiativen für Senior wurde die gesamte Bevölkerung mitgenommen.

Ein weiterer wichtiger Punkt ist die Transparenz: „Die Behörden können auf sehr viel zugreifen, theoretisch auch auf mein Bankkonto. Wichtig ist aber: Niemand kann deine Daten geheim abrufen. Ich kann online einsehen, wer wann mit welcher Begründung welche Daten von mir von einer Behörde in die andere transferiert hat. Das schafft Vertrauen“, beschreibt Schnöckelborg seine Erfahrung.

Unternehmensgründung aus der Ferne

Schnöckelborg hat in Estland schon mehrere Unternehmen gegründet, er ist ein sogenannter „e-Resident“. Das estnische e-Residency-Programm ermöglicht ausländischen Staatsangehörigen einen sicheren Zugang zu den elektronischen Behördendiensten Estlands. So lässt sich aus fast allen Ländern der Welt in rund 15 Minuten ein estnisches Unternehmen gründen.

„Anfangs dachten wir, es wäre vor allem für Menschen außerhalb der EU attraktiv, da ein estnisches Unternehmen ihnen den EU-Binnenmarkt öffnen würde. Nach etwa der Hälfte der Zeit stellten wir fest, dass es aufgrund der geringen Bürokratie auch für EU-Bürger sehr attraktiv ist“, erzählt Liina Vahtras, Managing Director von e-Residency. Seit dem Start des Programms 2014 haben mehr als 133.000 Personen aus 185 Ländern den e-Residency-Status erhalten und zusammen etwa 39.000 Firmen gegründet. So auch Tim Schnöckelborg:

„Ich habe mein erstes Unternehmen als e-Resident an einem Freitagabend gestartet, und am Samstagmorgen war die Firma da“, blickt er nach wie vor verblüfft zurück.

Was Gründer zusätzlich nach Estland zieht, ist das Steuersystem. „Wir besteuern Unternehmen nicht, solange sie das Geld im Unternehmen belassen. Es gibt also keine Körperschaftsteuer auf einbehaltene Gewinne. Steuern fallen erst an, wenn man Geld aus dem Unternehmen entnimmt, und davon profitieren auch wir: Im vergangenen Jahr zahlten e-Residency-Unternehmen Steuern in Höhe von über 125 Millionen Euro in Estland“, so Vahtras. Im „International Tax Competitiveness Index“ der US-Denkfabrik Tax Foundation, der die OECD-Länder vergleicht, liegt Estland seit zwölf Jahren auf Platz eins.

Europa, der zersplitterte Markt

In den Gesprächen, die von Euphorie über das estnische System geprägt sind, schleicht sich immer wieder Frustration ein. Denn so gut das System hier funktioniert: Im europaweiten Markt stoßen die Gründer dennoch auf Blockaden. Hedi Mardisoo, Board Member der Estonian Founders Society, kennt die Probleme.

Mardisoo ist Gründerin des Insurtechs Cachet, das sie von Estland aus in elf Länder skalierte. Heute setzt sie sich in der Society für die nächste Generation von Gründer:innen ein und versucht, Blockaden europaweit abzubauen. „Wenn ich mit meinem Unternehmen in Europa expandieren will, begegne ich 27 verschiedenen Arten der Unternehmensregistrierung, 27 verschiedenen Notar- und Gerichtssystemen. Wenn du als kleines Startup ein globales Unternehmen aufbauen willst, bist du oft besser dran, woanders hinzugehen, meist in die USA. Das tun viele Startups – und das ist nicht gut für Europa“, so Mardisoo.

© Mardisoo – Hedi Mardisoo, Board Member der Estonian Founders Society.

Auf die Frage, warum die EU für Unternehmensgründungen so unattraktiv sei, antwortet Mardisoo ohne Zögern: „Zu 100 Prozent das Geld. Die Hauptprobleme sind das Geld, die Investor:innen und die Investitionen.“

Vahtras von e-Residency ergänzt: „Investoren sagen sehr oft: ‚Gründe eine Firma in Delaware, weil das für mich einfacher ist‘“ – einfacher, als sich mit den unterschiedlichen Rechtsordnungen der EU-Mitgliedstaaten auseinanderzusetzen. Um diesen Kapital- und Talentabfluss zu stoppen, ruht die Hoffnung nun auf einem Konzept aus Brüssel: der EU Inc.

Das „28. Regime“

Hinter der EU Inc. steht die Forderung nach einer einheitlichen europäischen Gesellschaftsform, dem sogenannten „28. Regime“: Neben 27 nationale Rechtsformen soll eine 28. treten, die eine schnelle, vollständig digitale Gründung ohne Mindeststammkapital ermöglicht.

Nachdem die Forderung nach der EU Inc. über die Jahre von Tausenden europäischen Gründer getragen wurde, verkündete EU-Kommissionspräsidentin Ursula von der Leyen am 20. Jänner 2026 beim Weltwirtschaftsforum in Davos das Vorhaben. Ziel sei eine wahrhaft europäische Unternehmensstruktur mit einheitlichen Kapitalregeln in der gesamten EU: „Unsere Unternehmer, die innovativen Firmen, werden ein Unternehmen binnen 48 Stunden in jedem Mitgliedstaat anmelden können, komplett online. Letzten Endes brauchen wir ein System, in dem Unternehmen nahtlos in ganz Europa Geschäfte machen und Finanzmittel beschaffen können, genauso einfach wie auf einheitlichen Märkten wie den USA oder China.“

Am 18. März 2026 legte die Kommission den Verordnungsentwurf erstmals vor. In der europäischen Startup-Szene stieß er auf heftige Kritik, weil zentrale Forderungen wie die freie Wahl des Registrierungssitzes von Unternehmen nicht erfüllt wurden. Eine Überarbeitung fordern europaweit Vertreter der Szene mit der Initiative „EU-INC“.

Estland als Weg zur EU Inc.?

Zurück im baltischen Staat: Was mit dem 28. Regime gefordert wird – also der Digital-first-Ansatz, geringes Startkapital sowie eine schnelle und grenzüberschreitende Unternehmensgründung –, setzt Estland mit e-Residency bereits seit mehr als zehn Jahren um. Warum das Konzept also nicht einfach kopieren?

© Vahtras – Liina Vahtras, Managing Director von e-Residency.

„Wir haben zur Kommission gesagt: ‚Schaut euch unser Programm an, schaut, wie wir das gelöst haben; vielleicht könnt ihr es wiederverwenden‘“, sagt Vahtras, und weiter: „Unser System ist nicht zu 100 Prozent das, was die EU Inc. sein soll, aber auch, wenn wir nur 50 Prozent der Lösungen bereits umsetzen, sind wir bereit, das zu teilen. Ich hoffe, dass die EU Inc. funktionieren wird – und dass sie die estnische e-Residency als eine Art Blaupause in Betracht ziehen; einfach, um zu sehen, was für uns funktioniert.“

Starken Gegenwind bekommt die EU Inc. von lokalen Akteuren wie Gewerkschaften und Notariatskammern. „Ich glaube nicht, dass irgendjemand Angst vor der EU Inc. haben sollte“, erklärt Hedi Mardisoo. „Einige große Länder blockieren die Umsetzung immer noch und versuchen, viele der wichtigsten Punkte zu verwässern. Man muss sich die Frage stellen: Will man das Alte tatsächlich verändern – oder will man die neue Regulierung einfach so hinbiegen, dass sie zum eigenen System passt? Das kann nicht funktionieren. Wenn man neue Innovationen regulieren will, kann man sie nicht in die alten Rahmenbedingungen quetschen.“

Um mit der EU Inc. erfolgreich zu sein, brauche es einen Mentalitätswandel, sagt Mardisoo: „Was wir aus Estland mitgeben können, ist, alles so einfach wie möglich zu gestalten. Ich war in anderen Ländern tätig, wo die Menschen Angst vor den Behörden hatten. Das zu ändern ist das Erste, was wir anstreben sollten. Dann wird das Umfeld für Unternehmen viel günstiger, die aus der Komfortzone heraustreten und etwas Neues und Innovatives aufbauen wollen.“

Die Währung Vertrauen

„Selbst wenn es eine EU Inc. geben würde, würde ich jedes Mal wieder hier in Estland gründen. Ich sehe den positiven Ansatz der EU-Initiative, aber ich glaube, dass sie in der Realität bei Weitem nicht konkurrenzfähig zu dem Modell ist, das man hier über Jahrzehnte aufgebaut hat“, zieht Tim Schnöckelborg sein Fazit.

Dass Estland heute die Früchte seiner radikalen Digitalisierungsstrategie aus den 90er-Jahren erntet, steht außer Frage. Dennoch ist jede Gesellschaft ein Resultat ihrer Vergangenheit, und in Europa gibt es 27 verschiedene davon. Die Umsetzung einer EU Inc., die den Vorstellungen aller entspricht, bleibt eine Herkulesaufgabe. Estland kann keine Lösung für alle sein, aber der Besuch im baltischen Staat zeigt: Es kann anders gehen, und das mit Erfolg. Das kleine Land profitiert dabei vor allem vom wichtigsten Gut, das man braucht, um Strukturen zu verändern: Vertrauen. Vielleicht ist es genau dieses Vertrauen, das erst geschaffen werden muss, bevor eine EU Inc. für alle und damit eine europaweite Verbesserung der Gründungsbedingungen gelingen kann.


Dieser Beitrag ist im Rahmen von „eurotours 2026“ entstanden, einem Projekt des Bundeskanzleramts, finanziert aus Bundesmitteln.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören