14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
01.10.2026

Der Fisch, der von der Fliege lebt: Kreislaufwirtschaft am NOI Techpark

Drei Startups am NOI Techpark in Bozen beweisen, wie smarte Kreislaufwirtschaft funktioniert: Mit der Schwarzen Soldatenfliege ersetzen sie Fischmehl durch Insektenprotein. Eine Geschichte von Startup-Kollaboration, wie sie im Buche steht.
/artikel/der-fisch-der-von-der-fliege-lebt-kreislaufwirtschaft-am-noi-techpark
01.10.2026

Der Fisch, der von der Fliege lebt: Kreislaufwirtschaft am NOI Techpark

Drei Startups am NOI Techpark in Bozen beweisen, wie smarte Kreislaufwirtschaft funktioniert: Mit der Schwarzen Soldatenfliege ersetzen sie Fischmehl durch Insektenprotein. Eine Geschichte von Startup-Kollaboration, wie sie im Buche steht.
/artikel/der-fisch-der-von-der-fliege-lebt-kreislaufwirtschaft-am-noi-techpark
Giacomo Benassi (Kinsect), Matthäus Kircher (Solos) und Manuel Mairinger (Reploid) zeigen, wie Startup-Kollaboration funktionieren kann. © NOI Techpark/Marco Parisi

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


Es wurlt in der Larvenkiste des österreichischen Scaleups Reploid: Larven der Schwarzen Soldatenfliege werden hier seit einigen Tagen gemästet. Sie ahnen natürlich nicht, dass sie bald eine wichtige Rolle im Kreislaufkonzept dreier Jungunternehmen spielen werden.

Zuerst aber dorthin, wo alles begonnen hat: an den NOI Techpark in Bozen, Südtirol. Auch hier wurlt es, nur bringen statt Insektenlarven Startups Leben in das 12 Hektar große Innovationsviertel. Aktuell arbeiten 76 Unternehmen, 37 Startups, drei Forschungsinstitute, vier Fakultäten der Freien Universität Bozen und insgesamt 2.400 Menschen hier gemeinsam für nachhaltigen Fortschritt. Man tüftelt in den Laboren an Prototypen, vernetzt sich auf Events, feilt beim Spaziergang über den 2017 eröffneten Campus, der sich inzwischen stark vergrößert und weiterentwickelt hat, an der nächsten Idee. Was Gründer:innen hier aber am meisten schätzen: das weitreichende Netzwerk.

Nicht gesucht – trotzdem gefunden

„Wer am NOI Techpark Fuß fasst, bekommt Zugang zu etablierten Akteuren und Investoren in Südtirol“, erklärt Manuel Mairinger, Managing Director und CEO von Reploid Italia. Das ursprünglich aus Österreich stammende Insekten-Scaleup hat sich bei der Expansion nach Italien wegen der hervorragenden Lage zwischen Österreich und Mailand für das Acceleration & Scale-up Programme des NOI Techpark als Launchpad entschieden. „Das NOI baut als renommierter Partner die Brücke zu potenziellen Kund:innen und Partner:innen, ganz ohne die Hilfe von Plattformen wie LinkedIn“, fügt der Reploid-Italia-CEO hinzu.

Mairinger weiß genau, wovon er spricht. Reploid Italia ist eines von drei am NOI inkubierten Jungunternehmen, die zeigen, wie Startup-Kollaboration funktionieren kann. Initiiert hat die Zusammenarbeit Sonja Tetter vom Team des Start-up Incubator. „Wir arbeiten sehr eng mit unseren Startups zusammen, kennen ihre Geschäftsmodelle, Technologien und Herausforderungen. Deshalb sehen wir relativ früh, wo eine Kooperation wirklich Mehrwert schaffen könnte“, erläutert Tetter. Gemeinsam wollen die drei Unternehmen zur regionalen Kreislaufwirtschaft in Bozen beitragen. Und hier kommt die Larve der Schwarzen Soldatenfliege wieder ins Spiel.

Die Schwarze Soldatenfliege als Gamechanger

Die Larve der Schwarzen Soldatenfliege wird rund 25 Millimeter groß. © Reploid/Fabian Fallend

Nach nur einer Woche sind die Larven laut Reploid mit rund 25 Millimetern ausgewachsen und überzeugen mit innerer Größe: Sie sind sehr reich an tierischem Protein. Das aus ihnen gewonnene Mehl kann einen Proteingehalt von über 62 Prozent aufweisen.

Das macht die Larven zum potenziellen Proteinersatz, vor allem im Futtermittelbereich, etwa für Fische. „Wir züchten Welse, das sind Fleischfresser“, erklärt Matthäus Kircher, Gründer von Solos. Das Südtiroler Startup betreibt Aquaponik und verbindet Fischzucht mit dem Anbau von Kräutern und Salat.

Das Prinzip dahinter: Die Fische reichern das Wasser durch ihre Ausscheidungen mit natürlichen Nährstoffen an, ein Biofilter leitet es ins Pflanzenbecken, wo Salat und Kräuter die Nährstoffe aufnehmen und das Wasser reinigen, bevor es zurück zu den Fischen fließt. So entsteht ein geschlossener Kreislauf im Zeichen der Nachhaltigkeit.

Ein Punkt war Kircher dabei allerdings von Anfang an ein Dorn im Auge: das mit Fischmehl angereicherte Futter. „Bereits vor vier Jahren haben wir uns gefragt, wie wir tierische Proteine ohne Fischmehl verfüttern können“, erzählt er. Insekten bildeten schließlich die Lösung. Eine Studie ergab: Futtermischungen auf Insektenmehlbasis, angereichert mit Spirulina-Algen, lassen den Omega-3-Gehalt im Fischfilet höher ausfallen als bei herkömmlich gefütterten Tieren.

Aus Reststoffen wird Futtermittel

Insektenlarven werden durch die Kooperation zu nachhaltigem Fischfutter © NOI Techpark/Marco Parisi

Hier kommt Reploid ins Spiel: Das Unternehmen implementiert modulare Anlagen, die sogenannten „ReFarm-Units“. Dort verarbeiten Larven der Schwarzen Soldatenfliege regionale Reststoffe zu Insektenprotein und -fett für Futtermittel- sowie Industrieanwendungen. Ein weiteres Nebenprodukt ist der Insektenfraß, also die Ausscheidungen, aus denen organischer Dünger entsteht. Den dritten Baustein liefert Kinsect: Das italienische Startup entwickelt Technologien für die industrielle Zucht der Fliege und liefert Eier sowie Junglarven.

Am Standort von Solos in Tramin greifen so die unterschiedlichen Kompetenzen ineinander: Die von Kinsect bereitgestellten Larven werden in einer Insektenmastanlage von Reploid mit Lebensmittelnebenprodukten wie Apfeltrester, Kartoffelschalen oder Altbrot gefüttert. Solos nutzt sie anschließend als nachhaltiges Futtermittel in der Fischzucht. So soll Fischmehl ersetzt, sollen organische Reststoffe sinnvoll verwertet werden. Neben den ökologischen Vorteilen ergeben sich durch das Vorzeigeprojekt und den realen Usecase natürlich auch wirtschaftliche Vorteile, von denen die drei Startups profitieren.

Drei Ansätze, ein gemeinsamer Nenner

Es ist eine Kooperation im Namen der Kreislaufwirtschaft, die ohne den NOI Techpark nie zustande gekommen wäre. „Am NOI Techpark konnte diese Synergie organisch entstehen“, fasst Kinsect-CEO Giacomo Benassi zusammen. „Dank der Zusammenarbeit im selben Ökosystem konnten wir viel schneller Vertrauen zueinander aufbauen.“ Der NOI Techpark ermöglicht damit nicht nur grenzüberschreitende, sondern auch branchenübergreifende Vernetzungen, die Startups entscheidend weiterbringen.

Und so wurlt es weiter am NOI Techpark. Jedes Jahr kommen neue Startups zur NOI-Community dazu. Für den Herbst-Batch kann man sich noch bis zum 5. Oktober bewerben – vielleicht entsteht daraus bald die nächste erfolgreiche grenzüberschreitende Startup-Kooperation.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören