Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.

/artikel/ki-modelle-koennen-sich-selbst-zerstoeren

✨ AI Kontextualisierung

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:

die Redaktion

29.09.2026

Nach Braintribe: Stefan Ebner präsentiert KI-Startup Tribe.One

Nach zwei Jahren Entwicklungszeit feiert der österreichische Gründer Stefan Ebner den Soft-Launch seines neuen Startups Tribe.One. Das Unternehmen will mit KI-basierten „Entities" eine Co-Organisation für Führungsetagen etablieren. Begleitet wird der Start vom "Co-lab", einem Ort in Wien für Fokus, Schulungen und Austausch.

/artikel/nach-braintribe-stefan-ebner-praesentiert-ki-startup-tribe-one

die Redaktion

29.09.2026

Nach Braintribe: Stefan Ebner präsentiert KI-Startup Tribe.One

/artikel/nach-braintribe-stefan-ebner-praesentiert-ki-startup-tribe-one

In der heimischen Startup-Landschaft hat sich Stefan Ebner längst einen Namen gemacht. Er gründete das Datenunternehmen Braintribe, eröffnete später unter anderem den Co-Creation-Space Tribe.Space, launchte die Co-Creation-Plattform Tribe.Land oder das KI-WealthTech-Unternehmen WeR. Nun meldet er sich mit seinem neuesten Projekt Tribe.One zurück, das laut Ebner eine „dritte Welle der KI“ einläuten soll, nach den Sprachmodellen (LLMs) und den KI-Agents.

Von Agents zur Co-Organisation

Agents hätten sich zwar wie ein „Super Personal Assistant“ angefühlt, seien aber nie etwas gewesen, was eine Organisation wirklich aufnehmen könne, argumentiert Ebner. Tribe.One setzt deshalb eine Schicht über den Agents an: „Ich glaube, die nächste Welle wird das sein, was wir Co-Organisation nennen“, erklärt der Gründer. Gemeint ist ein neues Operating Model, in dem Mensch und KI den Output gemeinsam nutzbar machen. Damit richtet sich die Lösung vor allem an CEOs, CFOs und CMOs, denn: „Die meisten KI-Projekte scheitern nicht an der Technik, sondern an der Organisation“, so Ebner.

Digitale Counterparts für die Führungsebene

Kern des Ansatzes sind sogenannte „Entities“, die auf Tribe.Ones Plattform Gzero laufen. Führungskräfte erhalten darüber ein digitales Gegenüber, etwa einen Co-CEO oder Co-CFO. Dieses kennt das Unternehmen samt Plänen und OKRs und gibt Aufgaben an Agents weiter, da eine Entity selbst keinen direkten Datenzugriff hat.

Wie das in der Praxis aussieht, zeigt Tribe.One an sich selbst: Dort arbeiten laut Ebner vier menschliche und acht KI-C-Levels zusammen, und die Entities sind schon seit einem Jahr intern im Einsatz. Für Kund:innen soll die Möglichkeit bestehen bereits bestehende Agents mitzubringen und zu integrieren.

Ein Ort für Fokus und Austausch

Ebner verbindet technologische Vorhaben traditionell mit physischen Orten, vom Nachtclub Chaya Fuera bis zum Tribe.Space. Auch Tribe.One bekommt mit dem „Co-lab“ nun einen solchen Ort in Wien. Er ist laut Ebner kein klassischer Coworking-Space, sondern ein Ort für Fokus, Schulungen und Austausch, an dem auch Marketing, Kommunikation und Frühphasen-Projekte stattfinden sollen. Um die Szene zu vernetzen, ist jeden letzten Donnerstag im Monat ein „Open House“ geplant. Die offizielle Eröffnung soll gemeinsam mit dem großen Launch im Jänner erfolgen.

Forschung in Wien, Kapitalmarkt in London

Während Forschung und Entwicklung in Österreich bleiben, gründet Tribe.One in London eine Limited als Co-Headquarter für Markt und Kapital. Ebner selbst pendelt entsprechend zwischen zwei Welten: Zwei Wochen pro Monat verbringt er in Wien mit Forschung und Coding, die übrige Zeit bei Kunden, die er vor allem im DACH-Raum und in UK sieht.

Finanziert hat sich das Unternehmen bisher selbst und macht nach Ebners Angaben „substanzielle Umsätze“. Im ersten oder zweiten Quartal des kommenden Jahres will er nun aber Kapital aufnehmen.

Die Vision dahinter ist ambitioniert: Tribe.One soll zu den Top-5-KI-Firmen Europas gehören, die die neue Welle mitgestalten. Nach dem Soft Launch ist der große Launch für Januar geplant, und bis Jahresende will das Team 10 bis 15 Enterprise-Kunden und ebenso viele Startups onboarden. Ein Tool für Millionen Nutzer soll Tribe.One dagegen ausdrücklich nicht werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag