14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
05.08.2026

„Der Transfer ist das Schwierigste“: Ex-BMW Tech-Scouting-Leiter Frank Möbius über Technologie-Früherkennung

Technologie-Trends zu erkennen ist heute einfach, sie ins Kerngeschäft zu übersetzen bleibt die eigentliche Hürde. Frank Möbius hat BMWs Tech-Früherkennung sechs Jahre verantwortet und erklärt im brutkasten-Gespräch, woran der Transfer scheitert und wie er gelingt.
/artikel/der-transfer-ist-das-schwierigste-ex-bmw-tech-scouting-leiter-frank-moebius-ueber-technologie-frueherkennung
05.08.2026

„Der Transfer ist das Schwierigste“: Ex-BMW Tech-Scouting-Leiter Frank Möbius über Technologie-Früherkennung

Technologie-Trends zu erkennen ist heute einfach, sie ins Kerngeschäft zu übersetzen bleibt die eigentliche Hürde. Frank Möbius hat BMWs Tech-Früherkennung sechs Jahre verantwortet und erklärt im brutkasten-Gespräch, woran der Transfer scheitert und wie er gelingt.
/artikel/der-transfer-ist-das-schwierigste-ex-bmw-tech-scouting-leiter-frank-moebius-ueber-technologie-frueherkennung
Frank Möbius (links) | (c) BMW Group

Knapp 30 Jahre war Frank Möbius bei BMW. Zuletzt leitete er in der Konzernforschung den Bereich Technologiemanagement und -prognose und koordinierte das weltweite Netzwerk der BMW Technology Offices vom Silicon Valley bis Tokio. Seit 2023 gibt er seine Erfahrung als Senior Innovation Advisor bei der UnternehmerTUM GmbH in München, Europas größtem Gründerzentrum, weiter. Im Interview erklärt er, wie systematische Technologie-Früherkennung funktioniert, warum die meisten Unternehmen am Transfer der daraus gewonnenen Erkenntnisse scheitern und wie KI die Tech-Trenderkennung vereinfacht hat.


brutkasten: Sie waren fast 30 Jahre bei BMW. Wie sind Sie dort zum Thema Innovation gekommen?

Frank Möbius: Ich habe an der Uni Stuttgart Maschinenbau, Fachrichtung Fahrzeugtechnik studiert und nach dem Diplom Anfang 1990 meinen ersten Job bei der Lufthansa Technik in Frankfurt gefunden. Dort durfte ich die damals neuartigen stangenlosen Flugzeugschlepper mitentwickeln und 1992 den neuen Flughafen München damit ausrüsten – meine erste Berührung mit Innovationen und ihrer Einführung im Massengeschäft. Ich verließ die Lufthansa nach ein paar Jahren, um an der Uni Kaiserslautern über Robotik zu promovieren. Nach der Promotion kam ich 1996 zu BMW, meiner Wunschfirma in meiner Wunschstadt. Dort konnte ich viele unterschiedliche Funktionen übernehmen: erst arbeitete ich vier Jahre im Versuchsfahrzeugbau, dann vier Jahre im Personalwesen, ein lehrreicher “Side Step” für einen Ingenieur!

(c) BMW Group

Mitte 2004 durfte ich eine Abteilung für Vorentwicklung und Innovationsmanagement im Bereich Antriebsproduktion übernehmen. Daraus entstand meine Rolle im damals neuen elektrifizierten Antrieb für BMW – von der strategischen Inhouse-Entscheidung und fachlichen Befähigung der Firma bis zur Großserie: über zehn Jahre lang war ich für die Industrialisierung und später Entwicklung von Hochvoltbatterien verantwortlich, vom ersten A-Muster mit einem sehr kleinen Team bis zu 100 Mitarbeitenden. 2017 bin ich schließlich in die Forschung gewechselt und habe dort das Team “Technologiemanagement und -prognose” übernommen, das später in die Einheit “Open Innovation” integriert wurde.

Was macht so eine Open-Innovation-Einheit in einem Konzern konkret?

Mit Open Innovation Methoden erkennt und verwertet man frühzeitig innovative Signale und Trends, die außerhalb der eigenen Unternehmensgrenzen stattfinden. Wir schauen bewusst in Branchen jenseits des Automobilbaus: Consumer Electronics, Luft- und Raumfahrt, Medizin, Computing, Biomaterialien, etc. Immer mit der Frage im Hinterkopf: Was können wir davon für das eigene Kerngeschäft nutzen? Konkret: Technologische Trends aus der Cross-Industrie frühzeitig erkennen, verstehen, bewerten, ein Proof-of-Concept-Projekt durchführen, z. B. mit einem Startup, einer Uni, einem Fraunhofer-Institut, etc. und diese Ergebnisse dann in die Firma für die eigenen Produkte, Services und Prozesse transferieren.

(c) BMW Group

BMW hat dafür eine eigene Abteilung aufgebaut. Wie hängen die einzelnen Bausteine zusammen?

2015 wurde die Technologie-Früherkennung mit dem Technologie-Trendradar ins Leben gerufen, fast gleichzeitig wurde die BMW Startup Garage gegründet. Das Radar ist zunächst ein Visualisierungs- und Kommunikationstool: wir platzieren die erkannten Technologien nach Kategorien und Reifegraden, um frühzeitig aufzeigen zu können, was sich technologisch weltweit tut. Aber diese Erkenntnisse stehen erstmal nur auf dem Papier. Entscheidend ist nach Bewertung und Priorisierung die Verwertung dieser Erkenntnisse, der sogenannte Transfer. Dieser erfolgt dann oft mit Startups.

Hier kommt die BMW Startup Garage zum Einsatz. Sie betreibt Venture Clienting, d. h. sie investiert nicht, sondern scoutet im Netzwerk der internationalen BMW Tech Offices die besten Startups und koordiniert Innovationsprojekte mit den betroffenen BMW-Fachbereichen, die meist das Budget dafür stellen. Diese Startups müssen schon reifer sein, also ein stabiles Team, eine robuste Finanzierung, ein fertiges Produkt – ggf in anderen Branchen – und am besten schon erste Kunden haben. Das Ziel dabei ist immer, dass das Startup ein regulärer Lieferant für BMW werden kann, wir nennen das  “startup as a supplier”. Erst wenn die Lösung des Startups wirklich bei BMW zum Einsatz kommt – in Produkt, Service oder Prozess -, entsteht Impact!

Daneben gibt es das Team BMW iVentures als klassischer Risikokapital-Investor, der ebenfalls über das BMW Tech Office Netzwerk auch in ganz frühphasige Startups investiert. Außerdem gehört dazu ein BMW-interner Incubator und eine Crowd Innovation Plattform.

Wie läuft systematische Tech-Trenderkennung bzw. Tech-Scouting im Alltag ab?

Es gibt vier Prozessschritte: Scouten und Strukturieren, Diskutieren und Bewerten, Visualisieren und Vorbereiten und dann der Transfer in die passenden BMW-Fachbereiche und die dortige Umsetzung. Den ersten Schritt haben früher Mitarbeitende und Werkstudierende gemacht, heute erledigen das maßgeschneiderte KI-Agenten. Für den zweiten Schritt braucht man die Experten: Fachleute von intern und extern. Ggf wird zu einem bestimmten Tech-Trend eine Studie erstellt. Für den dritten Schritt sitzt man in Workshops zusammen und erarbeitet einen Vorschlag für das nächste Trendradar und mögliche Scouting- oder Prototypen-Projekte. Von einer Liste mit über hundert Themen bleiben dann vielleicht vierzig übrig, die auf das Trendradar kommen und fünf, die dann tiefergelegt werden.

(c) BMW Group

Und dann kommt der Teil, an dem viele scheitern.

So ist es! Die ganzen modernen Technologien und Trends kann man heute recht einfach im Netz recherchieren, Generative AI hilft dabei. Das Entscheidende aber ist am Ende: Was leitet das Unternehmen daraus ab? Nur neues Wissen, eine Produktverbesserung oder gleich ein neues Geschäftsmodell? Einfacher gesagt: was mache ich damit morgen besser als heute? Das ist das Schwierige, der Transferprozess. Dieser hat inhaltliche, strukturelle, finanzielle aber auch menschliche Aspekte. Der Transfer einer neuen, erstmal riskanten Technologie aus einer anderen Branche in die eigene Firma ist oft schwierig. Auch bei BMW hat es ein paar Jahre gedauert, bis erste Erfolge kamen und das Vorgehen akzeptiert war.

Was ist das Rezept, damit es funktioniert?

Man holt die Personen, die später die Erkenntnisse umsetzen sollen, frühzeitig in den Prozess mit hinein. Sie dürfen die Startups mit bewerten, sie erfahren sofort, wenn eine neue Technologie für ihren Fachbereich tiefergelegt werden soll, diese wird dann gemeinsam bewertet. Dafür gibt es in der BMW Startup Garage für jedes Ressort einen konkreten Schnittstellenpartner. Dann geht man gemeinsam in den betroffenen Fachbereich, organisiert die Ressourcen und plant das Projekt, damit das Startup den Prototypen bauen kann. Wichtig: für das Startup-Projekt wird oft das Geld des späteren Fachbereichs verwendet. Das erzeugt zusätzliches Commitment! Und das Zweite ist die Hierarchie: Wenn Du einen Bereichsleiter oder Geschäftsführer hast, der voll hinter Open Innovation steht und auch mal in oberen Etagen politisch unterstützt, dann funktioniert es deutlich besser, auch in Krisenzeiten mit Budgetknappheit.

(c) BMW Group

Was raten Sie einem Unternehmen, das ohne viel Budget mit Technologiemanagement starten will?

Man muss nicht gleich zehn Leute einstellen. Oft genügt erstmal eine Person mit den nötigen Ressourcen und Befugnissen, dazu evtl. einen Studierenden und ein paar Teilkapazitäten in den relevanten Fachbereichen als Unterstützung. Ggf hilft am Anfang auch eine externe Trendagentur oder ein passender Toolanbieter. KI-Kenntnisse sind wichtig, um einen KI-Agenten nutzen oder einen eigenen aufbauen zu können. Ein gutes, internationales Netzwerk in alle relevanten Industrien ist ebenso wichtig, denn inzwischen betreiben die meisten großen Firmen Technologie-Früherkennung im Rahmen von Corporate Foresight, man kann von ihnen lernen und Best Practices übernehmen. Ich habe aus meinen über 6 Jahren in dieser Rolle eine Liste mit den zehn wichtigsten Lessons Learned zusammengeschrieben. Da steht alles drin, was man braucht, man muss es halt nur noch machen.

Was machen Sie heute bei UnternehmerTUM?

UnternehmerTUM hat drei Zielgruppen: Talente, Startups und Unternehmen – vom großen  Corporate und Mittelstand bis zum Familienunternehmen. Meine Hauptarbeit liegt in der Innovationsberatung, wo ich meine BMW-Erfahrung einbringen kann. Daneben bin ich Startup-Mentor, halte Vorlesungen, unterstütze die Internationalisierung der UnternehmerTUM und betreue Delegationen. Und ich baue gerade einen KI-gestützten Technologie-Trendradar-Prozess für die UnternehmerTUM, die TUM Venture Labs und ihre Partner und Kunden auf. Der ist nochmal deutlich umfangreicher als ein Radar für die Automobilindustrie. Wir haben dafür einen KI-Agenten gebaut, der weltweit schwache Tech-Signale erkennt, also Technologien, die noch kein messbarer Trend sind. Diesen KI-Agenten trainiere ich täglich. Gerade für Mittelständler und Familienunternehmen ist das sehr hilfreich, weil sie in der Regel nicht das Netzwerk und die Möglichkeiten großer Firmen haben.

(c) BMW Group

Gibt es ein Beispiel aus Ihrer BMW-Zeit, das zeigt, was Open Innovation bewirken kann?

Aus der Tech-Trenderkennung und der Startup-Arbeit wurden in den letzten Jahren schon viele Projekte zu Quantum Computing, Fahrzeug-Satelliten-Kommunikation, Gesundheitsdaten-Monitoring im Fahrzeug, Panorama-Displays, In-Car-Gaming u.v.m. erfolgreich transferiert. Einiges davon ist schon im Auto zu erleben, manches wird noch kommen. Mein Lieblingsbeispiel ist das farbwechselnde Auto: keine klassische Trenderkennung, aber ein erfolgreicher Cross-Industry-Transfer und vielleicht sogar ein Trendsetter! Eine Mitarbeiterin von mir hatte vor vielen Jahren die mutige Idee, die Display-Funktionen eines E-Readers aufs Auto zu übertragen. Sie hat sich die E-Ink-Panels besorgt, einen Prototypen entwickelt und damit nach vielen Experimenten mit einigen Helfern den BMW iX Flow aufgebaut – übrigens anfangs im MakerSpace der UnternehmerTUM. Mit diesem Auto war sie mit BMW 2022 in der Schwarz-Weiß-Version und ein Jahr später mit dem BMW i VISION Dee in der Farbversion mit großem Erfolg auf der CES in Las Vegas: The Color-Changing Car! Das ist für mich der perfekte Cross-Industry-Transfer: Ich übertrage eine erfolgreiche Technologie aus einer Industrie in eine völlig andere und habe einen Nutzen daraus. Ob das in irgendeiner Form mal in Serie kommt? Wer weiß …

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören