14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
11.09.2026

Follow startet mit der FHWien der WKW eine Social-Media-Ausbildung auf Hochschulniveau

Die Wiener Social-Media-Agentur Follow launcht mit Unterstützung der FHWien der WKW einen Online-Lehrgang für Social Media. Die Gründer wollen damit ein Problem lösen, das sie aus dem eigenen Agenturalltag kennen: Wer Social Media professionell lernen wolle, finde bislang keine zertifizierte, praxisnahe Ausbildung.
/artikel/follow-startet-mit-der-fhwien-der-wkw-eine-social-media-ausbildung
11.09.2026

Follow startet mit der FHWien der WKW eine Social-Media-Ausbildung auf Hochschulniveau

Die Wiener Social-Media-Agentur Follow launcht mit Unterstützung der FHWien der WKW einen Online-Lehrgang für Social Media. Die Gründer wollen damit ein Problem lösen, das sie aus dem eigenen Agenturalltag kennen: Wer Social Media professionell lernen wolle, finde bislang keine zertifizierte, praxisnahe Ausbildung.
/artikel/follow-startet-mit-der-fhwien-der-wkw-eine-social-media-ausbildung

Für Ilja Jay Lawal und Pedram Parsaian, die Gründer der Social-Media-Agentur Follow, schließt sich mit dem neuen Lehrgang ein Kreis. Beide haben an der FHWien der WKW Kommunikationswirtschaft studiert und sich dort kennengelernt. Seit mehreren Jahren sind sie zudem als Lektoren an der Hochschule tätig. Auch geschäftlich besteht bereits eine Verbindung: Die FHWien der WKW ist Kundin der Agentur, die für sie unter anderem Performance-Marketing und Influencer-Marketing-Projekte umsetzt, um neue Studierende anzusprechen.

Follow hat heuer bereits mehrfach Schlagzeilen gemacht: Zu Jahresbeginn beteiligte sich Musiker RAF Camora mit fünf Prozent an der Agentur (brutkasten berichtete), im August wurde Follow offizieller Social-Media-Vermarktungspartner der ProSiebenSat.1 Puls 4 Gruppe und damit Kooperationspartner von deren Vermarktungs-Unit Seven.One Austria (brutkasten berichtete). Mit dem Lehrgang folgt nun der Schritt ins Bildungsgeschäft.

„Du kannst Social Media nicht studieren“

Die Motivation für die neue Ausbildung kommt direkt aus dem Agenturalltag. „Da merken wir in der Praxis sehr stark: Du kannst Social Media nicht studieren. Es gibt keine zertifizierte, universelle Ausbildung, wo man sagt: Wenn du das gelernt hast, dann kannst du es“, sagt Lawal im Gespräch mit brutkasten. Die Agentur erhalte laufend Bewerbungen von Menschen, die in den Bereich einsteigen wollen, aber keine praktische Erfahrung mitbringen und keinen Ort haben, an dem sie das Handwerk lernen können.

Gleichzeitig sei der Beruf deutlich anspruchsvoller geworden. Waren Social-Media-Manager:innen früher vor allem für Texte und Themenauswahl zuständig, brauche es heute deutlich mehr: „Zusätzlich bist du Videograf, Fotograf, machst Grafik. Du musst mit dem Smartphone alles Mögliche können“, so Parsaian. Der Job sei mittlerweile einer der schwierigsten im Marketing-Mix, obwohl er oft noch als kleiner Teil des Marketings gelte.

Dass die Ausbildung nicht im Alleingang, sondern mit einer Hochschule entsteht, war für die Gründer eine bewusste Entscheidung. Es gebe zwar bereits Online-Kurse zum Social Media Manager, diese seien aber reine Theoriekurse, hinter denen weder eine Hochschule noch eine Agentur mit Praxiserfahrung stehe. Die Unterstützung durch die FHWien der WKW soll das ändern.

Online-Videokurs mit KI-Kapitel

Der Lehrgang ist als Online-Videokurs konzipiert und auf drei Monate ausgelegt, kann aber im individuellen Tempo absolviert werden, etwa abends oder am Wochenende neben dem Job. Am Ende steht ein Zertifikat. Die Module werden von einem gemischten Team unterrichtet: FH-Professor:innen, Mitglieder des Follow-Teams inklusive der beiden Gründer sowie externe Expert:innen, etwa aus den Bereichen Recht und Psychologie. Ein eigenes Kapitel widmet sich dem Einsatz von KI im Social-Media-Bereich. Der reguläre Preis liegt bei 2.970 Euro.

Die Ausbildung richtet sich an drei Zielgruppen: junge Menschen, die Social Media Manager:innen werden wollen, KMU und Marketingteams, die Social Media für das eigene Unternehmen aufbauen möchten, sowie Creator und Influencer:innen, die professioneller mit ihren Kanälen umgehen wollen.

Seitens der FHWien der WKW betont Studiengangsleiter David Dobrowsky den Anspruch der Ausbildung: „Der Anspruch dieser Ausbildung ist es, Social Media als eigenständiges und zentrales Feld von Unternehmenskommunikation und Marketing zu vermitteln. Professionelle Social-Media-Kommunikation braucht beides: fundiertes Wissen und praktische Anwendungsskills der Tools. Deshalb werden theoretische Grundlagen mit dem Umgang mit relevanten Tools und konkreten Anwendungen verbunden.“

KI senkt die Eintrittsbarriere, ersetzt aber niemanden

Dass KI den Bereich verändert, sehen die Gründer täglich. Die Eintrittsbarriere sei geringer geworden, weil sich mit KI-Unterstützung durchaus brauchbare Social-Media-Pläne erstellen ließen. „Ein einzelner Social-Media-Manager mit KI ist vielleicht so wie ein Team von drei, vier, fünf Leuten“, sagt Lawal. Eine echte Person ersetzen könne die Technologie aber nicht: „Dazu braucht man auch den Blick auf das, was sich laufend verändert. Es ist eine massive Arbeitserleichterung, Stand jetzt aber kein Ersatz.“

Neuer Revenue Stream für die Agentur

Für Follow ist der Lehrgang auch ein Business Case. Die Agentur ist nach eigenen Angaben auf 35 Mitarbeiter:innen gewachsen, bei einem jährlichen Umsatzwachstum im zweistelligen Prozentbereich. Das bringt ein Problem mit sich: „Wir sind mittlerweile einfach als Agentur zu groß für viele Kleine. Die kleine Immobilienkanzlei zu betreuen, rechnet sich für uns als Case nicht mehr“, sagt Lawal. Anfragen kleinerer Unternehmen müsse man ablehnen, obwohl auch diese Hilfe im Social-Media-Bereich bräuchten.

Der Lehrgang soll genau diese Lücke schließen und zugleich einen neuen, skalierbaren Umsatzstrom eröffnen, der nicht mit zusätzlichem Personal wächst. Selbst im schlechtesten Fall sehen die Gründer keinen Nachteil: Dann bleibe eine interne Schulungsressource für das eigene Team und das Onboarding. Künftig sollen auf der Videoplattform auch Vertiefungen dazukommen, etwa in den Bereichen Influencer-Marketing und Content Creation.

Sieglinde Martin, Head of Department of Communication an der FHWien der WKW, sieht in der Kooperation auch eine besondere Verbindung zur eigenen Alumni-Community: „Für uns als FHWien der WKW war schnell klar, dass wir mit so erfolgreichen Absolventen wie den Gründern von Follow kooperieren wollen. Sie setzen in ihrem Agenturalltag praktisch perfekt um, was wir in unseren Studiengängen am Department of Communication lehren. Es ist uns wichtig, diese Weiterbildung nicht nur zu unterstützen, sondern sie vor allem mit fundierten theoretischen Grundlagen und aktuellen Insights aus der Wissenschaft zu begleiten. Besonders freut es uns natürlich, dass wir so wieder mit ehemaligen Studenten zusammenarbeiten können und sich somit für uns der Kreis auf eine ganz besondere Weise schließt.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören