14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
15.07.2026

Entgelttransparenzrichtlinie: Diese neuen Verpflichtungen kommen auf Unternehmen zu

Die Frist zur Umsetzung der EU-Entgelttransparenzrichtlinie ist bereits abgelaufen, doch der österreichische Gesetzesentwurf wird aktuell erst verspätet ausgearbeitet - begleitet von Diskussionen. Obwohl die genaue Ausgestaltung abzuwarten bleibt, stehen einige neue Verpflichtungen für Unternehmen - die Mindestanforderungen der Richtlinie - bereits fest.
/artikel/entgelttransparenzrichtlinie-diese-neuen-verpflichtungen-kommen-auf-unternehmen-zu
15.07.2026

Entgelttransparenzrichtlinie: Diese neuen Verpflichtungen kommen auf Unternehmen zu

Die Frist zur Umsetzung der EU-Entgelttransparenzrichtlinie ist bereits abgelaufen, doch der österreichische Gesetzesentwurf wird aktuell erst verspätet ausgearbeitet - begleitet von Diskussionen. Obwohl die genaue Ausgestaltung abzuwarten bleibt, stehen einige neue Verpflichtungen für Unternehmen - die Mindestanforderungen der Richtlinie - bereits fest.
/artikel/entgelttransparenzrichtlinie-diese-neuen-verpflichtungen-kommen-auf-unternehmen-zu
Die EU-Entgelttransparenzrichtlinie soll den Gender Pay Gap verringern | (c) Marek Studzinski via Unsplash
Die EU-Entgelttransparenzrichtlinie soll den Gender Pay Gap verringern | (c) Marek Studzinski via Unsplash

Sie soll den Gender Pay Gap verkleinern, indem Unternehmen etwa konkrete Auskünfte über Gehälter geben müssen: Bereits 2023 beschloss das EU-Parlament die Entgelttransparenzrichtlinie. Mit einer Frist von drei Jahren sollte sie von den Mitgliedstaaten bis 7. Juni 2026 umgesetzt werden. Weil es eine Richtlinie (und keine Verordnung) ist, hatten die Nationalstaaten dabei einen gewissen Gestaltungsspielraum.

Begutachtungsentwurf im Alleingang zu Frist-Ende

Dieser führte wohl auch dazu, dass Sozialpartner und Regierung in Österreich sich nicht zeitgerecht auf die konkrete gesetzliche Umsetzung einigen konnten – ähnliches passierte übrigens in mehreren EU-Staaten. Nachdem es ein Ultimatum gestellt hatte, legte das SPÖ-geführte Sozial- und Arbeitsministerium zum Ablauf der Frist im Juni einen in Eigenregie erstellten Begutachtungsentwurf vor – zum Ärger mehrere Sozialpartner, etwa der Industriellenvereinigung (IV), die eine “Bürokratielawine” befürchtet.

Öffentlich ist dieser Entwurf noch nicht verfügbar. IV, Wirtschaftskammer, Gewerkschaftsbund (ÖGB) und Co., die ihn vorliegen haben, diskutieren aber längst per Presseaussendungen zu den Inhalten weiter. Während die konkreten vorgesehen Maßnahmen erst mit dem offiziellen Entwurf klar sein werden, steht bereits fest: Auf die eine oder andere Weise müssen die neuen Transparenzpflichten aus der Richtlinie von Unternehmen am Ende umgesetzt werden. Denn diese gibt klare Mindestanforderungen für die Nationalstaaten vor.

EU sieht Intransparenz als Ursache des Gender Pay Gap

Die EU will mit der Entgelttransparenzrichtlinie das bekanntlich in der Praxis nicht ausreichend umgesetzte Recht auf gleichen Lohn für gleiche oder gleichwertige Arbeit sichern. Und bisher scheiterte die Bekämpfung der ungleichen Bezahlung von Männern und Frauen laut Analysen der EU-Kommission vor allem an der mangelnden Transparenz der betrieblichen Gehaltssysteme. Ziel der Richtlinie ist nichts weniger als ein grundlegender Kulturwandel in den Personalabteilungen: weg von historisch gewachsenen, intransparenten Gehaltsstrukturen hin zu nachvollziehbaren, geschlechtsneutralen Systemen.

Das sind die Eckpunkte der Richtlinie:

  • Gehaltstransparenz schon im Bewerbungsprozess: Arbeitgeber müssen Jobsuchenden das Einstiegsgehalt oder eine entsprechende Gehaltsspanne bereits vor dem ersten Gespräch mitteilen (z. B. direkt im Inserat). Die Frage nach dem letzten Gehalt beim vorherigen Arbeitgeber ist künftig gesetzlich verboten.
  • Individuelles Auskunftsrecht: Beschäftigte können schriftlich Auskunft darüber verlangen, wie viel Kolleg:innen im Durchschnitt verdienen, die eine gleiche oder gleichwertige Arbeit verrichten – aufgeschlüsselt nach Geschlecht. Unternehmen müssen diese Daten innerhalb von maximal zwei Monaten liefern und die Belegschaft einmal jährlich proaktiv über dieses Recht informieren.
  • Schluss mit Schweigeklauseln: Vertragliche Klauseln, die Mitarbeitenden verbieten, über ihr Gehalt zu sprechen, werden ungültig.
  • Offenlegung der Aufstiegskriterien: Die Maßstäbe für die Festlegung des Gehalts und die Karriereentwicklung müssen für alle Beschäftigten leicht zugänglich sein. Betriebe mit weniger als 50 Beschäftigten können von der Pflicht zur Offenlegung der Aufstiegskriterien ausgenommen werden.
  • Verpflichtende Gehaltsberichte (Gender Pay Gap): Größere Betriebe müssen regelmäßig Kennzahlen zum geschlechtsspezifischen Lohnunterschied berechnen und veröffentlichen. Dafür gilt ein gestaffelter Zeitplan:
    • Ab 250 Beschäftigten: Jährliche Berichterstattung, erstmals zum 7. Juni 2027.
    • 150 bis 249 Beschäftigte: Berichterstattung alle drei Jahre, erstmals zum 7. Juni 2027.
    • 100 bis 149 Beschäftigte: Berichterstattung alle drei Jahre, erstmals zum 7. Juni 2031.
  • Pflicht zum Lohnaudit: Weist dieser Bericht in einer Beschäftigtengruppe eine ungerechtfertigte Lohnlücke von 5 Prozent oder mehr auf, die nicht innerhalb von sechs Monaten korrigiert wird, muss der Arbeitgeber gemeinsam mit der Arbeitnehmervertretung eine formelle, tiefgehende Entgeltbewertung durchführen und konkrete Gegenmaßnahmen einleiten.
  • Strengere Haftung und Beweislast: Werden die Transparenzpflichten verletzt, kehrt sich vor Gericht die Beweislast um: Dann muss das Unternehmen beweisen, dass keine Diskriminierung vorlag. Zudem haben Betroffene Anspruch auf ungedeckelten, vollständigen Schadensersatz (inklusive Nachzahlungen und entgangener Chancen), und es drohen empfindliche, umsatzbasierte Strafen.

Konträre Ansichten der Sozialpartner

Die österreichische Umsetzung könnte dann noch etwas strenger ausfallen – das legen zumindest Reaktionen auf den besagten Begutachtungsentwurf nahe. IV-Generalsekretär Christoph Neumayer spricht in einer Aussendung etwa von „nationalem Gold Plating“ und ortet „ein Bürokratiemonster für die Betriebe“. Nachdem nicht nur Österreich, sondern die Mehrheit der EU-Staaten die Richtlinie noch nicht umgesetzt hätten, fordert Neumayer überhaupt eine Überarbeitung dieser. „Wer Einkommensunterschiede nachhaltig reduzieren will, muss an den tatsächlichen Ursachen ansetzen. Zusätzliche Berichtspflichten schaffen keine gerechtere Bezahlung“, meint der IV-Generalsekretär.

Gänzlich konträr beurteilt man die Richtlinie und deren geplante Umsetzung wenig überraschend beim ÖGB. Dort will man per Aussendung „Mythen“ (also die Argumentation der politischen Gegenseite) entkräften und meint abschließend: „Die innerstaatliche Umsetzung der Richtlinie bietet die Chance, gleiche Bezahlung von Frauen und Männern, die gleiche und gleichwertige Arbeit im Betrieb verrichten, zu erreichen, ohne jemandem etwas wegzunehmen, der bisher mehr verdient hat.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören