14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
13.07.2026

„Innovation in Isolation ist eine Illusion“: Baurek-Karlic über zwölf Jahre World Venture Forum

Beim World Venture Forum in Kitzbühel trafen sich Investor:innen aus 33 Nationen. brutkasten war vor Ort und sprach mit Gründer Berthold Baurek-Karlic über die Anfänge als Golfrunde, die neue Stiftung und die Frage, warum zehn Jahre Dachfonds-Diskussion zehn verlorene Jahre für den Wirtschaftsstandort sind.
/artikel/innovation-in-isolation-ist-eine-illusion-baurek-karlic-ueber-zwoelf-jahre-world-venture-forum
13.07.2026

„Innovation in Isolation ist eine Illusion“: Baurek-Karlic über zwölf Jahre World Venture Forum

Beim World Venture Forum in Kitzbühel trafen sich Investor:innen aus 33 Nationen. brutkasten war vor Ort und sprach mit Gründer Berthold Baurek-Karlic über die Anfänge als Golfrunde, die neue Stiftung und die Frage, warum zehn Jahre Dachfonds-Diskussion zehn verlorene Jahre für den Wirtschaftsstandort sind.
/artikel/innovation-in-isolation-ist-eine-illusion-baurek-karlic-ueber-zwoelf-jahre-world-venture-forum
Initiator Berthold Baurek-Karlic eröffnet das World Venture Forum, im Hintergrund Bitcoin Suisse CEO Andrej Majcen – Foocredit: World Venture Forum

Wenn sich Anfang Juli Investor:innen aus 33 Nationen in Kitzbühel versammeln, dann nicht für Pitch-Marathons, sondern für Gespräche am Berg: Das World Venture Forum (WVF) ging heuer von 6. bis 11. Juli in seine zwölfte Ausgabe – unter dem Motto „Vectors of Change“. Den heutigen Namen trägt die Veranstaltung seit vier Jahren, davor lief sie als Venture Week. Das Format ist bewusst klein gehalten: Rund 200 Teilnehmer:innen, die laut Veranstalter ein Kapital von mehr als 40 Milliarden Euro repräsentieren, verteilen sich über eine Woche auf Themen-Chalets zu Web3, Family Offices, Corporate Innovation und Impact. Dazu kommen ein Golfturnier, eine Trekking-Tour auf die Streif und die Gala im K3 KitzKongress samt Award-Verleihung. Am Donnerstag und Freitag verschmilzt das Programm traditionell mit dem Business Angel Summit, dem Jahrestreffen der österreichischen Angel-Szene.

Hinter dem Event steht Berthold Baurek-Karlic, Gründer und CEO von Venionaire Capital, der das Forum vor zwölf Jahren mit ins Leben gerufen hat. brutkasten traf ihn vor Ort zum Gespräch – über die Anfänge als Golfrunde, die Philosophie hinter dem Format, die neu eingetragene gemeinnützige Stiftung und die Frage, warum Österreich seiner Ansicht nach zehn Jahre in der Standortdebatte verloren hat.


brutkasten: Das World Venture Forum geht mittlerweile in die zwölfte Ausgabe. Wie ist das Ganze entstanden – und wie hängt es mit dem Business Angel Summit zusammen?

Berthold Baurek-Karlic: Vor zwölf Jahren gab es hier in Kitzbühel eine kleine Golfrunde – gemeinsam mit der Austria Wirtschaftsservice (aws) und der Standortagentur Tirol. Wir haben gesagt: Wir bringen informell lokale und ein, zwei internationale Investoren zusammen und reden darüber, wie wir mehr Kapital mobilisieren und international mehr Augen auf unseren Heimatmarkt und die EU bringen. Das Feedback war sehr gut, es gab Folgeveranstaltungen. Dann hat sich herauskristallisiert, dass es Bedarf an einem Jahrestreffen der Business Angels gibt – stark auf Österreich fokussiert, mit Bayern und Südtirol als Umfeld. Daraus wurde der Business Angel Summit, den wir bis heute in Partnerschaft und Freundschaft begleiten. Wir selbst haben daraus eine europäische Venture Week in Kitzbühel entwickelt – das heutige World Venture Forum. Es beginnt bereits am Montag; am Donnerstag und Freitag verschmilzt das Programm dann mit dem Summit, unserem Partnerevent.

Was ist die DNA des Forums?

Wir machen ein Event von Investoren für Investoren. Unser Versprechen ist: Hier sitzt du am Tisch und nicht am Menü. Du gehst nicht in einen Raum, wo auf einen Investor zehn Startups kommen, die Geld wollen. Stattdessen hast du eine entspannte Atmosphäre über mehrere Tage, in der du Vertrauen aufbauen kannst, um international zu co-investieren. Kitzbühel ist dafür wunderbar geeignet: Wir machen den Content am Berg – dort kann keiner weglaufen, und es gibt wenig Ablenkung. Im zwölften Jahr haben wir 33 Nationen versammelt und repräsentiertes Kapital von weit über 40 Milliarden. Gleichzeitig sind wir bewusst klein geblieben, knapp über 200 Teilnehmer – Qualität ist wichtiger als Quantität.

Berthold Baurek-Karlic bei der Eröffnung des Gala Dinners am Mittwoch | (c) World Venture Forum

Seit dem Vorjahr gibt es auch eine Stiftung.

Ja, die World Venture Forum Stiftung, eine gemeinnützige Stiftung nach Bundesstiftungsrecht. Es war unglaublich schwierig, sie zu bekommen – zwei Jahre und zehn Monate. Sie kann nicht wieder aufgelöst werden, sie hat den Anspruch, ewig zu bestehen. Wir mussten aber lernen, dass sie ein Jahr eingetragen sein muss, bis die Spendenabsetzbarkeit greift. Das letzte Jahr war deshalb in Wahrheit die Hölle. Heuer konnten wir mit unserer Charity Auction erstmals Kapital einsammeln – knapp 60.000 Euro. Dazu haben wir mittlerweile Chapter Presidents in 19 Ländern, die das ganze Jahr die lokale mit der internationalen Community vernetzen. Die Stiftung lebt nach einem einfachen Prinzip: Innovation in Isolation ist eine Illusion.

Im Fokus der Stiftung steht Bildung. Was heißt das konkret?

Es geht um Innovations- und Entrepreneurship-Empowerment. Einerseits Capacity Building: Investoren die Skills zu geben, um lokal einen guten Job zu machen und internationale Standards einzuhalten. Andererseits haben wir mit der Hochschule Fresenius ein Programm entwickelt, das Scaleup-Gründern die Werkzeuge gibt, international zu raisen. Am Anfang hast du Friends, Family, Fools und lokale Angels – aber irgendwann brauchst du internationale Investoren, die dir neue Märkte aufmachen. Dort helfen wir.

Der Vorstand der World Venture Forum Stiftung: Alexander Rapatz und Berthold Baurek-Karlic | (c) World Venture Forum

Es sind auch Startups vor Ort. Welche Regeln gelten für sie?

Die Oberregel ist: Hier wird nichts verkauft. Es sind ausschließlich Scaleups vor Ort, in der Regel im Windschatten eines Sponsors – und jeder Founder, der hier ist, hat selbst schon investiert. Ein gutes Beispiel ist Florian Wimmer von Blockpit, der seit Jahren auch als Business Angel aktiv ist. Am Ende soll es keine Verkaufsveranstaltung sein. Die Leute sollen nach Hause gehen und sagen: Ich habe etwas gelernt.

Beim Business Angel Summit wurde viel über die politischen Rahmenbedingungen in Österreich diskutiert. Ist das auch hier Thema?

Wir haben ganz bewusst Martin Ohneberg als Festredner eingeladen und ich bin sehr glücklich über seine Rede. Er hat zu hundert Prozent recht: Wir labern viel zu viel und tun viel zu wenig. Politischer Diskurs ist wichtig, aber wenn wir zehn Jahre über einen Dachfonds diskutieren, haben wir zehn Jahre verloren. Ursprünglich wurde an einem Fund of Funds mit fünf bis zehn Milliarden gearbeitet – heute reden wir über einen Scaleup-Fonds mit 500 Millionen. Wir haben also weniger und zehn Jahre verloren. Am Panel kam die Frage, ob der Staat nicht mehr Geld in Fonds stecken sollte. Die Antwort eines deutschen Scaleup-Gründers war treffend: Viel gescheiter wäre, der Staat würde die Produkte kaufen, die in Europa entstehen – Umsatz ist besser als Eigenkapital.

Disclaimer: brutkasten ist Medienpartner des World Venture Forum

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten „Müll“ selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem „Müll“ dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören