Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

„Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen“, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: „So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren“.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: „Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen“. Denn bereits jetzt sei das Netz bereits mit KI-generiertem „Müll“ kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit „richtig“ sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Dieser Text ist zuerst im brutkasten-Printmagazin von Mai 2026 „Die nächste Stufe“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.

Österreich beschafft jährlich Güter, IT-Leistungen und Dienstleistungen im Wert von rund 67 Milliarden Euro – etwa 18 Prozent des BIP. Gleichzeitig erwirtschaften laut Austrian Startup Monitor 2023 gerade einmal fünf Prozent der heimischen Startups Umsätze mit öffentlichen Organisationen.

Dieses Missverhältnis ist kein Zufall und kein Versagen einzelner Akteure. Es ist das Ergebnis zweier Welten, die aneinander vorbeireden – und eine Chance, die Österreich systematisch liegen lässt.

Warum Innovation heute Partnerschaften braucht

Unsere Welt wird zunehmend komplexer: Neue Technologien entstehen schneller, als Organisationen sie intern entwickeln können. Lieferketten werden vernetzter, Kundenanforderungen anspruchsvoller, regulatorische Rahmenbedingungen vielschichtiger. In diesem Umfeld ist es weder möglich noch sinnvoll, alles selbst zu entwickeln. Was es braucht, sind smarte Partnerschaften – mit Unternehmen, die genau das lösen, wofür intern Zeit, Team, Ressourcen oder Kernkompetenzen fehlen.

Startups sind dafür prädestiniert: Sie arbeiten mit starkem Problemfokus, entwickeln schlanke Lösungen und bringen eine Geschwindigkeit mit, die etablierte Organisationen strukturell nur schwer erreichen. Viele große Unternehmen im DACH-Raum haben das längst erkannt.

Doch einfach bei Startups einzukaufen funktioniert nicht – klassische Einkaufsprozesse, Rechtsabteilungen und Risikomanagement-Strukturen sind auf Stabilität ausgelegt: bewährte Lieferanten, lange Referenzlisten, geprüfte Bilanzen. Ein Startup mit 18 Monaten Geschichte fällt durch dieses Raster; nicht, weil die Lösung schlecht ist, sondern weil die Prozesse keine Ausnahme kennen. Das Ergebnis: Startups scheitern nicht am Produkt, sondern an der Bürokratie.

Ein Modell, das in der Praxis bereits funktioniert

Venture Clienting wurde als strukturierte Antwort auf genau dieses Problem entwickelt. Kein Fördermodell, keine Beteiligung, kein Accelerator-Programm – sondern ein klarer Prozess: Problemstellungen aus den Fachabteilungen werden identifiziert, passende Startups gescoutet und strukturiert evaluiert. Dann folgt ein Pilotprojekt unter realen Bedingungen, mit definierten Hypothesen und messbaren KPIs. Das Ziel ist nicht das Pilotprojekt selbst, sondern die fundierte Entscheidung danach: skalieren, stoppen oder weiter iterieren?

BMW hat den Ansatz mit der Startup Garage salonfähig gemacht; mittlerweile setzen viele Unternehmen im DACH-Raum und darüber hinaus darauf. Gerade in einer Zeit knapper Budgets gewinnen Effizienzgewinne aus der Zusammenarbeit mit Startups strategisch an Bedeutung.

Public Venture Clienting überträgt diesen Prozess auf die öffentliche Hand: Öffentliche Organisationen und staatsnahe Unternehmen treten als frühe zahlende Kund:innen auf. Die öffentliche Organisation bekommt eine funktionierende Lösung für ein konkretes Problem, das Startup bekommt das Wertvollste, was es in einer frühen Phase bekommen kann: einen zahlenden Kunden, einen Markttest, eine Referenz; und damit offene Türen zu weiteren Märkten und Investoren.

Warum Public Venture Clienting gerade jetzt an Bedeutung gewinnt

Die öffentliche Hand steht unter Druck: Digitalisierung, Klimawende, Versorgungssicherheit und Effizienzsteigerung müssen gleichzeitig vorangetrieben werden – bei begrenzten Ressourcen und steigenden Erwartungen von Bürger:innen und Politik. Startups liefern hier schnelle, digitale und nutzerzentrierte Lösungen für Verwaltung, Mobilität, Klima, Energie und Bürgerdienste; Lösungen, die der öffentliche Sektor in dieser Geschwindigkeit oft nicht selbst entwickeln kann.

Startups stehen unter einem anderen, aber gleichwertigen Druck – Risikokapital-Finanzierungen sind zurückgegangen, der Druck von Investor:innen wegen früher Umsätze ist gestiegen. Hier liegt ein fundamentales Paradox: Österreich hat einen der größten potenziellen Märkte direkt vor der Haustür (67 Milliarden Euro Beschaffungsvolumen), und doch ist dieser Markt für die meisten Startups praktisch nicht zugänglich. Ein öffentlicher Pilotkunde ändert das schlagartig: Cashflow, Stabilität – und eine Referenz, die kein Investor kaufen kann.

Hinzu kommt die dritte Dimension: der Standort. Ein Ökosystem, in dem öffentliche Organisationen systematisch als frühe Kunden auftreten, stärkt heimische Startups auf dem Weg zur Skalierung – und macht Österreich als Innovationsstandort attraktiver. Nicht als Schlagwort, sondern als messbarer Wettbewerbsvorteil im europäischen Vergleich.

Österreich hat eine sehr gute öffentliche Frühphasenfinanzierung für Startups geschaffen und mit dem Dachfonds entsteht Wachstumskapital für Skalierung und Internationalisierung. Das ist richtig und wichtig – und reicht trotzdem nicht. Denn Kapital allein macht aus einer guten Idee noch keine Innovation. Was eine Idee zur Innovation macht, ist die Marktannahme: der Moment, in dem ein echter Kunde echtes Geld bezahlt. Erst dieser Beweis macht aus einem Produkt ein skalierbares Unternehmen. Public Venture Clienting ist damit eine notwendige Ergänzung. Die Kombination aus Kapital und Marktzugang ist der entscheidende Hebel.

Wo die Zusammenarbeit heute an ihre Grenzen stößt

Für das Whitepaper „Public Venture Clienting“ wurden ausführliche Gespräche mit Führungskräften und Mitarbeitenden aus Verwaltung, staatsnahen Unternehmen und der Startup-Szene geführt. Die Herausforderungen sind strukturell tiefer verwurzelt als oft angenommen – und lassen sich in vier Bereiche unterteilen.

Kulturelle Unterschiede

Startups agieren schnell, iterativ und mit hoher Fehlertoleranz. Öffentliche Organisationen sind durch strenge Regulierungen, formale Prozesse und Verantwortlichkeit geprägt – jede Entscheidung muss öffentlich verantwortet werden können. Diese unterschiedlichen Betriebssysteme erzeugen täglich Reibung und Missverständnisse. Ohne bewusste Brückenbauer:innen auf beiden Seiten führt das zu Stillstand.

Fehlende Schnittstellen und Silostrukturen

Für Startups ist oft unklar, wer innerhalb der Organisation zuständig ist, wer entscheidet, wer Budget hat. Bedarfsträger:innen, Einkauf und Rechtsabteilung agieren in Silos mit unterschiedlichen Zielsystemen und ohne gemeinsame Verantwortung für Innovationsprojekte. Diese Fragmentierung erzeugt Reibungsverluste und macht es schwer, eine Tür zu finden, die wirklich aufgeht.

Unterschiedliche Budgethorizonte

Startups operieren mit begrenzter Liquidität und brauchen rasche Entscheidungen sowie zeitnahe Zahlungen. Öffentliche Organisationen planen in Jahreshaushalten. Selbst kleine Beträge für erste Pilotierungen unterliegen langen internen Freigabeprozessen – ein strukturelles Missverhältnis, das Kooperationen abbremst, noch bevor sie begonnen haben.

Rechtliche Unsicherheit und Vergaberecht

Das Vergaberecht ist komplexer, als es auf den ersten Blick scheint – in beide Richtungen. Für Startups ist es eine strukturelle Hürde: Vergabeverfahren verlangen Eignungsnachweise wie Mindestumsätze, Bonitätsnachweise oder Referenzprojekte, die junge Unternehmen kaum erfüllen können. Ein überzeugendes MVP reicht formal nicht aus. Auf der anderen Seite existieren Spielräume: funktionale Leistungsbeschreibungen, Innovationspartnerschaften, Direktvergaben bis 143.000 Euro. Das Problem ist oft nicht das formale Erlaubtsein, sondern die Prüfrealität dahinter: Vergabeentscheidungen müssen ex post gegenüber Kontroll- und Prüfstellen – insbesondere dem Rechnungshof – tragfähig begründet werden können. Diese Anforderung prägt das tatsächliche Entscheidungshandeln oft stärker als der gesetzliche Spielraum selbst. Das Ergebnis: Innovative Beschaffungsansätze werden vor allem dort genutzt, wo sie in standardisierte, intern abgestimmte Prozesse eingebettet sind. Wo das fehlt, entscheiden Einkauf, Recht und Fachabteilungen mit unterschiedlichen Zielen und ohne gemeinsame Verantwortung für das Innovationsprojekt als Ganzes.

Vom Einzelfall zur Struktur

Public Venture Clienting ist ein Lernprozess für alle Beteiligten. Öffentliche Organisationen entwickeln ein besseres Verständnis für iterative Innovationsprozesse; Startups lernen, wie Vergabe- und Entscheidungslogiken im öffentlichen Bereich funktionieren. Beide Seiten gewinnen Sicherheit in der Zusammenarbeit.

Was es dafür braucht, zeigen die Interviews deutlich: klare Zuständigkeiten. Wer ist verantwortlich für die Zusammenarbeit mit Startups? Wer begleitet den Übergang vom Pilotprojekt in die Skalierung? Öffentliche Organisationen, die das intern klar regeln – mit einer zentralen Anlaufstelle, interdisziplinären Teams aus Bedarfsträger:innen, Einkauf und Recht sowie definierten Prozessen –, schaffen die Grundlage, auf der alles andere aufbaut.

Das Vergaberecht muss dabei kein Feind sein. Statt Einzelentscheidungen fallweise abzusichern – oft mit externen Gutachten, die Zeit und Geld kosten –, braucht es standardisierte Schablonen: Begründungstexte für Direktvergaben, Checklisten für funktionale Ausschreibungen, klare Pilotklauseln.

Wenn öffentliche Beschaffung konsequent als Innovationsinstrument verstanden wird, verwandelt sie sich vom bürokratischen Pflichtprogramm in einen Motor für Fortschritt, Digitalisierung und Standortentwicklung. Nicht vom Einzelfall zur Ausnahme – sondern vom Einzelfall zur Struktur.

Wie das konkret gelingen kann – mit Handlungsempfehlungen, Best Practices und einem detaillierten Blick auf das Vergaberecht –, zeigt das vollständige Whitepaper, das im Juni erschienen ist.

Dieser Text ist ein Sneakpeek aus dem Whitepaper „Public Venture Clienting“, veröffentlicht in Kooperation mit Viktoria Ilger und Venture Clienting Austria (VCA).

Viktoria Ilger unterstützt mit ihrem Unternehmen Sustainable Transformers Organisationen dabei, Innovation strukturiert in die Anwendung zu bringen – mit besonderem Fokus auf Corporate Venturing und der Zusammenarbeit mit Startups. Zuvor hat sie über mehrere Jahre die Open-Innovation-Aktivitäten eines internationalen Technologieunternehmens aufgebaut. Sie ist Mitgründerin und Vorstandsmitglied von Venture Clienting Austria (VCA), einem Verein, der den Austausch rund um Venture Clienting in Österreich fördert und Best Practices zwischen Unternehmen, öffentlicher Hand und Startups sichtbar macht.