14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

“Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen”, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: “So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren”.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: “Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen”. Denn bereits jetzt sei das Netz bereits mit KI-generiertem “Müll” kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit “richtig” sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
09.01.2025

Don’t Call it Deo: Salzburger Startup nun in allen dm-Filialen in Österreich gelistet

Das Antitranspirant Fluid von Don’t Call it Deo war bereits seit vergangenem Jahr in der Mehrheit der heimischen dm-Filialen erhältlich. Nun folgt die Voll-Listung.
/artikel/dont-call-it-deo-dm-oesterreich
09.01.2025

Don’t Call it Deo: Salzburger Startup nun in allen dm-Filialen in Österreich gelistet

Das Antitranspirant Fluid von Don’t Call it Deo war bereits seit vergangenem Jahr in der Mehrheit der heimischen dm-Filialen erhältlich. Nun folgt die Voll-Listung.
/artikel/dont-call-it-deo-dm-oesterreich
Don't Call it Deo
(c) Don't Call it Deo - Stefan Steiner (r.) von Don't Call it Deo.

Aus 241 mach 386. Bereits seit März 2024 war das Antitranspirant Fluid des Salzburger “Anti-Schweiß-Startups” Don’t Call it Deo in der Mehrheit der heimischen Filialen der Drogeriekette dm gelistet. Nun verkündet das Unternehmen die Voll-Listung mit seinem Produkt in allen 386 Geschäften des deutschen Drogerie-Riesen in Österreich.

Voll-Listung bei dm folgt auf Kooperation mit Shop Apotheke

Für das Salzburger Startup, das sich zuletzt im April des Vorjahrs ein Investment sicherte, bedeutet das einen weiteren Meilenstein. Das Produkt ist sonst bislang über den eigenen Online-Shop, über Amazon und seit vergangenem Herbst über Shop Apotheke (brutkasten berichtete) in Österreich und Deutschland erhältlich. “Mit der Voll-Listung bei dm Österreich haben wir ein wichtiges Ziel erreicht und können unser Produkt noch mehr Menschen zugänglich machen”, kommentiert Gründer Stefan Steiner in einer Aussendung.

Weiteres Produkt soll in wenigen Wochen folgen

Zudem gibt es von Don’t Call it Deo eine Ankündigung: Man stehe kurz vor der Markteinführung “weiterer innovativer Produkte”, heißt es vom Startup. “Das nächste Produkt, das in wenigen Wochen erscheint, ist für einen anderen Körperbereich konzipiert und wird ebenfalls die Geruchs- und Schweißbildung zu 100 Prozent stoppen.” Mit dem Antitranspirant Fluid verspricht das Unternehmen, mit nur einem Tropfen pro Anwendung die Geruchs- und Schweißbildung im Achselbereich für mehrere Tage zu stoppen. Dies wird mit dermatologischen und klinischen Tests untermauert.

Gespräche über Don’t Call it Deo-Listung mit deutschen Einzelhändlern

“Mit diesen positiven Entwicklungen sind wir nun bereit, den stationären Einzelhandel in Deutschland zu erschließen. Gespräche hierzu laufen bereits”, verrät Gründer Steiner. Ob es sich dabei auch um – angesichts der laufenden Kooperation durchaus logische – Gespräche mit dm in Deutschland handelt, ist aktuell noch nicht bekannt.

09.01.2025

Don’t Call it Deo: Salzburger Startup nun in allen dm-Filialen in Österreich gelistet

Das Antitranspirant Fluid von Don’t Call it Deo war bereits seit vergangenem Jahr in der Mehrheit der heimischen dm-Filialen erhältlich. Nun folgt die Voll-Listung.
09.01.2025

Don’t Call it Deo: Salzburger Startup nun in allen dm-Filialen in Österreich gelistet

Das Antitranspirant Fluid von Don’t Call it Deo war bereits seit vergangenem Jahr in der Mehrheit der heimischen dm-Filialen erhältlich. Nun folgt die Voll-Listung.
Don't Call it Deo
(c) Don't Call it Deo - Stefan Steiner (r.) von Don't Call it Deo.

Aus 241 mach 386. Bereits seit März 2024 war das Antitranspirant Fluid des Salzburger “Anti-Schweiß-Startups” Don’t Call it Deo in der Mehrheit der heimischen Filialen der Drogeriekette dm gelistet. Nun verkündet das Unternehmen die Voll-Listung mit seinem Produkt in allen 386 Geschäften des deutschen Drogerie-Riesen in Österreich.

Voll-Listung bei dm folgt auf Kooperation mit Shop Apotheke

Für das Salzburger Startup, das sich zuletzt im April des Vorjahrs ein Investment sicherte, bedeutet das einen weiteren Meilenstein. Das Produkt ist sonst bislang über den eigenen Online-Shop, über Amazon und seit vergangenem Herbst über Shop Apotheke (brutkasten berichtete) in Österreich und Deutschland erhältlich. “Mit der Voll-Listung bei dm Österreich haben wir ein wichtiges Ziel erreicht und können unser Produkt noch mehr Menschen zugänglich machen”, kommentiert Gründer Stefan Steiner in einer Aussendung.

Weiteres Produkt soll in wenigen Wochen folgen

Zudem gibt es von Don’t Call it Deo eine Ankündigung: Man stehe kurz vor der Markteinführung “weiterer innovativer Produkte”, heißt es vom Startup. “Das nächste Produkt, das in wenigen Wochen erscheint, ist für einen anderen Körperbereich konzipiert und wird ebenfalls die Geruchs- und Schweißbildung zu 100 Prozent stoppen.” Mit dem Antitranspirant Fluid verspricht das Unternehmen, mit nur einem Tropfen pro Anwendung die Geruchs- und Schweißbildung im Achselbereich für mehrere Tage zu stoppen. Dies wird mit dermatologischen und klinischen Tests untermauert.

Gespräche über Don’t Call it Deo-Listung mit deutschen Einzelhändlern

“Mit diesen positiven Entwicklungen sind wir nun bereit, den stationären Einzelhandel in Deutschland zu erschließen. Gespräche hierzu laufen bereits”, verrät Gründer Steiner. Ob es sich dabei auch um – angesichts der laufenden Kooperation durchaus logische – Gespräche mit dm in Deutschland handelt, ist aktuell noch nicht bekannt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag