14.06.2023

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

Eine neue Studie trübt die Hoffnungen, die in generative KI gesetzt werden. Durch zu viele KI-Inhalte im Internet könnten die Modelle verlernen, was hochwertiger Content ist.
/artikel/ki-modelle-koennen-sich-selbst-zerstoeren
Am Beispiel von blauen Katzen lässt sich erklären, wie KI-Modelle versagen. Bild: Unsplash/Rémi Rémino

Obwohl die Tech-Welt seit Jahren vor KI warnt, sind ihre Fähigkeiten erst letztes Jahr in den Fokus einer breiteren Öffentlichkeit gerückt: Generative KI ermöglicht es, mit wenigen Klicks kreative KI-Leistungen schnell verfügbar zu machen. Konkret heißt das: KI-Chatbots wie ChatGPT forumlieren auf Befehl eloquente Texte, können programmieren und verschiedene sprachliche Tasks im Nu erledigen. Bilderzeugungs-Tools wie Stable Diffusion oder Midjourney erzeugen auf Knopfdruck fotorealisitische Bilder.

Studie warnt vor Qualitätsverlust

Viele Unternehmen haben es plötzlich sehr eilig: Schnellstmöglich wollen sie KI-Lösungen in ihre Produkte implementieren, wie jüngst Mark Zuckerberg für Meta verkündete. Die Hoffnungen und Erwartungen, die in KI-Modelle gesetzt werden, sind riesig.

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, könnte den KI-Hype jedoch etwas trüben. Sie kommt zu dem Ergebnis, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Denn laut den Studienautor:innen, seien die KI-Modelle derzeit vor allem deshalb so stark, weil sie mit menschengemachten Inhalten trainiert sind.

Internet als KI-Mülldeponie

“Wir waren überrascht zu sehen, wie schnell ein Modell wieder zusammenbricht. Die Modelle können die meisten Originaldaten, aus denen sie ursprünglich gelernt haben, schnell vergessen”, meinte der am Projekt beteiligte Forscher Ilia Shumailov gegenüber VentureBeat. In einem Blog-Artikel warnt Ross Anderson, ein weiterer beiteiligter Forscher: “So wie wir die Ozeane mit Plastik vermüllt und die Atmosphäre mit Kohlendioxid gefüllt haben, sind wir nun dabei, das Internet mit Blabla zu füllen. Dadurch wird es schwieriger, neuere Modelle durch Webscraping zu trainieren”.

Das Problem: Je mehr KI-Inhalte im Internet kursieren, desto weniger seien menschliche Inhalte für die KI-Modelle zum Lernen verfügbar. Anderson zufolge hätten Unternehmen, die das Internet bereits gescraped haben, bzw. die den Zugang zu menschengemachten Inhalten kontrollierten, nun immense Vorteile: “Wir sehen bereits jetzt, dass KI-Startups das Internet Archive nach historischen Daten durchsuchen”. Denn bereits jetzt sei das Netz bereits mit KI-generiertem “Müll” kontaminiert.

Problem mit blauen Katzen

Shumailov skizziert das Problem gegenüber VentureBeat folgendermaßen: Menschengemachte Dokumente, egal ob Bilder, Texte, Musik oder andere kreative Leistungen, würden die Welt umfassender beschreiben und auch unwahrscheinlichere Fälle abbilden. KI-Modelle hingegen wählen Daten nach Wahrscheinlichkeitskriterien aus: Werden bestimmte Daten häufiger vorgefunden als andere, werden die unwahrscheinlicheren eher verworfen.

Gut zu beschreiben sei dies anhand eines Datensets aus Katzenbildern. Wird ein KI-Modell mit Bildern von 10 blauen Katzen und 90 gelben Katzen trainiert, erkennt die KI, dass gelbe Katzen mit höherer Wahrscheinlichkeit “richtig” sind. In der Folge produziert die KI selbst grünstichige Katzenbilder, wenn sie Katzen mit blauem Fell darstellen soll. Im Laufe der Zeit produziere sie überhaupt keine blauen Katzen mehr, sondern nur mehr gelbe.

Das Beispiel zeige laut Shumailov, dass die KI-Modelle Probleme mit unwahrscheinlicheren Daten hätten. Im Laufe der Zeit würden die Modelle somit versagen, meint der Forscher. Darüber hinaus entstünden dadurch zahlreiche Probleme, etwa Diskriminierung aufgrund bestimmter Minderheiten-Eigenschaften.

Deine ungelesenen Artikel:
25.09.2024

“Damit Frauen in der Führungsetage kein außerirdisches Konzept mehr sind”

Der Reykjavík Index misst jährlich, wie geeignet Frauen für Führungspositionen eingeschätzt werden. brutkasten hat mit Forscherin Vicky Petrie über den Index und was es für Veränderung braucht, gesprochen.
/artikel/damit-frauen-in-der-fuehrungsetage-kein-ausserirdisches-konzept-mehr-sind
25.09.2024

“Damit Frauen in der Führungsetage kein außerirdisches Konzept mehr sind”

Der Reykjavík Index misst jährlich, wie geeignet Frauen für Führungspositionen eingeschätzt werden. brutkasten hat mit Forscherin Vicky Petrie über den Index und was es für Veränderung braucht, gesprochen.
/artikel/damit-frauen-in-der-fuehrungsetage-kein-ausserirdisches-konzept-mehr-sind
Vicky Petrie Forschung Frauen Arbeit Reykjavik Index
Vicky Petrie bei ihrer Keynote am Global Leaders Summit. (c) Valerie Maltseva

Können Frauen genauso gut Unternehmen leiten wie Männer? Dem Reykjavík Index zufolge glauben das viele nicht. Seit 2018 wird mit dieser internationalen Vergleichsstudie gemessen, wie Frauen als Führungskräfte wahrgenommen werden. 100 wäre das Optimum, hier würden die Fähigkeiten der Geschlechter gleich gut eingeschätzt werden. Im Moment steht der Index bei circa 70 für die untersuchten G7-Staaten. Dieser Ländervergleich sei essentiell für einen Überblick, sagt die britische Forscherin Vicky Petrie am Rande des Global Leaders Summit von the female factor, unterstütz von der Stadt Wien, im brutkasten-Gespräch. So könne man lernen, was anderswo vielleicht besser gemacht werde.

Vicky Petrie ist kein Teil der Business-Welt. 20 Jahre lang hat sie für die britische Regierung in der Forschung gearbeitet, seit knapp eineinhalb Jahren ist sie nun Senior Director bei Verian, einem international tätigen Forschungsinstitut. Sie spricht im Wiener Rathaus in ihrer Keynote vor knapp 600 Frauen über den Reykjavík Index. Und spart dabei nicht mit Kritik an dem Event: Hier seien nur die Frauen anwesend, die nicht an der Fähigkeit von Frauen in Führungspositionen zweifeln würden. Diese Zweifler:innen müsse man anderswo erreichen – direkt in den Communitys, über Charity-Organisationen oder in Schulen. Je mehr hier passiere, desto weniger würden Frauen in der Führungsetage als ein außerirdisches Konzept wahrgenommen werden.

Reykjavík-Index als Maß für Leadership

Die Idee zum Reykjavík-Index for Leadership entstand 2017, als Verian-CEO Michelle Harrison mit mehreren weiblichen Führungskräften aus der Politik über deren Karrierewege gesprochen hat. Das sei wahnsinnig spannend gewesen, aber es wurden doch nur Einzelgeschichten erzählt. Es reiche nicht, sich nur die Frauen in CEO-Positionen anzusehen, sagt Vicky Petrie. “Wir müssen uns die gesellschaftliche Perspektive auf Frauen in Führungspositionen ansehen. So verstehen wir, welche Hürden die nächste Generation überwinden muss.” Oft sehe man sich Daten nur in einem Vakuum der Arbeitswelt an und vergesse zu fragen, was der Rest der Welt von weiblichen Führungskräften hält, sagt Petrie.

Denn Frauen werden Führungsrollen eher in der Kinderbetreuung und in traditionell weiblich geprägten Sektoren zugetraut. In der Technologie oder Wissenschaft sehe das anders aus, hier werden Frauen kaum als Führungskraft gesehen. Spannend aber beunruhigend ist für Petrie, dass die jüngere Generation offenbar stärkere Vorurteile gegenüber weiblichen Führungskräften hegt als ihre Eltern. Betroffen seien davon nicht nur Männer, sondern auch Frauen. Man müsse daher beide ansprechen und vor allem jungen Frauen zeigen, welche Ziele sie anstreben oder wer ihre Vorbilder sein könnten.

“Du hast etwas beizutragen”

Hier spiele auch Sprache eine große Rolle: Frauen seien schnell übertrieben selbstbewusst, aggressiv oder irritierend – während Männer entschieden auftreten. Diese unterschiedliche Terminologie mache etwas mit Frauen, glaubt Petrie. Junge Frauen würden sich eher zurückhalten und Führungspositionen vermeiden, um nicht so wahrgenommen zu werden. Allerdings werde die Praxis weniger, sich als Frau im Berufsalltag wie die männlichen Kolleg:innen zu verhalten.

Vicky Petrie erzählt, dass früher oft der Gedanke geherrscht habe: Wer als Frau die Gläserne Decke durchbrechen will, müsse sich benehmen wie der Mann neben einem – ganz nach dem Spruch “Walk the walk, talk the talk”. Das war in ihren Augen traurig, denn oft bedeutete diese Imitation auch, einen Teil seiner Persönlichkeit zurückzulassen und zum Beispiel weniger mit seiner Familie verbunden zu sein. Petrie habe in ihrer Karriere aber auch Vorbilder gehabt, die ihr gezeigt haben: “So ist es nicht, du kannst deine Persönlichkeit mit an den Tisch bringen. Du kannst du selbst sein und du kannst anziehen, was du willst – weil du etwas beizutragen hast.” 

Anderen Stimmen Raum geben

Wie kann man diese Wahrnehmung nun verändern? Immerhin lässt sich die Perspektive von Menschen auf ein Thema nicht nur mit Quotenregelungen oder andere quantitative Ziele ändern. “Das ist die Eine-Millionen-Dollar-Frage”, sagt Petrie. Denn eigentlich stehe hier die Frage dahinter: Wie beeinflussen wir junge Menschen? Vor allem Pädagog:innen spielen in ihren Augen hier eine große Rolle. 

Man müsse es außerdem schaffen, auch in den Sozialen Medien anderen Stimmen Raum zu geben, abseits von Andrew Tate oder anderen misogynen Influencer:innen. Eltern stehen hier in einer undankbaren Rolle. Sie könnten ihr Bestes versuchen, aber egal was man sage, am Ende des Tages sei man immer noch ein Elternteil. “Man kann außerhalb des Zuhauses die stärkste weibliche Führungskraft der Welt sein, aber deine Kinder werden das trotzdem nicht in dir sehen”, sagt Petrie.

Veränderung – auf dem Rücken von Barbie

Aus diesem Grund seien auch Awareness-Kampagnen in der medialen Öffentlichkeit so wichtig. Petrie nennt als Beispiel das “Stop it at the start”-Projekt der australischen Regierung. Die Kampagne will die Ursachen von häuslicher Gewalt bereits an der Wurzel bekämpfen und thematisiert das Thema Respektlosigkeit gegenüber Frauen. Junge Menschen müssten lernen aufzuschreien, wenn jemand schlecht behandelt werde.

Die Schwierigkeit ist für Petrie stets dieser Übergang von einer medialen Kampagne zu tatsächlichen Aktionen. Im vergangenen Jahr wurde zum Beispiel ein “Girl Summer” ausgerufen, Barbie und Taylor Swift waren dauerpräsent. Dadurch hätten sich viele Frauen empowered gefühlt, aber danach seien alle zurück in ihre Alltagsjobs gegangen und hätten weitergelebt wie vorher. Dabei gehe es darum zu fragen: Was machen wir jetzt? Wie schaffen wir Aktionen und Veränderung durch diese Popkultur-Phänomene? “Es geht darum, diese Moden zu nutzen und auf deren Rücken etwas zu verändern”, sagt Petrie.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt der Studie zeigt, dass KI-Modelle durch den von ihnen generierten “Müll” selbst zerstört werden können und dass Unternehmen, die den Zugang zu menschgemachten Inhalten kontrollieren, dadurch einen Vorteil haben. Diese Erkenntnisse könnten Auswirkungen darauf haben, wie KI-Modelle trainiert werden und wer Zugang zu menschgemachten Inhalten hat, was wiederum Auswirkungen auf Wettbewerb und Diskriminierung haben könnte. Außerdem wird deutlich, dass die Vorstellung, KI könne alle Aufgaben besser lösen als Menschen, kritisch hinterfragt werden muss.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Studie eines britisch-kanadischen Forscherteams, die vor kurzem im Open-Access-Journal arXiv erschienen ist, hat gezeigt, dass KI-Modelle nachhaltig geschädigt werden können, wenn sie mit KI-generierten Inhalten trainieren. Dies könnte Unternehmen, die schnell KI-Lösungen in ihre Produkte integrieren wollen, vor große Herausforderungen stellen. Das Problem besteht darin, dass je mehr KI-Inhalte im Internet verfügbar sind, desto weniger menschengemachte Inhalte für die KI-Modelle zum Lernen vorhanden sind. Unternehmen, die bereits den Zugang zu menschengemachten Inhalten kontrollieren, würden einen immensen Vorteil genießen.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel warnt Innovationsmanager:innen vor den Risiken beim Einsatz von KI-Modellen in ihren Produkten und Dienstleistungen. Eine Studie zeigt, dass KI-Modelle langfristig beschädigt werden können, wenn sie mit KI-generierten Inhalten trainiert werden, da die Modelle menschengemachte Inhalte benötigen, um weiter zu lernen. Dies kann dazu führen, dass KI-Modelle versagen und nicht mehr in der Lage sind, spezifische Daten oder Zusammenhänge richtig zu erkennen oder zu interpretieren. Innovationsmanager:innen sollten daher vorsichtig sein und sicherstellen, dass die KI-Modelle, die sie verwenden, menschengemachte Inhalte verwenden, um ihre Funktionsweise zu verbessern und langfristige Probleme zu vermeiden.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie aufmerksam sein, wie KI-Modelle trainiert werden und welche Auswirkungen dies auf deren Qualität und Leistung hat. Die Studie zeigt, dass KI-Modelle durch den Einfluss von KI-generiertem “Müll” dauerhaft geschädigt werden können. Daher sollten Unternehmen, die KI-basierte Lösungen entwickeln, sicherstellen, dass sie ihre Modelle mit qualitativ hochwertigen menschengemachten Inhalten trainieren, um deren Leistung und Qualität zu sichern.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Die breite Verfügbarkeit von generativer KI hat den Hype um die Technologie verstärkt, aber eine Studie warnt nun davor, dass KI-Modelle durch ihren eigenen Müll, der in Form von KI-generierten Inhalten im Netz kursiert, nachhaltig geschädigt werden können. Die zunehmende Verbreitung von KI-generierten Inhalten führt dazu, dass die KI-Modelle weniger menschliche Inhalte für das Lernen zur Verfügung haben, und Unternehmen, die den Zugang zu menschlichem Content kontrollieren, haben daher immense Vorteile. Die Studie zeigt auch, dass die KI-Modelle Schwierigkeiten haben, unwahrscheinliche Daten abzubilden, was zu zahlreichen anderen Problemen führen kann, einschließlich Diskriminierung aufgrund von bestimmten Minderheiten-Eigenschaften.

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Ilia Shumailov
  • Ross Anderson
  • Mark Zuckerberg

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Meta
  • Internet Archive

Studie: KI-Modelle können sich durch ihren eigenen Müll selbst zerstören