13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.„

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.„

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

„Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I„

Sowie:

„Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise„

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
05.11.2026

IV-Chefökonom Christian Helmenstein zum Wiener KI-Zentrum: „Regeln ohne Anwendung bleiben Papier“

Interview: Christian Helmenstein, Chefökonom der Industriellenvereinigung und Leiter des Instituts für Wirtschaftsforschung Economica, begrüßt Wiens Pläne für ein internationales KI-Zentrum unter dem Dach der UNO. Im Interview spricht er über die Chancen für den Standort Österreich und erklärt, warum globale KI-Regeln auch praktisch angewendet werden müssen.
/artikel/iv-chefoekonom-christian-helmenstein-zum-wiener-ki-zentrum-regeln-ohne-anwendung-bleiben-papier
05.11.2026

IV-Chefökonom Christian Helmenstein zum Wiener KI-Zentrum: „Regeln ohne Anwendung bleiben Papier“

Interview: Christian Helmenstein, Chefökonom der Industriellenvereinigung und Leiter des Instituts für Wirtschaftsforschung Economica, begrüßt Wiens Pläne für ein internationales KI-Zentrum unter dem Dach der UNO. Im Interview spricht er über die Chancen für den Standort Österreich und erklärt, warum globale KI-Regeln auch praktisch angewendet werden müssen.
/artikel/iv-chefoekonom-christian-helmenstein-zum-wiener-ki-zentrum-regeln-ohne-anwendung-bleiben-papier
KI-Zentrum Wien
Christian Helmenstein; Chefökonom der Industriellenvereinigung | © IV.

Ende Oktober schlug die Bundesregierung vor, ein internationales KI-Zentrum in Wien anzusiedeln. Es soll unter dem Dach der UNO stehen und Staaten, Wissenschaft und Wirtschaft zusammenbringen, um das Potenzial von KI auszuloten, ihre Risiken zu erforschen und gemeinsame Standards zu entwickeln.

KI als emotionales Thema

Eine Umfrage unter Österreichs KI-Experten zeigte größtenteils Zustimmung – siehe hier -, aber auch Kritik und mahnende Worte zur richtigen Vorgangsweise bei solch einem Vorhaben.

KI-Zentren, besonders Rechenzentren, stoßen global auf starke Ablehnung, benötigen sie doch enorme Mengen an Strom, Wasser und Flächen. Der Stern schrieb jüngst im Artikel mit dem Namen „Sie bauen Monster in unsere Landschaften“: „In Ohio sind es die neuen Schimpfwörter: Meta, Amazon, xAI, Google, OpenAI“. Darin wurden Rechenzentren als großes Politikum in den USA beschrieben und es wurde gezeigt, wie Anrainer:innen gegen solche Pläne ankämpfen.

In Österreich formierte sich Widerstand gegen das von Google geplante Datenzentrum in Kronstorf, wie der ORF in seiner Dokumentation „Google an der Enns: Der Streit ums Rechenzentrum“ Mitte September zeigte. Auch brutkasten fing damals Stimmen ein, die von „Standort-Fortschritt“ bis hin zu „Vasall Europa“ sprachen.

Bei dem Vorschlag hier handelt es sich explizit nicht um ein Datenzentrum, sondern um einen: „Ort, an dem Menschen aus der ganzen Welt gemeinsam daran arbeiten, das Potenzial von KI auszuloten, ihre Risiken zu verstehen und ihre Zukunft mitzugestalten“, wie Bundeskanzler Christian Stocker (ÖVP) per Aussendung mitteilte.

Christian Helmenstein, Chefökonom der Industriellenvereinigung, sieht in diesem Sinne in Künstlicher Intelligenz eine Schlüsseltechnologie unserer Zeit und erläutert, welche Rolle Österreich künftig dabei spielen könnte.


brutkasten: Herr Helmenstein, wie stehen Sie zu diesem Vorschlag der Bundesregierung ein internationales KI-Zentrum unter dem Dach der UNO nach Wien zu bringen?

Helmenstein: Die Initiative der Bundesregierung halte ich für einen ausgesprochen aussichtsreichen Vorstoß. Künstliche Intelligenz ist eine globale Schlüsseltechnologie, die nicht nur unsere Arbeitswelt, sondern unsere gesamte Lebensrealität durchdringen wird und weder an Staats- noch an Branchengrenzen haltmacht. Ein solches Zentrum sollte dazu beitragen, die Risiken besonders leistungsfähiger KI-Modelle beherrschbar zu machen, zugleich aber helfen, ihre politischen, ökonomischen und gesellschaftlichen Chancen zu erschließen.

Als einer von vier Amtssitzen der Vereinten Nationen bietet Wien dafür hervorragende Voraussetzungen und kann sein Profil als Standort internationaler Organisationen weiter schärfen. Hier hat auch die Internationale Atomenergie-Organisation ihren Sitz, die in der Debatte über eine globale KI-Aufsicht wiederholt als Vorbild genannt wird. Sie verbindet seit Jahrzehnten die Kontrolle einer Hochrisikotechnologie mit der Förderung ihrer friedlichen Nutzung. Genau an diesem Doppelmandat sollte sich auch ein KI-Zentrum orientieren.

Institutionell bewegt sich die Initiative allerdings in einem Spannungsfeld zweier Taktfrequenzen: Neue KI-Modellgenerationen folgen einander im Abstand weniger Monate, internationale Vereinbarungen reifen über Jahre. Wer das eine Tempo mit dem anderen verwechselt, schreibt Regeln für die Technologie von gestern. Ein KI-Zentrum muss daher mit dem Innovationstempo Schritt halten können.

Welche Bedeutung hätte das für den Standort Wien und Österreich?

Ein solches Zentrum wäre ein erheblicher strategischer Standortgewinn. Österreich wird realistischerweise nicht zu den weltweit führenden Entwicklungsstandorten großer KI-Basismodelle (Foundation Models) wie beispielsweise LLMs zählen. Dieses Rennen entscheiden Volkswirtschaften mit anderen Kapital- und Rechenkapazitäten. Sehr wohl aber kann Österreich international eine führende Rolle dabei spielen, KI sicher und produktiv nutzbar zu machen.

Und die Rolle von Wien konkret?

Wien könnte sich als Knotenpunkt für KI-Governance, KI-Anwendungen und den damit verbundenen Technologietransfer etablieren. Der eigentliche wirtschaftliche Mehrwert entsteht allerdings nicht durch das Türschild einer weiteren internationalen Institution, sondern durch die Forschungsprojekte, Investitionen und Kooperationen, die sie auslöst. Ein Zentrum, das nur tagt, belebt den Kongresstourismus. Ein Zentrum, das prüft, forscht und Anwendungen begleitet, zieht internationale Spitzenkräfte, Forschungseinrichtungen sowie innovative Unternehmen und damit Wertschöpfung an.

Das Thema „Rechenzentren“ wird oftmals emotional und kontrovers diskutiert: Gibt es Einwände gegen das KI-Zentrum?

Gegen die Zielsetzung per se nicht, wohl aber gegen eine Umsetzung ohne klares Profil. Das Feld ist zum Teil bereits besetzt, auch innerhalb der UNO, die erst im Vorjahr ein wissenschaftliches KI-Panel und einen globalen Dialog über KI-Governance eingerichtet hat. Genf, Sitz der Internationalen Fernmeldeunion und im Juli Gastgeber der ersten Dialogrunde, ist ein ernstzunehmender Mitbewerber. Ein Wiener Zentrum braucht daher ein eindeutig abgegrenztes Mandat mit operativem Zusatznutzen.

Gerade die Einbettung in die UNO bietet dabei eine besondere Chance. Die EU hat mit dem AI Act ihr Hauptaugenmerk auf Regulierung gelegt und die Fristen für Hochrisikosysteme inzwischen verschoben, unter anderem, weil die notwendigen technischen Standards noch nicht vorlagen. Die UNO kann demgegenüber zusätzlich die Perspektive der Entwicklungs- und Schwellenländer einbringen und den Zugang zu KI sowie ihren Nutzen für die wirtschaftliche Entwicklung stärker in den Vordergrund stellen.

Was bedeutet das für den Umgang mit den KI-Großmächten?

Darin liegt auch ein Schlüssel, um die führenden KI-Nationen einzubinden, allen voran die USA und China. Sie gewinnt man durch den erkennbaren Nutzen gemeinsamer Standards, nicht durch zusätzliche Auflagen allein. Wir brauchen internationale Sicherheitsstandards, aber keine internationale Innovationsbremse.

Was müsste Wien konkret tun, um sich als Zentrum für die Entwicklung und praktische Anwendung von KI zu positionieren? Und auch um praxisnahe Anwendungen in Wirtschaft und Verwaltung einzubringen?

Vielversprechend wäre es, an vorhandene Kompetenzen in Wien anzuknüpfen. Mit der UNIDO ist bereits eine UNO-Organisation ansässig, die sich intensiv mit dem Einsatz von KI für nachhaltige industrielle Entwicklung beschäftigt. Sie betreibt gemeinsam mit Partnern in Shanghai ein KI-Exzellenzzentrum für Industrie und Produktion, das den Technologietransfer in Entwicklungsländer unterstützt, und treibt zugleich im eigenen Haus die Nutzung von KI voran.

Economica unterstützt die UNIDO bei der praktischen Implementierung von KI in ihren Arbeitsabläufen. Aus dieser Zusammenarbeit wissen wir, welch hoher Stellenwert konkreten Anwendungen über die grundsätzlichen Fragestellungen hinaus zukommt. Dabei bestätigt sich: Auch im öffentlichen Sektor hängt die Akzeptanz von KI davon ab, dass Prozessänderungen erklärt werden und sensible Daten unter eigener Kontrolle bleiben. Ein Wiener KI-Zentrum könnte daher eine besonders wertvolle Brücke schlagen: zwischen globaler Governance, technologischer Innovation und ihrer praktischen Umsetzung in Unternehmen und öffentlicher Verwaltung.

Was bedeutet das schlussendlich für eine mögliche Ausrichtung des Zentrums?

Konkret hieße das, Sicherheitsstandards nicht nur zu formulieren, sondern an realen Anwendungen zu erproben und bewährte Lösungen in jene Länder zu tragen, denen dafür die Kapazitäten fehlen. Die besondere Chance Wiens liegt darin, zwei Welten zusammenzubringen, die einander bislang zu selten begegnen: die internationale Verständigung über die Spielregeln der KI und ihre konkrete Anwendung zur Steigerung von Produktivität, Wertschöpfung und Wohlstand. Regeln ohne Anwendung bleiben Papier. Anwendung ohne Regeln verspielt Vertrauen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus