13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I

Sowie:

Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
vor 16 Stunden

Global AI Clash: Vom Konzept zur Revolution: Wer gestaltet die Strukturen für den Erfolg?

Gastbeitrag: Am 20.03.2026 publizierte die US-Administration das "National AI Legislative Framework", das insgesamt einen 7-Punkte-Plan enthält. Mit der KI-Expertin Jeannette Gorzala sehen wir uns in einer Serie die wichtigsten Kernaspekte im Vergleich USA, Europa und Österreich an. Diesmal im Fokus: Die Strategie in Bezug auf innovationsfördernde Maßnahmen. Wie werden KI-Innovationen gezielt gefördert?
/artikel/global-ai-clash-vom-konzept-zur-revolution-wer-gestaltet-die-strukturen-fuer-den-erfolg
vor 16 Stunden

Global AI Clash: Vom Konzept zur Revolution: Wer gestaltet die Strukturen für den Erfolg?

Gastbeitrag: Am 20.03.2026 publizierte die US-Administration das "National AI Legislative Framework", das insgesamt einen 7-Punkte-Plan enthält. Mit der KI-Expertin Jeannette Gorzala sehen wir uns in einer Serie die wichtigsten Kernaspekte im Vergleich USA, Europa und Österreich an. Diesmal im Fokus: Die Strategie in Bezug auf innovationsfördernde Maßnahmen. Wie werden KI-Innovationen gezielt gefördert?
/artikel/global-ai-clash-vom-konzept-zur-revolution-wer-gestaltet-die-strukturen-fuer-den-erfolg
Steinberger, Peter Steinberger, OpenClaw, OpenAI
© zVg - Jeannette Gorzala.

Der globale KI-Wettlauf hat nicht nur wirtschaftliche, sondern auch geopolitische Dimensionen erreicht. Sowohl die USA als auch Europa erkennen die Bedeutung strategischer Initiativen, um KI-Entwicklung aktiv zu fördern und zu gestalten. Trotz unterschiedlicher politischer und wirtschaftlicher Rahmenbedingungen verfolgen beide Regionen ähnliche Ziele, die auf strukturellen Innovationen beruhen. Insbesondere in den Bereichen Regulatory Sandboxes, Datenzugang und Behördenstrukturen existieren bemerkenswerte Parallelen.

Sandboxes: Flexibilität als Innovationstreiber

Sowohl die USA als auch Europa setzen auf Regulatory Sandboxes – flexible Räume, in denen Unternehmen Innovationen im Dialog mit Regulierungsbehörden entwickeln können, ohne sofort den vollen regulatorischen Anforderungen zu begegnen. Dies ermöglicht eine schnellere Markteinführung, während die Behörden wertvolle Erkenntnisse über Technologie sammeln.

In den USA sind Sandboxes bereits in zahlreichen Bundesstaaten etabliert (z.B. im Bereich FinTech, LegalTech). Das AI Legislative Framework aus März 2026 sieht nunmehr auch die Einrichtung von spezifischen KI-Sandboxes vor. Europa hingegen hat mit dem EU AI Act bereits in 2024 die Notwendigkeit von Sandboxes für den KI-Bereich formalisiert. Jeder EU-Mitgliedsstaat hat bis August 2026 mindestens eine horizontale KI-Sandbox zu etablieren, wobei ergänzend auch lokale, sektorspezifische und grenzüberschreitende Sandboxes möglich sind, um Innovationspotenziale zu bündeln. Ergänzend ermöglicht der EU AI Act auch das Testen von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von Sandboxes als innovationsfördernde Maßnahme.

Während die USA sehr markt- und wettbewerbsorientiert agieren, werden in der EU aktuell Ressourcen für die Umsetzung von Regulatory Sandboxes in Diskussionen zum Digitalen Omnibus gebunden. Durchführungsrechtsakte bleiben auf der Strecke, der Aufbau der Organisationsstruktur ist deutlich im Verzug. Debattiert wird sogar eine Verschiebung der Deadline für Sandboxes auf Dezember 2027.

Während die USA schneller agieren, könnte Europa trotz der Herausforderungen von der langfristigen Strukturierung profitieren. Für Unternehmen bedeutet dies, dass es unerlässlich ist, die regulatorischen Landschaften zu verstehen und in strategische Innovationspläne zu integrieren.

Daten: Zugang als Wettbewerbsvorteil

Zugang zu großen, qualitativ hochwertigen Datensätzen bleibt ein entscheidender Wettbewerbsvorteil im KI-Bereich. Die USA setzen im National AI Legislative Framework auf die Öffnung von staatlichen Datensätzen, um Unternehmen eine breitere Datenbasis für präzisere KI-Modelle zu bieten. Europa verfolgt einen ähnlichen Weg, allerdings mit stärkerer Berücksichtigung von Datenschutz und Sicherheit. Die Europäische Datenstrategie, unterstützt durch den Data Act und den Data Governance Act, fördert den freien Datenfluss innerhalb definierter regulatorischer Grenzen.

Der Data Act ermöglicht einen effizienteren Zugang zu und Austausch von Daten zwischen Unternehmen und öffentlichen Institutionen, indem er den rechtlichen Rahmen für die Nutzung öffentlicher und privater Datensätze schafft. Der Data Governance Act sorgt für eine verantwortungsvolle Nutzung dieser Daten, indem er die Einrichtung von sicheren Datenräumen fördert. Zusammen zielen diese Gesetze darauf ab, dass der freie Datenfluss vorangetrieben wird, ohne die Rechte der betroffenen Personen zu gefährden, was Unternehmen einen stabilen und sicheren Rahmen für die Nutzung von Daten zur Innovation und Wettbewerbsfähigkeit bietet.

Behördenstrukturen: Optimierung statt Expansion

Eine weitere bemerkenswerte Parallele ist die Nutzung bestehender Behördenstrukturen zur Überwachung von KI-Entwicklungen. In den USA soll die Aufsicht durch bereits etablierte Institutionen wie die Federal Trade Commission (FTC) und die Food and Drug Administration (FDA) erfolgen, die mit den jeweiligen Sektoren vertraut sind und schnell auf neue Entwicklungen reagieren können.

In Europa verfolgt der EU AI Act ebenfalls den Ansatz der Einbindung bestehender Aufsichtsbehörden und delegiert grundsätzlich die Marktüberwachungskompetenzen im KI-Bereich an bereits zuständige Sektorbehörden (z.B. Maschinen, Medizinprodukte, Spielzeug) und Datenschutzbehörden, um bürokratischen Overhead zu minimieren. Für jene Bereiche, für die es noch keine dezidierte Aufsichtsbehörde gibt (z.B. Personal, Bildung), muss eine Zuordnung der Aufsichtskompetenz erfolgen. Für KI-Modelle ist das neue EU AI Office in Brüssel zuständig, das zentralisiert die Aufsicht über KI-Modelle übernimmt. Auch hier liegt der Fokus auf der Optimierung bestehender Strukturen und der Vermeidung unnötiger bürokratischer Hürden.

Europa und die USA setzen in ihrer Struktur auf bewährte regulatorische Institutionen, um die Effizienz zu steigern und gleichzeitig Innovation zu fördern. Für Unternehmen bedeutet dies, dass sie aktiv mit den bestehenden Institutionen zusammenarbeiten müssen, um sicherzustellen, dass ihre Innovationen in beiden Regionen reibungslos integriert werden. Das Verständnis der regulatorischen Struktur wird zum Vorteil in einem zunehmend komplexen Marktumfeld.

An dieser Stelle ist die frühzeitige Einrichtung der KI-Servicestelle in Österreich bei der RTR GmbH hervorzuheben, die Unternehmen als Ansprechpartnerin bei allgemeinen Fragen und Anlaufstelle dient. Die KI-Servicestelle hat in diesem komplexen Marktumfeld, in dem noch einige (Zuständigkeits-)Fragen ungeklärt sind, einen sehr positiven Mehrwert für den KI-Standort Österreich erreicht und wurde als Best Practice auch auf europäischer Ebene als Blueprint identifiziert und als Instrument übernommen. Eine vergleichbare Informations- und Anlaufstelle ist in den USA nicht eingerichtet.

Fazit: Der strategische Blick

In der Wahrnehmung vieler gilt der US-Markt als der Goldstandard – mehr Möglichkeiten, weniger Regulierung, schnellere Innovation. Doch die Realität ist differenzierter: Auch in Europa gibt es gleiche Mittel und potenzielle Chancen.

Der zentrale Unterschied liegt in der Innovationskultur und der Bereitschaft, Risiken einzugehen und zu experimentieren. In den USA ist Fehlerkultur (Fail-forward Culture) tief verankert, Unternehmen sind häufig bereit, Fehler als Lernprozesse zu betrachten und unternehmerisches Scheitern nicht zu stigmatisieren. Diese Einstellung, gepaart mit einer dynamischen Finanzierungslandschaft insbesondere durch Venture Capital, ermöglicht es Startups und etablierten Unternehmen, schneller zu skalieren und zu innovieren.

In Europa hingegen bieten stabile Rahmenbedingungen ein Umfeld, das Sicherheit und langfristige Planung fördert. Mit einem Netzwerk von AI Factories findet in Europa ein bedeutender Infrastrukturausbau statt. Gleichzeitig bleibt jedoch die Fehlerkultur oft zurückhaltend, was zu einer vorsichtigeren Herangehensweise an Innovationen führt. Risikobereitschaft ist hier häufig geringer. Der Kapitalmarkt in Europa ist zwar gut etabliert, aber im Vergleich zu den USA oft weniger agil und fokussiert sich stärker auf etablierte Unternehmen, wodurch Startups und risikobehaftete Innovationen nicht immer die nötige finanzielle Unterstützung erhalten, um schnell zu skalieren und zu experimentieren.

Die Frage ist daher nicht, ob die Möglichkeiten vorhanden sind, sondern wer in beiden Märkten die nötige Geschwindigkeit und Innovationskultur aufbaut, um im globalen Wettbewerb nachhaltig zu wachsen. Ebenso entscheidend ist die richtige Balance zwischen langfristigem Investitionsansatz und agiler Kapitalbeschaffung, um eine erfolgreiche und nachhaltige Expansion zu ermöglichen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus