13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.„

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.„

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

„Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I„

Sowie:

„Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise„

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
24.09.2026

Apollo: Sprachmodell von ÖAW und Mistral schließt Lücken in 2.000 Jahre alten Texten

"Apollo" ergänzt fehlende Inhalte in fragmentarischen antiken Texten und gilt eigenen Angaben nach als weltweit erstes LLM für Altgriechisch.
/artikel/apollo-sprachmodell-von-oeaw-und-mistral-schliesst-luecken-in-2-000-jahre-alten-texten
24.09.2026

Apollo: Sprachmodell von ÖAW und Mistral schließt Lücken in 2.000 Jahre alten Texten

"Apollo" ergänzt fehlende Inhalte in fragmentarischen antiken Texten und gilt eigenen Angaben nach als weltweit erstes LLM für Altgriechisch.
/artikel/apollo-sprachmodell-von-oeaw-und-mistral-schliesst-luecken-in-2-000-jahre-alten-texten
Apollo, KI, Altgiechisch, Mistral
© Österreichische Nationalbibliothek/ÖAW/Daniel Hinterramskogler - Papyrus aus der römischen Kaiserzeit mit einer griechischen Geburtsanzeige, von Apollo rekonstruiert (Römisches Ägypten, 149 n. Chr.) und Anna Dolganov, Forscherin am Österreichischen Archäologischen Institut der ÖAW.

In Museen und Bibliotheken weltweit lagern hunderttausende Inschriften und über eine Million Papyrusfragmente aus der Antike. Der Großteil des Materials ist fragmentarisch und schwer lesbar. „92 Prozent der Papyri warten bis heute auf ihre Entzifferung. Ein gigantischer, unerschlossener Schatz der Geschichte“, heißt es per Aussendung der Österreichischen Akademie der Wissenschaften (ÖAW). Genau hier möchte Apollo ansetzen.

Apollo: „Neues Fenster zu unserem gemeinsamen kulturellen Erbe“

Entwickelt wurde das Large Language Model (LLM) in einer Kooperation zwischen der ÖAW und den europäischen KI-Unternehmen Mistral AI und SAIL Reply. Am gestrigen Mittwoch präsentierten die Forschungspartner die erste Stufe des Apollo-KI-Systems, das ab sofort der Wissenschaft und der Öffentlichkeit zur Verfügung steht.

„Apollo zeigt, was europäische Zusammenarbeit leisten kann, wenn KI, die gezielt an wissenschaftliche Anforderungen angepasst werden kann, auf jahrhundertealtes wissenschaftliches Wissen trifft“, sagt Guillaume Lample, Co-Founder und Chief Scientist von Mistral. „Indem Mistrals Technologie dabei hilft, Texte wiederherzustellen, die seit zweitausend Jahren nur fragmentarisch überliefert sind, eröffnet sie ein neues Fenster zu unserem gemeinsamen kulturellen Erbe – und das ist erst der Anfang.“

600 Millionen Wörter

Die meisten Texte der Antike sind nur unvollständig überliefert und es fehlen einzelne Wörter oder sogar ganze Textpassagen. Das Sprachmodell Apollo könne fehlende Inhalte von Fragmenten eigenständig ergänzen und dabei helfen, das Verständnis und die historische Einordnung eines Schriftstückes zu verbessern.

Obwohl für das Training der KI in Altgriechisch nur 600 Millionen Wörter zur Verfügung standen – mehrere zehn Milliarden Wörter gelten üblicherweise als der Standard für LLMs – sei eigenen Angaben nach Apollo treffsicher.

„Bei einem vorhandenen Originaltext auf Papyrus erreicht das Modell bei maskierten, also bewusst versteckten Passagen eine Trefferquote von rund 80 Prozent“, erklärt Anna Dolganov, Forscherin am Österreichischen Archäologischen Institut der ÖAW und Mastermind hinter dem Projekt. Bei tatsächlich unbekannten Textlücken bewerteten internationale Fachexpert:innen, die das KI-System im Rahmen einer Blindstudie evaluiert haben, Apollos Vorschläge in 77 Prozent der Fälle als mindestens ebenso gut wie durch Menschen vorgenommene Ergänzungen und in 16–20 Prozent der Fälle sogar besser, heißt es.

Apollo erkennt Sprachstufen

Besonders beeindruckend sei zudem, wie präzise Apollo zwischen verschiedenen Sprachstufen des Griechischen unterscheiden kann, betont Dolganov: „Unser LLM kann mit vergleichsweise geringem Wissen über einen Kontext weitreichende Schlüsse ziehen. Anhand von Satzbau und Vokabular erkennt Apollo präzise, ob ein Text zum Beispiel aus Homers ‚Odyssee‘ stammt, und ergänzt ihn im passenden Sprachregister.“

Als Beweis zeigte Dolganov bei der Präsentation von Apollo etwa eine antike Geburtsurkunde, die vollständig rekonstruiert wurde. Zudem wurde eine beim Ausbruch des Vesuvs verkohlte Schriftrolle an entscheidenden Stellen „vollständig lesbar gemacht“. Und mit der Rekonstruktion einer fragmentarischen Inschrift aus dem Schwarzmeerraum hat sich der Forscherin zufolge belegen lassen, dass in einer bestimmten Region bereits römisches Recht galt. Die Aussendung sprach hierbei von einer „weitreichenden Erkenntnis, die durch einen Beleg für die römische Prostitutionssteuer untermauert wird.“

Weitere Stufen geplant

„Mithilfe der KI entsteht ein neues Bild der antiken Sozial- und Wirtschaftsgeschichte, da sich viele Erkenntnisse erst aus der Masse der Dokumente ergeben – etwa bei Steuerquittungen“, präzisiert Dolganov.

Und Heinz Faßmann, Präsident der Österreichischen Akademie der Wissenschaften, ergänzt: „Apollo bringt die Erforschung von historischen Schriftstücken und Dokumenten in ein neues Zeitalter. Der Einsatz des neuen Sprachmodells wird völlig neue Forschungsfragen zulassen und unser historisches Wissen erweitern. Wir sind stolz, dass die ÖAW gemeinsam mit dem europäischen KI-Unternehmen Mistral diese wegweisende Technologie entwickelt hat. Für die Zukunft streben wir eine vertiefte Zusammenarbeit mit Mistral an.“

© ÖAW/Daniel Hinterramskogler – Heinz Faßmann, Präsident der Österreichischen Akademie der Wissenschaften, bei der öffentlichen Vorstellung von Apollo.

Der ersten Stufe des Modells sollen bald noch weitere folgen. „Das Ziel ist ambitioniert, aber machbar“, wie Dolganov betont: Die KI soll künftig unerschlossene Papyri sowohl entziffern als auch rekonstruieren können. Geplant ist außerdem eine Erweiterung, mit der das Modell thematische und semantische Suchen in der gesamten griechischen Textüberlieferung durchführen sowie Parallelstellen suchen soll und so die passende Evidenz für Ergänzungsvorschläge gleich mitliefert.

Dolganov, die ÖAW und Mistral wollen jedoch bei Altgriechisch nicht aufhören. Aufbauend auf den Erfahrungen soll die KI künftig auch mit einem lateinischen Textkorpus trainiert werden. Dafür stehen dann rund zwölf Milliarden Wörter zur Verfügung. Was für das Projekt noch fehlt, sei ein passender Name.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus