13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I

Sowie:

Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
(c) StartUp Burgenland
(c) StartUp Burgenland

Die Gründungszahlen gingen in den meisten österreichischen Bundesländern laut aktuellem Austrian Startup Monitor zuletzt zurück oder stagnierten. Große Ausnahme ist ausgerechnet das Bundesland mit der geringsten Bevölkerungszahl: Gerade in den vergangenen Krisenjahren stieg die Zahl der Neugründungen im Burgenland um nicht weniger als 65 Prozent.

Heute sind es insgesamt rund 90 Startups – und diese weisen laut Monitor noch eine weitere Besonderheit auf: Das Burgenland ist auch österreichweiter Spitzenreiter bei Profitabilität. Mehr als 60 Prozent der Startups im östlichsten Bundesland sind demnach bereits profitabel oder haben den Break-even erreicht.

StartUp Burgenland: 50 Startups seit dem Start 2021

Doch wie kommt es zu dieser Dynamik entgegen des österreichweiten Trends? Der Gründergeist hat sich in den vergangenen Jahren nicht zufällig im Burgenland etabliert. „Es gab früher keine Anlaufstelle, kein strukturiertes Programm. Wer hier gründen wollte, ist nach Wien oder Graz ausgewichen – oder hat es alleine versucht“, sagt Michael Sedlak. Er ist Leiter von StartUp Burgenland, das genau diesen Umstand in den vergangenen Jahren geändert hat.

Die Zahlen sprechen dabei für sich. Seit dem Start 2021 gingen durch die Inkubator- und Accelerator-Programme mehr als 50 Startups. 70 Prozent davon schafften den Markteintritt und schufen damit 129 Arbeitsplätze. Sie kommen auf eine Gesamtkapitalisierung von 10,7 Millionen Euro. Und dieser Impact zeigt sich auch in der Zufriedenheit der Teilnehmer:innen: 95 Prozent der Alumni empfehlen die Programme von StartUp Burgenland weiter.

CRANii: über Ärtztepraxen zu den Patient:innen

Eine der aktuellen Teilnehmer:innen ist Christiane Hofer-Marbet. Sie hat mit ihrer Schwester Katharina Koller-Hofer das Startup CRANii gegründet. Das app-gestützte Therapiekonzept für Kopf- und Kieferbeschwerden, vor allem die kraniomandibuläre Dysfunktion (CMD), bietet Patient:innen strukturierte Kieferphysiotherapie für zuhause. „Für die Patienten ist es oftmals schwierig, Therapieplätze zu finden, weil es zu wenige Spezialisten in dem Bereich gibt und es natürlich auch eine Kostenfrage ist. Wir haben eine Software entwickelt, bei der die Patienten an die Hand genommen werden, um zu Hause die Übungen gemeinsam mit uns zu machen“, erklärt Hofer-Marbet gegenüber brutkasten.

(v.l.) Die Therapeutinnen und Schwestern Christiane Hofer-Marbet und Katharina Koller-Hofer haben CRANii gegründet | (c) CRANii

Gerade erst vor wenigen Wochen gelauncht, führt der Weg zu den Patient:innen für CRANii über einen B2B2C-Ansatz, konkret über die Kooperation mit Ärztepraxen und Reha-Kliniken. „Momentan bedienen wir Reha-Kliniken, Zahnarztpraxen und HNO-Praxen österreichweit und weiten nun auf die Orthopädie und Neurologie aus.“ Dabei strecke man schon jetzt in der Launch-Phase die Fühler im gesamten DACH-Raum aus und führe etwa bereits Gespräche in der Schweiz.

„Wir sind Therapeutinnen und hatten von BWL am Anfang null Ahnung“

Nicht nur bei der Entwicklung dieser Go-to-Market-Strategie holte sich CRANii Unterstützung von StartUp Burgenland. „Ich glaube, ohne die Hilfe wären wir nicht da, wo wir heute stehen“, sagt Hofer-Marbet. „Wir kommen eigentlich nicht von der unternehmerischen Seite. Wir sind Physiotherapeutinnen und hatten von BWL am Anfang null Ahnung“, so die Gründerin. „Seit wir dabei sind, ist es krass: Unser Coach Felix Lenhard geht den Business-Plan Schritt für Schritt mit uns durch, wir sind in Coachings mit Silicon-Valley-Investoren und haben es jetzt drauf, auf Deutsch und auf Englisch aus dem Stegreif zu pitchen.“

Man habe angetrieben durch den zweiten Coach, Michael Sedlak, auch an Messen und Kongressen teilgenommen, man schätze die Struktur des Programms und: „Das Netzwerk, das uns an die Hand gegeben wird, ist einfach gigantisch“, so Hofer-Marbet.

„Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln.“

Diesen Aspekt betont auch Edris Paknehad: „Felix [Anm. Lenhard], Michael [Anm. Sedlak] und Raphaela [Anm. Graf] haben mir in Eins-zu-Eins-Betreuung überall geholfen, wo ich nicht weitergekommen bin, und wenn sie es selbst nicht wussten, haben sie immer Leute gefunden, die mir helfen konnten. Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln. Sie nicht.“

Edris Paknehad | (c) PAK Immo

Mit seinem E-Learning-Startup PAK Immo hat Paknehad bereits das Accelerator-Programm von StartUp Burgenland durchlaufen. Das Unternehmen hat mit seiner E-Learning-Plattform für die Befähigungsprüfung zum Baumeister eine Nische gefunden, die es erfolgreich besetzt. „Die Baubranche in Österreich ist extrem altmodisch. Man redet die ganze Zeit von Digitalisierung, etwa mit BIM [Anm. Building Information Modeling], aber was die Bildung angeht, ist alles sehr veraltet“, erklärt der Gründer.

PAK Immo: effizient genutzte Fahrzeit

So habe man für besagte Befähigungsprüfung bislang einen Kurs in Präsenz belegen müssen, der zwischen 15.000 und 18.000 Euro kostet. „Dabei ist man in dem Beruf zeitlich extrem eingeschränkt. Wenn man auch noch eine Familie hat, kann man sich unmöglich drei- oder viermal in der Woche in einen Kurs setzen. Das war auch bei mir damals der Fall. Ich habe viel Geld bezahlt und 70, 80 Prozent des Vorbereitungskurses verpasst. Ich dachte mir: Das muss besser gehen!“ PAK Immo biete mit seinen Kursen nicht nur einen um mehrere Tausend Euro günstigeren Preis. „Bei uns kann man die Inhalte anhören, wie einen Podcast. Ich sitze etwa auch heute vier Stunden im Auto, weil die Baustelle zwei Stunden Autofahrt entfernt ist. Das ist bezahlte Arbeitszeit und man kann sie gleichzeitig nutzen, um zu lernen“, so Paknehad.

Auch er bekam von StartUp Burgenland nicht nur Coachings, Netzwerk und Sichtbarkeit, sondern auch Unterstützung bei sehr konkreten Tasks, erzählt der Gründer: „Was mir besonders geholfen hat: Ich hatte am Anfang kein eigenes CRM-System. Hier wurde mir geholfen, eines aufzubauen – davor war das eher ein Chaos.“

„Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem.“

Auch Paknehad betont die Struktur des Programms, die besonders am Anfang geholfen hat. Seitens StartUp Burgenland hat man diese zuletzt übrigens noch stärker individualisiert. Seit diesem Jahr gibt es keinen Batch-Betrieb und keinen fixen Zeitrahmen mehr, dafür zu 100 Prozent individuelle Begleitung. „Dein Fahrplan, dein Tempo“, fasst Michael Sedlak zusammen. Und er verrät das Erfolgsrezept des Programms: „Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem. Und das gibt es im Burgenland.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus