13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I

Sowie:

Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
03.06.2026

Chef der Wirtschaftsagentur Wien: „Wir denken die Wirtschaftsförderung weiter“

Dominic Weiss, Geschäftsführer der Wirtschaftsagentur Wien, bilanziert die ViennaUP, skizziert die Pläne für das Life Science Center und begründet, warum Wien seine Wirtschaftsförderung markant weiterentwickelt.
/artikel/wirtschaftsagentur-wien-dominic-weiss-interview
03.06.2026

Chef der Wirtschaftsagentur Wien: „Wir denken die Wirtschaftsförderung weiter“

Dominic Weiss, Geschäftsführer der Wirtschaftsagentur Wien, bilanziert die ViennaUP, skizziert die Pläne für das Life Science Center und begründet, warum Wien seine Wirtschaftsförderung markant weiterentwickelt.
/artikel/wirtschaftsagentur-wien-dominic-weiss-interview
Dominic Weiss, Geschäftsführer der Wirtschaftsagentur Wien | (c) Paul Bauer

Kürzlich ist die ViennaUP über die Bühne gegangen, und zwar mit Rekordandrang. Mehr als 14.000 Teilnehmende aus über 90 Ländern und 28 internationale Delegationen kamen nach Wien, um sich beim internationalen Startup-Festival zu vernetzen, Investor:innen zu treffen und den Standort als möglichen Ankerpunkt zu sondieren. Über 65 Veranstaltungen an 43 Locations in nur fünf Tagen, ein Großteil davon restlos ausgebucht.

Die ViennaUP ist aber nur ein Baustein in der Wiener Innovationsstrategie. Mit dem Life Science Center entsteht bis 2029 eine zentrale Forschungs- und Produktionsinfrastruktur, und mit der neuen Beteiligungsgesellschaft Wiener Wachstum geht die Wirtschaftsagentur einen für sie neuen Weg, weg vom klassischen Zuschuss, hin zur echten Beteiligung. Im Interview spricht der Geschäftsführer der Wirtschaftsagentur Wien über die Bilanz der ViennaUP, das große Infrastrukturprojekt im Life-Science-Bereich und einen Paradigmenwechsel in der Förderlogik.


brutkasten: Die Economica-Studie zur ViennaUP weist 3,5 Millionen Euro Wertschöpfung und fast 50 gesicherte Stellen aus. Sie haben das heuer erstmals so evaluieren lassen. War etwas Überraschendes dabei?

Dominic Weiss: Wir haben es das erste Mal in dieser Form gemacht, und es ist etwas, worauf die Wirtschaftsagentur viel Wert legt. Wir brauchen ein belastbares Zahlenwerk, das unsere Wirkung am Standort zeigt. Wir haben den Auftrag und auch den Anspruch, sorgsam mit Steuergeld umzugehen. Überraschend war im Grunde nichts. Wir waren immer schon überzeugt, dass das, was wir tun, Wirkung hat. Aber gerade in Zeiten eines großen Konsolidierungsprozesses ist es wichtig, mit Zahlen aufzuwarten. Positiv überrascht hat mich vor allem, wie viele Ansiedlungen tatsächlich auf die ViennaUP zurückzuführen sind. Das zeigt, dass unser internationaler Ansatz wirkt, und zwar indirekt in einem ganz anderen Bereich der Wirtschaftsagentur. Auch die durch Startups ausgelösten Investitionen zahlen direkt fiskalpolitisch in die Stadt ein. Das sind wirklich gute Zahlen.

Im Vergleich zu Web Summit oder Slush positioniert sich die ViennaUP sehr eigenständig. Wollen Sie dieses Konzept weiterführen?

Davon bin ich überzeugt. Wir haben einen sehr glücklichen Schulterschluss zwischen Privatwirtschaft, öffentlichem Bereich und Wissenschaft. Die Wirtschaftsagentur ist hier der gemeinsame Nenner, der initiiert und in der Mitte steht. Aber wir brauchen einen dezentralen Ansatz und starke Partner:innen. Fest steht auch, dass wir die ViennaUP kontinuierlich weiterentwickeln. Und das werden wir auch im kommenden Jahr tun.

Was unterscheidet die ViennaUP grundsätzlich von einem Web Summit?

Bei einem Web Summit wird in riesiger Breite über Technik gesprochen, oft ohne klare Haltung. Ist Blockchain Zukunft oder nicht. Bei der ViennaUP geht es darum: Wie wirkt das, was wir hier tun? Für den Wirtschaftsstandort, das ist klar. Für uns geht es nicht nur um Wirtschaft per se, sondern auch um Lösungen für unsere Bürger:innen, für unser Umfeld, für Lebensqualität. Diese Verantwortung in einem sozialen und nachhaltigen Umfeld zeichnet Wien aus. Wien hat immer schon eine andere soziale Verantwortung gehabt. Die ViennaUP schlägt daher eine wertvolle Brücke zwischen Business und sozialem Impact. Das trifft auf andere Startup-Events dieser Art weniger zu. Die ViennaUP, das ist mehr als nur Business.

Die Homebase am Karlsplatz war auch heuer wieder Anlaufpunkt des Startup-Festivals. © Wirtschaftsagentur Wien / Philipp Lipiarski

Sie investieren rund 170 Millionen Euro in das Life Science Center, Fertigstellung 2029. Wohin geht die Stoßrichtung?

Wir schauen uns sehr genau an, wo der Markt etwas noch nicht regelt und wo wir einen Anstoß setzen können. Im Wiener Raum gibt es einen klaren Mangel an Laborflächen: günstig, in hoher Qualität, als Shared Facilities, bereichsübergreifend zwischen Wissenschaft und Wirtschaft. Vor allem für Spin-offs, die gründen oder gerade gegründet haben, fehlt diese Infrastruktur. Wir schaffen daher rund 14.000 Quadratmeter mit hochwertiger Laborinfrastruktur und genauso viel Community-Fläche, wo Begegnung und gemeinsames Arbeiten stattfinden. Mit der Akademie der Wissenschaften und ihrem Institut AITHYRA haben wir einen starken Anker-Mieter im Bereich Biotech und KI. Wir betreiben schon im Vienna Bio Center erfolgreich Startup Labs. Die sind seit Jahren ausgebucht. Wir wissen also genau, welcher Druck am Markt herrscht.

500 Arbeitsplätze sollen entstehen?

Ja, aber das Wichtigere ist: 500 sehr hochwertige Arbeitsplätze mit hoher Wertschöpfung. Diese sind für eine Metropole wie Wien außerordentlich wichtig. Wir haben viele Arbeitsplätze im Tourismus, aber bei den hochwertigen muss Wien echte Akzente setzen. Mit dieser Infrastruktur gehen wir einen Schritt voraus.

Drittes Thema: Wiener Wachstum. Eine GmbH gemeinsam mit der Raiffeisen Bank International, 7 Millionen Euro Startkapital, Tickets zwischen 100.000 und 500.000 Euro. Wie sieht der Plan konkret aus?

Wir schaffen mit Wiener Wachstum ein Instrument, um mit Eigenkapitalinstrumenten wachstumsorientierte Unternehmen in der Digital- und Gesundheitswirtschaft zu unterstützen. Und wir schließen damit für einen ganz relevanten Bereich eine Lücke, die wir am Standort bisher nicht schließen konnten. Wir haben in Wien klassisch wachstumsorientierte Unternehmen, die schon am Markt sind, erste Umsätze haben und vor ihrem ersten großen Wachstumsschritt stehen. Diese müssen oft große Investitionen tätigen, für die es keine Finanzierung gibt. Eine Maschine anschaffen, mehr Personal anstellen, skalieren. Die klassischen Projektförderungen greifen hier zu kurz. Sie brauchen Eigenkapital oder eigenkapitalähnliche Instrumente, Stichwort Mezzanine. Genau dort und nur dort wollen wir hinein, fokussiert auf Life Science und Digitalwirtschaft. Hier gilt: Für uns ist die Fokussierung enorm wichtig, mit einem Startvolumen von 7 Millionen Euro und maximalen Ticketgrößen von 500.000 Euro wird es vor allem auch um Qualität gehen.

Ist das ein Paradigmenwechsel?

Ja, das kann man so sagen. Wir denken die Wirtschaftsförderung weiter. Die Wirtschaftsagentur gibt es seit 1982, und wir haben in klassischen Förderungen gedacht. Mit Wiener Wachstum gehen wir einen neuen Weg, zusätzlich zu den nicht rückzahlbaren Zuschüssen. Es geht um echte Beteiligungen. Das bringt uns auch mehr Marktnähe und wir sind gespannt auf die Wirkung. Auch für das Unternehmen ist es ein anderes Commitment, wenn sich Wirtschaftsagentur und Raiffeisen beteiligen.

Heißt das, klassische Zuschüsse werden zurückgefahren?

Nein. Wir werden Förderungen natürlich weiterentwickeln und auch hier stärker fokussieren. Das ist unser Anspruch. Denn wir wollen gemeinsam mit den Unternehmen die stärkste Wirkung für die Stadt erzielen.

Wie passt das alles zusammen, ViennaUP, Life Science Center, Wiener Wachstum?

Als Standortagentur orchestrieren wir unsere Angebote im absoluten Gleichklang, um die optimale Wirkung für die Unternehmen und Wien zu erzielen. Unternehmen finden in Wien im internationalen Vergleich ein sehr umfassendes Förderangebot. Passgenaue Produkte zum richtigen Zeitpunkt, aus einer Hand flankiert von persönlicher Betreuung. Mit der ViennaUP vernetzen wir und schaffen Awareness. Mit dem Life Science Center stellen wir Infrastruktur bereit, leistbar, mit einem breiten Bespielungsmix. Und mit Wiener Wachstum begleiten wir den nächsten Wachstumsschritt. Wir können nicht alles regeln, aber wir können genau dort unterstützen, wo es nötig ist, damit Unternehmen am Markt erfolgreich sein können.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus