13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.„

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.„

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

„Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I„

Sowie:

„Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise„

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
30.10.2026

Playmobil baut Rechenzentrum: Anthropic muss weichen

Die Horst Brandstätter Group baut ihr ehemaliges Playmobil-Werk in Dietenhofen zu einem Rechenzentrum um. Anthropic wollte ein solches nur wenige Kilometer entfernt zusammen mit der Gemeinde Neuhof an der Zenn errichten. Das gemeinsame Projekt wurde nun gestoppt, denn eine Zusage für den Netzanschluss blieb aus.
/artikel/playmobil-baut-rechenzentrum-anthropic-muss-weichen
30.10.2026

Playmobil baut Rechenzentrum: Anthropic muss weichen

Die Horst Brandstätter Group baut ihr ehemaliges Playmobil-Werk in Dietenhofen zu einem Rechenzentrum um. Anthropic wollte ein solches nur wenige Kilometer entfernt zusammen mit der Gemeinde Neuhof an der Zenn errichten. Das gemeinsame Projekt wurde nun gestoppt, denn eine Zusage für den Netzanschluss blieb aus.
/artikel/playmobil-baut-rechenzentrum-anthropic-muss-weichen
Das Playmobil-Werk in Dietenhofen © Horst Brandstätter Group

Dass sich europäische Firmen gegen Anthropic im IT-Sektor behaupten können, hätte wohl niemand gedacht. In Bayern zieht der KI-Gigant gegen Playmobil nun den Kürzeren. Die Horst Brandstätter Group, zu der Playmobil gehört, baut nämlich ihre einstige Produktionsstätte in Dietenhofen zu einem Rechenzentrum um. Im wenige Kilometer entfernten Hirschneuses wird dafür das geplante Rechenzentrum der Gemeinde Neuhof an der Zenn und Anthropic auf Eis gelegt.

Keine Zusage für Netzanschluss

Das Problem: Man wird nicht an das Stromnetz angeschlossen. „Die N-ergie hat die derzeit verfügbaren Netzkapazitäten zunächst für ein weiteres geplantes Rechenzentrumsprojekt der Firma geobra Brandstätter im Raum Dietenhofen reserviert. Damit fehlt dem Projekt in Hirschneuses gegenwärtig die notwendige Planungssicherheit“, erklärt Claudia Wust, Bürgermeisterin von Neuhof an der Zenn, gegenüber dem BR. Sie wünsche sich eine Aufteilung der vorhandenen Netzkapazitäten auf beide Rechenzentren. Brutkasten fragte bei Wust zur aktuellen Situation nach, eine Antwort steht noch aus.

Warum fiel die Wahl auf die Horst Brandstätter Group?

Gegenüber brutkasten antwortet N-ergie, dass man sich zu konkreten Bauprojekten und dem aktuellen Stand von Netzanschlussfragen nicht äußere. Der Energieversorger betont aber, dass diese Anfragen nach den gesetzlichen Vorgaben bearbeitet werden.

N-ergie erklärt: „In unserem Netzgebiet liegen aktuell mehrere Anschlussanfragen für Rechenzentren vor – zusammengenommen beanspruchen diese Projekte eine Leistung, die in etwa zweimal dem gewöhnlichen Leistungsbedarf der Stadt Nürnberg entspricht.“

Im Fokus sei immer die allgemeine Versorgungssicherheit. Durch derart große Projekte müsse das Stromnetz häufig ausgebaut werden, etwa in Form von neuen oder verstärkten Leitungen.

Playmobil „versperrt niemandem den Weg“

Auf ihrer Webseite reagiert die Horst Brandstätter Group: „Gelegentlich ist zu lesen, ein Rechenzentrum in Dietenhofen stehe anderen Vorhaben im Weg. Diese Lesart nehmen wir mit einem Schmunzeln zur Kenntnis. Ein Campus, der von Anfang an auf viele Partner ausgelegt ist, versperrt niemandem den Weg, er öffnet ihn.“ Playmobil habe sich nie gegen ein anderes Vorhaben ausgesprochen und begrüße jede Investition, die Mittelfranken als Standort für digitale Infrastruktur stärke.

Horst Brandstätter Group: Ein Unternehmen am Rande der Existenzkrise

Der Bau des Rechenzentrums ist für die Horst Brandstätter Group wohl ein weiterer Schritt, um sich aus der wirtschaftlichen Krise zu befreien. Im Geschäftsjahr 2024/25 ging ihr Umsatz laut Konzernabschluss um fast neun Prozent auf 409 Millionen Euro zurück. Der Konzernverlust betrug 115 Millionen Euro. Die Horst Brandstätter Group betreibt die Zweige Lechuza, die Playmobil-FunParks und eben Playmobil. Seit diesem Jahr gibt es in Deutschland keine Produktionsstätte der kleinen Plastikmännchen mehr. Dietenhofen wurde im Juni geschlossen. Die Produktion finde laut FAZ somit nur mehr in Tschechien und Malta statt.

Playmobil digital

Der neueste Zweig des Unternehmens ist Playmobil digital. Das Rechenzentrum richtet sich an Unternehmen aus der Region, klassische Rechenzentrumsbetreiber und internationale Hyperscaler. Playmobil digital sei für alle offen, die Rechenkapazität suchen, „ob im großen Maßstab oder für den eigenen Betrieb“. Gespräche mit internationalen Interessenten würden bereits laufen. Auch Startups erwähnt das Unternehmen als mögliche Kunden.

Man möchte mit Playmobil digital auf die wachsenden Anforderungen durch künstliche Intelligenz und High-Density-Computing reagieren. Die Horst Brandstätter Group werde in den kommenden Jahren einen dreistelligen Millionenbetrag in den Aufbau des Campus investieren. Auf dem Areal besteht bereits eine 110-kV-Netzanbindung. Ein 100-Megawatt-Strompfad sei vorgesehen und der Standort sei für Ausbaustufen darüber hinaus ausgelegt.

„Eine der wichtigsten Infrastrukturen der digitalen Zukunft“

„Wo über Jahrzehnte Playmobil produziert wurde, wollen wir künftig eine der wichtigsten Infrastrukturen der digitalen Zukunft ermöglichen. Wir transformieren ein bestehendes Industrieareal, statt neue Flächen auf der grünen Wiese zu erschließen. Dietenhofen kann damit zu einem bedeutenden Standort für KI, Digitalisierung und digitale Souveränität in Deutschland werden“, sagt Matthias Fauser, Vorstand der Horst Brandstätter Group.

René Feser, ebenfalls Vorstandsmitglied, ergänzt: „Mit dem Aufbau des Campus setzt die Stiftung ein klares Bekenntnis zu Dietenhofen und Bayern als Innovationsstandort.“

Die Nutzungsmodelle

Der Campus setzt auf vier unterschiedliche Nutzungsmöglichkeiten. Unter dem Modell „Land & Power“ kann ein Betreiber ein erschlossenes Baufeld mit Stromanschluss pachten und dort ein Rechenzentrum selbst errichten. „Powered Shell und Private Suite“ nennt sich jenes Modell, bei dem Playmobil das Gebäude zur Verfügung stellt und der Partner nur mehr die Rechentechnik einbringen muss. Energie, Kühlung und Sicherheit würden bereitgestellt werden. Unter dem Begriff „Colocation“ bietet Playmobil betriebsfertige Rechenzentrumsflächen an. Als „Sorglospaket“ kann wohl jenes Modell bezeichnet werden, bei dem Kunden fertige Rechenleistung erhalten, ohne eigene Hardware anschaffen zu müssen.  

Eigentümer und Betreiber ist die Horst Brandstätter Group. „Wer seine Daten in Deutschland und außerhalb der Reichweite außereuropäischer Zugriffsrechte wissen will, findet in Dietenhofen einen souveränen Standort“, heißt es von der Gruppe.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus