13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I

Sowie:

Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
31.07.2026

Sonnnig: Wie das Energy-Sharing-Startup seine Endkund:innen-Plattform für Energieversorger weiterentwickelt

Das Wiener Startup sonnnig baut eine White-Label-Lösung zur Verwaltung von Energiegemeinschaften. Nach dem Erfolg bei Privatabnehmer:innen will das zwei Jahre alte Unternehmen nun Energieversorgern unter die Arme greifen. Mit einer neuen aws-Seedfinancing-Förderung im Rücken sucht das Team Partnerunternehmen.
/artikel/sonnnig-wie-das-energy-sharing-startup-seine-endkundinnen-plattform-fuer-energieversorger-weiterentwickelt
31.07.2026

Sonnnig: Wie das Energy-Sharing-Startup seine Endkund:innen-Plattform für Energieversorger weiterentwickelt

Das Wiener Startup sonnnig baut eine White-Label-Lösung zur Verwaltung von Energiegemeinschaften. Nach dem Erfolg bei Privatabnehmer:innen will das zwei Jahre alte Unternehmen nun Energieversorgern unter die Arme greifen. Mit einer neuen aws-Seedfinancing-Förderung im Rücken sucht das Team Partnerunternehmen.
/artikel/sonnnig-wie-das-energy-sharing-startup-seine-endkundinnen-plattform-fuer-energieversorger-weiterentwickelt
Das sonnnig-Gründerteam: Roman Öfferlbauer, Jonathan Buchinger und Lukas Hückel © sonnnig

Dort, wo Technik und Unternehmertum zusammenkommen, kann Großes entstehen. So auch an der TU Wien im „Extended Study on Innovation“-Programm, wo sich das Gründer-Trio, bestehend aus Roman Öfferlbauer, Lukas Hückel und Jonathan Buchinger, zum ersten Mal begegnete. Parallel dazu gründete Öfferlbauer 2023 in seinem Heimatort in Niederösterreich eine Energiegemeinschaft, zu einem Zeitpunkt, an dem das Thema noch jung und „technisch schwierig abzuwickeln“ war, so Öfferlbauer.

Aus improvisierten Tools und selbst geschriebenen Mini-Scripts für den Eigenbedarf wurde ein Jahr später sonnnig. Eine White-Label-Lösung für Abrechnung, Mitgliedermanagement und Datenanalyse von mittlerweile 30 Energiegemeinschaften in ganz Österreich.

Wenn Strom aus der Nachbarschaft kommt

„Unser Blick war eigentlich immer auf Endverbraucher und Verbraucherinnen fokussiert. Also Privatpersonen, Unternehmen, Gemeinden“, erklärt Öfferlbauer im Interview. Eine Mission, die über die letzten zwei Jahre tausende Haushalte in ganz Österreich erreicht hat. Mittlerweile kann man über sonnnig den generierten Strom auch als Mitarbeiter:innen-Benefit oder Spende abgeben. „Im letzten halben Jahr hat sich da aber auch ziemlich viel auf der anderen Seite, also bei den Energieversorgungsunternehmen, getan“, verrät der Co-Founder.

Energieversorgungsunternehmen stünden zunehmend vor einem Einkaufs- und Prognoseproblem. In der Regel verbraucht die Kundschaft ihren Strom nach einem Standardprofil, mit dem der jeweilige Versorger seine Stromeinkäufe prognostiziert. Sind die Abnehmer:innen aber Teil einer Energiegemeinschaft, verschiebt sich dieses Profil radikal: Ein großer Teil des Energiebedarfs wird jetzt von der Energiegemeinschaft gedeckt und nur noch die Restmengen werden durch den Energieversorger geliefert. „Der Energieversorger hat die Energiemenge aber schon im Vorhinein eingekauft“ – und müsse sie kurzfristig wieder verkaufen, erklärt Öfferlbauer. Ein teures Ausgleichsenergie-Problem, das mit wachsendem Energy-Sharing-Anteil immer größer wird.

Sonnnig als potenzieller Partner für Energieversorger

Genau hier setzt das neue Produkt an, für das sonnnig gerade die dritte Förderung der Austria Wirtschaftsservice (aws) erhalten hat: eine White-Label-Lösung zum Energy Sharing, die Energieversorger direkt in ihr eigenes Kund:innenportal einbinden können. Im Hintergrund liefert sonnnig die Restlastprognose auf 15-Minuten-Basis, damit Versorger gezielter am Großhandel einkaufen können.

Möglich macht das die Prognosefähigkeit, die sonnnig über Jahre mit echten Energiegemeinschaften aufgebaut hat. Ziel ist es, Versorgern einen besseren Einblick in ihre Stromverläufe zu geben und ihnen zu helfen, selbst ein Geschäftsmodell rund um Energy Sharing aufzubauen, auch als Beitrag zur Kund:innenbindung, erklärt Öfferlbauer. Am Markt kommt das gut an: „Energieversorgungsunternehmen spüren das Problem und sind zunehmend auf der Suche nach Lösungen und neuen Geschäftsmodellen im Energy-Sharing-Bereich, deshalb reden sie auf einmal mit uns“, sagt der Co-Founder. Davor sei die Beziehung eher einseitig gewesen. Zwei Pilotbetriebe hat sonnnig für das geförderte Projekt bereits akquiriert und zeigt sich offen für weitere Kooperationen.

Von First bis Seed: Der aws-Weg

Möglich wurde diese Entwicklung durch drei aufeinanderfolgende aws-Förderungen. Mit aws First Incubator, einem Programm für sehr junge Teams, teils noch vor der Firmengründung, kam das Startup zu ersten Beratungsleistungen und Mentoring. Mit aws Preseed – Innovative Solutions wurde zunächst die inhaltliche und wirtschaftliche Machbarkeit des Vorhabens überprüft und der Proof of Concept entwickelt. Darauf aufbauend unterstützt aws Seedfinancing – Innovative Solutions die Weiterentwicklung bis zum Markteintritt sowie die ersten Skalierungsschritte. In diesem Rahmen werden nun der Aufbau und der Launch des neuen B2B-Produkts finanziert.

Erwarteter Boom durch neues Elektrizitätswirtschaftsgesetz

Als besondere Meilensteine nennt Öfferlbauer Referenzprojekte mit bekannten Unternehmen wie Hartl Haus, der Nationalbank-Tochter IG Immobilien oder der Volkshilfe Wien sowie die wiederholte Verdopplung des Jahresumsatzes. Im ersten Halbjahr 2026 hat sich die geteilte Energiemenge, die über sonnnig abgewickelt wurde, laut eigenen Angaben gegenüber dem Vorjahr mehr als verdoppelt. Investor:innen hat das fünfköpfige Team bislang bewusst keine an Bord geholt, da laufende Umsätze und eine halbe Million Euro an lukrierten Entwicklungsförderungen das Team organisch tragen.

Rückenwind kommt bald auch auf politischer Ebene: Im Oktober tritt das neue Elektrizitätswirtschaftsgesetz (ElWG) in Kraft, das Energy Sharing über bilaterale Peer-to-Peer-Verträge statt über eine juristische dritte Instanz wie einen Verein oder eine GmbH erlaubt. Für sonnnig eine freudige Entwicklung: „Das baut natürlich extrem viele Hürden ab. Und deswegen erwarten wir auch einen ziemlichen Boom an neuen Mitgliedern und das nehmen auch Energieversorgungsunternehmen wahr.“


Disclaimer: Der Artikel entstand in Kooperation mit der Austria Wirtschaftsservice (aws).

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus