Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.

/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus

✨ AI Kontextualisierung

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.„

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.„

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

„Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I„

Sowie:

„Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise„

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:

Timon Hausböck

28.10.2026

Regierung will neues UNO-KI-Zentrum in Wien ansiedeln

Die Bundesregierung schlägt ein internationales KI-Zentrum in Wien vor. Es soll unter dem Dach der UNO angesiedelt werden und Staaten, Wissenschaft und Wirtschaft zusammenbringen, um das Potenzial von KI auszuloten, ihre Risiken zu erforschen und gemeinsame Standards zu entwickeln.

/artikel/uno-ki-zentrum-wien-stocker

Timon Hausböck

28.10.2026

Regierung will neues UNO-KI-Zentrum in Wien ansiedeln

/artikel/uno-ki-zentrum-wien-stocker

Nach der Wahl in den UNO-Sicherheitsrat strebt die Bundesregierung nach dem nächsten Coup. Österreich soll in Fragen der Künstlichen Intelligenz in Zukunft nicht nur zuschauen, sondern aktiv mitgestalten. Das verkündete heute Bundeskanzler Christian Stocker. Der konkrete Vorschlag: Es soll ein internationales KI-Zentrum unter dem Dach der Vereinten Nationen in Wien entstehen. Der Vorschlag wurde von Staatssekretär Alexander Pröll beim virtuellen internationalen Spitzentreffen zur Kontrolle von Frontier-KI-Modellen eingebracht. Das Treffen hat auf Initiative der Regierungschefs Finnlands und Norwegens stattgefunden.

„Fürchten wir uns nicht vor Künstlicher Intelligenz, sondern geben wir ihr einen Rahmen, der den Menschen Ängste nimmt und Sicherheit gibt. Ein KI-Zentrum unter dem Dach der Vereinten Nationen kann dabei eine zentrale Rolle einnehmen. Wir wollen einen Ort schaffen, an dem Menschen aus der ganzen Welt gemeinsam daran arbeiten, das Potenzial von KI auszuloten, ihre Risiken zu verstehen und ihre Zukunft mitzugestalten“, sagt Stocker

Wien als „der richtige Standort“

Die Bundesregierung sieht Wien als idealen Standort an. Mit der Internationalen Atomenergie-Organisation (IAEO) und der CTBTO-Vorbereitungskommission sei die Stadt bereits Sitz von Institutionen, die den verantwortungsvollen Umgang mit komplexen Technologien behandeln und langjährige Erfahrung mit multilateralen Verfahren und Standards haben.

„Kein Staat kann diese Herausforderungen allein bewältigen. Die Weichen für die globale KI-Governance werden jetzt gestellt, und Österreich will diesen Prozess aktiv mitgestalten“, betont Staatssekretär Alexander Pröll.

Außenministerin Beate Meinl-Reisinger ergänzt: „Österreich setzt sich konsequent für klare Grenzen und international verbindliche Regeln für KI-Waffen ein. Als einer der vier UNO-Amtssitze wäre Wien bestens als Standort für ein internationales KI-Zentrum geeignet.“

Treffen mit Hinton und Steinberger

Heute Abend trifft Stocker gemeinsam mit Staatssekretär Alexander Pröll den Physik-Nobelpreisträger Geoffrey Hinton und Peter Steinberger, der mit OpenClaw weltweite Bekanntheit erlangte. „Wir sprechen über unsere Initiative, über internationale Regeln für KI und darüber, wie Österreich bei dieser Zukunftstechnologie vorne mit dabei ist“, schreibt Stocker auf X. Hinton und Steinberger sind Gäste von TEDAI in der Wiener Hofburg.

Österreich im KI-Zeitalter

KI scheint im Bundeskanzleramt präsenter denn je zu sein, denn Pröll möchte zum Thema „Österreich im Zeitalter von KI“ am 19. November Stellung nehmen. Der Staatssekretär lädt zu einer Grundsatzrede in die Österreichische Nationalbibliothek ein, bei der er über eine der „größten Gestaltungsaufgaben unserer Zeit“ sprechen wird.

„Künstliche Intelligenz verändert, wie wir arbeiten, entscheiden, schaffen und denken. Was bedeutet das für uns Menschen und was bedeutet es für Österreich?“, heißt es in der Aussendung.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag