13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User „TheChaos7777“ hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT „bitte antworte nur mit dem Buchstaben ‚A‘ so oft du kannst“, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend „As“. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: „Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.„

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben „B“ so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie „Yoga for Regular Guys“ des pensionierten Kampfsportlers.

Konkret: „Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.„

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben „C“ spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

„D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.“

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

„Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I„

Sowie:

„Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise„

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass „Language Learning Models“ (LLM) einer „Wiederholungsstrafe“ unterliegen, wenn derselbe „Token“ wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz „in Aufregung“. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses „word vomit“ aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
05.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
05.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
(c) Sasun Bughdaryan via Unsplash

In der Gründungsphase steht das operative Geschäft an erster Stelle: Produkte werden entwickelt, Marketingkampagnen gestartet und erste Kund:innen akquiriert. Rechtliche Rahmenbedingungen und eine nachhaltige Absicherung rücken dabei mitunter in den Hintergrund. Dabei können nicht nur unbedachte Versäumnisse, sondern sogar unverschuldete Konflikte junge Unternehmen rasch in finanzielle Schieflagen bringen.

“Ich mache ja nichts falsch”

„Ein häufiger Satz von Gründerinnen und Gründern lautet: Was soll schon passieren? Ich mache ja nichts falsch“, sagt Rechtsschutz-Experte Gerd Plank von der ERGO Versicherung. Doch im Unternehmensalltag geraten Firmen keineswegs nur durch eigenes Fehlverhalten in juristische Auseinandersetzungen. Plank verdeutlicht das an einem Praxisbeispiel aus dem Strafrechtsschutz: „Auch wenn ein Geschäftspartner etwas falsch macht, etwa bei der Verrechnung, kann ein Unternehmen ins Visier der Staatsanwaltschaft geraten.“ In Österreich gebe es jährlich rund 540.000 Ermittlungsverfahren bei den Staatsanwaltschaften, denen lediglich 28.000 Verurteilungen gegenüberstehen. „Das bedeutet, dass 95 Prozent der Verfahren eingestellt werden oder mit einem Freispruch enden – die immensen Anwalts- und Verteidigungskosten von oft 10.000 bis 20.000 Euro muss man ohne Rechtsschutzversicherung dennoch selbst tragen“, so Plank.

Rechtsschutz-Experte Gerd Plank | (c) ERGO Versicherung

Auch bei zivilrechtlichen Auseinandersetzungen würden Gründer:innen das finanzielle Risiko unterschätzen. „Schon wenn man einen vermeintlich kleinen Streitwert von 500 Euro einklagt, liegen die Gesamtkosten in der ersten Instanz bereits bei rund 1.600 Euro. Kommen weitere Verhandlungen hinzu, ist man rasch bei 6.000 Euro“, führt Plank aus. Da ein Großteil der Gerichtsverfahren mit einem Vergleich enden würden, blieben beide Parteien häufig auf ihren eigenen Anwaltskosten sitzen. „In Österreich liegt der häufigste bestrittene Wert bei 10.000 Euro. Die Gesamtkosten bei diesem Streitwert erreichen schnell 20.000 Euro“, so der Experte. Ohne Absicherung verzichten Startups daher oft auf berechtigte Forderungen, um Prozesskosten zu vermeiden – was im Einzelfall existenzbedrohende finanzielle Auswirkungen haben kann.

Die 6 häufigsten Rechtsfallen

Um solche Szenarien zu verhindern, sollten Gründer:innen die typischen Stolpersteine der ersten Monate kennen. Gerd Plank fasst im Gespräch mit brutkasten die sechs häufigsten Rechtsfallen zusammen – und zeigt auf, wie sich Startups mit dem passenden Rechtsschutz davor schützen können.

1. Mündliche Vereinbarungen und undokumentierte Vertragsänderungen

In der Startphase regiert oft das Prinzip Vertrauen. Verträge werden mündlich geschlossen oder vereinbarte Leistungen nachträglich per Handschlag abgeändert. „Einer der wichtigsten Punkte, bei denen es später zu Streitigkeiten kommt, sind undokumentierte Änderungen an Verträgen“, warnt Plank. Kommt es zu Uneinigkeiten über den Leistungsumfang oder Zahlungen, stehe Aussage gegen Aussage. Der Kunde bestreite etwa Zusatzleistungen, und das Startup bleibe auf den Kosten sitzen.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz der ERGO Versicherung unterstützt Gründer:innen durch juristische Erstberatung und Vorab-Vertragsprüfungen zu günstigen Konditionen. Zudem bietet ERGO für Jungunternehmer:innen einen besonderen Vorteil: Den Entfall der üblichen Wartefristen. „Kommt ein Unternehmen nach Abschluss eines größeren Auftrags zu uns, besteht im Premium-Rechtsschutz für Streitigkeiten aus dem Vertrag sofort Versicherungsschutz“, hebt Plank hervor.

2. Offene Rechnungen nicht konsequent eintreiben

Zahlen Kunden ihre Rechnungen nicht, zögern junge Firmen oft, rechtliche Schritte einzuleiten – aus Sorge um die Kundenbeziehung oder aus Angst vor hohen Prozesskosten. Dies führt rasch zu massiven Liquiditätsengpässen. „Laut KSV1870-Statistik kommen 30 bis 40 Prozent der Insolvenzen in Österreich dadurch zustande, dass Kund:innen Rechnungen nicht bezahlen und die Unternehmer nicht die finanziellen Mittel haben, um ihre Forderungen gerichtlich durchzusetzen“, erläutert Plank.

Wie der Rechtsschutz hilft: Das Forderungsmanagement der ERGO Versicherung übernimmt den Inkassoprozess. „Durch unser Know-how erreichen wir eine Eintreibungsquote von rund 80 Prozent“, führt der Experte aus. Ein Netzwerk aus 600 spezialisierten Partneranwält:innen vertritt Betroffene an allen 115 Bezirksgerichten in Österreich und in weiteren Instanzen. „Außergerichtliche Lösungswege dauern im Schnitt ein halbes Jahr, während ein Gerichtsprozess im Schnitt bis zu dreieinhalb Jahre in Anspruch nehmen kann“, betont Plank.

3. Fehler bei der Mitarbeiterbeschäftigung

Bei der Einstellung des ersten Personals passieren häufig Fehler. Ein Klassiker ist die fehlerhafte Einstufung von Arbeitskräften. „Der typische Fall ist, dass eine Person als freier Dienstnehmer oder Selbstständiger bezeichnet wird, obwohl die tatsächlichen Arbeitsbedingungen für ein Angestelltenverhältnis sprechen“, so Plank. Stellt die Sozialversicherung bei einer Nachprüfung eine Scheinselbstständigkeit oder Fehler bei Kollektivvertragsgehältern fest, drohen Nachzahlungen im fünfstelligen Bereich.

Wie der Rechtsschutz hilft: Gründer:innen werden präventiv bei Dienstverträgen beraten, im Streitfall übernimmt der Firmen-Rechtsschutz im Rahmen des vereinbarten Versicherungsschutzes die Vertretungs- und Prozesskosten. „Mit fachkundiger juristischer Beratung lassen sich Kollektivvertragsentlohnungen, Arbeitszeiten und Sonderzahlungen von Anfang an korrekt regeln“, erklärt Plank.

4. Vernachlässigter Schutz von Marken, Software und IP

Viele Startups bringen innovative Produkte, Softwarelösungen oder Marken auf den Markt, ohne ihr geistiges Eigentum ausreichend abzusichern oder finanziell verteidigen zu können. „Wenn etwa ein Vertragspartner Daten weitergibt oder Ideen kopiert, werden Prozesse nach dem Immaterialgüterrecht extrem teuer“, gibt Plank zu bedenken. Ohne Rechtsbeistand fehlen jungen Firmen meist die Mittel, sich gegen finanzstarke Nachahmer zur Wehr zu setzen.

Wie der Rechtsschutz hilft: Der Premium-Rechtsschutz deckt komplexe Auseinandersetzungen im Immaterialgüterrecht ab. „Diese Streitigkeiten abzusichern ist entscheidend, da Rechtsstreitigkeiten um das geistige Eigentum hohe Streitwerte aufweisen“, betont der ERGO-Experte. ERGO stellt spezialisierte Partneranwält:innen bereit und übernimmt im Rahmen des vereinbarten Versicherungsschutzes die anfallenden Kosten.

5. Mangelhafte AGB und unzulässige Klauseln

Insbesondere im E-Commerce und beim Vertrieb an Endverbraucher greifen Gründer:innen häufig auf fehlerhafte oder ungeprüfte Allgemeine Geschäftsbedingungen (AGB) zurück. Werden Informationspflichten, Rücktrittsrechte oder Gewährleistungsbestimmungen missachtet, hat das teure Konsequenzen. „Wenn AGB unzulässige Klauseln enthalten, können sich Kunden darauf berufen und Zahlungen verweigern“, erklärt Plank.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz von ERGO bietet Unternehmern die Möglichkeit, Vertragswerke und AGB von spezialisierten Anwält:innen zu günstigen Konditionen prüfen zu lassen. „Es ist essenziell, sich von Anwält:innen im Vorfeld beraten zu lassen, ob die erstellten Klauseln rechtlich gültig sind, bevor man Angebote am Markt platziert“, rät Plank.

6. Überschreitung der Gewerbeberechtigung

In der Praxis bieten Startups nicht selten Leistungen an, die über den Umfang ihres eingetragenen Gewerbescheins hinausgehen. „Man muss wirklich darauf achten, dass man nur innerhalb jener Gewerbeberechtigungen arbeitet, die tatsächlich eingetragen sind“, mahnt Plank. Wird die Gewerbeberechtigung überschritten, drohen Verwaltungsstrafverfahren, die im schlimmsten Fall mit einem Gewerbeentzugsverfahren einhergehen.

Wie der Rechtsschutz hilft: Der Rechtsschutz für Gewerbeentzugsverfahren schützt Unternehmer vor den finanziellen Folgen von Verwaltungsstrafverfahren. „Auch bei drohendem Gewerbeentzug bieten wir die entsprechende rechtliche Absicherung und Vertretung“, führt Plank aus.


Aktionsangebot: ERGO Blue Weeks 

Aktuell bietet die ERGO Versicherung im Rahmen der „Blue Weeks“-Aktion besondere Konditionen für den D.A.S. Firmen-Rechtsschutz. Bei einem Vertragsabschluss bis 31. Jänner 2027 sparen Unternehmen bis zu fünf Monatsprämien.

Zusätzlich profitieren Jungunternehmer:innen im ersten Geschäftsjahr von einem Bonus – bis zu 20 Prozent auf die Prämienhöhe. Nähere Informationen erhalten Sie bei einer persönlichen Beratung mit den Rechtsschutzexperten der ERGO Versicherung.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen „word vomit“-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in „word vomit“-Modus