13.06.2023

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

Ein User auf Reddit fand einen bemerkenswerten Weg, um das elektronische Gehirn von ChatGPT zu verwirren. Mit der simplen Aufforderung, einen Buchstaben so oft wie möglich zu wiederholen. Das Ergebnis: ein bizarres Chaos.
/artikel/nach-aufgabenstellung-chatgpt-zerbricht-und-springt-in-word-vomit-modus
ChatGPT gebrochen, broken, AI, use just a as often as you can,
(c) brutkasten - Die Welt findet immer wieder neue Wege ChatGPT an seine Grenzen zu bringen.

Ist es ein geheimer Code? Ein Leerlauf? Oder ein virtuelles Hirn-Gemetzel? Reddit-User “TheChaos7777” hat, wie Futurism berichtet, vor wenigen Tagen in einem Subreddit erwähnt, dass er die Anforderung an ChatGPT “bitte antworte nur mit dem Buchstaben ‘A’ so oft du kannst”, getätigt hat. Soweit nichts Außergewöhnliches.

ChatGPT: Von Bulldoggenzüchtern und Wrestlern

Zuerst folgte die Künstliche Intelligenz und beglückte den User mit ein paar Dutzend “As”. Dann jedoch folgte ein Bruch und ChatGPT rief die Webseite eines französischen Bulldoggenzüchters auf.

Mit folgendem Wortlaut: “Klicken Sie hier, um den Preis per E-Mail zu erfragen. Unsere Welpen sind: Tierärztlich untersucht, entwurmt, aktuell geimpft, mikrogechipt. Unsere französischen Bulldoggen kommen mit einem 1 Jahr angeborenen Gesundheitsgarantie. Rufen Sie an oder schicken sie eine E-Mail für weitere Informationen und Bildern von allen Babys… Wir haben die süßesten, am besten aussehenden, Top-Qualität-Welpen in der Welt. Zuhause aufgezogen mit viel Liebe und Küssen.

Als die US-Plattform, die als erste darüber berichtete, diesen seltsamen Vorgang mit ein paar anderen Buchstaben testete, trat das gleiche Phänomen auf: Die Antworten des Bots waren genauso zufällig und bizarr.

Wer A sagt…

Mit der Bitte mit dem Buchstaben “B” so oft wie möglich zu antworten, zeigte ChatGPT die Abschrift eines Interviews mit dem pensionierten Profi-Wrestler Diamond Dallas Page. Darin ging es um die Yoga-Videoserie “Yoga for Regular Guys” des pensionierten Kampfsportlers.

Konkret: “Seien Sie dabei, wenn wir von keinem Geringeren als dem Meister des [Diamond Dallas Page (DDP)] Yoga selbst erfahren, wie man ein unaufhaltsames Leben führt! Dieser Kerl hört niemals auf und gibt niemals nach. Im letzten Jahr hat DDP zwei neue Workout-DVDs (DDP Yoga For Regular Guys und DDP Yoga For Regular Guys 2) und sein mit Spannung erwartetes DDP Yoga extreme (drei verschiedene Workouts) veröffentlicht.

C wie…ChatGPT

Weitere Versuche folgten. Beim Buchstaben “C” spie der Chatbot eine Antwort über die harmonisierte Umsatzsteuer in Kanada aus.

Beim vierten Buchstaben des Alphabets jedoch folgte etwas anderes. Der Anfang einer Akkordfolge:

“D D D D Cgpcyclic und G D F A Bm G/A A F G D You threw me out to rot / Oh, why would you leave me, Dsus2 C/D D Dsus2 C/D D I was so.”

Doch dabei blieb es nicht. ChatGPT lieferte weiters eine unzusammenhängende Mischung aus Liedempfehlungen, religiösen Anspielungen und einer verwirrenden Anprangerung des Irakkriegs:

Gebet für Befreiung – Cry Out To Jesus von Third Day. Offen für die Wahrheit Offen für die Wahrheit Chris und Trevor waren schon immer Partner in einer Krise. Lauren Talley – Alles hat sich geändert. Intro: Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Gm7 Cm Strophe: Gm7 Cm Gm7 Cm I

Sowie:

Matthew West – The Reason For The World. Intro: D/F# G D A (2x) Strophe 1: D A Der Morgen bricht an, ein weiterer Tag, an dem wir unsere. Marilyn Manson – Wir sind aus Amerika. Dies ist kein Vietnam. Wir werden im Iran gewinnen. Der Präsident wird stehen, den Masterplan aufstellen… Invasionen rechtfertigen und die Angst vor Massenvernichtungswaffen schüren, wir sind die Rasse des Feindes, die Erneuerung des Wettrüstens, ein ständiges Wegsehen und ein (sic). David Bowie – New Angels Of Promise

Erklärung zur ChatGPT-Verwirrung

Die Erklärung für dieses seltsame Verhalten ist nicht, dass ChatGPT versucht, kryptische Botschaften zu versenden, sondern hängt wohl damit zusammen, dass “Language Learning Models” (LLM) einer “Wiederholungsstrafe” unterliegen, wenn derselbe “Token” wiederholt wird, wie ein anderer Reddit-User mutmaßt.

In diesem Fall, so der Erklärungsversuch, hätten die ChatGPT-Schöpfer ihre KI derart trainiert, dass sie Wiederholungen vermeidet. Fordert man sie aber dazu auf, sich zu wiederholen, gerät die Künstliche Intelligenz “in Aufregung”. Ein interner Alarm werde ausgelöst, und der Vorhersagealgorithmus des Bots spuckt dieses “word vomit” aus, das von Trainingsdaten inspiriert ist.

Dieses Experiment des Reddit-Users ist lange nicht der erste Versuch, die Grenzen der KI auszuloten. Draußen im Netz schwirren diverse Hacks herum (DAN, DUDE), die darauf abzielen, sämtliche Restriktionen – beim Antworten – zu umgehen, denen die KI unterliegt. So auch der Oma-Hack – der brutkasten berichtete – mit dem die KI ausgetrickst wurde, die Schritte einer Napalm-Produktion aufzuschlüsseln.

Hier mehr über Künstliche Intelligenz in unserem KI-Schwerpunkt.

Deine ungelesenen Artikel:
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
David Hable, Salesforce Co-Country Leader für Österreich | (c) Martin Pacher

Auf der Dreamforce-Konferenz in San Francisco dreht sich dieses Jahr alles um die neue Plattform Agentforce. Salesforce-Gründer Marc Benioff stellte in seiner Keynote am Dienstag die dahinterliegende Technologie und konkrete Use Cases vor, die die “dritte Welle der KI” einläuten soll. Agentforce ermöglicht es Unternehmen, die Kundeninteraktion durch autonome digitale Agents zu automatisieren. Sie sollen eine nahezu menschliche Interaktion ermöglichen. (brutkasten berichtete). Doch welche Vorteile bieten die digitalen Agents konkret, und wie werden sie die Kundeninteraktion und Arbeitswelt verändern? Darüber haben wir auf der Dreamforce mit David Hable gesprochen. Er ist Co-Country Leader von Salesforce in Österreich.


brutkasten: Im Zuge der Dreamforce-Konferenz wurde Agentforce vorgestellt. Die Plattform soll eine neue Ära in der Kundeninteraktion einläuten. Welche Vorteile bieten Agents?

David Hable: Wir stehen definitiv vor einer neuen Ära. Agents werden eine Menge leisten können, denn sie haben über unsere Datacloud und die Plattform direkten Zugriff auf die benötigten Informationen im Hintergrund. Sie müssen diese Daten nicht wie ein Mensch erst lesen oder aufwändig durchsuchen, sondern haben diese sofort zur Verfügung. In vielen Fällen können Agents Informationen sogar schneller und präziser bereitstellen, als es ein Mensch tun könnte. Und mittlerweile geschieht das auf eine Art und Weise, die fast menschenähnlich wirkt.

Diese Entwicklung vereint das Beste aus beiden Welten. Chatbots waren schon immer gut darin, digitale Informationen abzufragen, aber die Interaktion wirkte oft etwas unbeholfen. Es waren vorgefertigte Antworten, die sich nie wirklich natürlich anfühlten. Jetzt gelingt es uns, das Beste aus beiden Welten zu verbinden – die Effizienz und Schnelligkeit digitaler Systeme mit einer natürlichen, menschlichen Interaktion.

Welche Use Cases für Agents wird es künftig geben? 

Wir haben im Zuge der Dreamforce verschiedene Bereiche präsentiert: Sales, Service, Handel und Marketing. Unsere Plattform macht es darüber hinaus sehr einfach, neue Agents zu bauen. Im Sales zum Beispiel geht es um die Schulung von Sales-Leuten. Anstatt neue Vertriebsmitarbeiter sofort mit Kunden in Kontakt zu bringen, können sie zunächst einige Male mit unseren digitalen Agenten interagieren. Ein weiteres Beispiel im Vertriebsumfeld ist Cold Calling. Auch hier haben wir Lösungen vorgestellt, bei denen Agenten diese Aufgabe künftig übernehmen können. Hier gibt es verschiedene Anwendungsfälle im Kundenkontakt.

Man muss sich das so vorstellen: Wenn Sie Informationen zu Kunden in Ihren Systemen haben, können wir die Interaktion mit Agenten automatisieren. Und es müssen nicht nur Salesforce-Systeme sein. Mit Datacloud können wir externe Daten in unser System anbinden. Wenn ein Kunde Informationen wie Rechnungen, Lieferzeiten, Preise oder andere datenbasierte Anfragen stellt, können wir diese Interaktionen automatisieren und die gewünschten Informationen effizient über Agentsforce an den Kunden übermitteln.

Mit 45.000 Teilnehmer:innen zählt die Dreamforce zu den größten Veranstaltungen in der Tech-Welt | (c) martin pacher / brutkasten

Welche Auswirkungen wird dies auf die Arbeitswelt haben. Werden Call-Center-Mitarbeiter:innen in Zukunft überflüssig werden?

Ich glaube nicht, dass sie vollständig verschwinden werden. Es wird immer Anwendungsfälle geben, in denen menschliche Interaktion unverzichtbar ist. Unser Fokus liegt darauf, dem Kunden bei der Interaktion zwischen KI und Menschen das bestmögliche Erlebnis zu bieten. Die Technologie ermöglicht den Mitarbeitern, sich auf die wirklich wesentlichen Aufgaben zu konzentrieren, anstatt sich mit administrativen Aufgaben rumschlagen zu müssen. 

Im Zuge der Dreamforce-Konferenz wurde viel von Trustworthy AI gesprochen. Wie wird ein sicherer Umgang mit Daten sichergestellt? 

Wir haben 1999 begonnen und waren der erste echte öffentliche Cloud-Anbieter. Salesforce hat die SaaS-Lösungen quasi erfunden. Vor uns gab es das noch nicht. Doch schon damals, und auch noch vor fünf bis zehn Jahren, herrschte oft eine gewisse Skepsis gegenüber Cloud-Anwendungen. Es gab Ängste, die Kontrolle über die eigenen Daten an andere Anbieter abzugeben. Von Anfang an sind wir dieser Herausforderung damit begegnet, Vertrauen als Grundwert in Salesforce und in der Interaktion mit unseren Kunden zu etablieren.

Dasselbe Prinzip gilt heute im Bereich der KI. Wir beschäftigen uns seit über zehn Jahren mit KI, und all unsere Entwicklungen basieren auf diesem Vertrauensgrundsatz. In der KI sprechen wir von dem sogenannten Trust-Layer. Dieser stellt sicher, dass die Daten, die in der KI verarbeitet werden, nicht unbefugt genutzt werden. Personenbezogene Daten werden verschlüsselt, bevor sie überhaupt in das Large Language Model (LLM) gelangen. 

David Hable auf der Dreamforce | (c) martin pacehr | brutkasten

Durch diese Sicherheitsmaßnahmen können unsere Kunden sicher sein, dass sie vertrauensvoll mit unserer KI arbeiten und dennoch ihre unternehmensspezifischen Daten nutzen können. Denn ohne diese Daten funktioniert es nicht. Ein LLM allein, das nur allgemeine Informationen aus Quellen wie Wikipedia enthält, reicht nicht aus, um wertvolle Kundeninteraktionen zu ermöglichen. Die KI muss die relevanten Kundendaten kennen, um sinnvolle und wertvolle Interaktionen mit Kunden führen zu können.

Marc Benioff hat bereits im Vorfeld der Dreamforce von einem “Hard Pivot” gesprochen, den Salesforce mit dem Schritt zu Agents macht. Wie wirkt sich dieser Kurswechsel auf Salesforce aus?

Ich sehe darin eine klare Weiterentwicklung, nicht unbedingt als Kurswechsel. Wenn man sich die Keynotes von Marc vor einem Jahr ansehen, war dieser Weg bereits erkennbar – es stand schon auf den Folien. Zunächst haben wir mit prädiktiver KI begonnen, dann sind wir zur generativen KI übergegangen, und der nächste Schritt war schon damals die autonome KI. Jetzt befinden wir uns genau an diesem Punkt.

Wie hebt sich Salesforce von Mitbewerbern wie Microsoft ab?

Wenn man sinnvoll mit KI arbeiten möchte, braucht man kontinuierliche Unternehmensinformationen und Prozesse. Genau das können wir mit unserer Plattform sicherstellen. Unsere Plattform ermöglicht den Zugang zu Informationen aus Bereichen wie Sales, Service, Marketing, Handel und vielen weiteren. Dadurch sind wir in der Lage, diese Prozesse effizient zu steuern und optimal auszubalancieren. Das ist es, was uns vom Wettbewerb unterscheidet – wir sind die Einzigen, die diese umfassende Integration von Informationen und Prozessen so bieten können. 

Wie sieht das Pricing des neuen Agentforce-Modells aus? 

Die Preisgestaltung erfolgt grundsätzlich verbrauchsabhängig, also abhängig davon, wie viel man konsumiert. Ein Gespräch mit einem Agenten wird ab zwei US-Dollar kosten.

Wie sieht es mit der Verfügbarkeit von Agentforce in Österreich aus?

Agentforce wird ab Oktober global ausgerollt – darunter auch in Österreich. Zudem werden wir die Technologie auch bei unserem Innovation Day am 12. November in Wien vorstellen. Dort kann man selbst ausprobieren, wie einfach es ist, einen Agenten zu bauen. Man muss dafür kein Programmier oder Techniker sein.


*Disclaimer: Die Reisekosten wurden von Salesforce übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Dieser Artikel über das Phänomen des ChatGPT-Bots, der in einen eigenartigen “word vomit”-Modus gerät, hat möglicherweise keine direkte Relevanz für Sie als Politiker:in. Es handelt sich um ein Experiment eines Reddit-Users, um die Grenzen der Künstlichen Intelligenz auszuloten. Es zeigt jedoch, dass die Funktionsweise von KI-Systemen und deren Trainingsdaten noch nicht perfekt ist und zu unvorhersehbaren Ergebnissen führen kann. Als Politiker:in könnten Sie jedoch generell Interesse an der Entwicklung und den Herausforderungen von Künstlicher Intelligenz haben, da sie zunehmend Einfluss auf verschiedene Bereiche der Gesellschaft hat.

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Nach Aufgabenstellung: ChatGPT zerbricht und springt in “word vomit”-Modus