03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
17.08.2026

Kalifornien nimmt Fuß von der Bremse: Robo-Trucks erobern jetzt auch das Silicon Valley

Während autonome Busse in Österreich frühestens 2028 Realität werden hat Kalifornien das Verbot für autonome Lkw ab 10.001 Pfund auf öffentlichen Straßen aufgehoben. Eine Debatte über Jobs, Investitionen und die Kontrolle über die amerikanische Logistik.
/artikel/kalifornien-nimmt-fuss-von-der-bremse-robo-trucks-erobern-jetzt-auch-das-silicon-valley
17.08.2026

Kalifornien nimmt Fuß von der Bremse: Robo-Trucks erobern jetzt auch das Silicon Valley

Während autonome Busse in Österreich frühestens 2028 Realität werden hat Kalifornien das Verbot für autonome Lkw ab 10.001 Pfund auf öffentlichen Straßen aufgehoben. Eine Debatte über Jobs, Investitionen und die Kontrolle über die amerikanische Logistik.
/artikel/kalifornien-nimmt-fuss-von-der-bremse-robo-trucks-erobern-jetzt-auch-das-silicon-valley
© Tom Jackson via Pexels

Erst vor wenigen Tagen berichtete brutkasten, dass die ÖBB Postbus beim Forum Alpbach einen autonomen Bus testen wird. Der Regelbetrieb mit bis zu 100 fahrerlosen Fahrzeugen ist hierzulande frühestens ab 2028 geplant. Was in Österreich also noch Zukunftsmusik ist, wird in Kalifornien gerade in einer ganz anderen Dimension Realität: Schwere autonome Lkw dürfen dort ab sofort auf öffentlichen Highways getestet werden.

Ein Heimspiel mit Verspätung

Die Situation hatte bislang etwas Paradoxes: Auf autonomes Fahren spezialisierte Firmen wie Aurora und Kodiak entwickeln ihre Technologie direkt im Silicon Valley, durften ihre schweren Trucks aber lange nicht auf kalifornischen Straßen erproben. Aurora wurde 2017 von drei Veteranen der Selbstfahr-Branche gegründet, unter anderem ehemals bei Tesla und beim Google-Ableger Waymo. Kodiak wiederum hat sich auf autonome Sattelschlepper spezialisiert.

Fahrzeuge ab 10.001 Pfund Gesamtmasse waren vom Testbetrieb ausgeschlossen. Mit neuen Regeln, die am 28. April beschlossen wurden, ist damit Schluss. Kodiak hat rund um seinen Firmensitz in Mountain View, mitten im Silicon Valley, bereits erste Fahrzeuge auf die Straße geschickt.

Von führerlosen Trucks kann trotzdem noch keine Rede sein. Die Genehmigungen gelten vorerst nur für Tests mit Sicherheitsfahrer:in am Steuer. Kalifornien will das Ganze stufenweise angehen: Auf begleitete Tests soll die fahrerlose Erprobung folgen, ein kommerzieller Einsatz ist frühestens danach denkbar.

Texas war schneller

Dass Aurora und Kodiak überhaupt schon so weit sind, liegt an Texas. Dort waren die regulatorischen Auflagen für autonomes Fahren von Anfang an niedriger, weshalb beide Unternehmen ihr operatives Geschäft zunächst dort entwickelten.

Aurora fährt seit 2025 kommerziell und fahrerlos zwischen mehreren texanischen Städten, Kodiak startete im wenig befahrenen Permian Basin und ist mittlerweile ebenfalls auf öffentlichen Highways unterwegs. Die kalifornische Zulassung erlaubt es nun vor allem Kodiak, seine Systeme erstmals auch im eigenen Heimmarkt unter anderen Verkehrsbedingungen weiterzuentwickeln.

Gewerkschaft sieht Jobs in Gefahr

Weniger Begeisterung für die neuen Regeln gibt es bei den Lkw-Fahrer:innen selbst. Die Gewerkschaft Teamsters California hat das für die Zulassung zuständige DMV (Department of Motor Vehicles) verklagt und will die Zulassung wieder kippen. Ihr Vorwurf: Die Behörde habe mögliche Sicherheitsrisiken für andere Verkehrsteilnehmer:innen nicht ausreichend untersucht.

Die Unternehmen argumentieren umgekehrt mit mehr Effizienz und langfristig höherer Sicherheit. Am Ende steht die Frage, wer die amerikanische Logistik von morgen kontrolliert und was das für Fahrerjobs und die Milliarden bedeutet, die bereits in die Technologie geflossen sind.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt