03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
02.06.2026

Paketabgabe: „Wir brauchen weniger Symbolpolitik und mehr intelligente Steuerung“

Die von der Bundesregierung geplante Paketabgabe trifft bei heimischen Startups und Scaleups auf breite Ablehnung. Kritisiert wird dabei nicht das Ziel, sondern die Umsetzung. Wir haben uns umgehört.
/artikel/paketabgabe-wir-brauchen-weniger-symbolpolitik-und-mehr-intelligente-steuerung
02.06.2026

Paketabgabe: „Wir brauchen weniger Symbolpolitik und mehr intelligente Steuerung“

Die von der Bundesregierung geplante Paketabgabe trifft bei heimischen Startups und Scaleups auf breite Ablehnung. Kritisiert wird dabei nicht das Ziel, sondern die Umsetzung. Wir haben uns umgehört.
/artikel/paketabgabe-wir-brauchen-weniger-symbolpolitik-und-mehr-intelligente-steuerung
Wir sprachen zur Paketabgabe mit (vl.) Johannes Braith, Petra Dobrocka und Georg Weiss | (c) brutkasten / byrd / quivo / Hintergrund / (c) RoseBox via Unsplash
Wir sprachen zur Paketabgabe mit (vl.) Johannes Braith, Petra Dobrocka und Georg Weiss | (c) brutkasten / byrd / quivo / Hintergrund / (c) RoseBox via Unsplash

Bereits seit der Veröffentlichung des Ministerialentwurfs zu einer neuen Paketsteuer im Mai trifft diese in der öffentlichen Diskussion auf Kritik. Vorgesehen ist eine Abgabe von zwei Euro pro zugestelltem Paket, die ab dem 1. Oktober 2026 von großen Online-Handelsplattformen mit einem Jahresumsatz ab 100 Millionen Euro eingehoben werden soll. Nachdem das vorparlamentarische Begutachtungsverfahren zum Gesetzesentwurf am 26. Mai 2026 offiziell geendet hat, geht die Vorlage im nächsten Schritt in die Debatte und finale Abstimmung im Nationalrat.

Mit den prognostizierten Einnahmen von jährlich rund 280 Millionen Euro will die Bundesregierung die geplante Mehrwertsteuersenkung auf Grundnahrungsmittel teilweise gegenfinanzieren. Zudem wolle man den lokalen stationären Handel gegenüber den internationalen E-Commerce-Riesen stärken, so die Argumentation. Und auch der Umweltschutzaspekt wird seitens der Regierung ins Treffen geführt. Diese Begründung lassen viele Kritiker:innen aber nicht gelten.

Dobrocka: „wird nur das Angebot verringern und die Kosten für österreichische Kunden in die Höhe treiben“

Auch unter Gründer:innen heimischer Startups und Scaleups im Logistik-Bereich, die für brutkasten erreichbar waren, herrscht breite Ablehnung gegenüber der Paketabgabe. Dabei ist es nicht die Zielsetzung, die kritisiert wird. „Grundsätzlich finde ich es begrüßenswert über Maßnahmen zu diskutieren, die den österreichischen Markt vor einer Flut an ausländischen Sendungen schützen und österreichische Unternehmer stärken. Aber diese Maßnahme tut das nicht“, meint etwa Petra Dobrocka, Co-Founderin und CCO des Wiener Logistik-Scaleups byrd. „Selbst wenn ein heimischer Händler die Ware in Österreich verpackt und mit der österreichischen Post an einen österreichischen Kunden schickt: Sobald der Verkauf über einen Marktplatz wie Amazon läuft, greift die Steuer.“ Die Maßnahme werde letztlich „nur das Angebot verringern und die Kosten für österreichische Kunden in die Höhe treiben.“

Braith: „Emissionsärmere Zustellformen gezielt begünstigen“

Ähnlich argumentiert auch Storebox-Co-Founder und CEO Johannes Braith. Er führt zusätzlich eine ökologische Perspektive ins Treffen. „Wir brauchen aus meiner Sicht weniger Symbolpolitik und mehr intelligente Steuerung. Wenn Politik Lenkungswirkung ernst meint, dann sollte sie emissionsärmere Zustellformen gezielt begünstigen und nicht pauschal jede Form des Versandhandels verteuern“, so der Gründer. Das Gesetz unterscheide nämlich zu wenig zwischen emissionsintensiven und emissionsarmen Zustellmodellen. Klassische Haustürzustellung sei ineffizient und verursache Retourenverkehr und Parkdruck, meint Braith und führt Click-&-Collect-Modelle mit gebündelter Anlieferung ins Treffen, wie sie auch sein Unternehmen umsetzt.

Weiß: EU-Regelung statt „Alleingang“

Georg Weiß, Co-Founder und CEO des Wiener Logistik-Scaleups Quivo, würde in dem Zusammenhang lieber eine europäische Lösung sehen. „Auf EU-Ebene gibt es ja auch Vorschläge, etwa Zölle für Kleinpakete unter 150 Euro einzuführen, um den europäischen Markt vor Billigprodukten zu schützen. Das halte ich für die sinnvollere Maßnahme, als aus Österreich heraus einen Alleingang zu machen und eine Zwei-Euro-Paketgebühr einzuführen“, so der Gründer gegenüber brutkasten.

AustrianStartups: Nachteile für Startups und Scaleups befürchtet

Kritik an der Paketsteuer kommt auch von AustrianStartups. „Wer Österreich als Innovationsstandort stärken will, kann nicht gleichzeitig die Vertriebskanäle innovativer Unternehmen im E-Commerce belasten. In der aktuellen Form würde der Entwurf vor allem Startups, Scaleups und KMUs treffen, die über Plattformen verkaufen oder aus Österreich versenden“, meint man dort. Auch befürchtet man potenzielle Probleme für Scaleups in der Branche, weil ein gleitender Übergang bei der Umsatzschwelle fehle: „Für Scaleups, die gerade die 100-Millionen-Euro-Grenze überschreiten, bedeutet das einen abrupten Kostenschock in genau der Phase, in der sie skalieren wollen.“

Kaminski: „Das ist das Gegenteil von dem, was erreicht werden soll“

Zudem hebt AustrianStartups eine besondere Problematik im Secondhand- und Refurbishment-Bereich hervor und zitiert dazu refurbed-Co-Founder Kilian Kaminski: „Bei einem refurbishten iPhone beispielsweise ist der Produktpreis zwar relativ hoch, aber die Marge für Refurbisher ist sehr gering. So eine Abgabe kann nicht einfach weitergegeben werden. Das Resultat: Preise im Reuse-Bereich steigen, neue Billigwaren nicht. Das ist das Gegenteil von dem, was erreicht werden soll. Falls die Abgabe kommt, braucht es zwingend eine Ausnahmeregelung für Secondhand und Refurbished.“

AustrianStartups forderte daher bereits im Mai „eine Rücknahme des Entwurfs in seiner aktuellen Form“. Sollte dies nicht passieren jedenfalls aber eine „Prüfung eines EU-weiten Rahmens statt eines österreichischen Alleingangs“ und eine Ausnahmeregelung für Secondhand, Refurbished und Reuse.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt