03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
27.07.2026

Venture Sentiment Index: Gute Zahlen, verhaltene Stimmung

Der European Venture Sentiment Index von Venionaire für das 2. Quartal 2026 zeigt wieder einmal: Es ist anders gekommen, als erwartet. Dabei passen die harten Zahlen aktuell nicht unbedingt mit der Stimmung zusammen.
/artikel/venture-sentiment-index-gute-zahlen-verhaltene-stimmung
27.07.2026

Venture Sentiment Index: Gute Zahlen, verhaltene Stimmung

Der European Venture Sentiment Index von Venionaire für das 2. Quartal 2026 zeigt wieder einmal: Es ist anders gekommen, als erwartet. Dabei passen die harten Zahlen aktuell nicht unbedingt mit der Stimmung zusammen.
/artikel/venture-sentiment-index-gute-zahlen-verhaltene-stimmung
Der European Venture Sentiment Index deutet eine positive Entwicklung für das nächste Quartal an (c) Adobe Stock
(c) Adobe Stock

„Für das zweite Quartal könnten die Vorzeichen kaum schlechter stehen“, zitierte brutkasten Venionaire im April zur Veröffentlichung des European Venture Sentiment Index für das erste Quartal. Doch – wie so oft – kam es dann doch anders. Die im ersten Quartal durch den Angriff der USA auf den Iran hervorgerufene Krise schlug sich nämlich – anders als etwa die Krise nach Beginn des Ukraine-Kriegs – nicht auf die Risikokapital-Volumina nieder.

Die Zahlen sahen laut Venionaire-Analyse im zweiten Quartal nämlich gut aus: Die Gesamtinvestitionen am europäischen Risikokapitalmarkt nahmen weiter zu und erreichten mit 29 Milliarden US-Dollar einen neuen Rekord. Weiters konnte auch die reine Deal-Anzahl um rund fünf Prozent auf 965 Deals gesteigert werden.

(c) Venionaire Capital

Knapp negativer Indexwert – abermals pessimistischer Ausblick

Dennoch sind die für den quartalsweisen Index befragten Investor:innen nicht in Jubelstimmung. Der Indexwert liegt mit 4,8 knapp unter der neutralen Marke 5. Er ist damit besser als der Wert im Vorquartal und besser als der für das Quartal erwartete Wert (siehe Grafik), aber immer noch nicht positiv. Auch die Erwartung für das kommende Quartal ist mit 4,4 wieder schlechter. „Die Zahlen zeichnen ein positiveres Bild als die Stimmung. Investor:innen sind weiterhin zurückhaltend und warten mit Investments“, analysiert Berthold Baurek-Karlic, Gründer und Vorstandsvorsitzender der Venionaire Capital AG.

(c) Venionaire Capital

Man erkenne eine leichte Stabilisierung, so Baurek-Karlic weiter zum Index-Wert. „Zwar erwarten Investor:innen mehr Aktivität und Wettbewerb im dritten Quartal, doch die großen Sorgen rund um geopolitische Spannungen und handelspolitische Unsicherheit sind aber weiterhin da.“ Es verwundere also nicht, dass der erwartete Index-Wert lediglich 4,4 betrage. Investor:innen würden kurzfristig ohne verlässlichen Ausblick auf die kommenden Quartale agieren, meinen die Analysten von Venionaire Capital.

DeepTech im Vorteil

Und langfristig könnte sich eine Veränderung der Investitionskriterien abzeichnen, erwarten die Analysten. Effizienz und Produktdifferenzierung würden zunehmend als Grundvoraussetzungen gelten. In den Mittelpunkt rücke stattdessen die Frage, ob ein Unternehmen über einen dauerhaft verteidigungsfähigen Wettbewerbsvorteil verfüge. „Investoren hinterfragen verstärkt, ob KI-basierte Produkte tief in Infrastruktur und Arbeitsabläufen verankert sind oder lediglich auf bestehenden Basismodellen aufsetzen. Geschäftsmodelle, deren Kernfunktion kurzfristig von einem großen KI-Anbieter in dessen Plattform integriert werden könnte, werden entsprechend kritischer bewertet“, so Baurek-Karlic.

Davon würden insbesondere Bereiche mit höheren technologischen und physischen Eintrittsbarrieren profitieren, darunter DeepTech, Biotechnologie, Hardware, Robotik und fortschrittliche Fertigung. „Vielleicht stehen wir vor einem goldenen Zeitalter der DeepTech-Unternehmen“, mutmaßt der Venionaire-Gründer.

Größte Runden und stärkste Länder

Diese Erwartungen würden sich in den Top-Investments des zweiten Quartals widerspiegeln: Mit Eurowind Energy (2,3 Mrd. US-Dollar, Energie- und Abfallwirtschaft), Isomorphic Laboratories (2,1 Mrd. US-Dollar, KI-Biotechnologie) und Stegra (1,6 Mrd. US-Dollar, erneuerbare Energien) seien die größten Finanzierungsrunden an Unternehmen gegangen, die nicht einfach vom Markt verdrängt werden können. Im europäischen Risikokapital-Länderranking führte einmal mehr das Vereinigte Königreich (12,3 Mrd. US-Dollar) überlegen vor Deutschland (3,6 Mrd. US-Dollar) und – überraschend dank Eurowind Energy – Dänemark (3 Mrd. US-Dollar).

(c) Venionaire Capital

Und wie geht es weiter? Baurek-Karlic analysiert: „Der Risikokapitalmarkt befindet sich momentan im Wandel. Investor:innen sind bereit, mehr Kapital zur Verfügung zu stellen, wollen dafür aber auch ein gewisses Maß an Sicherheit. Auch im dritten Quartal werden es etabliertere Unternehmen mit einem felsenfesten Geschäftsmodell leichter haben.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt