03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
03.06.2026

fixed: Erste Doku von refurbed zeigt die Vielschichtigkeit von E-Waste

Im April 2026 machte sich refurbed Co-Founder Kilian Kaminski mit einem Team auf, um den Umgang mit E-Waste in Ghana in einer Dokumentation festzuhalten. Der bislang erste Film des Wiener Scaleups hinterfragt außerdem Europas Verständnis von globalem Elektroschrott. Gestern präsentierte Kaminski die Dokumentation in den Breitenseer Lichtspielen, wo brutkasten vor Ort war.
/artikel/fixed-erste-doku-von-refurbed-zeigt-die-vielschichtigkeit-von-e-waste
03.06.2026

fixed: Erste Doku von refurbed zeigt die Vielschichtigkeit von E-Waste

Im April 2026 machte sich refurbed Co-Founder Kilian Kaminski mit einem Team auf, um den Umgang mit E-Waste in Ghana in einer Dokumentation festzuhalten. Der bislang erste Film des Wiener Scaleups hinterfragt außerdem Europas Verständnis von globalem Elektroschrott. Gestern präsentierte Kaminski die Dokumentation in den Breitenseer Lichtspielen, wo brutkasten vor Ort war.
/artikel/fixed-erste-doku-von-refurbed-zeigt-die-vielschichtigkeit-von-e-waste
Ein Mann in Accra sitzt in einer Garage und repariert einen alten Computer (c) refurbed
Schrotthändler Fuseini Yakubu arbeitet im informellen Sektor von Accra. (c) refurbed

Ein Blick auf Ghanas Hauptstadt Accra. Im sogenannten „informellen Sektor“ der E-Waste-Verarbeitung liegt Agbogbloshie, eine der größten Elektromüllhalden der Welt. Hier werden Berge an Elektroteilen gesammelt, sortiert, repariert und weiterverarbeitet. Das ist die Einstiegszene der neuen refurbed-Doku „fixed“.

Brennende Müllberge im globalen Süden sind Bilder, die uns in Europa bekannt sind und unser Narrativ über Elektroschrott prägen. Während kaputte Geräte in Europa sehr schnell als Müll betrachtet werden, was die Wegwerfgesellschaft ankurbelt, hat sich in Ghana durch den E-Müll eine formelle wie auch informelle Reparatur- und Recyclingwirtschaft entwickelt.

Um die unterschiedliche Wahrnehmung von E-Waste aufzuzeigen, hat ein Team rund um refurbed-Co-Founder Kilian Kaminski im April die erste eigene Doku „fixed – Accras Antwort auf Europas Elektroschrott“ vor Ort in Ghana gedreht.

Elektroschrott als Krise, aber auch als Ressource

„In den letzten Jahren drehten sich Gespräche rund um Nachhaltigkeit oft um CO2-Emissionen, und das ist auch wichtig. Aber im Hintergrund brodelt eine weitere Krise, die ständig wächst: der Elektroschrott. Dazu gehören Berge von ausrangiertem Elektroschrott, giftige Umgebungen und Gemeinschaften, die für Konsumgewohnheiten bezahlen müssen, die sie selbst gar nicht verursacht haben“, hält Kaminski in seinen Begrüßungsworten bei der Präsentation der Dokumentation fest.

Gleichzeitig hat der E-Schrott eine innovative Reparaturkultur in Ghana entwickelt. Dr. Michael Osei Asibey, Experte für Umweltpolitik an der ghanaischen KNUST-Universität, forscht seit Jahren intensiv zum Recyclingsektor und plädiert im Film für ein radikales Umdenken. Seine prägnante Formel „Waste is a resource in the wrong place“ (Abfall ist eine Ressource am falschen Ort) bringt das Kernanliegen der Dokumentation auf den Punkt: Elektronik darf kein kurzlebiges Wegwerfprodukt sein. Vielmehr müssen wir ausgediente Geräte als wertvolle Materiallager begreifen, die dauerhaft in einem Kreislaufsystem gehalten werden.

Co-Founder von refurbed Kilian Kaminski (r.) bei den Dreharbeiten in Ghana. (c) refurbed

Vielschichtige Blockaden der Kreislaufwirtschaft

Politische, wirtschaftliche, aber auch gesellschaftliche Blockaden verhindern in Europa die Umsetzung von flächendeckenden Kreislaufwirtschaften. Kaminski sieht Blockaden in der Politik vor allem darin, dass der Fokus meist auf kurzfristigen Themen liegt. „Man konnte das gut im März 2020 beobachten, als Covid kam. Plötzlich waren Nachhaltigkeit und die Kreislaufwirtschaft nicht mehr die wichtigen Themen. Das Thema Nachhaltigkeit wird immer als ein Zukunftsproblem behandelt, obwohl es eigentlich ein aktuelles Problem ist, weil wir jetzt dagegen vorgehen müssen“, so der Co-Founder von refurbed.

Unternehmen seien gefragt, auf langlebige Produkte zu setzen. Die Praxis der künstlichen Obsoleszenz – also das bewusste Kaputtgehen von Geräten für schnellere Upgrades – sollte nicht weiter gefördert werden.

„Und als Privatpersonen sollten wir wirklich überdenken: Was und wie konsumieren wir? Behalten wir vielleicht ein Produkt länger? Geben wir alte Produkte weiter? Also einfach ein Verständnis zu entwickeln, dass der Wert des Gerätes viel höher ist, als wir eigentlich denken. Es geht nicht nur um den finanziellen Wert. Die Rohstoffe, die in den Produkten sind, haben einen sehr langen Lebenszyklus und kommen oftmals aus der gesamten Welt zurück zu einem Ort.“

Durch die Dokumentation soll ein differenzierteres Bild von E-Waste geschaffen werden. (c) refurbed

Kreislaufwirtschaft als Thema für Startups

Im Thema Kreislaufwirtschaft stecke für Startups und Jungunternehmen laut Kaminski gerade sehr viel Potenzial. Es sei nur eine Frage der Zeit, wann die Wirtschaft den Fokus auf diese Themen lege. „Wir stehen mit der Kreislaufwirtschaft ganz am Anfang. Und ich glaube, jetzt kann man vor allem die großen Unternehmen speziell mit Geschäftsmodellen, die die Kreislaufwirtschaft im Herzen haben, viel mehr challengen, als mit Geschäftsmodellen, die einfach dasselbe machen, wie es seit 100 Jahren gemacht wurde. Und das beinhaltet ja am Ende des Tages ganz viele Nachhaltigkeitsthemen, egal ob es Energie oder Rohstoffe sind.“

Auf die Frage, welches Problem Kaminski heute als Startup lösen würde, antwortet er: „Ich würde nach wie vor den E-Waste bekämpfen.“

Über refurbed

Ziel des 2017 von Peter Windischhofer, Kilian Kaminski und Jürgen Riedl in Wien gegründeten Unternehmens refurbed ist es, den Konsum in ganz Europa dauerhaft zu verändern. Mittlerweile ist das Scaleup in 24 europäischen Ländern aktiv und zählt zu den führenden Online-Marktplätzen für generalüberholte Produkte.

Die ganze Dokumentation von refurbed wurde gestern auf YouTube veröffentlicht und vorab präsentiert.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt