03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
17.06.2026

Länderbericht: Österreich verbessert sich im EU-Digitalranking

Österreich punktet u.a. bei mobilen Verwaltungsservices, digitalen Kompetenzen, KI-Nutzung, Quantentechnologie und eGovernment.
/artikel/laenderbericht-oesterreich-verbessert-sich-im-eu-digitalranking
17.06.2026

Länderbericht: Österreich verbessert sich im EU-Digitalranking

Österreich punktet u.a. bei mobilen Verwaltungsservices, digitalen Kompetenzen, KI-Nutzung, Quantentechnologie und eGovernment.
/artikel/laenderbericht-oesterreich-verbessert-sich-im-eu-digitalranking
Pröll, Länderbericht, Digital
© BKA/Regina Aigner - Digitalisierungsstaatssekretär Alexander Pröll.

Der kürzlich veröffentlichte 4. Länderbericht zur Digitalen Dekade der Europäischen Union zeigt Österreichs Fortschritte bei der digitalen Transformation. Besonders stark schneidet die Republik bei digitalen Verwaltungsservices ab: Im eGovernment Benchmark 2026 erreicht Österreich mit 85,5 Punkten Platz sechs unter den EU-Mitgliedstaaten und liegt damit über dem EU-Schnitt von 76,6 Punkten.

Ziel Top 3

Weitere Stärken zeigt der Bericht bei der mobilen Benutzerfreundlichkeit digitaler Services, den digitalen Grundkompetenzen, der Nutzung von Künstlicher Intelligenz durch Unternehmen sowie bei der Quantentechnologie.

„Wir nähern uns unserem Ziel, unter die Top 3 in der EU zu kommen. Der EU-Länderbericht zeigt klar: Österreichs digitale Transformation nimmt stetig an Tempo zu. Platz 6 im eGovernment Benchmark und Platz 1 bei der mobilen Benutzerfreundlichkeit digitaler Verwaltungsservices bestätigen den eingeschlagenen Weg. Unsere Anstrengungen rund um die ID Austria, digitale Kompetenzen und Public AI zeigen Wirkung. Das Motto lautet: digitale Verwaltung muss für Bürgerinnen und Bürger sowie Unternehmen einfacher, schneller und alltagstauglicher werden“, sagt Digitalisierungsstaatssekretär Alexander Pröll.

Verbesserung digitaler Grundkompetenzen

Österreich erreicht im europäischen Vergleich Platz 1 bei der Benutzerfreundlichkeit digitaler Verwaltungsleistungen auf Mobilgeräten – gemeinsam mit Luxemburg und Malta. Grundlage dafür sei ein starkes eID-Ökosystem. Die Weiterentwicklung und breitere Nutzung der ID Austria trügen dazu bei, digitale Amtswege einfacher und mobil besser nutzbar zu machen, heißt es.

Auch bei den digitalen Grundkompetenzen verbessert sich Österreich weiter und steigt von Platz 8 auf Platz 7 im europäischen Vergleich. 69,8 Prozent der Bevölkerung verfügen demnach über zumindest grundlegende digitale Fähigkeiten. Damit liegt Österreich über dem EU-Durchschnitt von 60,4 Prozent. Frauen liegen in Österreich mit 70,75 Prozent vor Männern mit 68,79 Prozent und damit entgegen dem EU-Trend.

KI-Nutzung steigt

Eine positive Entwicklung zeigt sich auch bei der Nutzung von Künstlicher Intelligenz durch Unternehmen. Zwischen 2023 und 2025 ist der Anteil der österreichischen Unternehmen, die KI einsetzen, von 10,79 Prozent auf 29,95 Prozent gestiegen. Österreich liegt damit im DESI 2026 (Anm.: Index für digitale Wirtschaft der EU) auf Platz 7 von 27 Mitgliedstaaten – der EU-Schnitt beträgt 19,95 Prozent. Bei Großunternehmen nutzen bereits 68,26 Prozent KI. Auch bei der erstmals erhobenen KI-Nutzung durch Bürgerinnen und Bürger liegt Österreich mit 39,42 Prozent über dem EU-Durchschnitt von 32,66 Prozent.

Der Bericht hebt auch Österreichs starke Position in der Quantentechnologie hervor. Österreich gilt insbesondere rund um Wien und Innsbruck als europäischer Vorreiter in der Quantenforschung. Die Initiative Quantum Austria wird mit 107 Millionen Euro aus der Recovery and Resilience Facility finanziert und stärke damit gezielt Forschung, Technologieentwicklung und Standortkompetenz.

Auch Aufholbedarf

Neben den Verbesserungen zeigt der Bericht gleichzeitig weiteren Aufholbedarf, insbesondere beim Ausbau der Glasfaserinfrastruktur, der Nutzung von Cloud- und Datenanalyse-Lösungen durch Unternehmen sowie der Digitalisierung kleiner und mittlerer Unternehmen.

„Der Bericht ist Rückenwind und Arbeitsauftrag zugleich. Österreich ist in vielen Bereichen stark unterwegs, aber wir dürfen uns darauf nicht ausruhen. Gerade bei Glasfaser, Cloud, Datenmanagement und KMU-Digitalisierung müssen wir schneller werden“, betont Pröll abschließend.


Hintergrund: Digitale Dekade der EU

Mit der Digitalen Dekade hat sich die Europäische Union ambitionierte Ziele bis 2030 gesetzt. Dazu zählt unter anderem der Ausbau digitaler Kompetenzen, moderne digitale Infrastrukturen, leistungsfähige digitale Verwaltungsservices, digitale Identitäten sowie die Stärkung der digitalen Transformation von Unternehmen. Der Länderbericht bewertet jährlich die Fortschritte der Mitgliedstaaten anhand definierter Ziele und Indikatoren.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt