03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
03.11.2026

Team selbst beteiligt: Tumbleweed holt 6,9 Millionen Euro für Forschung im Orbit

Das Wiener Startup Tumbleweed sichert sich 6,9 Mio. Euro Seed-Kapital. Neben Lead-Investor PactVC beteiligte sich auch das eigene Team mit rund 300.000 Euro an der Runde.
/artikel/team-selbst-beteiligt-tumbleweed-holt-69-millionen-euro-fuer-forschung-im-orbit
03.11.2026

Team selbst beteiligt: Tumbleweed holt 6,9 Millionen Euro für Forschung im Orbit

Das Wiener Startup Tumbleweed sichert sich 6,9 Mio. Euro Seed-Kapital. Neben Lead-Investor PactVC beteiligte sich auch das eigene Team mit rund 300.000 Euro an der Runde.
/artikel/team-selbst-beteiligt-tumbleweed-holt-69-millionen-euro-fuer-forschung-im-orbit
Das Tumbleweed-Team © Tumbleweed

Vier Monate nachdem Tumbleweed mit „Oasis Alpha“ Österreichs ersten kommerziellen Satelliten an Bord einer SpaceX-Rakete ins All geschickt hat, vermeldet das Wiener Jungunternehmen frisches Kapital. In einer 6,9 Millionen Euro schweren Seed-Runde investieren Lead-Investor PactVC, Vanagon Ventures, Prototype Capital, EWOR sowie internationale Business Angels.

Rund 300.000 Euro aus eigenen Reihen

Auffällig ist das finanzielle Engagement der eigenen Belegschaft: Mehr als ein Drittel der 25 Mitarbeitenden steuerte insgesamt rund 300.000 Euro aus eigener Tasche bei. Der Impuls dazu kam aus dem Team selbst. „Als Founder ist das natürlich mehr, als ich mir je erträumt hätte“, sagt Co-Gründer und CEO Julian Rothenbuchner gegenüber brutkasten.

Auf Investorenseite ging die Beteiligung von EWOR auf eine persönliche Empfehlung zurück, wie Rothenbuchner erzählt: Ein befreundeter Investor war unmittelbar eingestiegen und vermittelte den Kontakt zu EWOR-CEO Daniel Dippold. „Tumbleweed hat Österreichs ersten kommerziellen Satelliten schneller in den Orbit gebracht, als die Zertifizierung eines einzigen Experiments normalerweise dauert. Julian hat genau das geliefert, was er uns beim ersten Treffen angekündigt hat — nur schneller“, so Dippold. „Jetzt kann jedes Labor und jeder Hersteller den Weltraum nutzen, ohne selbst zu einem Raumfahrtunternehmen zu werden.“

Von Mars-Plänen zur orbitalen Forschungsplattform

Einer der Tumbleweed-„Pods“ © Tumbleweed

Das ursprünglich mit dem Konzept eines windgetriebenen Marsrovers gestartete Unternehmen konzentriert sich heute auf standardisierte Experimente in der Mikrogravitation. Weil Zertifizierungen für die Internationale Raumstation ISS laut Tumbleweed oft Jahre beanspruchen, entwickelte das Startup vorzertifizierte Nutzlastbehälter („Pods“), die ab 15.000 Euro buchbar sind.

F&E-Teams aus Pharma, Biotech und Materialwissenschaften sollen so Strom- und Datenanbindung im Orbit, ohne eine eigene Satelliteninfrastruktur aufbauen zu müssen, erhalten. Dass dieses Setup im Markt greift, zeigte das Team im Sommer: Die Hardware für Oasis Alpha entstand in unter neun Monaten und flog mit vier zahlenden Kund:innen.

Drei Missionen für 2027 und Kapsel-Rückkehr ab 2028

Vorbereitungen für Oasis Alpha © Tumbleweed

Mit dem frischen Kapital will das 25-köpfige Team mit Standorten in Wien und den Niederlanden drei orbitale Missionen im Jahr 2027 für mehr als zehn Kund:innen finanzieren. Für die Raketenstarts verhandelt Tumbleweed weltweit, setzt künftig jedoch verstärkt auf europäische Partner:innen, heißt es von Seiten des Unternehmens.

„Diese Finanzierung erlaubt es uns, das zu skalieren, was wir mit unserer ersten Mission Oasis Alpha bewiesen haben: dass Mikrogravitation eine breit verfügbare industrielle Ressource sein kann. Wir freuen uns sehr darauf, diese Möglichkeit nun noch mehr Kunden zu eröffnen und letztendlich eine Zukunft zu bauen, in der Mikrogravitation genutzt wird für zehnmal bessere Krebstherapien, zehnmal bessere Halbleiter und eine zehnmal schnellere Pharmaentwicklung“, erklärt Rothenbuchner.

Parallel treibt das Startup die Folgeplattform „Oasis Beta“ voran. Die Vorbereitungen laufen, erste Kundengelder liegen laut CEO Rothenbuchner bereits auf dem Konto. Ab 2028 sollen Experimente zudem physisch zur Erde zurückgebracht werden. Dafür entwickelt das Team seit mehreren Monaten eine Kapsel, die sich im Orbit vom Satelliten trennen und mit einem Fallschirm landen soll.

So soll der Oasis Beta Satellit aussehen © Tumbleweed
Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt