03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
19.08.2026

Oceanloop: Bis zu 38,5 Mio. Euro Kapital für Münchner Scaleup

Das auf landbasierte Aquakultur spezialisierte Fischzucht-Scaleup holt sich ein Millioneninvestment und einen 32-Millionen-Euro-Kreditrahmen der Europäischen Investitionsbank (EIB).
/artikel/oceanloop-bis-zu-385-mio-euro-kapital-fuer-muenchner-scaleup
19.08.2026

Oceanloop: Bis zu 38,5 Mio. Euro Kapital für Münchner Scaleup

Das auf landbasierte Aquakultur spezialisierte Fischzucht-Scaleup holt sich ein Millioneninvestment und einen 32-Millionen-Euro-Kreditrahmen der Europäischen Investitionsbank (EIB).
/artikel/oceanloop-bis-zu-385-mio-euro-kapital-fuer-muenchner-scaleup
Die Oceanloop-Gründer Fabian Riedel und Bert Wecker | (c) Oceanloop
Die Oceanloop-Gründer Fabian Riedel und Bert Wecker | (c) Oceanloop

„Diese Finanzierung markiert den Beginn der industriellen Skalierung von Oceanloop“, erklärt Fabian Riedel, Gründer und CEO des Aquakultur-Scaleups mit Sitz in München. Das 2023 durch eine Fusion entstandene Unternehmen kommunizierte nun eine große Finanzierungsrunde: Das Unternehmen hat sich Zusagen über bis zu 38,5 Millionen Euro gesichert, um die erste kommerzielle Riesenzackenbarsch-Zucht in Europa aufzubauen und seine softwaregesteuerte Kreislauftechnologie (Recirculating Aquaculture Systems, RAS) zu skalieren.

Millioneninvestment und riesiger EIB-Kreditrahmen

Die aktuelle Finanzierung besteht aus einem Investment und einer Kreditzusage. Angeführt wird die Eigenkapitalrunde von der Investmentfirma Hatch Blue und deren „Blue Revolution Fund“. Als strategischer Partner beteiligt sich zudem Stolt Ventures. Deren Muttergesellschaft Stolt-Nielsen bringt über 50 Jahre Erfahrung im Bereich der landgestützten Plattfischzucht in die Partnerschaft ein. Den maßgeblich größeren Anteil der Finanzierung stellt allerdings die Europäische Investitionsbank (EIB) im Rahmen einer Venture-Debt-Fazilität, also eines Kreditrahmens, über 32 Millionen Euro bereit. Dieser bereits 2024 vereinbarte Kredit wurde im Juli 2026 erweitert, um speziell die Zucht von Riesenzackenbarschen abzudecken. Abgesichert wird das Darlehen durch das InvestEU-Programm der Europäischen Union.

Zackenbarsch im Fokus, Garnelen in Planung

Der Fokus des Jungunternehmens liegt auf dem Riesenzackenbarsch, der vor allem in asiatischen Premium-Märkten für sein festes Fleisch und seine kulinarische Vielseitigkeit geschätzt wird. Mit der lokalen Produktion in Europa wolle man eine neue Premium-Kategorie für die Gastronomie etablieren und gleichzeitig eine nachhaltigere Alternative zu weit gereisten Importen bieten, heißt es vonseiten des Unternehmens in einer Aussendung. Da die verwendete Technologie modular aufgebaut und softwaregesteuert ist, bleibt sie hochgradig flexibel. Oceanloop forscht parallel an der landgestützten Garnelenzucht und führt bereits Lizenzgespräche für internationale Partnerschaften.

Zwischen Schleswig-Holstein und Gran Canaria

Die Skalierung erfolgt in zwei Schritten: Am bestehenden Entwicklungsstandort im schleswig-holsteinischen Strande bei Kiel läuft der kommerzielle Vertrieb über das Schwesterunternehmen Honest Catch bereits seit April 2026. Für das laufende Jahr wird mit einer Ernte von rund 20 Tonnen gerechnet, die im kommenden Jahr auf 40 Tonnen anwachsen soll. Noch vor Ende 2026 soll am Standort der Bau einer neuen Anlage mit einer Jahreskapazität von 250 Tonnen beginnen, die zugleich als Referenz- und Schulungszentrum dient. Ab 2029 ist schließlich der Bau einer industriellen Großanlage mit einer Kapazität von 2.000 Tonnen auf Gran Canaria geplant, wo eine Tochtergesellschaft das Vorhaben bereits vorbereitet.

„Erhebliches Interesse von Partnern“

„Landgestützte Aquakultur kann zu einer wichtigen zusätzlichen Säule der europäischen Fischversorgung werden“, betont CEO Riedel mit Blick auf die EIB-Finanzierung. Diese erlaube es dem Unternehmen, mit einer langfristigen Perspektive in Technologie und Biokapazitäten zu investieren, was durch rein klassisches Startup-Kapital nur schwer darstellbar sei. Georg Baunach, Gründer und CEO von Hatch Blue, attestiert dem Scaleup eine starke Marktstrategie sowie ein Team, „das technisches Fachwissen, biologisches Verständnis und geschäftliches Geschick vereint“. Auch CTO Bert Wecker sieht den Horizont weit über Europa hinausreichen: Die breitere Plattform sei für eine internationale Replikation konzipiert. „Wir sehen erhebliches Interesse von Partnern, die erstklassige Meeresfrüchte näher am Konsumort produzieren möchten, ohne die erforderliche Biologie, Technik, Software und betriebliche Expertise von Grund auf neu entwickeln zu müssen“, so Wecker.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt