03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
07.10.2026

RNAnalytics: Tullner TechBio-Startup erhält Investment von tecnet equity

Wie lassen sich die winzigen Transportvehikel für RNA-Medikamente schneller und verlässlicher untersuchen? Genau daran arbeitet das Tullner Startup RNAnalytics. Nun steigt tecnet equity bei dem von Viktoria Enkmann und Hannes-Oliver Burgstaller gegründeten Unternehmen ein.
/artikel/rnanalytics-tullner-techbio-startup-erhaelt-investment-von-tecnet-equity
07.10.2026

RNAnalytics: Tullner TechBio-Startup erhält Investment von tecnet equity

Wie lassen sich die winzigen Transportvehikel für RNA-Medikamente schneller und verlässlicher untersuchen? Genau daran arbeitet das Tullner Startup RNAnalytics. Nun steigt tecnet equity bei dem von Viktoria Enkmann und Hannes-Oliver Burgstaller gegründeten Unternehmen ein.
/artikel/rnanalytics-tullner-techbio-startup-erhaelt-investment-von-tecnet-equity
RNAnalytics, tecnet
© equity - (v.l.) Christian Laurer, Adriana González Palomo, Viktoria Enkmann, Hannes Burgstaller und Natalija Rajicic.

Mit einem SAFE (Simple Agreement for Future Equity) beteiligt sich tecnet equity am niederösterreichischen TechBio-Startup RNAnalytics. Das von Viktoria Enkmann und Hannes-Oliver Burgstaller gegründete Unternehmen ist im accent Makerspace in Tulln angesiedelt und entwickelt dort Lösungen für die Analyse von Lipid-Nanopartikeln – winzigen Transporthüllen, die Wirkstoffe wie RNA sicher in menschliche Zellen bringen sollen. Mit dem Investment möchte RNAnalytics die Weiterentwicklung seiner modularen Analyse-Toolkits sowie den Ausbau seiner integrierten Softwareplattform vorantreiben. Über die Höhe der Beteiligung wurde Stillschweigen vereinbart. Doch wie brutkasten erfahren hat, handelt es sich inklusive Förderungen um eine Summe im „höheren sechsstelligen Bereich“.

RNAnalytics: Analysen sehr aufwendig

RNA-basierte Medikamente haben durch neue Impfstoffe und Therapieansätze stark an Bedeutung gewonnen. Damit RNA im Körper überhaupt dort ankommt, wo sie wirken soll, braucht sie eine schützende Transporthülle. Dafür werden häufig sogenannte Lipid-Nanopartikel, kurz LNPs, eingesetzt.

Ob diese winzigen Partikel richtig funktionieren, muss während der Entwicklung eines Medikaments immer wieder überprüft werden. Entscheidend sei dabei, die Eigenschaften der Partikel genau zu verstehen, von ihrer Größe und Stabilität über die tatsächlich eingeschlossene RNA-Menge bis hin zu ihrem Verhalten in unterschiedlichen Zellen.

Diese Analysen seien heute oft aufwendig, erfordern teilweise teure Spezialgeräte und würden mangels einheitlicher Methoden nur eingeschränkt vergleichbare Ergebnisse liefern. „Das kostet Zeit und erschwert insbesondere kleineren BioTech-Unternehmen und Forschungslabors den Zugang zu einer Technologie, die für die Entwicklung neuer RNA-Therapien immer wichtiger wird“, liest man in der Aussendung.

Modulare Toolkits

RNAnalytics hat es sich daher zum Ziel gesetzt, diese Analysen einfacher und standardisierter zu machen. Dafür entwickelt das Unternehmen modulare Toolkits, die auf bereits vorhandener Laborausstattung eingesetzt werden können. Sie kombinieren validierte Messmethoden, Reagenzien und Referenzmaterialien und wollen Laboren damit einen „klar definierten Ablauf für die Untersuchung von Lipid-Nanopartikeln“ ermöglichen.

„Die SAFE-Finanzierung gibt uns in dieser frühen Phase die Möglichkeit, unsere Toolkits konsequent weiterzuentwickeln und parallel den Ausbau unserer Softwareplattform voranzutreiben. Mit tecnet equity haben wir dabei einen Partner an unserer Seite, der die Herausforderungen technologieintensiver Gründungen versteht“, sagt Enkmann, CEO von RNAnalytics.

RNAnalytics: Plattform in Entwicklung

Der Ansatz des Tullner Startups geht jedoch über einzelne Labortests hinaus, wie man mitteilt: Parallel zu den Toolkits entwickelt das Unternehmen eine Softwareplattform, in der die bei den Analysen entstehenden Daten zusammengeführt und automatisch ausgewertet werden können.

So entstehe ein umfassendes Bild der relevanten Qualitätsmerkmale eines RNA-Therapeutikums. Statt Messergebnisse aus unterschiedlichen Geräten und Tests einzeln auszuwerten, könnten Labore ihre Daten zentral verarbeiten, verschiedene Qualitätsparameter miteinander vergleichen und standardisierte Berichte erstellen. Die Kombination aus physischen Toolkits und Software soll damit einen bislang stark fragmentierten Analyseprozess in einen durchgängigen Workflow überführen.

„RNAnalytics setzt an einem sehr konkreten Problem in einem technologisch anspruchsvollen und stark wachsenden Bereich der Biotechnologie an. Besonders überzeugt uns der Ansatz, komplexe Laboranalytik durch standardisierte Toolkits zugänglicher zu machen und diese gleichzeitig in einer skalierbaren Softwareplattform zusammenzuführen“, erklärt Christian Laurer, Senior Investment Manager bei tecnet equity. „Die beiden Gründer:innen verbinden fundiertes wissenschaftliches Know-how mit einem klaren Verständnis für die Herausforderungen in der LNP-Analytik und einer überzeugenden Produktvision. Diese Kombination war für uns eine wesentliche Grundlage für das Investment in dieser frühen Phase.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt