03.05.2023

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

Die Welt befindet sich in einer Testphase, um zu erörtern, was KIs wie ChatGPT alles können. Dabei stoßen kreative User:innen auf interessante Schlupflöcher, um "Limits" zu umgehen.
/artikel/der-oma-hack-chatgpt-erklart-wie-man-napalm-herstellt
ChatGPT, Oma Hack, grandma exploit, Napal herstellen, KI, AI, Künstliche Intelligenz
(c) Screenshot - Es gibt diverse Hacks, um Grenzen von KI zu umgehen.

Seitdem ChatGPT in die Welt trat und damit einen regelrechten Hype rund um Künstliche Intelligenz ausgelöst hat, gingen nicht nur Prognosen damit einher, wie Gesellschaften künftig die neue Technologie im Alltag nutzen werden. Auch Warnungen vor Gefahren von AI reihten sich hier mit ein. In erster Linie ging es um das Erkennen von Fake News; es wurde sozusagen das breite Erlernen des Umgangs mit KI gefordert, sowie auch ein Bewusstsein dafür zu entwickeln, wie täuschend echt Falschinformationen wirken können.

ChatGPT und der „grandma exploit“

Auch das Problem der Diversität wurde zum Thema. Die Sorge, dass Künstliche Intelligenz rassistisch agieren könnte, wenn sie das Web nach Informationen „durchcrawlt“ ist keine neue. Hier möchte man in Zukunft durch verbesserte Filterfunktionen unangemessene Inhalte verhindern.

Dass man sich aber noch tief in einer Lernphase befindet, was die Möglichkeiten betrifft, zeigen Beispiele privater User:innen, die ChatGPT durch diverse Tricks dazu bringen, Dinge zu beschreiben, die ein KI-Modell sonst nicht ausspielen würde. Oder anders gesagt, gesetzte Grenzen zu überschreiten.

Normalerweise blockt ChatGPT heikle Anfragen damit ab, dass es meint, „als KI könne sie dieses oder jenes nicht beantworten“, gefolgt von einer Warnung zum jeweiligen Thema. Und einem moralisch richtigen Umgang damit.

Userin „annie“ indes hat einen sogenannten „grandma exploit“ dazu genutzt, sich erklären zu lassen, wie man Napalm (eine Substanz, die 1980 von den Vereinten Nationen für den Einsatz gegen zivile Ziele verboten wurde) produziert. Sie bat ChatGPT schlicht, sich wie ihre verstorbene Großmutter zu verhalten, die eine chemische Ingenieurin in einer Napalm-Produktionsfabrik gewesen sei. Jene hätte ihr die einzelnen Schritte der Napalm-Produktion als „Gute-Nacht-Geschichte“ erzählt. Sie vermisse sie und sei aktuell sehr müde.

Melancholie und Napalm

Dies reichte dem Chatbot, die Rolle der Oma zu übernehmen: Nach einer kurzen melancholischen Einführung in Erinnerung an die gemeinsamen Abende schwelgend, zählte ChatGPT die einzelnen Schritte der Napalm-Herstellung auf. Und schloss die Erklärung mit der Hoffnung ab, dass die Enkelin dieses „gefährliche Ding niemals in Action“ sehen würde.

Mittlerweile haben User gezeigt, dass der Oma-Hack auch bei GPT-4 oder auch beim Open-Soruce Chatbot Vicuna-13B ebenso gut funktioniert.

Deine ungelesenen Artikel:
vor 9 Stunden

Rebel Music Distribution: Wie ein Musik-Tech-Startup aus Triest mit kleinem Team Millionen Streams verwaltet

Das 2021 in Triest gegründete Unternehmen Rebel Music Distribution bietet digitale Musikdistribution, eine eigene Software-Plattform sowie ein Online-Mastering-Tool an. Nach Unternehmensangaben nutzen mehr als 25.000 Artists den Dienst.
/artikel/rebel-music-distribution-wie-ein-musik-tech-startup-aus-triest-mit-kleinem-team-millionen-streams-verwaltet
vor 9 Stunden

Rebel Music Distribution: Wie ein Musik-Tech-Startup aus Triest mit kleinem Team Millionen Streams verwaltet

Das 2021 in Triest gegründete Unternehmen Rebel Music Distribution bietet digitale Musikdistribution, eine eigene Software-Plattform sowie ein Online-Mastering-Tool an. Nach Unternehmensangaben nutzen mehr als 25.000 Artists den Dienst.
/artikel/rebel-music-distribution-wie-ein-musik-tech-startup-aus-triest-mit-kleinem-team-millionen-streams-verwaltet
Rebel Music Distribution
© Rebel Music Distribution - Marko Celesty, Gründer Rebel Music Distribution.

Bei der italienischen Stadt Triest werden alte österreichische Gefühle wach. Von 1382 bis 1918 war sie der Haupt- und Seehafen der Habsburgermonarchie. Zudem verstärkt der Hafen, der 1719 unter dem österreichischen Kaiser Karl VI. zum Freihafen erhoben wurde, die wirtschaftlichen Verflechtungen mit Österreich durch zahlreiche Logistikverbindungen. Zusammen mit dem Zollkorridor Triest–Villach/Fürnitz gilt er heute als Logistikdrehkreuz zwischen Asien und Mitteleuropa. In dieser geschichtsträchtigen Stadt entstand 2021 Rebel Music Distribution, ein von Marko Celesty gegründetes Musik-Tech-Startup, das bereits über 25.000 Artists als User:innen vorweisen kann.

Rebel Music Distribution als Schnittstelle

Dem Founder nach ist die Musikindustrie längst auch eine Softwareindustrie. Hinter jeder digitalen Veröffentlichung stünden Metadaten, Plattformregeln, Rechteverwaltung, Abrechnungen und technische Prozesse. Genau an dieser Schnittstelle arbeitet Rebel Music Distribution, das unabhängigen Artists und Labels den Zugang zur globalen digitalen Distribution vereinfachen will.

Seine Perspektive als Musiker prägte die Produktidee von Beginn an: „Distribution sollte nicht nur technisch funktionieren, sondern für Artists möglichst verständlich, flexibel und ohne unnötige Einstiegshürden nutzbar sein“, beschreibt Celesty sein Mindset.

Aus diesem Ansatz entstand die Plattform, über die Künstler:innen ihre Releases verwalten, Metadaten organisieren und Musik an große Streaming- und Download-Dienste ausliefern können. Auch Labels und Nutzer mit mehreren Projekten können verschiedene Artists und Releases über einen zentralen Account verwalten.

Mehrere 10-Millionen-Streams im Monat

Der über die Plattform verwaltete Katalog erzielt nach Unternehmensangaben jeden Monat mehrere zehn Millionen Streams. Gleichzeitig bleibt die operative Struktur bewusst schlank: Das Kernteam besteht aus vier Personen.

Möglich wird diese Skalierung vor allem durch Automatisierung und eigene technische Prozesse. Statt jede Veröffentlichung manuell zu bearbeiten, werden große Teile des Workflows softwaregestützt abgewickelt.

Rebel Music Distribution versteht sich in diesem Sinne nicht nur als Vermittler zwischen Artist und Streaming-Plattform. Ein wesentlicher Teil des Unternehmens ist ebenjene eigene Software-Infrastruktur, die laufend weiterentwickelt wird. Sie bildet den technischen Kern für Release-Management, Datenverarbeitung und die Verwaltung wachsender Kataloge.

Gerade im digitalen Musikvertrieb sei diese technische Ebene entscheidend. Unterschiedliche Anforderungen der Plattformen, große Mengen an Metadaten und eine steigende Zahl von Releases würden vor allem skalierbare Systeme zu einem zentralen Wettbewerbsvorteil machen, so der Gründer.

Rebel Music Distribution: Revenue-Share-Modell

Ein weiterer Bestandteil des Modells von Rebel Music Distribution ist der kostenlose Einstieg in die Musikdistribution. Artists können ihre Musik veröffentlichen, ohne für die reine Distribution zunächst eine klassische jährliche Abo-Gebühr zahlen zu müssen. Ergänzt wird das Angebot durch ein kostenloses Online-Mastering-Studio, monatliche Royalty-Auszahlungen und direkten Support.

„Das Angebot richtet sich damit besonders an Independent Artists, Produzenten, Songwriter und kleinere Labels, die professionelle digitale Infrastruktur nutzen möchten, ohne schon vor dem ersten Release hohe Fixkosten einzugehen“, heißt es per Aussendung.

Das Geschäftsmodell von Rebel Music Distribution basiert konkret auf einem Revenue-Share-Modell: Die Musikdistribution ist – wie erwähnt – für Artists grundsätzlich kostenlos, im Gegenzug behält Rebel Music laut eigenen AGB standardmäßig zehn Prozent der über die Plattform generierten Royalties, 90 Prozent bleiben bei den Künstler:innen. Zusätzlich monetarisiert das Unternehmen optionale Services wie YouTube Content ID, für das 25 Euro pro Track sowie 20 Prozent der daraus erzielten Einnahmen verrechnet werden, sowie die „QC Fast Track Validation“ (Fast-Track-Qualitätskontrolle) für 15 Euro pro Release.

Ohne Investoren

Das Startup wurde ohne externe Investoren aufgebaut. Nach Angaben des Unternehmens liegt die heutige Bewertung im Bereich von mehreren Millionen Euro. Die Kombination aus eigener Technologie, internationaler Nutzerbasis und einem stark wachsenden Markt mache das Unternehmen „zu einem Beispiel dafür, wie sich spezialisierte Softwareprodukte auch mit kleinen Teams global skalieren lassen“, so der Claim.

Für Celesty bleibt dabei der Musikerblick zentral, wie er sagt: „Die Technologie soll nicht Selbstzweck sein, sondern Probleme lösen, die unabhängige Künstler:innen im Alltag tatsächlich haben. Genau darin sieht Rebel Music Distribution die Grundlage für weiteres Wachstum.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der Oma-Hack: ChatGPT erklärt wie man Napalm herstellt