29.03.2023

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
/artikel/elon-musk-und-steve-wozniak-in-offenem-brief-stoppt-alle-ki-experimente-fuer-6-monate
Elon Musk Tesla autonomes Fahren LiDAR
Elon Musk | (c) United States Air Force via Wikimedia Commons

1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.

Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des „gefährlichen“ und „außer Kontrolle geratenen Wettbewerbs“ der letzten Monate drosseln. Denn dieser brächte „immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können“ hervor.

KIs könnten zu Kontrollverlust über Zivilisation führen

Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: „Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?“ In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.

Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus

Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. „Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind“. „Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden“, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.

Black-Box-Modelle mit unvorhersehbaren Fähigkeiten

Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.

Maßnahmen gegen KI-Exzess

Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem „Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten“.

Staat soll eingreifen können

Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.

Der aktuell mächtigste KI-Player ist nicht dabei

Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.

Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.

Deine ungelesenen Artikel:
13.08.2026

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

Seit 2014 zieht die Bits & Pretzels Startup- und Innovationsbegeisterte nach München. Heuer mit Steven Bartlett und Trevor Noah als Stargästen. Mitgründer Bernd Storm van's Gravesande erklärt, warum ein Ankerkunde für viele Startups eine starke Ergänzung oder Alternative zu VC-Kapital sein kann und warum ohne VCs trotzdem kein Startup-Ökosystem existieren würde.
/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder
13.08.2026

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

Seit 2014 zieht die Bits & Pretzels Startup- und Innovationsbegeisterte nach München. Heuer mit Steven Bartlett und Trevor Noah als Stargästen. Mitgründer Bernd Storm van's Gravesande erklärt, warum ein Ankerkunde für viele Startups eine starke Ergänzung oder Alternative zu VC-Kapital sein kann und warum ohne VCs trotzdem kein Startup-Ökosystem existieren würde.
/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder
Bits & Pretzels Mitgründer und Managing Director Bernd Storm van's Gravesande © Bits & Pretzels

Weißwurst zum Frühstück, Brezn zur Beteiligungsverhandlung: Wenn München jedes Jahr im Herbst zur Wiesn bläst, verwandelt sich ein Teil der Stadt gleichzeitig in die größte Gründerbühne Europas. Seit 2014 zählt die Bits & Pretzels zu den wichtigsten Innovationsevents des Kontinents. Größen wie Barack Obama oder Arnold Schwarzenegger haben in München bereits ihre Weisheiten mit dem Publikum geteilt. Bei der dreitägigen Konferenz geht es aber nicht nur um Inspiration, sondern vor allem um Austausch und potenzielle Kundengewinnung. Genau darin sieht Bits-&-Pretzels-Mitgründer und Managing Director Bernd Storm van’s Gravesande eine relevante Alternative zur klassischen Kapitalaufnahme über VCs.


brutkasten: Die polarisierende These, mit der wir heute starten: VCs sind out, Corporates sind in. Wie kommst du dazu?

Bernd Storm van’s Gravesande: Ich möchte die zentrale und wichtige Rolle von VCs damit überhaupt nicht kleinreden – ohne Venture Capital gäbe es das ganze Startup-Ökosystem nicht, das muss uns klar sein. Aber die Überspitzung dient natürlich auch dazu, dass wir erkennen: Für viele Startups – nicht für alle – gibt es Alternativen. Nämlich, dass ein Ankerkunde manchmal passender ist als ein Ankerinvestor. Da muss man immer definieren: für wen, für welches Startup, in welcher Phase.

Aber ein Ankerkunde kann sehr wertvoll sein. Nehmen wir ein Beispiel, das gerade in aller Munde ist: Defense. Wir haben die Helsings, die Quantum Systems und so weiter. Das ist eine spezielle Branche, aber das Muster dahinter erkennen wir auch in anderen Branchen. Bei all diesen hast du nicht nur reine VCs, sondern etwa mit der Bundeswehr oder mit internationalen Staaten ganz konkrete Kunden, mit denen du nicht nur über potenzielle Umsätze sprichst, sondern über ganz konkrete.

Wenn du als Startup schon zahlende Kunden mitbringen kannst, ist das so viel mehr wert als jede Powerpoint oder Marktanalyse. Das ist der eigentliche Proof. Du hast einen Ankerkunden und das ist sehr viel wert, auch für künftige Partner- und Kundenbeziehungen oder spätere Finanzierungsrunden.

Ist das eine Entwicklung, die du erst in letzter Zeit beobachtest, oder war das eigentlich immer schon so?

Die Rahmenbedingungen haben sich verändert, es geht verstärkt in diese Richtung. Vor vier, fünf Jahren war Kapital sehr günstig, Venture Capital war auch leichter in höheren Bewertungsrunden aufzunehmen. Da war es nicht so zwingend notwendig, zähe Corporate Deals einzugehen. Diese Rahmenbedingungen haben sich geändert.

Gleichzeitig haben sich aus meiner Sicht auch die Corporates selbst entwickelt. Vor zehn Jahren war es fancy, Acceleratoren und Innovation Labs zu haben, Innovationsprogramme – ein bisschen Schaufensterdekoration. Daraus ist inzwischen ein existenzieller Druck geworden, vor allem im Bereich KI. Die Corporates sehen die Innovation von Startups nicht mehr als Nice-to-have, sondern stehen so stark unter Druck, dass sie darauf angewiesen sind und überlegen müssen, wie sie diese intern nutzen können. Das sind die zwei Hauptfaktoren, die sich geändert haben: die Rahmenbedingungen für die Kapitalaufnahme und die Dringlichkeit der Corporates, externe Innovation aufzunehmen oder mit Startups zusammenzuarbeiten.

Bei der Bits & Pretzels haben wir ja nicht nur Investoren und Kunden, sondern auch 500 CIOs, weil wir verstehen, dass diese künftige Kunden- oder Entwicklungsbeziehung in unserer Wirtschaft notwendig sein wird – wir reden über Europa, über Deutschland. Das ist keine temporäre Reaktion, nach dem Motto: Weil Kapital teurer ist, machen wir eben was anderes. Es geht klar in die Richtung, dass man idealerweise sehr früh im Rahmen der Produktentwicklung gemeinsam mit Ankerkunden erste Umsätze generiert und am Markt Fortschritte erzielt.

Gibt es Red Flags, bei denen du sagen würdest: Finger weg von dieser Corporate-Venturing-Beziehung?

Red Flag ist ein hartes Wort, aber vorsichtig wäre ich bei Innovationslaboren. Ich würde jedem empfehlen, direkt zum Bereichsleiter oder zur Bereichsleiterin mit Umsatz- und Kostenverantwortung zu gehen, weil man dann bei den Entscheider ist. Ich würde mich nur eng committen, wenn man einen Kontakt auf Vorstands- oder Bereichsvorstandsebene hat – einen C-Level-Sponsor, weil man sonst nicht alle Türen öffnen kann.

Man muss sich vor Augen halten: Wenn du ein Corporate als Kunden siehst, ist das ein toller Proof, aber auch ein Riesen-Pain. Ein häufiges Problem, ein Stolperstein, ist die Geschwindigkeit. Wenn ich als kleiner Gründer an einen DAX-Konzern herantrete, bin ich startklar, ich fange morgen mit der Entwicklung an. Aber die brauchen so viele Abstimmungen – Rechtsabteilungen, Bereichsleiter, Einkaufsprozesse, Integrationsschnittstellen, IT-Implementierungsbudgets. Das dauert. Das muss man als Gründer wissen, das geht nicht von heute auf morgen. Was ich aus eigener Erfahrung und von vielen anderen auf der Bits & Pretzels gehört habe, nenne ich „Pilotitis“: Lass uns mal einen kostenlosen Proof of Concept machen und dann weitersehen. Mit hoher Wahrscheinlichkeit geht das nie in den Echtbetrieb, das ist die falsche Herangehensweise.

Beim Thema Kundenrisiko: Wenn Corporates Exklusivität wollen, dann höchstens temporär, sechs, zwölf Monate, aber bitte nicht 24 Monate – sonst bist du gefangen und kannst nur hoffen, dass sie dir Folgeprojekte geben. Ein weiteres mögliches Warnsignal: Wenn sich der Einkaufsprozess so in die Länge zieht, dass etwa ein Betriebsrat zustimmen muss, sollte man sich fragen, ob das trotzdem der richtige Kunde ist – als Gründer hat man ja ohnehin schon Zeitdruck, etwas FOMO und ein bisschen Paranoia.

Wo passen die VCs in diesem Bild trotzdem noch rein? Wo macht es weiterhin mehr Sinn, auf VC zu setzen statt auf Corporates als Pilotkunden?

Grundsätzlich immer, wenn man ein skalierbares Tech-Business-Modell hat. Ich sage nur, dass VC nicht mehr die einzige Option ist. Die Anzahl der Finanzierungsrunden geht runter, die Anzahl der Gründungen geht hoch – also müssen sich Gründer zwangsläufig überlegen, wo sie außer von VCs Geld herbekommen. Umsatz ist das neue Risikokapital, plakativ gesagt. Das kann für viele funktionieren, weil nicht alle von Milliardenrunden wie bei Helsing oder von den gerade raisenden Health-Tech-Companies gesegnet sind. Wir reden auch über den Mittelstand der Gründungen, der ebenfalls Umsatz braucht – und kein VC-Geld zu bekommen heißt nicht automatisch, keinen Erfolg am Markt zu haben. Viele bekommen keinen VC. Und ich plädiere dafür, zu überlegen, dass Umsatz auch gutes, für viele sogar das passende Kapital sein kann.

Auf der Bits & Pretzels findet auch heuer wieder der CIO AI Summit statt, den ich intern kuratiere und hoste. Da kommen 500 CIOs aus dem deutschen Mittelstand, aus der deutschen Industrie und von Großunternehmen zusammen, tauschen sich zunächst untereinander aus, und dann öffnen wir den Raum, damit jeder Gründer und jede Gründerin mit ihnen in Kontakt treten kann. Genau das sind mögliche Kontaktpunkte, um Ankerkunden zu gewinnen – und auch für jedes österreichische Startup, das den deutschen Markt als relevant erachtet, eine sehr effiziente Möglichkeit, Industriekontakte zu knüpfen.

Wenn wir schon bei der Bits & Pretzels sind: Wie ist es euch eigentlich gelungen, Steven Bartlett heuer als Speaker zu gewinnen und auf welche Highlights darf man sich sonst noch freuen?

Beharrlichkeit. Es ist nicht das erste und nicht das zweite Mal, dass wir angefragt haben, das erste Mal ungefähr 2024. Wir haben als Veranstalter den Luxus, aber auch die Bürde, zu überlegen, wer passt, wer motiviert, wer inspiriert, wer den Leuten Energie im Raum gibt und die Gespräche entfacht. Und da waren wir uns immer einig, dass Steven Bartlett ein toller Mensch ist – selbst Gründer, und durch seine Empathie in seinen Interviews betont er immer wieder genau diesen menschlichen Aspekt hinter dem Unternehmen, hinter der Gründung. Das passt sehr gut zu unserem heurigen Motto „Human After All“. Dazu kommt seine enorme Expertise: Er ist ein sehr guter Speaker, ein bisschen Celebrity, aber eben auch ein fantastischer Fachexperte, der die Leute begeistern kann – und das wollen wir. Also leider keine wahnsinnige Story von einem zufälligen Treffen beim Kaffee in London, sondern schlicht Hartnäckigkeit, bis er endlich Zeit hatte.

Ein bisschen in dieselbe Richtung geht auch Trevor Noah, den wir ebenfalls dabei haben: Auch er ist Unternehmer, hat für Microsoft eine KI-Serie gemacht, ist also vom Fach. Ich glaube, solche Personen können unsere Themen nochmal ganz anders beleuchten, aus einer anderen Perspektive, und die Leute begeistern. Ein bisschen Out-of-the-box-Denken eben – deshalb holen wir sie.


Die Bits & Pretzels 2026 findet heuer von 28. bis 30. September 2026 wieder in München statt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“