29.03.2023

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
/artikel/elon-musk-und-steve-wozniak-in-offenem-brief-stoppt-alle-ki-experimente-fuer-6-monate
Elon Musk Tesla autonomes Fahren LiDAR
Elon Musk | (c) United States Air Force via Wikimedia Commons

1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.

Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des „gefährlichen“ und „außer Kontrolle geratenen Wettbewerbs“ der letzten Monate drosseln. Denn dieser brächte „immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können“ hervor.

KIs könnten zu Kontrollverlust über Zivilisation führen

Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: „Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?“ In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.

Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus

Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. „Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind“. „Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden“, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.

Black-Box-Modelle mit unvorhersehbaren Fähigkeiten

Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.

Maßnahmen gegen KI-Exzess

Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem „Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten“.

Staat soll eingreifen können

Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.

Der aktuell mächtigste KI-Player ist nicht dabei

Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.

Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.

Deine ungelesenen Artikel:
04.09.2026

Kann Europa ohne Startups gewinnen? – Im Interview mit AustrianStartups-Chefin Hannah Wundsam

Beim European Forum Alpbach steht die Zukunftsfähigkeit des Kontinents im Fokus. Im Interview erklärt Hannah Wundsam (AustrianStartups), wie Gründer:innen diesen Erfolg mitgestalten. Vom Beschaffungswesen über Risikokapital bis hin zur richtungsweisenden Debatte um die EU Inc.
/artikel/kann-europa-ohne-startups-gewinnen-im-interview-mit-austrianstartups-chefin-hannah-wundsam
04.09.2026

Kann Europa ohne Startups gewinnen? – Im Interview mit AustrianStartups-Chefin Hannah Wundsam

Beim European Forum Alpbach steht die Zukunftsfähigkeit des Kontinents im Fokus. Im Interview erklärt Hannah Wundsam (AustrianStartups), wie Gründer:innen diesen Erfolg mitgestalten. Vom Beschaffungswesen über Risikokapital bis hin zur richtungsweisenden Debatte um die EU Inc.
/artikel/kann-europa-ohne-startups-gewinnen-im-interview-mit-austrianstartups-chefin-hannah-wundsam
Hannah Wundsam, Geschäftsführerin von AustrianStartups © Philipp Huber / EFA

Seit 1945 treffen sich im Tiroler Bergdorf Alpbach, auf rund 1.000 Metern, Sommer für Sommer Vordenker:innen aus Politik, Wirtschaft und Wissenschaft, um über Europas Zukunft zu diskutieren. Heuer steht das European Forum Alpbach unter dem Motto „How Europe Wins“. Es geht um Wettbewerbsfähigkeit, Souveränität und die Frage, wie Europa im globalen Wettlauf bestehen kann.

Welche Rolle Startups in dieser Debatte einnehmen und inwiefern sie als Hebel für Europas Siegeszug dienen können, hat brutkasten mit Hannah Wundsam auf der Terrasse des Congress Centrums besprochen.


brutkasten: „How Europe Wins“ lautet das Leitmotiv des diesjährigen European Forum Alpbach. Welche Bedeutung kommt Startups in diesem Diskurs zu, und woran liegt es, dass bei einer so zentralen Zukunftsfrage die Gründer:innenszene vergleichsweise wenig vertreten ist?

Hannah Wundsam: Das ist eine gute Frage. Denn wenn der Titel „How Europe Wins“ lautet, können wir nicht nur darüber sprechen, wie wir das verteidigen, was wir bisher haben, und wie wir die bestehende Industrie und Wirtschaft schützen – sondern auch darüber, wie wir Neues schaffen und über die nächsten Jahre hinweg wettbewerbsfähig bleiben. Dafür braucht es das Zusammenspiel von bestehender Industrie, Politik beziehungsweise der öffentlichen Hand und vor allem dem Startup-Sektor. Dort liegen die Wurzeln des zukünftigen Wachstums.

Ich glaube aber, dass wir in Österreich immer noch sehr in Schubladen denken: Es gibt die Events für Startups und die neue Generation – und dann das European Forum Alpbach hier in den österreichischen Bergen, wo man das Gefühl hat, hier gehe es vor allem darum, die bestehende Industrie zu stärken und zu vernetzen. Dementsprechend sehen auch viele Gründer:innen das Event nicht als relevant für sich, weil sie sich nicht angesprochen fühlen.

Ich versuche aber immer, Gründer:innen zu motivieren, herzukommen, weil ich es für eine gute Möglichkeit halte, sich mit CEOs und Politiker:innen zu vernetzen: einerseits, um sich bei politischen Entscheidungsträger:innen Gehör zu verschaffen, deshalb sind auch wir immer hier, und andererseits, um Entscheidungspersonen aus großen und öffentlichen Unternehmen kennenzulernen, mit denen man dann zusammenarbeiten kann.

Welchen Platz kann ein vergleichsweise kleines Land wie Österreich in der europäischen Startup-Frage einnehmen?

Unsere Rolle ist gar nicht so klein, wenn man, das habe ich jetzt auch in der EU-Inc-Debatte gemerkt, die Vorbildwirkung Österreichs gegenüber den osteuropäischen Ländern nicht vergisst. Da ist oft die Haltung: Schauen wir mal, was Österreich macht, so wie wir uns anschauen, was die Deutschen machen. Ich glaube also tatsächlich, dass wir mit unseren Entscheidungen nicht ganz allein dastehen, sondern auch eine Auswirkung haben.

Österreich als eine Art Gateway vom Osten in den Westen ist etwas, das durch die EU Inc. theoretisch noch gestärkt werden könnte, aber ohnehin schon besteht. Insofern hat Österreich da eine Rolle. Und wir werden nach wie vor ein bisschen als neutraler Boden gesehen, der durchaus mit allen reden kann.

Welche Bedingungen bräuchte es, damit Startups in der „How Europe Wins“-Debatte mehr Gewichtung bekommen?

Ein Thema ist nach wie vor, dass österreichische Unternehmen im Vergleich zu anderen Ländern relativ wenig mit Startups zusammenarbeiten, das gilt auch für die österreichische Industrie. Selbst auf Ebene der Interessenvertretungen merke ich die Sorge, dass kein Geld mehr für die bestehende Industrie da ist, wenn die EU zu stark auf Startups fokussiert. Anstatt daran zu arbeiten, welche Möglichkeiten es gibt, damit Unternehmen und die öffentliche Hand tatsächlich zu Erstkund:innen von Startups werden. Viele Startups sagen mir, dass sie in Österreich gar nicht erst nach Kund:innen suchen.

Unternehmen müssten generell offener sein, ebenso die öffentliche Hand, und verstehen, dass sie mit Startups zusammenarbeiten müssen, wenn sie nachhaltig innovieren und wettbewerbsfähig sein wollen. Tatsächlich sagen viele Startups, dass sie eher im amerikanischen Markt nach Kund:innen suchen, weil man dort offener ist, mit ihnen zusammenzuarbeiten, während man in Europa gleich fragt, ob man mit sämtlichen Richtlinien konform ist.

Auf europäischer politischer Ebene gibt es inzwischen ein viel größeres Verständnis dafür, dass Startups einer der Schlüsselfaktoren für unseren Standort und unsere Wettbewerbsfähigkeit sind, spätestens seit dem Draghi-Report. Das ist aber noch nicht in allen Mitgliedsländern angekommen. Am European Forum Alpbach etwa sind ganz viele Events, vor allem die Side-Events, auf Deutsch. Dabei sind gerade die für viele der eigentliche Grund, warum sie kommen. Das ist schwierig, wenn man die europäische Startup-Szene auch tatsächlich vor Ort haben möchte.

Wie sieht für dich als Geschäftsführerin von AustrianStartups ein Europa aus, das gewonnen hat?

Ich glaube, wir müssen es schaffen, eine starke Basis an Gründer:innen zu haben, und dafür braucht es mehrere Dinge. Es braucht eine Kultur quer durch Europa, in der Unternehmertum ein besseres Bild hat, in der Unternehmer:innen nicht als böse Kapitalist:innen gesehen werden, sondern als Zukunftsgestalter:innen, als Personen, die Wohlstand und Arbeitsplätze schaffen, die spannend sind und Vorbilder für Schulkinder.

Damit sind wir beim zweiten Thema: Ein Kulturwandel braucht einen Wandel in der Bildung, Unternehmertum muss Teil der Bildung werden und zwar nicht nur an Schulen in Österreich, sondern quer durch Europa. Es gibt Konzepte dafür, aber eben nicht in der Breite.

Und im Endeffekt braucht es die Rahmenbedingungen, die es für Gründer:innen attraktiv machen, hier nicht nur zu starten, sondern auch zu skalieren und zu bleiben. Dafür braucht es Kapital und dafür wiederum unterschiedliche Vehikel, um mehr Kapital nach Europa zu holen beziehungsweise das Kapital, das hier bereits vorhanden ist, zu aktivieren.

Der Dachfonds ist eine super Initiative, die jetzt schnell auf die Beine gestellt werden muss. Aber dabei kann es nicht bleiben, wir müssen größer denken: Es braucht einen Dachfonds 2, 3, 4, die noch einmal um einiges größer sind als die 500 Millionen Euro, und es braucht Wachstumskapital. Dafür wird es die bestehende Industrie, die öffentliche Hand und Investor:innen aus dem Ausland brauchen.

Wir müssen vorsichtig sein, nicht zu sehr ins Abschottungsdenken zu verfallen, denn darauf sind weder Österreich noch Europa ausgerichtet. Wir sind auf Basis einer florierenden und freien Marktwirtschaft gebaut worden. Wir brauchen Souveränität und Leverage aber das muss auch im Rahmen globaler Zusammenarbeit passieren.

Du sprichst von den Bedingungen: Wie beeinflussen die aktuellen Entwicklungen rund um die EU Inc. deiner Meinung nach die Zukunft europäischer Startups?

Die EU Inc. hat wirklich einen basisdemokratischen Impact gehabt: Extrem viele Personen aus der Startup-Szene haben sich in einen politischen, europäischen Prozess eingebracht, sich damit beschäftigt und ihre Stimme genutzt – und es geschafft, dass das Thema nicht nur auf europäischer Ebene besprochen wird, sondern tatsächlich in die Umsetzung kommt. Es gibt inzwischen einen Kommissionsvorschlag, der zwar nicht genau dem entspricht, was wir wollten, der aber zumindest die Möglichkeit geschaffen hat, hier einen europäischen Standard zu setzen.

Was ich im Prozess durchaus als gefährlich sehe: Die Mitgliedstaaten sagen zwar, dass sie eine starke Europäische Union wollen, setzen aber, sobald es konkrete Vorschläge gibt, alles daran, diese wieder zu entkräften. Österreich hat bislang zwar vom Wirtschaftsministerium und vom Kanzler die Zusage, dass die EU Inc. gewollt ist, das Justizministerium ist aber sehr kritisch. Und es gibt sehr viele Einzelpersonen und Interessenvertretungen, die stark dagegen arbeiten, etwa die Notariatskammer, die Gewerkschaft und die Arbeiterkammer, die kein Interesse an einer starken EU Inc. haben. Das ist nicht nur in Österreich ein Thema, aber Österreich hat, wie schon gesagt, eine Vorbildfunktion: Wenn Österreich sich in den Verhandlungen hinstellt und die Vorschläge grundsätzlich infrage stellt, sehen das viele Länder, die historisch zu Österreich aufschauen, und werden ebenfalls kritischer. Das haben wir in den Verhandlungen auf Ratsebene durchaus schon erlebt.

Ich hoffe, den Politiker:innen ist wirklich bewusst, was es bedeuten würde, wenn die EU Inc. scheitert, also wenn am Ende nur ein sehr schwacher Kompromiss herauskommt. Die europäische Startup-Szene würde das als Backlash empfinden und sich denken: Wenn nicht einmal das möglich ist, sehen wir in Europa keine Zukunft. Das halte ich für wirklich gefährlich.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“