29.03.2023

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
/artikel/elon-musk-und-steve-wozniak-in-offenem-brief-stoppt-alle-ki-experimente-fuer-6-monate
Elon Musk Tesla autonomes Fahren LiDAR
Elon Musk | (c) United States Air Force via Wikimedia Commons

1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.

Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des “gefährlichen” und “außer Kontrolle geratenen Wettbewerbs” der letzten Monate drosseln. Denn dieser brächte “immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können” hervor.

KIs könnten zu Kontrollverlust über Zivilisation führen

Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: “Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?” In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.

Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus

Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. “Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind”. “Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden”, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.

Black-Box-Modelle mit unvorhersehbaren Fähigkeiten

Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.

Maßnahmen gegen KI-Exzess

Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem “Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten”.

Staat soll eingreifen können

Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.

Der aktuell mächtigste KI-Player ist nicht dabei

Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.

Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.

Deine ungelesenen Artikel:
07.01.2025

“Ich rate dir, dich in Zukunft von Startups und ähnlichen Projekten fernzuhalten”

Gründerin Romy Sigl gab sich im Dezember noch kämpferisch – doch trotz intensiver Mühen konnte keine Lösung gefunden werden. Am 29. März endet die Ära des Coworking Salzburg mit einer Abschlussparty. Rund um diese Vorgänge erhielt Sigl kürzlich eine anonyme Nachricht mit einem "Ratschlag", machte dies auf LinkedIn öffentlich und startete damit nicht nur eine Diskussion, sondern zeigte auch gleich auf, mit welchen vereinzelten Animositäten die Startup-Kultur in Österreich weiterhin zu tun hat.
/artikel/ich-rate-dir-dich-in-zukunft-von-startups-und-aehnlichen-projekten-fernzuhalten
07.01.2025

“Ich rate dir, dich in Zukunft von Startups und ähnlichen Projekten fernzuhalten”

Gründerin Romy Sigl gab sich im Dezember noch kämpferisch – doch trotz intensiver Mühen konnte keine Lösung gefunden werden. Am 29. März endet die Ära des Coworking Salzburg mit einer Abschlussparty. Rund um diese Vorgänge erhielt Sigl kürzlich eine anonyme Nachricht mit einem "Ratschlag", machte dies auf LinkedIn öffentlich und startete damit nicht nur eine Diskussion, sondern zeigte auch gleich auf, mit welchen vereinzelten Animositäten die Startup-Kultur in Österreich weiterhin zu tun hat.
/artikel/ich-rate-dir-dich-in-zukunft-von-startups-und-aehnlichen-projekten-fernzuhalten
Coworking Salzburg
(c) Romy Sigl -

Früher hieß es, steig nicht zu Fremden ins Auto. Oder: Lass keine Fremden in deine Wohnung. Dann folgten “absurde” Ideen und daraus Uber und Airbnb. Dies sind zwei Beispiele von Visionen, die anfänglich auf Skepsis gestoßen sind, sich dann aber zu weltweiten Erfolgen entwickelt haben. Zugegeben, die Thematik rund um das Ende von Coworking Salzburg – siehe hier – ist nun eine, die zu einem Teil der Scheiterkultur in Österreich geworden ist. Aber durch die Botschaft eines anonymen Kritikers das offenbart, womit man heutzutage noch in der Republik als Teil des Startup-Ökosystems zu tun hat.

Scheiterkultur in Österreich

Bereits vor zehn Jahren meinte Hansi Hansmann, dass Österreich eine schlechte Scheiterkultur habe. Dabei sei gerade hier der Lernprozess extrem hoch, sagte der Business Angel damals. Seitdem gab es immer wieder Beispiele von einem gesunden Umgang mit Fehlern und Fehleinschätzungen, etwa von CrowdFarming oder von Direct Sales. Vor knapp fünf Jahren machte sich zudem das Labor für schönes Scheitern dafür stark, einen “lockeren Umgang” im Scheitern zu pflegen.

“Die letzten zehn Jahre haben mir gezeigt, dass echte Veränderung dort beginnt, wo wir uns trauen, unsere Fehler anzunehmen und darüber zu sprechen – egal ob als Einzelperson, in einem Team oder in einer Organisation”, sagte auch Fuckup-Nights-Initiator Dejan Stojanovic im November des vorigen Jahres, als seine Idee die erste Dekade feierte.

Offener Umgang

Romy Sigl ging mit dem Ende von Coworking Salzburg, wie oftmals von der Szene empfohlen, dementsprechend offen um, kämpfte um die Rettung und musste sich schlussendlich mit dem Aus ihrer Vision abfinden. Wie sie kürzlich auf LinkedIn schrieb, erreichte sie jedoch eine anonyme Botschaft, die einige kritische Fragen zum Coworking-Space und der Startup-Kultur in Salzburg aufwarf. Sigl machte sie öffentlich und startete damit einen Diskurs rund um die Art und Weise von Kritik und das allgemeine österreichische Mindset, das ab und an mit Missgunst und Schadenfreude einhergeht.

Die Nachricht an die Founderin enthielt u.a. folgende Aussagen: “Die sogenannte ‘Startup-Bubble’ rund um den Coworking Space in Salzburg ist für mich eine reine Illusion. Sie besteht aus Menschen, die glauben, Geschäftsideen zu haben, die jedoch oft absurd und nicht realisierbar sind. (…) Ich sehe es positiv, dass dadurch Coworking-Spaces, die sich als vermeintliche Top-Adressen darstellen, letztlich verschwinden. Aus meinen eigenen Einblicken in diesen Coworking-Space kann ich nur sagen, dass ich es äußerst kritisch finde, wenn Menschen in ihren Ideen bestärkt werden, obwohl von Anfang an klar ist, dass diese nicht funktionieren können.”

Und weiter: “So schwer es für Romys Ego auch sein mag, es ist an der Zeit, die Realität zu akzeptieren: Es ist vorbei, und das Projekt kann nicht mehr künstlich am Leben gehalten werden. (…) Niemand möchte mit einem heruntergekommenen Gebäude und einer visionär überzogenen, aber wenig greifbaren Community in Verbindung gebracht werden. Es ist Zeit, loszulassen und die Realität anzunehmen. Liebe Romy, ich wünsche dir persönlich alles Gute, aber ich rate dir, dich in Zukunft von Startups und ähnlichen Projekten fernzuhalten.”

Auf eine inhaltliche Ebene heben

Sigl verlinkt in ihrem Post in den Kommentaren die komplette Botschaft des anonymen Absenders, macht aber noch weitaus mehr. Sie entbröselt die zum Teil persönliche Kritik und hebt sie auf eine inhaltliche Ebene, indem sie sachlich auf die einzelnen Kritikpunkte eingeht.

Sie schreibt: “Ein Vorwurf lautete, dass Coworking-Spaces ‘absurde und nicht realisierbare’ Geschäftsideen fördern. Hier möchten wir widersprechen: Innovation entsteht oft aus Experimenten und Ideen, die zunächst unkonventionell wirken. Airbnb, Uber oder Slack sind nur einige Beispiele von Unternehmen, die zunächst als unrealistisch abgetan wurden. Coworking-Spaces sind keine Erfolgsgaranten, sondern Plattformen. Sie bieten Gründern Zugang zu Netzwerken, Ressourcen und einer inspirierenden Umgebung. Es ist Teil des unternehmerischen Prozesses, Ideen zu testen – und manchmal auch zu scheitern. Wir sind stolz darauf, viele Startups auf ihrem Weg begleitet zu haben, von ersten Prototypen bis hin zu marktfähigen Produkten.”

Der Kritik, dass ihrer Community “jegliche echte Expertise” fehle, setzt sie entgegen, dass ihr Space von Beginn an eine bunte Mischung aus erfahrenen Unternehmer:innen, kreativen Köpfen und jungen Gründer:innen dargestellt habe: “Gerade diese Vielfalt macht Coworking-Spaces aus. Sie sind Orte des Austauschs, wo Wissen geteilt und gemeinschaftlich Lösungen gefunden werden. Darüber hinaus haben wir mit etablierten Organisationen wie Startup Salzburg und dem Techno-Z in Puch zusammengearbeitet, um unseren Mitgliedern Zugang zu weiterführenden Ressourcen und Programmen zu bieten. Expertise entsteht durch Zusammenarbeit, nicht durch Ausgrenzung”, so Sigl weiter.

“Feig” und “Schlag unter die Gürtellinie”

Weitere Punkte von Sigls Replik betreffen Förderungen, die Tragfähigkeit des Co-Working-Projekts und eine negative Stimmung als Folge, auf die sie eingeht. Unterstützung erhält sie dabei von Teilen der LinkedIn-Community, die die Anonymität des Kritikers “feige” bzw. seine Zeilen einen “Schlag unter die Gürtellinie” nennen und auf die nachhaltige Wirkung der Gründerin eingehen.

“Der Standort und die heimischen Startups, inklusive Symptoma, haben vom Beleben des Standorts eindeutig profitiert. Der Space hat viele Leute zusammengebracht – ein Grundbaustein für Innovationen”, schreibt etwa Jama Nateqi, Founder und CEO von Symptoma.

Und Sven Maikranz, Gründer von Upstrive hält einen besonderen Punkt fest, wo man eine große Chance verpasst hätte: “Menschen, die sich selbst nicht genug Signifkanz geben können, versuchen es dadurch zu erreichen, dass sie andere runter drücken und schlecht machen. Traurig und schade, weil es sicher zu den Themen eine konstruktive Diskussion geben könnte, der Autor durch die Form und Anonymität sich aber selbst disqualifiziert.”

Passend dazu zitiert Sigl den Buchschreiber und Berater Mario Kellermann: “Kritik ist nur dann wertvoll, wenn sie sagt, wie es besser geht. Alles andere ist sonst nur leeres Gerede und sinnlose Wichtigtuerei.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”