29.03.2023

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
/artikel/elon-musk-und-steve-wozniak-in-offenem-brief-stoppt-alle-ki-experimente-fuer-6-monate
Elon Musk Tesla autonomes Fahren LiDAR
Elon Musk | (c) United States Air Force via Wikimedia Commons

1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.

Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des “gefährlichen” und “außer Kontrolle geratenen Wettbewerbs” der letzten Monate drosseln. Denn dieser brächte “immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können” hervor.

KIs könnten zu Kontrollverlust über Zivilisation führen

Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: “Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?” In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.

Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus

Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. “Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind”. “Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden”, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.

Black-Box-Modelle mit unvorhersehbaren Fähigkeiten

Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.

Maßnahmen gegen KI-Exzess

Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem “Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten”.

Staat soll eingreifen können

Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.

Der aktuell mächtigste KI-Player ist nicht dabei

Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.

Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.

Deine ungelesenen Artikel:
24.06.2024

Kryptobörse Blocktrade rund um Christian Niedermüller wird verkauft

Die Kryptobörse Blocktrade mit Sitz in Luxemburg hat einen neuen Eigentümer. Der bisherige CEO, der Österreicher Christian Niedermüller, zieht sich zurück - auch als Anteilseigner. brutkasten hat nachgefragt, was nun seine Pläne sind.
/artikel/blocktrade-christian-niedermueller-exit
24.06.2024

Kryptobörse Blocktrade rund um Christian Niedermüller wird verkauft

Die Kryptobörse Blocktrade mit Sitz in Luxemburg hat einen neuen Eigentümer. Der bisherige CEO, der Österreicher Christian Niedermüller, zieht sich zurück - auch als Anteilseigner. brutkasten hat nachgefragt, was nun seine Pläne sind.
/artikel/blocktrade-christian-niedermueller-exit
Der bisherige Blocktrade-CEO Christian Niedermüller
Christian Niedermüller | Foto: Blocktrade

Ein österreichisches Unternehmen ist Blocktrade zwar nicht – aber starken Bezug zu Österreich hat die Kryptobörse dennoch. Die ursprünglich 2018 in Liechtenstein gegründete Gesellschaft übersiedelte 2020 nach Luxemburg – und bekam im Zuge dessen mit dem ehemaligen Herosphere-Co-Founder Bernhard Blaha einen CEO aus Österreich.

Im Februar 2022 übernahm dann mit Christian Niedermüller ein anderer Österreicher das Ruder bei der Kryptobörse. Niedermüller war vor seinem Blocktrade-Engagement in der heimischen Blockchain-Szene unter anderem auch als Co-Founder der Investmentfirma SMAPE Capital sowie des Blockchain-Infrastrukturunternehmens DAIC bekannt. Neben der CEO-Rolle bei Blocktrade wurde Niedermüller auch Anteilseigner bei Blocktrade.

Blocktrade: Niedermüller hat CEO-Rolle bereits abgegeben

Nun scheidet Niedermüller bei Blocktrade aber aus. Hintergrund: Die Börse bekommt einen neuen Eigentümer. Eine auf dem Fintech-Bereich spezialisierte estnische Investorengruppe rund um Fred Kaasik hat Blocktrade gekauft, wie das Unternehmen am Montagnachmittag mitteilte. Die Gruppe hat nach eigenen Angaben über 20 Jahre Erfahrung in der Finanzbranche.

Angaben zum Kaufpreis machten die Unternehmen keine. Dass es sich um Investoren aus Estland handelt, ist jedenfalls kein Zufall: Ein Großteil des Blocktrade-Teams arbeitet aus Estland. Kaasik hat nun auch bereits die CEO-Rolle übernommen. Niedermüller hat diese Mitte vergangener Woche abgegeben, wie er auf brutkasten-Anfrage mitteilte.

Niedermüller hielt über Holding 27 Prozent an Blocktrade

Niedermüller war über eine Schweizer Holding, die Web3 investCo AG, an Blocktrade beteiligt. Diese hielt rund 78 Prozent der Aktien und ungefähr 90 Prozent der Stimmrechte. Zu der Holding gehören neben Niedermüller noch vier weitere Investoren, er selbst hielt durchgerechnet 27 Prozent an Blocktrade, wie er gegenüber brutkasten erläutert. Die Investorengruppe rund um Fred Kaasik habe im Rahmen des Deals nun alle Voting-Shares aufgekauft.

Abseits dessen gibt es noch nicht stimmberechtigte Aktien, die 22 Prozent der Anteile ausmachen und im Rahmen von Crowdinvesting ausgegeben wurden. Diese werden auch nach dem Deal “genauso verbleiben, wie sie sind”, wie Niedermüller auf brutkasten-Anfrage erläutert. An einer Crowdinvesting-Finanzierungsrunde 2021 hatten sich nach Angaben von Blocktrade 6.000 private Investoren aus 33 Ländern beteiligt (brutkasten berichtete).

Niedermüller positionierte Blocktrade im Gaming-Bereich

“Wir haben Blocktrade in den letzten 2,5 Jahren von einer eher durchschnittlichen Plattform zu einer erstklassigen Marktstandard-Plattform mit vielen besonderen Features entwickelt, was zu einem signifikanten Nutzerwachstum geführt hat”, wird Niedermüller in einer Aussendung des Unternehmens zitiert. Sicherheit, regulatorische Compliance und auch die User Experience auf der Plattform hätten sich deutlich verbessert.

Niedermüller richtete Blocktrade auch strategisch neu aus. Die Börse positionierte sich unter seiner Führung in der Nische von Gamification/Gaming, wie Niedermüller erst im April in einem brutkasten-Talk ausführte. Nun soll jetzt allerdings wieder eine Neuausrichtung erfolgen: Blocktrade solle sich in einen benutzerfreundlichen, modernen “Financial Hub” entwickeln, der sowohl B2B- als auch B2C-Kund:innen anspreche, heißt es in der Ankündigung anlässlich der Übernahme.

Neue Führung kündigt Änderungen an

Der neue CEO Fred Kaasik führte dies folgendermaßen aus: “Wir werden mit sofortiger Wirkung eine zweistufige Strategie umsetzen. In der ersten Phase werden wir mehr Handelspaare einführen, die Gebühren senken, die Effizienz beim Onboarding verbessern und uns auf die kommenden MiCA-Vorschriften vorbereiten. In der zweiten Phase konzentrieren wir uns auf die Integration bestehender und künftiger Dienstleistungen in das traditionelle Finanzwesen, einschließlich Krypto-Zahlungen und Anlageprodukte, um den Nutzern einen spürbaren Mehrwert zu bieten”.

Krypto-Zahlungsdienste und POS-Geräte würden zusammen mit der Blocktrade-Kreditkarte einen großen Teil dessen ausmachen, worauf sich das Team im Jahr 2024 konzentrieren werde. Den Blocktrade-Nutzer:innen verspricht die neue Führung jedenfalls einen “reibungslosen Übergang”.

Niedermüller will im Blockchain-Bereich bleiben

Von brutkasten nach seinen Zukunftsplänen befragt, antwortete Niedermüller: “Ich weiß noch nicht genau, was ich als Nächstes machen werde”. Es gebe Gespräche, die sich in einer sehr frühen Phase befänden oder erst gestartet werden. Auch bei seinen weiteren Firmen Smape und DAIC werde er sich über den Sommer stärker einbringen. “Ich werde überlegen, reflektieren und viele Gespräche über den Sommer führen und dann mal sehen – ich denke, dass ich im Blockchain-Bereich bleiben werde”.


Aus dem Archiv: Christian Niedermüller im brutkasten-Talk (April 2024)

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”