Elon Musk und Steve Wozniak in offenem Brief: „Stoppt alle KI-Experimente für 6 Monate“
In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.
Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des „gefährlichen“ und „außer Kontrolle geratenen Wettbewerbs“ der letzten Monate drosseln. Denn dieser brächte „immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können“ hervor.
KIs könnten zu Kontrollverlust über Zivilisation führen
Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: „Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?“ In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.
Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus
Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. „Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind“. „Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden“, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.
Black-Box-Modelle mit unvorhersehbaren Fähigkeiten
Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.
Maßnahmen gegen KI-Exzess
Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem „Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten“.
Staat soll eingreifen können
Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.
Der aktuell mächtigste KI-Player ist nicht dabei
Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.
Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.
Das Voting zum „Innovator of the Year“ 2026 – Kategorie Scaleups
Mit dem Innovator of the Year kürt brutkasten jedes Jahr gemeinsam mit seiner Community die innovativsten Köpfe Österreichs. In der Kategorie „Scaleups“ kannst du jetzt bis 1. November 2026 für deine:n Favorit:in abstimmen. Der Award wird am 5. November im Rahmen des brutkasten-Jahresevents Momentum vergeben.
Das Voting zum „Innovator of the Year“ 2026 – Kategorie Scaleups
Mit dem Innovator of the Year kürt brutkasten jedes Jahr gemeinsam mit seiner Community die innovativsten Köpfe Österreichs. In der Kategorie „Scaleups“ kannst du jetzt bis 1. November 2026 für deine:n Favorit:in abstimmen. Der Award wird am 5. November im Rahmen des brutkasten-Jahresevents Momentum vergeben.
Erfolgreiche Skalierung ist das Ziel jedes Startups. Bekanntlich schaffen das bei weitem nicht alle, doch auch hierzulande wird die Gruppe jener, denen der Sprung zum starken Wachstum gelungen ist, immer größer – und das auch unter bekanntlich teils widrigen Bedingungen.
Auch dieses Jahr schafften wieder einige heimische Unternehmen den Schritt vom Startup zum Scaleup und legten beeindruckende Wachstumsstorys vor. Und einige bereits etablierte Scaleups zeigten eindrücklich, dass ihre Wachstumsambition ungebrochen ist.
Zehn davon holen wir als Nominierte für den Innovator of the Year in der Kategorie Scaleups vor den Vorhang. Der Preis wird heuer zum 6. Mal vergeben. Am 5. November findet die feierliche Award Ceremony im Rahmen des brutkasten-Jahresevents Momentum im Wiener Palais Berg statt. Neben der Kategorie Scaleups wird der Award dieses Jahr in den Kategorien Startups und Corporate Innovation vergeben. Als Preis in allen drei Kategorien winkt jeweils ein brutkasten-Medienpaket im Wert von 4.100 Euro.
Die „Innovator of the Year“-Kategorie Scaleups wird durch Polestar unterstützt.
Publikumsvoting zum Innovator of the Year | Kategorie „Scaleups“
Nun ist, wie jedes Jahr, deine Stimme gefragt. Bis zum 1. November (23:59 Uhr) kannst du für deine:n Favorit:in abstimmen! Jede:r User:in hat pro Tag und Kategorie genau eine Stimme – es lohnt sich also, die eigene Community zu aktivieren.
(Hinweis: Bei mehrfacher Stimmabgabe pro Tag erfolgt zwar keine gesonderte Fehlermeldung im Voting-Tool, Mehrfachvotes werden vom System jedoch automatisiert erkannt und ausgefiltert).
Auffallen ist gewiss eine der Stärken des Grazer Scaleups Emerald Horizon – sei es mit ausgerechnet diesem Produkt, Small Modular Reactors, im traditionell extrem atomkraftkritischen Österreich, mit Personalentscheidungen wie Ex-FPÖ-Chef Norbert Hofer oder mit dem dieses Jahr erfolgten ungewöhnlich frühen Börsengang. An der Wiener Börse wird das Unternehmen jedenfalls mittlerweile seit Monaten jenseits der Milliarden-Euro-Grenze bewertet und kann damit – je nach Definition – als Österreichs jüngstes Unicorn gesehen werden. Für die Entwicklung des Unternehmens gewiss noch entscheidender: Im August verkündete man, gemeinsam mit dem niederländischen Partner VDL Groep in die nächste Entwicklungsstufe des Small Modular Reactors zu gehen.
Enpulsion
Enpulsion-Gründer und -CEO Alexander Reissner | (c) Enpulsion
Das niederösterreichische SpaceTech-Scaleup Enpulsion rund um Gründer Alexander Reissner liefert Antriebssysteme für Nano- und Mikrosatelliten. Zu Jahresbeginn sicherte sich das Unternehmen eine 22,5 Millionen Euro schwere Series-B-Finanzierung, um die Produktionskapazitäten am Standort Wiener Neustadt deutlich zu erhöhen. Im August 2026 verkündete Enpulsion zudem die geplante strategische Übernahme der britischen Lift Me Off Ltd, um das eigene Produkt-Portfolio um chemische Antriebe für besonders agiles Manövrieren im Weltraum zu erweitern. Zusätzlich steht für diesen Herbst ein zentraler Meilenstein an: ein Orbit-Test der neuartigen Antriebstechnik an Bord des heimischen Satelliten AT-Astra.
fiskaly
fiskaly – das Gründerteam Simon Tragatschnig (COO), Johannes Ferner (CEO) und Patrick Gaubatz (CTO) | (c) fiskaly
Das 2019 gegründete Wiener Unternehmen fiskaly von Johannes Ferner, Simon Tragatschnig und Patrick Gaubatz macht Kassentransaktionen cloudbasiert und gesetzeskonform. Die Zahlen sprechen für sich: 60 Prozent Wachstum im vergangenen Geschäftsjahr, profitabel, mehr als 150 Mitarbeitende, rund 1.900 B2B-Kund:innen mit über einer Million POS-Systemen in acht EU-Ländern und Marktführerschaft in Deutschland. Im September folgte der nächste Schritt vom Scaleup zum Infrastrukturanbieter: Mit David Feichter holte fiskaly den Ex-CEO von orderbird als Co-CEO an Bord, ausgerechnet jenen Mann, der 2019 als allererster Kunde den Deal mit Ferner verhandelt hatte. Feichter verantwortet den operativen Betrieb, Ferner konzentriert sich auf Partnerschaften und weitere Akquisitionen in Europa.
Das 2023 gegründete Scaleup von Gründer Markus Müller entwickelt eine KI-gestützte Software, die regulatorische und qualitative Prozesse für MedTech- und Pharmaunternehmen automatisiert. Im Februar 2026 sorgte das Unternehmen mit einem Series-A-Investment von 20 Millionen Dollar für Aufsehen. Mit dem frischen Kapital treibt das Scaleup in diesem Jahr die gezielte Expansion auf dem US-Markt voran, um sich weltweit als Standard für regulatorische KI-Prüfungen im Gesundheitsbereich zu etablieren. Zudem plant man eine erste eigene Kund:innenkonferenz, die über 200 internationale MedTech-Entscheider:innen nach Wien bringen soll.
fonio.ai
fonio.ai-Co-Founder Daniel Keinrath (CEO, l.) und Matthias Gruber (CTO) | (c) fonio.ai
Wenn bei einem KMU niemand ans Telefon geht, übernimmt fonio.ai: Die KI-Agenten des erst 2024 gegründeten Wiener Startups von Daniel Keinrath und Matthias Gruber führen inzwischen rund zwei Millionen Anrufe pro Monat für über 7.000 Kund:innen. Im Juni schloss man eine Seed-Runde über 14,6 Millionen Euro ab, angeführt vom Londoner Fonds 20VC bei einer Bewertung von 120 Millionen Euro, ohne offiziellen Fundraise und ohne Pitch Deck. Im August knackte fonio.ai die Marke von zehn Millionen Dollar ARR – später folgte im Oktober die Marke von 15 Millionen Dollar. Mehr als die Hälfte des Umsatzes kommt laut Keinrath inzwischen von außerhalb der DACH-Region, im September eröffnete das Startup unter anderem sein Büro in Barcelona als Hub für Südeuropa.
Helferline
v.l.: Die Helferline-Gründer Clemens Schmidgruber und Alexander Niederhofer mit CTO Janko Glavić | (c) Helferline
Es ist eine Geschichte, wie sie nur die Startup-Welt schreiben kann: Vor mehr als zehn Jahren gegründet, konnte Helferline über lange Zeit zwar eine ganze Zahl namhafter Referenzen vorweisen, der wirtschaftliche Durchbruch blieb aber aus. Das änderte sich im Laufe der vergangenen Monate drastisch: Vor etwas mehr als einem Jahr stieg Hansi Hansmann als Investor ein. Seitdem holte man Großaufträge vom deutschen Telekom-Riesen O2, von Asus, von Starlink und weiteren. Aktuell befindet sich das Wiener Scaleup auf einem steilen Wachstumskurs und macht nach eigenen Angaben monatliche sechsstellige Gewinne.
Neoh
v.l.n.r.: Die Neoh-Gründer Adel Hafizovic, Manuel Zeller und Patrick Kolomaznik | (c) Neoh
Das Wiener Scaleup von Manuel Zeller konnte mit Süßigkeiten, die auf dem selbst entwickelten, kalorienarmen Zuckerersatzstoff Zero+ basieren, mittlerweile eine große Fangemeinde aufbauen, die auch über die Grenzen Österreichs hinausgeht. Auch machte, Stand April 2026, das B2B-Geschäft bereits rund 15 Prozent des Gesamtumsatzes aus, mit steigender Tendenz, wie Zeller erklärte. Dies und auch die Entwicklung einer gelungenen Bueno-Alternative sorgten dafür, dass eine Investmentgesellschaft aus Luxemburg namens Teseo Capital ins Scaleup einstieg. Dahinter steht die italienische Familie Ferrero, die mit Marken wie Nutella, Kinder und Ferrero Rocher den Süßigkeitenmarkt dominiert.
Das Innsbrucker Quantenunternehmen ParityQC von Wolfgang Lechner und Magdalena Hauser hat allein im heurigen Jahr einen 35-Mio.-Deal für den Bau eines mobilen Quantencomputers für das deutsche Verteidigungsministerium ergattert und im Rahmen der „EUREKA-Ausschreibung Deutschland-Israel“ eine Kooperation mit dem israelischen Quantensoftware-Spezialisten Classiq gestartet. Zudem lieferte es im April einen deutlichen Beleg dafür, dass europäisches Quantencomputing den Sprung aus dem Labor in die Industrie geschafft hat. Gemeinsam mit IBM stellte man einen neuen Weltrekord bei der Quanten-Fourier-Transformation (QFT) auf. Konkret wurde dabei die bislang größte jemals gemessene QFT auf einem IBM-Quantum-Heron-Prozessor realisiert, mit 52 supraleitenden Qubits statt der bisherigen 27 Ionenfallen-Qubits.
Reploid
Jonas Finck und Philip Pauer, Vorstände der Reploid Group AG | (c) Reploid / Stefan Beiganz
Kein anderes heimisches Scaleup schaffte es dieses Jahr, in einer derartigen Regelmäßigkeit für Schlagzeilen zu sorgen. Das seit 2025 an der Wiener Börse gelistete Welser Insektenzucht-Unternehmen baute seine Führungsebene aus, eröffnete neue Expansionsmärkte, präsentierte neue Kund:innen, verkündete eine Übernahme und holte sich einen achtstelligen Wachstumskredit. Wiewohl die Geschäftszahlen bei genauerer Betrachtung etwas komplexer sind, als vom Scaleup dargestellt, steht fest: Reploid ist weiter voll auf Wachstumskurs.
waterdrop
Die waterdrop-Gründer v.l.n.r: Christoph Hermann, Martin Murray, Henry Murray | (c) waterdrop
Das Wiener Scaleup waterdrop von Henry Murray, Martin Murray und Christoph Hermann holte sich im Mai ein 100-Millionen-Euro-Investment. Zu den Investor:innen dieser Runde zählten Aspeya, Atlantic Grupa und der alpine Ski-Weltcup-Champion Aleksander Aamodt Kilde. Schon im Jänner dieses Jahres verkündete das Scaleup seine Profitabilität. Zudem übernahm Jristian Cruz Limsico die Rolle des Global Creative Director, der seit 2017 die visuelle Identität des Modehauses Karl Lagerfeld prägte. Er verantwortet nun die weltweite Markenidentität des Unternehmens.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
