29.03.2023

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

In einem offenen Brief fordern Tech-Leader, Forscher:innen und Mitarbeiter:innen von Techkonzernen, das Training von KIs vorübergehend auszusetzen. KIs sollen nicht noch mächtiger als GPT-4 werden.
/artikel/elon-musk-und-steve-wozniak-in-offenem-brief-stoppt-alle-ki-experimente-fuer-6-monate
Elon Musk Tesla autonomes Fahren LiDAR
Elon Musk | (c) United States Air Force via Wikimedia Commons

1.125 Unterschriften gegen KI-Experimente: Große Tech Player wie Apple-Co-Founder Steve Wozniak und StabilityAI-Founder Emad Mostaque haben einen offenen Brief gegen die Weiterentwicklung von Künstlicher Intelligenz unterzeichnet. Ebenfalls unter den Unterzeichner:innen: Elon Musk.

Konkret ruft die am 22. März auf futureoflife.org veröffentlichte Petition alle Labore, die Künstliche Intelligenz entwickeln, dazu auf, ihre Aktivitäten für mindestens 6 Monate zu stoppen. KI-Entwickler:innen sollen das Training von KIs, die leistungsfähiger als GPT-4 sind, dadurch umgehend unterbrechen. Das soll das Tempo des “gefährlichen” und “außer Kontrolle geratenen Wettbewerbs” der letzten Monate drosseln. Denn dieser brächte “immer mächtigere digitale Intelligenzen, die nicht einmal deren Schöpfer:innen verstehen, vorhersehen oder kontrollieren können” hervor.

KIs könnten zu Kontrollverlust über Zivilisation führen

Zeitgenössische KI-Systeme könnten immer mehr allgemeine Aufgaben von Menschen übernehmen und würden damit zunehmend zur direkten Konkurrenz, heißt es weiters im offenen Brief. Daher müsse man sich fragen: “Sollten wir es zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Dass unsere Jobs, auch die erfüllenden, automatisiert werden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns im Endeffekt übertreffen und ersetzen werden?” In Summe würden wir damit, laut den Autor:innen des offenen Briefes, riskieren, die Kontrolle über unsere Zivilisation zu verlieren.

Tech-Giganten sprechen sich gegen Machtmonopol von Tech-Giganten aus

Um den wissenschaftlich belegten Risiken der rapiden KI-Entwicklung entgegenzuwirken, müsse man diese planen, managen und kontrollieren. Genau das passiere aber derzeit nicht. “Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir sichergehen können, dass deren Effekte positiv und Risiken kontrollierbar sind”. “Solche Entscheidungen sollten nicht an demokratisch nicht legitimierte Tech-Giganten ausgelagert werden”, heißt es in weiterer Folge. Das sehen Tech-Giganten wie Elon Musk offenbar selbst so, wenn man deren Unterschriften Glauben schenkt.

Black-Box-Modelle mit unvorhersehbaren Fähigkeiten

Die KI-Entwicklungspause sollten KI-Unternehmen dazu nutzen, gemeinsam mit politischen Entscheidungsträger:innen tragfähige Sicherheitsprotokolle und Regulatorien zu erarbeiten. Unabhängige Expert:innen sollen den KI-Enwicklungsprozess stetig begleiten und kontrollieren. Derzeit würden immer wieder neue unkontrollierbare Black-Box-Modelle mit unvorhersehbaren Fähigkeiten entwickelt. Stattdessen sollte die KI-Forschung und -entwicklung sich darauf konzentrieren, die bereits vorhandenen State-of-the-Art-Systeme genauer, sicherer, interpretierbarer, transparenter, robuster und vertrauensfähiger zu machen.

Maßnahmen gegen KI-Exzess

Dazu, wie man dem KI-Exzess entgegenwirken kann, machen die Autor:innen des offenen Briefes konkrete Vorschläge. Neben des Trackings von hochfunktionalen KI-Systemen sind das beispielsweise eine Haftung für von KIs verursachte Schäden, großzüge öffentliche Gelder für KI-Sicherheitsforschung und ein tragfähiges Zertifizierungssystem für sichere KIs. Es brauche vor allem “Institutionen, die den dramatischen wirtschaftlichen und politischen Disruptionen (und der damit verbundenen Gefährdung der Demokratie), die KI mit sich bringt, Einhalt gebieten”.

Staat soll eingreifen können

Die Pause soll transparent und öffentlich einsehbar sein. Sollte das nicht von den KI-Laboren selbst aus geschehen, müssten Staat bzw. Regierungen die Möglichkeit haben, einzugreifen und eine derartige Pause zu erzwingen. Das ist wiederum erstaunlich aus dem Munde von Elon Musk & Co. Jene versuchen meist, nicht überraschend, staatliche Regulatorien und Eingriffe in die Aktivitäten von Techkonzernen weitgehend zu umgehen.

Der aktuell mächtigste KI-Player ist nicht dabei

Neben den prominenten Persönlichkeiten aus der Techszene, darunter auch die Co-Founder von Skype und Pinterest, sind auch weniger bekannte Mitarbeiter:innen von Techkonzernen wie beispielsweise Google und Meta unter den Unterstützer:innen. Dazu auch zahlreiche namhafte KI-Forscher:innen wie Tristan Harris vom Center for Humane Technology und Marc Rotenberg vom Center for AI and Digital Policy.

Von OpenAI, dem Unternehmen, das derzeit mit ChatGPT und GPT-4 die meisten Gewinne am KI-Markt einfährt, hat bislang niemand unterschrieben.

Deine ungelesenen Artikel:
23.05.2024

Neue Stelle verspricht schnellere Zulassung von Medizinprodukten in Österreich

Österreich hat mit QMD Services seit Mitte Mai eine eigene nationale Zulassungsstelle für Medizinprodukte. Wir haben bei heimischen HealthTech-Foundern und -Founderinnen nachgefragt und herausgefunden, wie sie zur neuen "Benannten Stelle" stehen.
/artikel/neue-stelle-verspricht-schnellere-zulassung-von-medizinprodukten-in-oesterreich
23.05.2024

Neue Stelle verspricht schnellere Zulassung von Medizinprodukten in Österreich

Österreich hat mit QMD Services seit Mitte Mai eine eigene nationale Zulassungsstelle für Medizinprodukte. Wir haben bei heimischen HealthTech-Foundern und -Founderinnen nachgefragt und herausgefunden, wie sie zur neuen "Benannten Stelle" stehen.
/artikel/neue-stelle-verspricht-schnellere-zulassung-von-medizinprodukten-in-oesterreich
QMD Services, Zulassung, Medizinzulassung
(c) Xund, nyra health, Fempulse, Gouya Insights - (l.) Sophie Pingitzer, Head of Regulatory & QM bei Xund, Moritz Schöllauf (m.), Co-Founder nyra health, Thomas Huber (r.) von Fempulse und Ghazaleh Gouya-Lechner, Gründerin Gouya Insights.

Wie schon im Diskurs zur Medical Device Regulation angedeutet, hatten heimische Anbieter von Medizinprodukten u.a. das Problem, dass eine Zulassung enorm viel an Zeit gekostet hat, bevor HealthTech-Startups und Co. mit ihren Erzeugnissen auf den Markt konnten. Dies soll sich nun mit der neuen Zulassungsstelle (Benannte Stelle) ändern: 56 Monate – das war der Zeitraum, in dem der komplexe Prüf- und Zulassungsprozess stattfand und mit 14. Mai sein Ende fand. Österreich hat seither mit QMD Services, einer (seit 2018) Tochter der Quality Austria – Trainings, Zertifizierungs und Begutachtungs GmbH, eine eigene nationale Zulassungsstelle für Medizinprodukte. Der Aufbau von QMD wurde von der Wirtschaftsagentur Wien und LISAvienna unterstützt.

QMD Services: eine von elf Zulassungsstellen in der EU

Nach der EU-Medizinprodukteverordnung und deren strengeren Auflagen hatten sich viele Zulassungsstellen zurückgezogen und heimische Unternehmen mussten in der EU nach (weniger gewordenen) Prüfstellen suchen. Die Folge: Lange Wartezeiten, oft viele Monate. QMD Services ist, Stand heute, in der gesamten Europäischen Union eine von elf Zulassungsstellen sowohl für Medizinprodukte als auch für sogenannte In-vitro-Diagnostika – letzteres bereits seit Dezember 2022.

“Wir sind mit unserem hochkarätigen Team aus internationalen Expertinnen und Experten mit langjähriger Erfahrung in Forschung, Technik und Medizin zu einem zentralen Know-how-Hub für Medizintechnik in Österreich geworden. Und stolz drauf. Dieses geballte Wissen steht jetzt heimischen Unternehmen für die Konformitätsbewertung ihrer Produkte zur Verfügung”, sagt Anni Koubek, Geschäftsführerin von QMD Services. “Die zeitintensive Suche nach einer Zulassungsstelle für Medizinprodukte irgendwo in der EU hat damit ein Ende.”

160 Milliarden-Markt

Nach aktuellen Zahlen von Austromed sind in Europa 750.000 Medizinprodukte im Einsatz. Die Palette reicht dabei von Latex-OP-Handschuhen über Verbandsmaterial, Rollstühle, Herzschrittmacher und Knie- oder Hüftprothesen bis hin zu High-Tech-Röntgengeräten oder Scannern. Im Jahr 2022 wurden beim Europäischen Patentamt 15.600 Medizinprodukte angemeldet.

Der gesamte europäische Medizinprodukte-Markt wird mit mehr als 160 Milliarden Euro beziffert – nach Rückgängen aufgrund der Wirtschaftskrise 2009 betrug das Wachstum 2022 mehr als elf Prozent.

Gouya Insights: “Ein Meilenstein”

Ghazaleh Gouya Lechner, Gründerin von Gouya Insights sieht in der neuen Zulassungsstelle einen enormen Vorteil für die gesamte Sparte.

“Ich freue mich besonders über die Etablierung von QMD Services als neue ‘Benannte Stelle’ für Medizinprodukte in Österreich. Diese Entwicklung zeichnet einen bedeutenden Meilenstein für die heimische Medizinprodukteindustrie und bringt zahlreiche Vorteile für den Gesundheitssektor und die Wirtschaft Österreichs mit sich”, sagt sie. “Mit über 620 heimischen Herstellern und 62.000 Beschäftigten, die auf schnelle und effiziente Zertifizierungsprozesse angewiesen sind, entfällt durch die Präsenz von QMD Services die mühsame und kostspielige Suche nach Zertifizierungsstellen in anderen EU-Ländern. Dies beschleunigt den Markteintritt für österreichische Medizinprodukte erheblich – ein wesentlicher Faktor in einer Branche, in der der Produktlebenszyklus durchschnittlich nur 18 bis 24 Monate beträgt.”

nyra health-Founder zu QMD Services

Auch Moritz Schöllauf, CEO und Co-Founder von nyra health schlägt in eine ähnliche Kerbe, wenn er sagt: “Als österreichisches Digital-Health-Unternehmen und Anbieter von CE-zertifizierten Medizinprodukten wissen wir, wie wichtig es ist, dass digitale Medizinprodukte, deren Wirksamkeit nachgewiesen ist und die von Patientinnen und Patienten genutzt werden, rasch zertifiziert werden können. Wir freuen uns daher sehr, dass es nun endlich eine österreichische ‘Benannte Stelle’ gibt. Das ist auch ein wichtiger Schritt für Wien als Digital Health Hub und hilft, Innovation schneller auf den Markt zu bringen.”

Xund: “Dringend gebrauchte Entspannung”

Sophie Pingitzer, Head of Regulatory & QM bei Xund, sieht QMD Services ebenfalls als eine ganz wesentliche Entwicklung für den Markt: “Das stellt einen wichtigen Schritt für die dringend gebrauchte Entspannung dar, was die Kapazitäten der ‘Benannten Stellen’ betrifft”, erklärt sie. “Besonders erfreulich ist dann natürlich, dass es sich um eine österreichische ‘Benannte Stelle’ handelt.”

FemPulse: “Blick auf europäischen Engpass”

Ähnlich beschreibt es Thomas Huber vom Wiener MedTech-Startup FemPulse: “Ich begrüße diese Entwicklung aus Sicht eines privaten österreichischen MedTech-Unternehmers, aber viel mehr noch aus Sicht eines interessierten Bürgers”, sagt er. “Gerade mit Blick auf den ‘europäischen Engpass’ an ‘Notified Bodies’ ist ein zusätzlicher von elementarer Wichtigkeit, weil sich Startups weder den mühsamen Such- und Qualifikationsprozess noch einen langwierigen Begutachtungsprozess leisten können. Persönlich kenne ich einige Startups, die zuletzt ‘auf der Strecke’ geblieben sind, weil Sie die Mehrkosten nicht mehr darstellen konnten und es, im Vergleich zu den USA, auch kaum VC-Strukturen hierzu gibt.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Elon Musk und Steve Wozniak in offenem Brief: “Stoppt alle KI-Experimente für 6 Monate”