24.05.2023

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

So steht es in einem Blogeintrag der OpenAI-Führungsriege. Konkret geht es den ChatGPT-Entwicklern darum, aktuelle KI-Initiativen mithilfe großer Regierungen zusammenzuführen. Um mit proaktiver Weitsicht auf das, was kommen mag, vorbereitet zu sein.
/artikel/governance-of-superintelligence-chatgpt-fuehrung-fordert-globale-ki-vereinigung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

Eigentlich fing es bereits in der Entertainment-Industrie an. Die Angst vor KI war spätestens mit der Terminator-Reihe ein Massenphänomen geworden, wurde anschließend hier und da von der Kulturszene in diversen Ausprägungen behandelt, um lange Zeit bloß am Rande der Gesellschaft Science-Fiction-Fans zu beschäftigen. OpenAI und ChatGPT änderten alles.

Die Angst des Menschen vor der KI

Aktuell befindet sich die Welt in einer Experimentierphase und einem Diskurs darüber, was Künstliche Intelligenz alles vermag, wie sie Gesellschaften formen wird und welche Gefahren von ihr ausgehen. Elon Musk etwa forderte vor kurzem einen Stopp der Forschung an KI, nur um kurz später eine eigene KI-Firma zu gründen- der brutkasten berichtete.

Nun haben OpenAI-Gründer Sam Altman, Präsident Greg Brockman und Chief Scientist Ilya Sutskever per Blogbeitrag erklärt, dass das Innovationstempo im Bereich der Künstlichen Intelligenz derart hoch ist; sie könnten eine Zügelung der Technologie durch bestehende Behörden nicht abwarten.

„Was die möglichen Vor- und Nachteile angeht, wird die Superintelligenz leistungsfähiger sein als andere Technologien, mit denen sich die Menschheit in der Vergangenheit auseinandersetzen musste. Wir können eine wohlhabendere Zukunft haben, aber wir müssen die Risiken beherrschen, um an diesen Punkt zu gelangen“, schreibt das Trio in dem Beitrag.

Und weiter: „Angesichts der Möglichkeit eines existenziellen Risikos können wir nicht einfach nur reaktiv sein. Wir müssen auch die Risiken der heutigen KI-Technologie abmildern. Diese Superintelligenz wird eine besondere Behandlung und Koordination erfordern.“

Die OpenAI-Führungsriege hat daher drei Überlegungen angestellt und die Bereiche „Koordination„, „Organisation“ und „demokratische Partizipation“ ausgearbeitet, um möglichen Ausuferungen der KI vorzubeugen.

Eine Idee der globalen Koordination

Erstens fordern Altmann, Brockman und Sutskever ein gewisses Maß an Koordination zwischen den „KI-Leadern dieser Welt“. Um sicherzustellen, dass die Entwicklung von Superintelligenz in einer Weise erfolgt, die sowohl die Aufrechterhaltung der Sicherheit, als auch eine reibungslose Integration der Systeme in Gesellschaften ermöglicht.

„Es gibt viele Möglichkeiten, wie dies umgesetzt werden kann. Große Regierungen auf der ganzen Welt könnten ein Projekt ins Leben rufen, an dem sich viele aktuelle Initiativen beteiligen, oder wir könnten uns gemeinsam darauf einigen, dass das Wachstum der KI-Skills auf eine bestimmte Rate pro Jahr begrenzt ist“, so die Idee. „Und natürlich sollten einzelne Unternehmen an einem extrem hohen Standard für verantwortungsvolles Handeln gemessen werden.“

IAEO als Vorbild

Die zweite Überlegung dreht sich indes darum, eine Organisation – ähnlich der Atombehörde IAEO – ins Leben zu rufen. Denn jede KI-Entwicklung, die eine bestimmte Fähigkeitsschwelle überschreitet, müsse einer internationalen Behörde unterstellt werden, die Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen sowie Beschränkungen für den Einsatzgrad und das Sicherheitsniveau festlegen kann.

Konkret liest es sich im Blogeintrag so: „Die Nachverfolgung des Rechen- und Energieverbrauchs könnte einen wichtigen Beitrag leisten und lässt uns hoffen, dass diese Idee tatsächlich umsetzbar ist. In einem ersten Schritt könnten sich die Unternehmen freiwillig verpflichten, bereits mit der Umsetzung von Richtlinien zu beginnen, die eine mögliche Organisation eines Tages verlangen könnte. Und in einem zweiten Schritt könnten die einzelnen Länder dies umsetzen. Es wäre wichtig, dass sich eine solche Organisation auf die Verringerung existenzieller Risiken konzentriert und nicht auf Fragen, die einzelnen Staaten überlassen werden sollten, wie z. B. die Definition dessen, was eine KI sagen darf.“

Die Demokratisierung der Künstlichen Intelligenz?

Drittens und abschließend bringen die KI-Experten die Frage „Entscheidungsmacht des Individuums“ ins Spiel.

Altmann, Brockman und Sutskever sind sich einig, dass KI-Systeme, die uns aktuell besorgen, eine Macht haben, die jede bisher entwickelte Technologie übertrifft. Deshalb müssten die Verwaltung dieser Systeme sowie die Entscheidungen über deren Einsatz einer starken öffentlichen Kontrolle unterliegen.

„Wir sind der Meinung, dass die Menschen auf der ganzen Welt demokratisch über die Grenzen und Vorgaben für KI-Systeme entscheiden sollten“, heißt es im Blog. „Wir wissen noch nicht, wie ein solcher Mechanismus aussehen soll. (…) Wir sind nach wie vor der Meinung, dass der einzelne Mensch innerhalb dieser weiten Grenzen viel Kontrolle darüber haben sollte, wie sich die von ihm verwendete KI verhält.“

Deine ungelesenen Artikel:
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
Loïc Roch, Mitgründer und CTO von Atinary, in den SwissCAT+-Laboren am Campus Hönggerberg | (c) Martin Pacher

Wer auf den Hönggerberg im Norden Zürichs fährt, lässt die Stadt hinter sich. Der zweite Campus der ETH, entstanden ab 1961, liegt in ländlicher Umgebung, hier sind unter anderem die Departemente für Chemie, Physik und Materialwissenschaft zu Hause. Und hier, in den SwissCAT+-Laboren der Hochschule, lässt sich derzeit besichtigen, wie Forschung aussehen könnte, wenn nicht mehr der Mensch jeden einzelnen Handgriff macht.

In diesen Laboren übernehmen Roboter die Arbeit, die sonst Forschende beschäftigt: Sie hantieren mit Flüssigkeiten und Pulvern, bereiten Proben vor, testen sie und messen laufend die Ergebnisse. Das Bemerkenswerte daran ist aber nicht die Automatisierung selbst, sondern wer die Versuche plant: eine Künstliche Intelligenz. Die Software stammt vom Startup Atinary, das an der ETH keinen eigenen Standort hat, sondern mit der Technologieplattform SwissCAT+ zusammenarbeitet. Sie schlägt vor, welches Experiment als nächstes sinnvoll ist, lernt aus jedem Ergebnis und berechnet daraus den nächsten Schritt. Dieser Kreislauf läuft rund um die Uhr, ohne dass ein Mensch eingreifen muss.

„Ein Labor ist eine große Küche“

Wie soll man sich das vorstellen? Loïc Roch, Mitgründer und CTO von Atinary, greift im Gespräch mit brutkasten zu einem Alltagsbild: „Am Ende ist ein Labor eine große Küche. Wir liefern die Rezepte. Wir nutzen KI, um Rezepte zu erzeugen, die dann im Labor getestet werden.“ Das Ziel: möglichst schnell zum besten Rezept kommen. Denn jeder einzelne Versuch kostet Zeit, Material und Geld. Wer statt tausender Versuche nur ein paar Dutzend braucht, spart enorm.

Genau darauf ist die Software ausgelegt. Statt sich blind durch unzählige mögliche Kombinationen zu probieren, lernt das System mit jedem Experiment dazu und empfiehlt gezielt die vielversprechendsten nächsten Schritte. „Self-Driving Labs“ nennt Atinary das Prinzip, selbstfahrende Labore. Den Begriff hat sich das 2019 gegründete Unternehmen sogar markenrechtlich schützen lassen.

Loïc Roch, Co-founder und CTO von Atinary | (c) Martin Pacher / brutkasten

Den Bedarf für solche Werkzeuge begründet Roch mit einem unbequemen Befund: Forschung wird immer teurer und langsamer, es braucht immer mehr Zeit und Geld, bis Neues gefunden ist. Dazu kommt eine handfeste Vertrauenskrise: Roch verweist auf eine vielzitierte Befragung von rund 1.500 Forschenden, wonach ein Großteil daran scheitert, Experimente zu wiederholen, in der Chemie sind die Quoten besonders hoch. Das ist nicht nur für die Wissenschaft ein Problem: Ohne verlässliche Daten lässt sich auch keine verlässliche KI trainieren.

100 Jahre Forschung in sechs Wochen

Was das System kann, zeigt das Vorzeigeprojekt direkt vor Ort. Gemeinsam mit dem SwissCAT+-Team suchte Atinary nach dem besten Katalysator, also jenem Hilfsstoff, mit dem sich das Treibhausgas CO₂ in Methanol umwandeln lässt, einen Ausgangsstoff für nachhaltige Treibstoffe. Laut Atinary kamen dafür mehr als 20 Millionen mögliche Kombinationen infrage. Das Ergebnis wurde in einem Fachjournal publiziert: In sechs Wochen wurden 144 Katalysator-Kandidaten hergestellt und getestet, mit minimalem menschlichem Zutun. Die Zahl, mit der Atinary seither wirbt, ist eindrucksvoll: eine 1000-fache Beschleunigung, umgerechnet 100 Jahre Katalyse-Forschung in nur sechs Wochen. SwissCAT+-Chef Paco Laveille, der die Umsetzung an der ETH verantwortet, bestätigt beim Besuch die Größenordnung: von Jahren an Forschung hinunter zu Wochen.

(c) Martin Pacher / brutkasten

Beim konkreten Nutzen für Firmenkunden hält sich Roch hingegen zurück, aus einem strukturellen Grund: „Wir sind ein Dienstleister. Wir sehen den generierten Mehrwert nicht, und die Kunden wollen ihn nicht teilen.“ Das habe auch mit Sicherheitsanforderungen zu tun, ergänzt das Unternehmen: Angaben zum erzielten Return on Investment erhalte Atinary dann, wenn Kunden sie von sich aus teilen — teils münde das in gemeinsame Publikationen.

Die einzige konkrete Zahl, die er im Gespräch nennt, stammt aus einer gemeinsamen Publikation mit dem Aromen- und Duftstoffkonzern dsm-firmenich: Dort konnte der Einsatz eines teuren Edelmetalls so stark reduziert werden, dass dessen Kostenanteil um rund 95 Prozent sank. Es sei nicht die einzige gemeinsame Veröffentlichung mit Kunden, betont das Unternehmen — weitere gebe es etwa mit dem Pharmakonzern Takeda.

(c) Martin Pacher / brutkasten

Auch ein aktueller gemeinsamer Blogbeitrag von AWS und Atinary liefert Anhaltspunkte. Ein Manager von Takeda wird dort mit der Aussage zitiert, eine Optimierung habe mit dem selbstfahrenden Ansatz rund eine Woche gedauert, verglichen mit ein bis zwei Monaten auf dem herkömmlichen Weg. Am MIT wiederum löste ein Forschungsteam mit der Software eine knifflige Aufgabe aus der Solarzellenforschung in nur 25 Versuchen, innerhalb einer strikten Frist von vier Wochen. Und über das eigene Labor, das Atinary heuer in Boston eröffnet hat, heißt es: Es erzeuge in einer Woche mehr Versuchsdaten, als ein Doktorand in fünf Jahren produziert.

Bezahlter Pilot, Lizenz pro Arbeitsplatz

Wirtschaftlich steht Atinary noch am Anfang. Das Unternehmen befindet sich in der Seed-Phase, öffentlich auffindbar sind laut Roch rund zehn Millionen an bisheriger Finanzierung, eingesammelt über Venture Capital, Family Offices und Förderungen. Als Nächstes peilt er eine Series A an. Das Wachstumskapital dafür werde voraussichtlich aus den USA kommen: „Der Ansatz ist in Europa und den USA sehr unterschiedlich.“

Paco Laveille, Managing Director, SwissCAT+ East, ETH Zurich | (c) Martin Pacher / brutkasten

Verdient wird über Software-Lizenzen, abgerechnet pro Arbeitsplatz. Am Anfang steht ein dreimonatiger, bewusst kostenpflichtiger Testlauf. „Wenn der Pilot nicht bezahlt ist, stecken die Kunden nicht die Ressourcen hinein, um ihn richtig zu testen“, sagt Roch. Dass er mit diesem Modell Geld liegen lässt, räumt er offen ein: Eine Beteiligung am geschaffenen Wert wäre lukrativer, scheitert aber daran, dass die Kunden diesen Wert eben nicht offenlegen.

Die Kundschaft kommt bisher vor allem aus der Pharmabranche, die laut Roch am ehesten bereit ist, Neues zu riskieren; der Rest der Industrie folge dann. Einsatzfelder gibt es aber quer durch: Lebensmittel, Duftstoffe, Materialforschung, grüne Energie, und gemeinsam mit Stanford sogar Zelltherapien gegen Krebs. Umsatz machen vor allem Konzerne. Mit Universitäten arbeitet Atinary eng zusammen, weil sich dort Ergebnisse veröffentlichen lassen, sie werden so zu Botschaftern der Technologie. Auch KMU zählen zu den Kunden, das jüngste sei erst vor wenigen Tagen dazugekommen. Die Arbeitsteilung im Unternehmen: Das Entwicklerteam sitzt bei Roch in Lausanne, das eigene Labor steht in Boston, dort, wo die großen Pharma-Forschungszentren angesiedelt sind.

„Fast jeden zweiten Tag ein neues Startup“

Beim Thema Konkurrenz wird Roch deutlich: Der Bereich „AI for Science“ ziehe derzeit massiv Gründungen an, fast jeden zweiten Tag komme ein neues Startup dazu. Gefährlich sei daran vor allem eines: Mit den heutigen KI-Werkzeugen lasse sich sehr schnell ein beeindruckender Prototyp bauen, der Kunden begeistert. „Unter der Haube ist das aber kein produktionsreifer Code, der bei einem Großunternehmen laufen kann.“ Atinary sieht er im Vorteil, weil man seit 2019 das gesamte Paket aufgebaut habe: die Anbindung an die Laborgeräte, das eigene KI-Training, die Anwendungen und die wissenschaftliche Glaubwürdigkeit durch den eigenen Beirat. Dazu kommt laut Unternehmen ein Netzwerk an Technologiepartnern, darunter AWS, ABB Robotics, Agilent, Bruker, Chemspeed und Mettler-Toledo. Im wissenschaftlichen Beirat sitzt unter anderem der MIT-Chemiker Stephen Buchwald — im Bostoner Labor optimiert Atinary nach eigenen Angaben ausgerechnet die nach ihm benannte Buchwald-Hartwig-Reaktion.

(c) Martin Pacher / brutkasten

Zugleich beobachtet er seit heuer einen Umschwung im Markt: Kunden dächten zunehmend in einer Wettlauf-Logik. Wer die Technologie nicht als Erster einsetze, riskiere, dass es die Konkurrenz tut. Und wenn diese in Wochen schafft, wofür man selbst Jahre braucht, sei der Rückstand kaum aufzuholen.

Die größte Hürde ist der Mensch

Und was bremst die Verbreitung? Nicht die Technik, sagt Roch, sondern der Mensch. „Der Wissenschaftler im Labor ist oft seit 15, 20 Jahren dort. Wenn man ihm sagt: Wir können deine Forschung um den Faktor zehn oder hundert beschleunigen, sagt er: Nein. Ich kenne mein Fach besser als irgendein Algorithmus.“ Es sei dabei weniger mangelndes Vertrauen, die Technologie werde schlicht als Bedrohung für den eigenen Job empfunden. Christoph Schnidrig von AWS ergänzt: Dieses Muster kenne man von jeder Technologiewelle, von der Einführung der Cloud bis zur KI in der Softwareentwicklung. Rochs Haltung dazu: Jobs würden sich verändern, aber nicht verschwinden. „Am Ende ist es ein Werkzeug. Der Mensch bleibt am Steuer.“

(c) Martin Pacher / brutkasten

Zum Vertrauen gehört auch die Datenfrage, schließlich legen die Kunden ihr wertvollstes Gut, ihre Forschungsdaten, in die Plattform. Die läuft vollständig auf der Cloud von AWS. Roch verweist auf Prüfungen, Audits und Sicherheitstests; personenbezogene Daten würden praktisch keine gespeichert, schon gar keine Patientendaten, dafür sei man in der Forschung viel zu früh angesetzt. Auch deshalb sieht er im EU AI Act derzeit kein Hindernis: In Kundengesprächen sei die Regulierung bislang schlicht kein Thema gewesen.

Auszeichnung vom Weltwirtschaftsforum

Während brutkasten mit Roch in Zürich spricht, befindet sich sein Mitgründer, CEO Hermann Tribukait, gerade im chinesischen Dalian, um dort den Technology-Pioneer-Award des Weltwirtschaftsforums entgegenzunehmen. Zu den früheren Preisträgern der Auszeichnung zählen Roch zufolge Namen wie Google, Dropbox und Airbnb. Preisgeld gibt es keines, der Wert liege im Zugang zum Netzwerk des Forums und zu Entscheidungsträgern großer Unternehmen. Kunden in China hat Atinary übrigens keine, und das dürfte vorerst so bleiben: Als in den USA registriertes Unternehmen sei das Geschäft mit chinesischen Firmen „wegen der Geopolitik sehr heikel“.

Gefragt nach dem Blick fünf Jahre voraus, skizziert Roch eine Vision, die er ausgerechnet am Vorbild seines Cloud-Partners entwirft: Labore, die wie Rechenleistung aus der Cloud abrufbar sind, weltweit vernetzt, mit einer übergeordneten KI, die Erkenntnisse zwischen Forschungszentren auf verschiedenen Kontinenten austauscht.

Den Antrieb dahinter beschreibt er ganz persönlich: Er und seine Mitgründer seien Naturliebhaber, und die Energiewende brauche schnellere Forschung. „Der Planet kann nicht noch ein Jahrzehnt warten, bis wir Lösungen finden.“ Sein Befund nach sieben Jahren: „R&D ist heute noch zu langsam.“


Disclaimer: Die Reise- und Übernachtungskosten wurden von Amazon Web Services übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung