31.05.2023

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

An Warnungen von AI-Granden vor AI ist man mittlerweile gewohnt. Nun wurde eine weitere, besonders kurze, lanciert.
/artikel/openai-altman-ein-satz-warnung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

„OpenAI-Gründer Sam Altman warnt vor Gefahren der künstlichen Intelligenz“ – Variationen dieser Schlagzeile gab es in den vergangenen Monaten viele. Mehrfach handelte es sich dabei um „offene Briefe“ oder der gleichen, die viele prominente Unterzeichner:innen fanden. Insofern verwundert es, warum überhaupt weitere solche Kassandrarufe lanciert werden. Und warum sie jedes Mal aufs Neue von Menschen unterzeichnet werden, die im KI-Bereich Rang und Namen haben.

In der Kürze liegt die apokalyptische Würze

Nun passierte es wieder. Das in San Francisco ansässige Center for AI Safety (CAIS) ging mit einer neuerlichen Warnung an die Öffentlichkeit und schaffte es unter anderem, mehrere OpenAI-Co-Founder, darunter Sam Altman und Mira Murati, zur Unterschrift zu bewegen. Bei all der Redundanz hat dieses Statement eine Besonderheit: Es ist sehr kurz. In nur einem Satz beschwört es ein nachgerade apokalyptisches Szenario herauf:

„Die Minderung des Risikos der Ausrottung [des Menschen] durch KI sollte, neben anderen Risiken von gesellschaftlichem Ausmaß, wie Pandemien und Atomkrieg, eine globale Priorität sein“.

Neben dem Statement findet sich auf der Page auch eine (deutlich längere) Erklärung, warum das Statement so kurz ausfällt: „KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI. Dennoch kann es schwierig sein, Bedenken über einige der schwerwiegendsten Risiken der fortgeschrittenen KI zu äußern. Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen. Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen“.

OpenAI-Gründer Sam Altman für „Minderung des Risikos“, aber gegen EU-Regulierung

Ob dieses Statement etwas bringen wird? Mit „Minderung des Risikos“ meint zumindest Sam Altman jedenfalls augenscheinlich nicht Regulierung – zumindest nicht eine solche, die er sich nicht selbst überlegt hat. Auf neue AI-Regulierungspläne der EU reagierte OpenAI jedenfalls zuletzt mit offener Ablehnung, die in einer (mittlerweile wieder zurückgenommenen) Drohung des Ausstiegs aus dem Markt gipfelte.

Deine ungelesenen Artikel:
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
Loïc Roch, Mitgründer und CTO von Atinary, in den SwissCAT+-Laboren am Campus Hönggerberg | (c) Martin Pacher

Wer auf den Hönggerberg im Norden Zürichs fährt, lässt die Stadt hinter sich. Der zweite Campus der ETH, entstanden ab 1961, liegt in ländlicher Umgebung, hier sind unter anderem die Departemente für Chemie, Physik und Materialwissenschaft zu Hause. Und hier, in den SwissCAT+-Laboren der Hochschule, lässt sich derzeit besichtigen, wie Forschung aussehen könnte, wenn nicht mehr der Mensch jeden einzelnen Handgriff macht.

In diesen Laboren übernehmen Roboter die Arbeit, die sonst Forschende beschäftigt: Sie hantieren mit Flüssigkeiten und Pulvern, bereiten Proben vor, testen sie und messen laufend die Ergebnisse. Das Bemerkenswerte daran ist aber nicht die Automatisierung selbst, sondern wer die Versuche plant: eine Künstliche Intelligenz. Die Software stammt vom Startup Atinary, das an der ETH keinen eigenen Standort hat, sondern mit der Technologieplattform SwissCAT+ zusammenarbeitet. Sie schlägt vor, welches Experiment als nächstes sinnvoll ist, lernt aus jedem Ergebnis und berechnet daraus den nächsten Schritt. Dieser Kreislauf läuft rund um die Uhr, ohne dass ein Mensch eingreifen muss.

„Ein Labor ist eine große Küche“

Wie soll man sich das vorstellen? Loïc Roch, Mitgründer und CTO von Atinary, greift im Gespräch mit brutkasten zu einem Alltagsbild: „Am Ende ist ein Labor eine große Küche. Wir liefern die Rezepte. Wir nutzen KI, um Rezepte zu erzeugen, die dann im Labor getestet werden.“ Das Ziel: möglichst schnell zum besten Rezept kommen. Denn jeder einzelne Versuch kostet Zeit, Material und Geld. Wer statt tausender Versuche nur ein paar Dutzend braucht, spart enorm.

Genau darauf ist die Software ausgelegt. Statt sich blind durch unzählige mögliche Kombinationen zu probieren, lernt das System mit jedem Experiment dazu und empfiehlt gezielt die vielversprechendsten nächsten Schritte. „Self-Driving Labs“ nennt Atinary das Prinzip, selbstfahrende Labore. Den Begriff hat sich das 2019 gegründete Unternehmen sogar markenrechtlich schützen lassen.

Loïc Roch, Co-founder und CTO von Atinary | (c) Martin Pacher / brutkasten

Den Bedarf für solche Werkzeuge begründet Roch mit einem unbequemen Befund: Forschung wird immer teurer und langsamer, es braucht immer mehr Zeit und Geld, bis Neues gefunden ist. Dazu kommt eine handfeste Vertrauenskrise: Roch verweist auf eine vielzitierte Befragung von rund 1.500 Forschenden, wonach ein Großteil daran scheitert, Experimente zu wiederholen, in der Chemie sind die Quoten besonders hoch. Das ist nicht nur für die Wissenschaft ein Problem: Ohne verlässliche Daten lässt sich auch keine verlässliche KI trainieren.

100 Jahre Forschung in sechs Wochen

Was das System kann, zeigt das Vorzeigeprojekt direkt vor Ort. Gemeinsam mit dem SwissCAT+-Team suchte Atinary nach dem besten Katalysator, also jenem Hilfsstoff, mit dem sich das Treibhausgas CO₂ in Methanol umwandeln lässt, einen Ausgangsstoff für nachhaltige Treibstoffe. Laut Atinary kamen dafür mehr als 20 Millionen mögliche Kombinationen infrage. Das Ergebnis wurde in einem Fachjournal publiziert: In sechs Wochen wurden 144 Katalysator-Kandidaten hergestellt und getestet, mit minimalem menschlichem Zutun. Die Zahl, mit der Atinary seither wirbt, ist eindrucksvoll: eine 1000-fache Beschleunigung, umgerechnet 100 Jahre Katalyse-Forschung in nur sechs Wochen. SwissCAT+-Chef Paco Laveille, der die Umsetzung an der ETH verantwortet, bestätigt beim Besuch die Größenordnung: von Jahren an Forschung hinunter zu Wochen.

(c) Martin Pacher / brutkasten

Beim konkreten Nutzen für Firmenkunden hält sich Roch hingegen zurück, aus einem strukturellen Grund: „Wir sind ein Dienstleister. Wir sehen den generierten Mehrwert nicht, und die Kunden wollen ihn nicht teilen.“ Das habe auch mit Sicherheitsanforderungen zu tun, ergänzt das Unternehmen: Angaben zum erzielten Return on Investment erhalte Atinary dann, wenn Kunden sie von sich aus teilen — teils münde das in gemeinsame Publikationen.

Die einzige konkrete Zahl, die er im Gespräch nennt, stammt aus einer gemeinsamen Publikation mit dem Aromen- und Duftstoffkonzern dsm-firmenich: Dort konnte der Einsatz eines teuren Edelmetalls so stark reduziert werden, dass dessen Kostenanteil um rund 95 Prozent sank. Es sei nicht die einzige gemeinsame Veröffentlichung mit Kunden, betont das Unternehmen — weitere gebe es etwa mit dem Pharmakonzern Takeda.

(c) Martin Pacher / brutkasten

Auch ein aktueller gemeinsamer Blogbeitrag von AWS und Atinary liefert Anhaltspunkte. Ein Manager von Takeda wird dort mit der Aussage zitiert, eine Optimierung habe mit dem selbstfahrenden Ansatz rund eine Woche gedauert, verglichen mit ein bis zwei Monaten auf dem herkömmlichen Weg. Am MIT wiederum löste ein Forschungsteam mit der Software eine knifflige Aufgabe aus der Solarzellenforschung in nur 25 Versuchen, innerhalb einer strikten Frist von vier Wochen. Und über das eigene Labor, das Atinary heuer in Boston eröffnet hat, heißt es: Es erzeuge in einer Woche mehr Versuchsdaten, als ein Doktorand in fünf Jahren produziert.

Bezahlter Pilot, Lizenz pro Arbeitsplatz

Wirtschaftlich steht Atinary noch am Anfang. Das Unternehmen befindet sich in der Seed-Phase, öffentlich auffindbar sind laut Roch rund zehn Millionen an bisheriger Finanzierung, eingesammelt über Venture Capital, Family Offices und Förderungen. Als Nächstes peilt er eine Series A an. Das Wachstumskapital dafür werde voraussichtlich aus den USA kommen: „Der Ansatz ist in Europa und den USA sehr unterschiedlich.“

Paco Laveille, Managing Director, SwissCAT+ East, ETH Zurich | (c) Martin Pacher / brutkasten

Verdient wird über Software-Lizenzen, abgerechnet pro Arbeitsplatz. Am Anfang steht ein dreimonatiger, bewusst kostenpflichtiger Testlauf. „Wenn der Pilot nicht bezahlt ist, stecken die Kunden nicht die Ressourcen hinein, um ihn richtig zu testen“, sagt Roch. Dass er mit diesem Modell Geld liegen lässt, räumt er offen ein: Eine Beteiligung am geschaffenen Wert wäre lukrativer, scheitert aber daran, dass die Kunden diesen Wert eben nicht offenlegen.

Die Kundschaft kommt bisher vor allem aus der Pharmabranche, die laut Roch am ehesten bereit ist, Neues zu riskieren; der Rest der Industrie folge dann. Einsatzfelder gibt es aber quer durch: Lebensmittel, Duftstoffe, Materialforschung, grüne Energie, und gemeinsam mit Stanford sogar Zelltherapien gegen Krebs. Umsatz machen vor allem Konzerne. Mit Universitäten arbeitet Atinary eng zusammen, weil sich dort Ergebnisse veröffentlichen lassen, sie werden so zu Botschaftern der Technologie. Auch KMU zählen zu den Kunden, das jüngste sei erst vor wenigen Tagen dazugekommen. Die Arbeitsteilung im Unternehmen: Das Entwicklerteam sitzt bei Roch in Lausanne, das eigene Labor steht in Boston, dort, wo die großen Pharma-Forschungszentren angesiedelt sind.

„Fast jeden zweiten Tag ein neues Startup“

Beim Thema Konkurrenz wird Roch deutlich: Der Bereich „AI for Science“ ziehe derzeit massiv Gründungen an, fast jeden zweiten Tag komme ein neues Startup dazu. Gefährlich sei daran vor allem eines: Mit den heutigen KI-Werkzeugen lasse sich sehr schnell ein beeindruckender Prototyp bauen, der Kunden begeistert. „Unter der Haube ist das aber kein produktionsreifer Code, der bei einem Großunternehmen laufen kann.“ Atinary sieht er im Vorteil, weil man seit 2019 das gesamte Paket aufgebaut habe: die Anbindung an die Laborgeräte, das eigene KI-Training, die Anwendungen und die wissenschaftliche Glaubwürdigkeit durch den eigenen Beirat. Dazu kommt laut Unternehmen ein Netzwerk an Technologiepartnern, darunter AWS, ABB Robotics, Agilent, Bruker, Chemspeed und Mettler-Toledo. Im wissenschaftlichen Beirat sitzt unter anderem der MIT-Chemiker Stephen Buchwald — im Bostoner Labor optimiert Atinary nach eigenen Angaben ausgerechnet die nach ihm benannte Buchwald-Hartwig-Reaktion.

(c) Martin Pacher / brutkasten

Zugleich beobachtet er seit heuer einen Umschwung im Markt: Kunden dächten zunehmend in einer Wettlauf-Logik. Wer die Technologie nicht als Erster einsetze, riskiere, dass es die Konkurrenz tut. Und wenn diese in Wochen schafft, wofür man selbst Jahre braucht, sei der Rückstand kaum aufzuholen.

Die größte Hürde ist der Mensch

Und was bremst die Verbreitung? Nicht die Technik, sagt Roch, sondern der Mensch. „Der Wissenschaftler im Labor ist oft seit 15, 20 Jahren dort. Wenn man ihm sagt: Wir können deine Forschung um den Faktor zehn oder hundert beschleunigen, sagt er: Nein. Ich kenne mein Fach besser als irgendein Algorithmus.“ Es sei dabei weniger mangelndes Vertrauen, die Technologie werde schlicht als Bedrohung für den eigenen Job empfunden. Christoph Schnidrig von AWS ergänzt: Dieses Muster kenne man von jeder Technologiewelle, von der Einführung der Cloud bis zur KI in der Softwareentwicklung. Rochs Haltung dazu: Jobs würden sich verändern, aber nicht verschwinden. „Am Ende ist es ein Werkzeug. Der Mensch bleibt am Steuer.“

(c) Martin Pacher / brutkasten

Zum Vertrauen gehört auch die Datenfrage, schließlich legen die Kunden ihr wertvollstes Gut, ihre Forschungsdaten, in die Plattform. Die läuft vollständig auf der Cloud von AWS. Roch verweist auf Prüfungen, Audits und Sicherheitstests; personenbezogene Daten würden praktisch keine gespeichert, schon gar keine Patientendaten, dafür sei man in der Forschung viel zu früh angesetzt. Auch deshalb sieht er im EU AI Act derzeit kein Hindernis: In Kundengesprächen sei die Regulierung bislang schlicht kein Thema gewesen.

Auszeichnung vom Weltwirtschaftsforum

Während brutkasten mit Roch in Zürich spricht, befindet sich sein Mitgründer, CEO Hermann Tribukait, gerade im chinesischen Dalian, um dort den Technology-Pioneer-Award des Weltwirtschaftsforums entgegenzunehmen. Zu den früheren Preisträgern der Auszeichnung zählen Roch zufolge Namen wie Google, Dropbox und Airbnb. Preisgeld gibt es keines, der Wert liege im Zugang zum Netzwerk des Forums und zu Entscheidungsträgern großer Unternehmen. Kunden in China hat Atinary übrigens keine, und das dürfte vorerst so bleiben: Als in den USA registriertes Unternehmen sei das Geschäft mit chinesischen Firmen „wegen der Geopolitik sehr heikel“.

Gefragt nach dem Blick fünf Jahre voraus, skizziert Roch eine Vision, die er ausgerechnet am Vorbild seines Cloud-Partners entwirft: Labore, die wie Rechenleistung aus der Cloud abrufbar sind, weltweit vernetzt, mit einer übergeordneten KI, die Erkenntnisse zwischen Forschungszentren auf verschiedenen Kontinenten austauscht.

Den Antrieb dahinter beschreibt er ganz persönlich: Er und seine Mitgründer seien Naturliebhaber, und die Energiewende brauche schnellere Forschung. „Der Planet kann nicht noch ein Jahrzehnt warten, bis wir Lösungen finden.“ Sein Befund nach sieben Jahren: „R&D ist heute noch zu langsam.“


Disclaimer: Die Reise- und Übernachtungskosten wurden von Amazon Web Services übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Dieser Artikel hebt hervor, dass es weiterhin Bedenken darüber gibt, dass künstliche Intelligenz ein Risiko für die Menschheit darstellen könnte. Das Statement des Center for AI Safety betont, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Es gibt auch eine Diskussion über die Regulierung von KI, wobei einige wie Sam Altman dagegen sind, dass die Regulierung nicht zu strikt sein sollte, während andere Unterstützung für eine solche Regulierung suchen. Insgesamt zeigt der Artikel die wachsende Sorge um die Auswirkungen von KI auf die Gesellschaft und wie wichtig es ist, sich mit diesen Risiken auseinanderzusetzen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Im Artikel wird auf die Warnung von prominenten Persönlichkeiten im Bereich der künstlichen Intelligenz vor den Risiken der automatisierten Technologie hingewiesen. Insbesondere wird auf die Veröffentlichung eines kurzen Statements aufmerksam gemacht, das ein apokalyptisches Szenario heraufbeschwört und die Minderung des Risikos der Ausrottung des Menschen durch KI sowie andere Risiken von gesellschaftlichem Ausmaß als globale Priorität fordert. Während einige der Unterzeichner des Statements sich für die Minderung von KI-Risiken einsetzen, haben sie in der Vergangenheit jedoch Regulierungspläne der EU offen abgelehnt, was auf die möglichen wirtschaftlichen Auswirkungen von Regulierungsmaßnahmen auf die KI-Industrie hinweisen könnte.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist es wichtig, über die neuesten Entwicklungen im Bereich künstlicher Intelligenz und deren potenzielle Risiken informiert zu sein. Das Statement der OpenAI-Co-Founder unterstreicht die Bedeutung der Risikominderung im Umgang mit KI und zeigt damit eine klare Verantwortung von Experten und Persönlichkeiten des öffentlichen Lebens in diesem Bereich auf. Zudem verdeutlicht die Ablehnung von AI-Regulierungsplänen der EU durch OpenAI die Notwendigkeit eines globalen Diskurses über Regulierungsfragen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie die Bedeutung und mögliche Risiken der künstlichen Intelligenz und deren Fortschritt im Blick haben. Das Statement von OpenAI-Gründer Sam Altman und anderen Expert:innen betont die Dringlichkeit, das Risiko der Ausrottung durch KI zu mindern und es als globale Priorität zu betrachten. Es ist wichtig, sich über die möglichen Folgen und Chancen von KI informiert zu halten, um langfristige Investitionsentscheidungen zu treffen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in sollten Sie sich mit der Thematik der künstlichen Intelligenz auseinandersetzen, da es sich um einen Bereich handelt, der in Zukunft immer mehr an Bedeutung gewinnen wird. Die Warnungen vor den Risiken, die mit der Fortschreibung der KI-Technologie verbunden sind, sollten ernst genommen werden. Es ist wichtig, den Einsatz von KI im Hinblick auf ethische und moralische Standards aufmerksam zu begleiten und gegebenenfalls auch zu regulieren, um gesellschaftliche Risiken zu minimieren.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel beschäftigt sich mit einem Statement des Center for AI Safety (CAIS), das in einem Satz ein unglaublich apokalyptisches Szenario heraufbeschwört und von mehreren prominenten KI-Experten und Co-Foundern von OpenAI, darunter Sam Altman und Mira Murati, unterzeichnet wurde. Die Kernaussage des Statements ist, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Das Statement soll eine Diskussion über die schwerwiegendsten Risiken der KI anregen und Bewusstsein schaffen. Sam Altman scheint jedoch gegen EU-Regulierung zu sein und sieht die Minderung des Risikos eher als eine Frage der Selbstregulierung durch die KI-Industrie. Das Bigger Picture ist, dass die KI-Experten und Persönlichkeiten des öffentlichen Lebens, die das Statement unterschrieben haben, auf die enormen Risiken der fortgeschrittenen KI aufmerksam machen und eine Diskussion in Gang setzen wollen, um das Potenzial einer apokalyptischen Zukunft zu mindern.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Sam Altman
  • Mira Murati

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • OpenAI
  • Center for AI Safety (CAIS)

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI