31.05.2023

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

An Warnungen von AI-Granden vor AI ist man mittlerweile gewohnt. Nun wurde eine weitere, besonders kurze, lanciert.
/artikel/openai-altman-ein-satz-warnung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

„OpenAI-Gründer Sam Altman warnt vor Gefahren der künstlichen Intelligenz“ – Variationen dieser Schlagzeile gab es in den vergangenen Monaten viele. Mehrfach handelte es sich dabei um „offene Briefe“ oder der gleichen, die viele prominente Unterzeichner:innen fanden. Insofern verwundert es, warum überhaupt weitere solche Kassandrarufe lanciert werden. Und warum sie jedes Mal aufs Neue von Menschen unterzeichnet werden, die im KI-Bereich Rang und Namen haben.

In der Kürze liegt die apokalyptische Würze

Nun passierte es wieder. Das in San Francisco ansässige Center for AI Safety (CAIS) ging mit einer neuerlichen Warnung an die Öffentlichkeit und schaffte es unter anderem, mehrere OpenAI-Co-Founder, darunter Sam Altman und Mira Murati, zur Unterschrift zu bewegen. Bei all der Redundanz hat dieses Statement eine Besonderheit: Es ist sehr kurz. In nur einem Satz beschwört es ein nachgerade apokalyptisches Szenario herauf:

„Die Minderung des Risikos der Ausrottung [des Menschen] durch KI sollte, neben anderen Risiken von gesellschaftlichem Ausmaß, wie Pandemien und Atomkrieg, eine globale Priorität sein“.

Neben dem Statement findet sich auf der Page auch eine (deutlich längere) Erklärung, warum das Statement so kurz ausfällt: „KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI. Dennoch kann es schwierig sein, Bedenken über einige der schwerwiegendsten Risiken der fortgeschrittenen KI zu äußern. Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen. Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen“.

OpenAI-Gründer Sam Altman für „Minderung des Risikos“, aber gegen EU-Regulierung

Ob dieses Statement etwas bringen wird? Mit „Minderung des Risikos“ meint zumindest Sam Altman jedenfalls augenscheinlich nicht Regulierung – zumindest nicht eine solche, die er sich nicht selbst überlegt hat. Auf neue AI-Regulierungspläne der EU reagierte OpenAI jedenfalls zuletzt mit offener Ablehnung, die in einer (mittlerweile wieder zurückgenommenen) Drohung des Ausstiegs aus dem Markt gipfelte.

Deine ungelesenen Artikel:
09.10.2026

Hone: Wiener holt vier Monate nach Gründung 60 Mio. Dollar Seed-Investment im Valley

Das KI-Startup Hone rund um den Wiener Stanford-Absolventen Moritz Stephan bekommt eine Kapitalspritze unter dem Lead der VCs Benchmark und Index Ventures.
/artikel/hone-wiener-holt-vier-monate-nach-gruendung-60-mio-dollar-seed-investment-im-valley
09.10.2026

Hone: Wiener holt vier Monate nach Gründung 60 Mio. Dollar Seed-Investment im Valley

Das KI-Startup Hone rund um den Wiener Stanford-Absolventen Moritz Stephan bekommt eine Kapitalspritze unter dem Lead der VCs Benchmark und Index Ventures.
/artikel/hone-wiener-holt-vier-monate-nach-gruendung-60-mio-dollar-seed-investment-im-valley
Die Hone-Gründer vl.: Carlo Kobe, Moritz Stephan und Oliver Brady | (c) Hone
Die Hone-Gründer vl.: Carlo Kobe, Moritz Stephan und Oliver Brady | (c) Hone

Er war gerade einmal 17 Jahre alt, als brutkasten 2017 erstmals über ihn berichtete. Damals hatte der Wiener Moritz Stephan gemeinsam mit Konstantin Klinger, mittlerweile Co-Founder und CEO des millionenfinanzierten Londoner Startups Seamflow, sein erstes Startup-Projekt gestartet. Mit dem Bücher-Lieferservice Lobu wollten die beiden Schüler der Wiener Hochbegabten-Schule Sir Karl Popper Schule damals Amazon und Co. lokal die Stirn bieten und holten sich wenig später eine kleine Investmentzusage bei 2 Minuten 2 Millionen.

Ein weiteres Mal war von Stephan im Jahr 2020 als Co-Founder des 2016 gegründeten Wiener Neustädter SpaceTech-Startups Tumbleweed zu lesen, das einen windbetriebenen Marsrover bauen wollte. Noch im selben Jahr verließ er aber laut seinem LinkedIn-Profil das Startup. Kein Wunder, war er doch seit 2019 an der Elite-Uni Stanford inskribiert. Eine weitere Gründung, diesmal mit Y-Combinator-Teilnahme, und einige Jobs, unter anderem bei Sarah Buchners Trunk Tools und zuletzt beim AI-Scaleup Cognition, folgten. Im Mai dieses Jahres ging Stephan schließlich gemeinsam mit den Co-Foundern Oliver Brady und Carlo Kobe, mit dem er bereits zuvor gemeinsam gegründet hatte, mit dem KI-Startup Hone an den Start.

„AI Engines“ als nächste Ausbaustufe über KI-Agenten

Das Produktversprechen von Hone: „AI Engines“, die im Unternehmen Ownership für konkrete Resultate übernehmen. „Chatbots geben Antworten. Agenten erledigen Aufgaben. Engines liefern Ergebnisse, und wir geben ihnen die Verantwortung, echten Wert zu schaffen – gemessen in Dollar anstatt in Tokens oder Vibes“, so der Claim des Startups. „Man richtet sie auf eine Geschäftskennzahl aus, und die Engine übernimmt den Rest. Sie arbeitet sich selbst ein, baut die notwendigen Agenten, Fähigkeiten und Wissensspeicher auf, arbeitet mit den richtigen Personen zusammen und wird durch Erfahrung immer besser.“

Von den Unternehmen festgelegte Regeln, an welchen Stellen es menschliche Bestätigung braucht, etwa im Umgang mit sensiblen Daten, sollen dabei für die notwendige Sicherheit sorgen. Man schließe mit „AI Engines“ letztlich eine „große Lücke“ zwischen dem, wozu Frontier-KI fähig ist und dem, was Unternehmen tatsächlich damit herausholen, heißt es von Hone.

„Fünf weitere Moritze“

Das Konzept überzeugte nun auch eine Reihe von Investoren: Mit Benchmark und Index Ventures übernehmen zwei US-VCs den Lead in einer 60 Millionen US-Dollar schweren Finanzierungsrunde nur vier Monate nach der Gründung. Elad Gil, Hanabi, Definition, Diffusion, Lux, SV Angel, and Align komplettieren die Finanzierungsrunde.

In einem Blog-Beitrag von Index Ventures zum Investment heißt es, man habe Stephan bereits in seiner Zeit beim vorigen Arbeitgeber Cognition als Ausnahmetalent kennengelernt. „Weithin als Umsetzungsmaschine angesehen, war er ein Ein-Mann-Entwicklungsteam. Sein Name wurde im Unternehmen zum Synonym für Exzellenz und Produktivität; man sagte nur halbscherzhaft, dass Cognition ‚fünf weitere Moritze‘ bräuchte“, schreiben Shardul Shah und Mark Xu von Index unter anderem.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Dieser Artikel hebt hervor, dass es weiterhin Bedenken darüber gibt, dass künstliche Intelligenz ein Risiko für die Menschheit darstellen könnte. Das Statement des Center for AI Safety betont, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Es gibt auch eine Diskussion über die Regulierung von KI, wobei einige wie Sam Altman dagegen sind, dass die Regulierung nicht zu strikt sein sollte, während andere Unterstützung für eine solche Regulierung suchen. Insgesamt zeigt der Artikel die wachsende Sorge um die Auswirkungen von KI auf die Gesellschaft und wie wichtig es ist, sich mit diesen Risiken auseinanderzusetzen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Im Artikel wird auf die Warnung von prominenten Persönlichkeiten im Bereich der künstlichen Intelligenz vor den Risiken der automatisierten Technologie hingewiesen. Insbesondere wird auf die Veröffentlichung eines kurzen Statements aufmerksam gemacht, das ein apokalyptisches Szenario heraufbeschwört und die Minderung des Risikos der Ausrottung des Menschen durch KI sowie andere Risiken von gesellschaftlichem Ausmaß als globale Priorität fordert. Während einige der Unterzeichner des Statements sich für die Minderung von KI-Risiken einsetzen, haben sie in der Vergangenheit jedoch Regulierungspläne der EU offen abgelehnt, was auf die möglichen wirtschaftlichen Auswirkungen von Regulierungsmaßnahmen auf die KI-Industrie hinweisen könnte.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist es wichtig, über die neuesten Entwicklungen im Bereich künstlicher Intelligenz und deren potenzielle Risiken informiert zu sein. Das Statement der OpenAI-Co-Founder unterstreicht die Bedeutung der Risikominderung im Umgang mit KI und zeigt damit eine klare Verantwortung von Experten und Persönlichkeiten des öffentlichen Lebens in diesem Bereich auf. Zudem verdeutlicht die Ablehnung von AI-Regulierungsplänen der EU durch OpenAI die Notwendigkeit eines globalen Diskurses über Regulierungsfragen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie die Bedeutung und mögliche Risiken der künstlichen Intelligenz und deren Fortschritt im Blick haben. Das Statement von OpenAI-Gründer Sam Altman und anderen Expert:innen betont die Dringlichkeit, das Risiko der Ausrottung durch KI zu mindern und es als globale Priorität zu betrachten. Es ist wichtig, sich über die möglichen Folgen und Chancen von KI informiert zu halten, um langfristige Investitionsentscheidungen zu treffen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in sollten Sie sich mit der Thematik der künstlichen Intelligenz auseinandersetzen, da es sich um einen Bereich handelt, der in Zukunft immer mehr an Bedeutung gewinnen wird. Die Warnungen vor den Risiken, die mit der Fortschreibung der KI-Technologie verbunden sind, sollten ernst genommen werden. Es ist wichtig, den Einsatz von KI im Hinblick auf ethische und moralische Standards aufmerksam zu begleiten und gegebenenfalls auch zu regulieren, um gesellschaftliche Risiken zu minimieren.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel beschäftigt sich mit einem Statement des Center for AI Safety (CAIS), das in einem Satz ein unglaublich apokalyptisches Szenario heraufbeschwört und von mehreren prominenten KI-Experten und Co-Foundern von OpenAI, darunter Sam Altman und Mira Murati, unterzeichnet wurde. Die Kernaussage des Statements ist, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Das Statement soll eine Diskussion über die schwerwiegendsten Risiken der KI anregen und Bewusstsein schaffen. Sam Altman scheint jedoch gegen EU-Regulierung zu sein und sieht die Minderung des Risikos eher als eine Frage der Selbstregulierung durch die KI-Industrie. Das Bigger Picture ist, dass die KI-Experten und Persönlichkeiten des öffentlichen Lebens, die das Statement unterschrieben haben, auf die enormen Risiken der fortgeschrittenen KI aufmerksam machen und eine Diskussion in Gang setzen wollen, um das Potenzial einer apokalyptischen Zukunft zu mindern.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Sam Altman
  • Mira Murati

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • OpenAI
  • Center for AI Safety (CAIS)

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI