31.05.2023

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

An Warnungen von AI-Granden vor AI ist man mittlerweile gewohnt. Nun wurde eine weitere, besonders kurze, lanciert.
/artikel/openai-altman-ein-satz-warnung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

„OpenAI-Gründer Sam Altman warnt vor Gefahren der künstlichen Intelligenz“ – Variationen dieser Schlagzeile gab es in den vergangenen Monaten viele. Mehrfach handelte es sich dabei um „offene Briefe“ oder der gleichen, die viele prominente Unterzeichner:innen fanden. Insofern verwundert es, warum überhaupt weitere solche Kassandrarufe lanciert werden. Und warum sie jedes Mal aufs Neue von Menschen unterzeichnet werden, die im KI-Bereich Rang und Namen haben.

In der Kürze liegt die apokalyptische Würze

Nun passierte es wieder. Das in San Francisco ansässige Center for AI Safety (CAIS) ging mit einer neuerlichen Warnung an die Öffentlichkeit und schaffte es unter anderem, mehrere OpenAI-Co-Founder, darunter Sam Altman und Mira Murati, zur Unterschrift zu bewegen. Bei all der Redundanz hat dieses Statement eine Besonderheit: Es ist sehr kurz. In nur einem Satz beschwört es ein nachgerade apokalyptisches Szenario herauf:

„Die Minderung des Risikos der Ausrottung [des Menschen] durch KI sollte, neben anderen Risiken von gesellschaftlichem Ausmaß, wie Pandemien und Atomkrieg, eine globale Priorität sein“.

Neben dem Statement findet sich auf der Page auch eine (deutlich längere) Erklärung, warum das Statement so kurz ausfällt: „KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI. Dennoch kann es schwierig sein, Bedenken über einige der schwerwiegendsten Risiken der fortgeschrittenen KI zu äußern. Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen. Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen“.

OpenAI-Gründer Sam Altman für „Minderung des Risikos“, aber gegen EU-Regulierung

Ob dieses Statement etwas bringen wird? Mit „Minderung des Risikos“ meint zumindest Sam Altman jedenfalls augenscheinlich nicht Regulierung – zumindest nicht eine solche, die er sich nicht selbst überlegt hat. Auf neue AI-Regulierungspläne der EU reagierte OpenAI jedenfalls zuletzt mit offener Ablehnung, die in einer (mittlerweile wieder zurückgenommenen) Drohung des Ausstiegs aus dem Markt gipfelte.

Deine ungelesenen Artikel:
vor 12 Stunden

Zwischen Wien und dem Silicon Valley – was Österreich sich für den KI-Sprung nach vorne abschauen kann

Dort, wo die Vorreiter:innen der KI zu Hause sind, hat brutkasten mit zwei Österreicherinnen gesprochen, die genau dazwischen stehen: Isabella Tomás (Open Austria) und Manuela Mohr-Zydek (Salesforce Österreich). Ein Gespräch über einzigartige Fähigkeiten, wichtige Learnings und offene Potentiale.
/artikel/zwischen-wien-und-dem-silicon-valley-was-oesterreich-sich-fuer-den-ki-sprung-nach-vorne-abschauen-kann
vor 12 Stunden

Zwischen Wien und dem Silicon Valley – was Österreich sich für den KI-Sprung nach vorne abschauen kann

Dort, wo die Vorreiter:innen der KI zu Hause sind, hat brutkasten mit zwei Österreicherinnen gesprochen, die genau dazwischen stehen: Isabella Tomás (Open Austria) und Manuela Mohr-Zydek (Salesforce Österreich). Ein Gespräch über einzigartige Fähigkeiten, wichtige Learnings und offene Potentiale.
/artikel/zwischen-wien-und-dem-silicon-valley-was-oesterreich-sich-fuer-den-ki-sprung-nach-vorne-abschauen-kann
(V.l.) Manuela Mohr-Zydek (Salesforce Österreich) und Isabella Tomás (Open Austria) in San Francisco. © brutkasten

Zwei Perspektiven, ein Hotspot: San Francisco. Isabella Tomás sitzt seit vier Jahren an der Schnittstelle zwischen Österreich und dem Silicon Valley. Als Konsulin und Co-Direktorin von Open Austria leitet sie das gemeinsam von Außenministerium (BMEIA) und Wirtschaftskammer Österreich (WKO) betriebene Außenwirtschafts- und Innovationsbüro und vernetzt heimische Gründerinnen, Gründer und Unternehmen mit dem wohl dichtesten Innovationsökosystem der Welt. Manuela Mohr-Zydek blickt aus der Unternehmensperspektive darauf: Seit eineinhalb Jahren verantwortet sie als Country Leaderin das Österreich-Geschäft von Salesforce und begleitet heimische Betriebe dabei, den Schritt von der digitalen Transformation zur produktiven Skalierung autonomer KI-Agenten zu schaffen.

Im exklusiven Gespräch mit brutkasten ziehen die beiden Bilanz: Wie steht es um Österreich in Sachen KI-Anwendung? Was können heimische Unternehmen von der Risikobereitschaft und Umsetzungskraft des Silicon Valley lernen und wo sollte man mit dem KI-Einsatz trotz allem Potenzial vorsichtig bleiben? Von der Rolle des Kapitals bis hin zu den Stärken österreichischer Ingenieure, Tomás und Mohr-Zydek liefern einen ehrlichen Blick auf zwei Innovationswelten, die einander viel zu sagen haben.


Brutkasten: Ihr seid beide viel zwischen Österreich und San Francisco unterwegs. Welche Learnings möchtest du von hier sofort mit nach Österreich nehmen, Manuela?

Manuela Mohr-Zydek: Man kann viel Innovation und Inspiration mit nach Österreich nehmen. Wobei ich auch sagen muss, dass wir in Österreich bereits unglaublich viel Innovation und viele neue Ideen haben. Ich bin nun seit eineinhalb Jahren als Country Leaderin für Salesforce in Österreich tätig und sehe das täglich. Was man aus dem Silicon Valley mitnehmen kann, ist die enorme Umsetzungskraft und die Pionierarbeit. In Österreich befinden wir uns in manchen Bereichen gefühlt noch ganz am Anfang – vor allem beim Thema künstliche Intelligenz. Wir haben viele Kunden, die sich bereits damit auseinandersetzen oder KI skalierbar im Einsatz haben. Im Silicon Valley ist man vermutlich schon ein Stück weiter, und genau dieses Mindset können wir mitnehmen. Wir müssen weg von „Wir probieren aus“ hin zu „Wir setzen künstliche Intelligenz skalierbar im Unternehmen ein“. Damit lässt sich einerseits der Fachkräftemangel adressieren und andererseits dem wirtschaftlichen Kostendruck begegnen. Die Strategie sollte aus unserer Sicht aber nicht sein, Arbeitsplätze abzubauen. Im Gegenteil: Wir sehen viele Chancen für junge Menschen, sich im Bereich KI weiterzubilden, umzuschulen und eine klare Zukunftsperspektive aufzubauen.

Isabella Tomás: Ich kann bestätigen, was Manuela gesagt hat. Ich bin für Open Austria seit vier Jahren im Silicon Valley. Ein wesentlicher Unterschied ist die höhere Risikobereitschaft. Gründerinnen und Gründer werden hier ermutigt und unterstützt, mutig zu agieren. Die Menschen haben keine Angst vor Innovation. In Österreich haben wir sehr viele innovative Köpfe, aber man hat oft das Gefühl, dass sie nicht immer optimal gefördert werden, um sich voll zu entfalten – das beginnt an den Universitäten und setzt sich in den Unternehmen fort. Der zweite Punkt ist die Skalierbarkeit: Hier steht eine enorme Menge an Risikokapital zur Verfügung, mit dem Startups viel schneller skalieren können. Zudem spielt der US-Markt eine entscheidende Rolle: Wer sich hier etabliert, kann relativ leicht in andere Märkte vorstoßen und weltweit skalieren. Das ist in Österreich und auf EU-Ebene aufgrund der Marktstrukturen leider noch nicht ohne Hürden möglich.

Salesforce-CEO Marc Benioff hat in seiner Eröffnungs-Keynote ein eher verhaltenes Bild von Europa in Bezug auf KI gezeichnet. Wie beobachtest du die Adaption von KI-Applikationen bei österreichischen Unternehmen, Manuela?

Manuela Mohr-Zydek: Über die letzten Monate hat sich eine sehr positive Dynamik entwickelt. Wir führen nahezu mit jedem Kunden Gespräche zum Thema künstliche Intelligenz. Es geht nicht mehr nur um erste Pilotprojekte oder Proofs of Concept, sondern darum, wie Unternehmen tatsächlich mit autonomen Agenten arbeiten können – Hand in Hand zwischen Mensch und Agent. Wir sehen eine große Offenheit dafür, Geschäftsprozesse agentenbasiert zu unterstützen. Wir befinden uns in der nächsten Stufe: weg vom reinen Ausprobieren, hin zum Etablieren einer Kultur im Sinne von „Human in the Loop“. Der Mensch bleibt entscheidungsfähig, wird aber autonom durch Agenten unterstützt.

Welche konkreten Use Cases beobachtest du, auch im Vergleich zwischen größeren Unternehmen und Startups?

Manuela Mohr-Zydek: Gerade für kleinere Unternehmen und Startups bietet KI eine riesige Chance, weil Technologie demokratisiert wird. Mit Low-Code- und No-Code-Ansätzen braucht man keine tiefe Coding-Erfahrung mehr, um einen Agenten zu bauen und eine Idee zu verwirklichen. Anfänglich haben wir sehr stark im Servicebereich mit autonomen Agenten begonnen. Über die vergangenen Monate hat sich das stark in Richtung Marketing, Sales und Commerce weiterentwickelt. Es gibt Beispiele wie PayPal oder Anwendungsfälle, bei denen Agenten automatisiert Outbound-Leads generieren, Inbound-Anfragen abarbeiten oder Marketing-Journeys erstellen, bevor der Mitarbeiter übernimmt. Im Commerce-Bereich unterstützen Agenten bei Produktauskünften auf Webseiten. Autonome Agenten befreien Mitarbeiter von wiederkehrenden, maschinellen Aufgaben, sodass sich der Mensch wieder auf seine Kernstärken besinnen kann: Kreativität und soziales Miteinander. Das ist das Schöne am Konzept des „Agentic Enterprise“.

Isabella, was beobachtest du bei österreichischen Gründern, die ins Silicon Valley oder nach San Francisco kommen? Wie sieht dort die KI-Adaption aus?

Isabella Tomás: Die meisten, die herkommen, sind bereits tief im Thema drin oder kommen genau deshalb hierher, weil San Francisco das Mekka der KI ist. Wer das Thema noch nicht mitbringt, arbeitet sich sehr schnell ein. Zu Beginn gibt es meist einen gewissen Wow-Effekt. Das Beispiel der autonomen Autos verdeutlicht das gut: Für meine Volksschulkinder ist es mittlerweile völlig normal, sich in ein fahrerloses Auto zu setzen. Europäer, die das erste Mal in San Francisco sind, sind davon meist fasziniert. Der Unterschied liegt darin, dass die Menschen hier eine ausgeprägte Early-Adopter-Mentalität haben. Sie sind überdurchschnittlich bereit, etwas völlig Neues auszuprobieren, und haben weniger Berührungsängste. Das verhilft innovativen Ideen schneller zum Durchbruch und schafft einen ersten Use Case, mit dem man zeigen kann, dass es in der Praxis funktioniert.

Welche Stärken bringen Gründerinnen und Gründer aus Österreich mit, die man im Silicon Valley schätzt?

Isabella: Man schätzt auf jeden Fall die hervorragende Ausbildung an unseren Universitäten und Fachhochschulen. Die Ausbildung steht den Top-Universitäten in den USA in nichts nach. Auch das technische Fundament, etwa von Ingenieuren im Industriebereich, wird sehr geschätzt. Die Leute wissen genau, wovon sie sprechen, und arbeiten extrem solide. Wenn sich dieses Fachwissen mit der innovativen Dynamik vor Ort verbindet, entsteht eine hervorragende Kombination. Österreicher sind vielleicht nicht immer diejenigen mit den verrücktesten Ideen, aber sie sind extrem stark darin, diese Ideen pragmatisch und erfolgreich umzusetzen.

Überspitzt gefragt: Haben Gründer:innen aus Europa im Silicon Valley einen Nachteil, weil das Vorurteil herrscht, Europäer hinkten bei KI hinterher?

Isabella Tomás: Nein, nicht unbedingt. Das Silicon Valley ist ein großer Schmelztiegel mit Menschen aus aller Welt. Österreichische Gründerinnen und Gründer, die sich gut präsentieren, haben keineswegs einen Nachteil, nur weil sie aus Europa kommen. Einen Nachteil hat man nur dann, wenn man sich schlecht präsentiert oder nicht fachkundig wirkt. Wer zeigt, dass er seinen Bereich beherrscht und etwas Interessantes auf die Beine stellt, wird hier sehr schnell anerkannt.

Manuela, Salesforce hat sich ja spätestens mit AIforce der künstlichen Intelligenz verschrieben. Was ist für Geschäftsführer:innen, die KI im Unternehmen umsetzen wollen, deiner Meinung nach der beste erste Schritt?

Manuela Mohr-Zydek: Wir setzen sehr stark bei Schulungen an – und zwar sowohl auf Führungsebene als auch auf Mitarbeiterebene. Eine Zusammenarbeit von Mensch und Agent („Agentic Enterprise“) muss von Führungskräften vorgelebt werden, was ein grundlegendes technologisches Verständnis voraussetzt. Es geht auch um die Frage der ethischen Verantwortung und darum, wo die Grenzen der Technologie liegen, damit der Mensch in der Entscheidung verbleibt. Auf Mitarbeiterebene dienen Schulungen dazu, Inspiration und Ideen zu generieren. Wir veranstalten dazu auch Hackathons mit Kunden, um Ideen in eine Roadmap zu gießen und rasch in die Umsetzung zu bringen. So entsteht sowohl Top-down als auch Bottom-up die Innovationskraft, die es für die Zukunft braucht.

Gibt es Bereiche, in denen man KI konkret noch aussparen sollte, obwohl sie viel Potenzial birgt?

Isabella Tomás: Es gibt sehr sensible Bereiche, bei denen große Vorsicht geboten ist – etwa wenn es um Gesundheitsdaten oder hochgradig personenbezogene Daten geht. Aus Sicht der öffentlichen Verwaltung gelten hier höchste Anforderungen an Datenschutz und Regelkonformität. Solange nicht zu hundert Prozent sichergestellt ist, dass alle gesetzlichen Vorgaben eingehalten werden, kann KI dort nicht ohne Weiteres eingesetzt werden. Wenn es hingegen um Recherchen oder Entwürfe für Präsentationen geht, ist das unbedenklich. Grundsätzlich gilt: Je besser man sich selbst in einem Fachgebiet auskennt, desto eher kann man KI sinnvoll nutzen, weil man das Ergebnis fachlich beurteilen kann. Wenn man keine Ahnung von der Materie hat, sollte man KI-Ergebnisse nicht blind übernehmen, sondern verifizieren.

Welche Hoppalas oder Fehler konntest du im Silicon Valley beobachten, von denen Unternehmen in Österreich lernen können?

Isabella Tomás: Die Fehler sind ähnlich wie überall. Das reicht von Anwälten, die vor Gericht erfundene Präzedenzfälle zitiert haben, über Fehldiagnosen bei medizinischen Bildanalysen bis hin zu falschen Wirtschaftsdaten auf Präsentationsfolien. Wenn man Ergebnisse ungeprüft übernimmt, kann das peinlich werden. Man darf sich nicht blind auf die KI verlassen, wenn man die Fakten nicht selbst verifizieren kann.

Manuela, wie verändert sich die Arbeit in Unternehmen konkret durch den Einsatz von Agenten?

Manuela Mohr-Zydek: Wir gehen davon aus, dass sich letztlich nahezu jeder Job verändern wird. Es geht längst nicht mehr nur darum, ein Large Language Model als Assistenten einzusetzen, sondern darum, einzelne Prozessabschnitte im Unternehmen messbar und autonom abzuarbeiten. Bei Salesforce messen wir das in „Agentic Work Units“ – hier gab es von Q1 auf Q2 einen Anstieg von 97 Prozent. Um ein Unternehmen verlässlich zu führen, braucht man valide Daten, funktionierende Prozesse, Governance und Compliance. Das LLM dient als kreatives Interface nach oben, aber darunter braucht es ein solides Fundament aus Daten, Applikationen und Sicherheit.

Isabella Tomás: Das ist auch der Vorteil von spezifischen, maßgeschneiderten Modellen, die auf den konkreten Unternehmensdaten basieren. Dort ist das Risiko von Halluzinationen oder fehlerhaften Ausgaben deutlich geringer als bei rein generischen Sprachmodellen.

Manuela Mohr-Zydek: Wie Marc Benioff in seiner Keynote hervorgehoben hat, muss man zwischen wahrscheinlichkeitsbasierten und deterministischen Ergebnissen unterscheiden. Die Kombination aus beidem liefert sowohl kreative Möglichkeiten als auch die nötige Verlässlichkeit für Unternehmensentscheidungen


Transparenzhinweis: Die Reise- und Aufenthaltskosten zur Dreamforce wurden von Salesforce übernommen. Auswahl und Bewertung der Themen erfolgten unabhängig davon.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Dieser Artikel hebt hervor, dass es weiterhin Bedenken darüber gibt, dass künstliche Intelligenz ein Risiko für die Menschheit darstellen könnte. Das Statement des Center for AI Safety betont, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Es gibt auch eine Diskussion über die Regulierung von KI, wobei einige wie Sam Altman dagegen sind, dass die Regulierung nicht zu strikt sein sollte, während andere Unterstützung für eine solche Regulierung suchen. Insgesamt zeigt der Artikel die wachsende Sorge um die Auswirkungen von KI auf die Gesellschaft und wie wichtig es ist, sich mit diesen Risiken auseinanderzusetzen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Im Artikel wird auf die Warnung von prominenten Persönlichkeiten im Bereich der künstlichen Intelligenz vor den Risiken der automatisierten Technologie hingewiesen. Insbesondere wird auf die Veröffentlichung eines kurzen Statements aufmerksam gemacht, das ein apokalyptisches Szenario heraufbeschwört und die Minderung des Risikos der Ausrottung des Menschen durch KI sowie andere Risiken von gesellschaftlichem Ausmaß als globale Priorität fordert. Während einige der Unterzeichner des Statements sich für die Minderung von KI-Risiken einsetzen, haben sie in der Vergangenheit jedoch Regulierungspläne der EU offen abgelehnt, was auf die möglichen wirtschaftlichen Auswirkungen von Regulierungsmaßnahmen auf die KI-Industrie hinweisen könnte.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in ist es wichtig, über die neuesten Entwicklungen im Bereich künstlicher Intelligenz und deren potenzielle Risiken informiert zu sein. Das Statement der OpenAI-Co-Founder unterstreicht die Bedeutung der Risikominderung im Umgang mit KI und zeigt damit eine klare Verantwortung von Experten und Persönlichkeiten des öffentlichen Lebens in diesem Bereich auf. Zudem verdeutlicht die Ablehnung von AI-Regulierungsplänen der EU durch OpenAI die Notwendigkeit eines globalen Diskurses über Regulierungsfragen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie die Bedeutung und mögliche Risiken der künstlichen Intelligenz und deren Fortschritt im Blick haben. Das Statement von OpenAI-Gründer Sam Altman und anderen Expert:innen betont die Dringlichkeit, das Risiko der Ausrottung durch KI zu mindern und es als globale Priorität zu betrachten. Es ist wichtig, sich über die möglichen Folgen und Chancen von KI informiert zu halten, um langfristige Investitionsentscheidungen zu treffen.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in sollten Sie sich mit der Thematik der künstlichen Intelligenz auseinandersetzen, da es sich um einen Bereich handelt, der in Zukunft immer mehr an Bedeutung gewinnen wird. Die Warnungen vor den Risiken, die mit der Fortschreibung der KI-Technologie verbunden sind, sollten ernst genommen werden. Es ist wichtig, den Einsatz von KI im Hinblick auf ethische und moralische Standards aufmerksam zu begleiten und gegebenenfalls auch zu regulieren, um gesellschaftliche Risiken zu minimieren.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der Artikel beschäftigt sich mit einem Statement des Center for AI Safety (CAIS), das in einem Satz ein unglaublich apokalyptisches Szenario heraufbeschwört und von mehreren prominenten KI-Experten und Co-Foundern von OpenAI, darunter Sam Altman und Mira Murati, unterzeichnet wurde. Die Kernaussage des Statements ist, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Das Statement soll eine Diskussion über die schwerwiegendsten Risiken der KI anregen und Bewusstsein schaffen. Sam Altman scheint jedoch gegen EU-Regulierung zu sein und sieht die Minderung des Risikos eher als eine Frage der Selbstregulierung durch die KI-Industrie. Das Bigger Picture ist, dass die KI-Experten und Persönlichkeiten des öffentlichen Lebens, die das Statement unterschrieben haben, auf die enormen Risiken der fortgeschrittenen KI aufmerksam machen und eine Diskussion in Gang setzen wollen, um das Potenzial einer apokalyptischen Zukunft zu mindern.

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Sam Altman
  • Mira Murati

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • OpenAI
  • Center for AI Safety (CAIS)

OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI