„OpenAI-Gründer Sam Altman warnt vor Gefahren der künstlichen Intelligenz“ – Variationen dieser Schlagzeile gab es in den vergangenen Monaten viele. Mehrfach handelte es sich dabei um „offene Briefe“ oder der gleichen, die viele prominente Unterzeichner:innen fanden. Insofern verwundert es, warum überhaupt weitere solche Kassandrarufe lanciert werden. Und warum sie jedes Mal aufs Neue von Menschen unterzeichnet werden, die im KI-Bereich Rang und Namen haben.
In der Kürze liegt die apokalyptische Würze
Nun passierte es wieder. Das in San Francisco ansässige Center for AI Safety (CAIS) ging mit einer neuerlichen Warnung an die Öffentlichkeit und schaffte es unter anderem, mehrere OpenAI-Co-Founder, darunter Sam Altman und Mira Murati, zur Unterschrift zu bewegen. Bei all der Redundanz hat dieses Statement eine Besonderheit: Es ist sehr kurz. In nur einem Satz beschwört es ein nachgerade apokalyptisches Szenario herauf:
„Die Minderung des Risikos der Ausrottung [des Menschen] durch KI sollte, neben anderen Risiken von gesellschaftlichem Ausmaß, wie Pandemien und Atomkrieg, eine globale Priorität sein“.
Neben dem Statement findet sich auf der Page auch eine (deutlich längere) Erklärung, warum das Statement so kurz ausfällt: „KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI. Dennoch kann es schwierig sein, Bedenken über einige der schwerwiegendsten Risiken der fortgeschrittenen KI zu äußern. Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen. Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen“.
OpenAI-Gründer Sam Altman für „Minderung des Risikos“, aber gegen EU-Regulierung
Ob dieses Statement etwas bringen wird? Mit „Minderung des Risikos“ meint zumindest Sam Altman jedenfalls augenscheinlich nicht Regulierung – zumindest nicht eine solche, die er sich nicht selbst überlegt hat. Auf neue AI-Regulierungspläne der EU reagierte OpenAI jedenfalls zuletzt mit offener Ablehnung, die in einer (mittlerweile wieder zurückgenommenen) Drohung des Ausstiegs aus dem Markt gipfelte.
Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb
Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb
Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
Opening Fireside Chat bei der aIQon: Peter Allan (accilium) diskutierte mit Alexia Feick (Microsoft) und Paul Strunz (Wien Energie) über KI im Unternehmensalltag. (c) Zsolt Marton
Keine Charts, keine Keynotes, nur Dinge, die funktionieren. Mit dieser Regel eröffnete Peter Allan, AI Lead und Managing Partner bei accilium, am 22. Oktober die erste aIQon im 15. Stock des Juwel Wien. Das Format lehnt sich an Tech-Konferenzen an: Ein Team stellt ein Problem vor, zeigt live, was es dagegen gebaut hat, und erklärt, was es dabei gelernt hat. Allan nannte den Nachmittag ein Experiment. Wer Organisationen das Potenzial von KI vermitteln wolle, komme mit Folien nicht mehr weit, man müsse es zeigen.
Von der Beratung zum Bauen
accilium ist eine österreichische Strategie- und Managementberatung mit Sitz am Wiener Schubertring, die unter anderem für den öffentlichen Sektor arbeitet. Erst im September erhielt das Unternehmen den Zuschlag für einen Rahmenvertrag der Bundesbeschaffung GmbH (BBG) zur Digitalisierung der Verwaltung mit einem Volumen von bis zu 39 Millionen Euro.
Mit der aIQon zeigt accilium eine weitere Seite: Das Unternehmen hat heuer ein eigenes Team aus Forward Deployed Engineers aufgebaut, also Entwickler:innen, die direkt mit den Kunden arbeiten und Lösungen nicht nur konzipieren, sondern auch bauen. Die Rolle kommt aus der Software-Industrie und wird derzeit von führenden KI-Anbietern etabliert. Für eine Beratung heißt das: Strategie und Umsetzung aus einer Hand. Die gezeigten Agenten stammen alle aus diesem Team und laufen bei accilium selbst im Echtbetrieb.
(c) Zsolt Marton
Eine Kollegin, die alles mitliest
Aurelia ist ein eigenes Mitglied in einem Teams-Kanal. Sie hat ein eigenes Konto, liest Kanal, Postfach, Planner und Kalender eines Projekts mit und tut, was das Team ihr sagt. Im Szenario der Demo kehrt Projektleiterin Pia aus zwei Wochen Urlaub zurück und fragt Aurelia, was passiert ist. Statt Dutzende Nachrichten nachzulesen, bekommt sie in einer Antwort, was entschieden wurde und was für sie offen ist. Eine Kollegin ist krank: Aurelia findet deren fällige Aufgaben, schlägt Vertretungen vor und hängt die Aufgaben nach Pias Zustimmung im Planner um. Als die Kundin per Mail den Lenkungskreis vorziehen will, meldet sich Aurelia von selbst, weist darauf hin, dass eine Kollegin an dem Tag im Urlaub ist, und fragt nach, bevor sie den Termin verschiebt. Zum Jour fixe steht die Agenda in der Einladung, und eine Kollegin wird an ihren Kurzbericht erinnert.
(c) Zsolt Marton
Die Regeln dahinter sind klar: Aurelia liest alles mit, meldet sich von selbst aber nur dort, wo das Team es ihr aufgetragen hat. Planner und Kalender ändert sie erst nach einem Ja, Mails nach außen schickt sie nicht. Was sie darf, steht laut accilium im Code und nicht im Prompt. Die Regeln selbst gibt ihr das Team im Kanal, in ganz normalen Sätzen, so wie einer neuen Kollegin. Technisch läuft alles in einem Microsoft-Tenant auf Azure in der EU, das Sprachmodell in der EU-Datenzone.
Das wichtigste Learning kam aus dem eigenen Betrieb: Das richtige Maß ist für jedes Team ein anderes. Manche wollen täglich einen Status, andere jemanden, der im Hintergrund die Fäden zusammenhält und sich nur auf Nachfrage meldet. Deshalb lässt sich heute einstellen, wie proaktiv Aurelia ist. Und weil Teams einen Agenten als Kollegin wahrnehmen, gelte dasselbe wie bei jeder neuen Mitarbeiterin: Beide Seiten müssen sich aneinander gewöhnen.
Dasselbe Prinzip auf drei Ebenen
(c) Zsolt Marton
Zwei weitere Demos zeigten, dass der Ansatz auch jenseits des Projektteams funktioniert. „Linda Legal“ bündelt das Erfahrungswissen einer Rechtsabteilung und prüft direkt in Outlook Verträge gegen Richtlinie und Verhandlungsprotokoll. In der Demo entdeckte sie, dass in einem Paragrafen „jeweils“ statt des vereinbarten „zusammen“ stand, womit pro Wochenabruf 8.000 statt 4.000 Euro fällig geworden wären. Ihr Wissen liegt in lesbaren Dateien, die die Fachabteilung ohne IT selbst pflegt. „Erich Aigner“ wiederum ist ein persönlicher Assistent: Ein Berater erzählt ihm nach einem Kundentermin eine Minute lang, was zu tun ist, danach stehen Nachricht, Folgetermin und Mailentwürfe bereit. Gesendet wird nichts, das entscheidet der Mensch.
(c) Zsolt Marton
Drei Agenten, drei Ebenen: Team, Fachwissen, einzelne Person. Allen gemeinsam ist dasselbe Prinzip. Lesen, sortieren und vorbereiten tun die Agenten selbstständig, ändern und nach außen kommunizieren nur nach menschlicher Freigabe. Und diese Grenze ist technisch verankert, nicht bloß im Prompt versprochen.
Die Technik ist nicht der Engpass
Dass genau das die eigentliche Arbeit ist, zeigte auch der Opening Fireside Chat, in dem Peter Allan mit Alexia Feick und Paul Strunz über KI im Alltag, Top-down und Bottom-up in der Transformation und die Messbarkeit von KI-Projekten sprach. Strunz leitet das Digital Competence Center der Wien Energie, Feick war früher bei accilium und arbeitet heute im Customer Success bei Microsoft. Ihr gemeinsamer Befund: Die heutigen Modelle sind gut genug, der Hebel liegt in Prozessen, Governance und Befähigung. Feick riet, bei konkreten Pain Points anzusetzen statt bei dem Wunsch, „KI zu haben“. Der Output nach sechs Monaten solle eine veränderte Arbeitsweise mit messbarem Ergebnis sein, und lieber ein Use Case im crossfunktionalen Team als 30 kleine Proof-of-Concepts. Strunz ergänzte, dass Effizienzgewinne verpuffen, wenn die Prozesse dahinter nicht angepasst werden; bei der Wien Energie misst man unter anderem die Zahl aktiver Citizen Developer, eingesparte Stunden und eingespartes Geld.
(c) Zsolt Marton
Allan sieht in Agenten vor allem eine Wachstumschance: Es gebe unendlich viel Nachfrage nach Services, und wer es clever mache, nutze Agenten, um jeden einzelnen Job besser und kreativer zu machen. Bei accilium selbst sei keine Stelle durch KI ersetzt worden, wohl aber viel administrative Arbeit weggefallen. Intern begleitet das Unternehmen den Wandel mit einem eigenen Rhythmus: Jede Woche gibt es einen neuen „Build“ mit Skills, Tools und Trainings, wie bei einem Software-Unternehmen.
Alle Demos, Baupläne, Prompts und Skills stellt accilium offen zum Download bereit. Wer nicht dabei war, kann die Agenten also nachbauen. Auch das ist für eine Beratung ungewöhnlich und passt zum Anspruch des Formats: zeigen statt erklären.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?
Dieser Artikel hebt hervor, dass es weiterhin Bedenken darüber gibt, dass künstliche Intelligenz ein Risiko für die Menschheit darstellen könnte. Das Statement des Center for AI Safety betont, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Es gibt auch eine Diskussion über die Regulierung von KI, wobei einige wie Sam Altman dagegen sind, dass die Regulierung nicht zu strikt sein sollte, während andere Unterstützung für eine solche Regulierung suchen. Insgesamt zeigt der Artikel die wachsende Sorge um die Auswirkungen von KI auf die Gesellschaft und wie wichtig es ist, sich mit diesen Risiken auseinanderzusetzen.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?
Im Artikel wird auf die Warnung von prominenten Persönlichkeiten im Bereich der künstlichen Intelligenz vor den Risiken der automatisierten Technologie hingewiesen. Insbesondere wird auf die Veröffentlichung eines kurzen Statements aufmerksam gemacht, das ein apokalyptisches Szenario heraufbeschwört und die Minderung des Risikos der Ausrottung des Menschen durch KI sowie andere Risiken von gesellschaftlichem Ausmaß als globale Priorität fordert. Während einige der Unterzeichner des Statements sich für die Minderung von KI-Risiken einsetzen, haben sie in der Vergangenheit jedoch Regulierungspläne der EU offen abgelehnt, was auf die möglichen wirtschaftlichen Auswirkungen von Regulierungsmaßnahmen auf die KI-Industrie hinweisen könnte.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?
Als Innovationsmanager:in ist es wichtig, über die neuesten Entwicklungen im Bereich künstlicher Intelligenz und deren potenzielle Risiken informiert zu sein. Das Statement der OpenAI-Co-Founder unterstreicht die Bedeutung der Risikominderung im Umgang mit KI und zeigt damit eine klare Verantwortung von Experten und Persönlichkeiten des öffentlichen Lebens in diesem Bereich auf. Zudem verdeutlicht die Ablehnung von AI-Regulierungsplänen der EU durch OpenAI die Notwendigkeit eines globalen Diskurses über Regulierungsfragen.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?
Als Investor:in sollten Sie die Bedeutung und mögliche Risiken der künstlichen Intelligenz und deren Fortschritt im Blick haben. Das Statement von OpenAI-Gründer Sam Altman und anderen Expert:innen betont die Dringlichkeit, das Risiko der Ausrottung durch KI zu mindern und es als globale Priorität zu betrachten. Es ist wichtig, sich über die möglichen Folgen und Chancen von KI informiert zu halten, um langfristige Investitionsentscheidungen zu treffen.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?
Als Politiker:in sollten Sie sich mit der Thematik der künstlichen Intelligenz auseinandersetzen, da es sich um einen Bereich handelt, der in Zukunft immer mehr an Bedeutung gewinnen wird. Die Warnungen vor den Risiken, die mit der Fortschreibung der KI-Technologie verbunden sind, sollten ernst genommen werden. Es ist wichtig, den Einsatz von KI im Hinblick auf ethische und moralische Standards aufmerksam zu begleiten und gegebenenfalls auch zu regulieren, um gesellschaftliche Risiken zu minimieren.
OpenAI-Gründer Altman uvm. unterschreiben apokalyptisches Ein-Satz-Statement zu AI
AI Kontextualisierung
Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?
Der Artikel beschäftigt sich mit einem Statement des Center for AI Safety (CAIS), das in einem Satz ein unglaublich apokalyptisches Szenario heraufbeschwört und von mehreren prominenten KI-Experten und Co-Foundern von OpenAI, darunter Sam Altman und Mira Murati, unterzeichnet wurde. Die Kernaussage des Statements ist, dass die Minderung des Risikos der Ausrottung des Menschen durch KI eine globale Priorität sein sollte. Das Statement soll eine Diskussion über die schwerwiegendsten Risiken der KI anregen und Bewusstsein schaffen. Sam Altman scheint jedoch gegen EU-Regulierung zu sein und sieht die Minderung des Risikos eher als eine Frage der Selbstregulierung durch die KI-Industrie. Das Bigger Picture ist, dass die KI-Experten und Persönlichkeiten des öffentlichen Lebens, die das Statement unterschrieben haben, auf die enormen Risiken der fortgeschrittenen KI aufmerksam machen und eine Diskussion in Gang setzen wollen, um das Potenzial einer apokalyptischen Zukunft zu mindern.