24.05.2023

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

So steht es in einem Blogeintrag der OpenAI-Führungsriege. Konkret geht es den ChatGPT-Entwicklern darum, aktuelle KI-Initiativen mithilfe großer Regierungen zusammenzuführen. Um mit proaktiver Weitsicht auf das, was kommen mag, vorbereitet zu sein.
/artikel/governance-of-superintelligence-chatgpt-fuehrung-fordert-globale-ki-vereinigung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

Eigentlich fing es bereits in der Entertainment-Industrie an. Die Angst vor KI war spätestens mit der Terminator-Reihe ein Massenphänomen geworden, wurde anschließend hier und da von der Kulturszene in diversen Ausprägungen behandelt, um lange Zeit bloß am Rande der Gesellschaft Science-Fiction-Fans zu beschäftigen. OpenAI und ChatGPT änderten alles.

Die Angst des Menschen vor der KI

Aktuell befindet sich die Welt in einer Experimentierphase und einem Diskurs darüber, was Künstliche Intelligenz alles vermag, wie sie Gesellschaften formen wird und welche Gefahren von ihr ausgehen. Elon Musk etwa forderte vor kurzem einen Stopp der Forschung an KI, nur um kurz später eine eigene KI-Firma zu gründen- der brutkasten berichtete.

Nun haben OpenAI-Gründer Sam Altman, Präsident Greg Brockman und Chief Scientist Ilya Sutskever per Blogbeitrag erklärt, dass das Innovationstempo im Bereich der Künstlichen Intelligenz derart hoch ist; sie könnten eine Zügelung der Technologie durch bestehende Behörden nicht abwarten.

„Was die möglichen Vor- und Nachteile angeht, wird die Superintelligenz leistungsfähiger sein als andere Technologien, mit denen sich die Menschheit in der Vergangenheit auseinandersetzen musste. Wir können eine wohlhabendere Zukunft haben, aber wir müssen die Risiken beherrschen, um an diesen Punkt zu gelangen“, schreibt das Trio in dem Beitrag.

Und weiter: „Angesichts der Möglichkeit eines existenziellen Risikos können wir nicht einfach nur reaktiv sein. Wir müssen auch die Risiken der heutigen KI-Technologie abmildern. Diese Superintelligenz wird eine besondere Behandlung und Koordination erfordern.“

Die OpenAI-Führungsriege hat daher drei Überlegungen angestellt und die Bereiche „Koordination„, „Organisation“ und „demokratische Partizipation“ ausgearbeitet, um möglichen Ausuferungen der KI vorzubeugen.

Eine Idee der globalen Koordination

Erstens fordern Altmann, Brockman und Sutskever ein gewisses Maß an Koordination zwischen den „KI-Leadern dieser Welt“. Um sicherzustellen, dass die Entwicklung von Superintelligenz in einer Weise erfolgt, die sowohl die Aufrechterhaltung der Sicherheit, als auch eine reibungslose Integration der Systeme in Gesellschaften ermöglicht.

„Es gibt viele Möglichkeiten, wie dies umgesetzt werden kann. Große Regierungen auf der ganzen Welt könnten ein Projekt ins Leben rufen, an dem sich viele aktuelle Initiativen beteiligen, oder wir könnten uns gemeinsam darauf einigen, dass das Wachstum der KI-Skills auf eine bestimmte Rate pro Jahr begrenzt ist“, so die Idee. „Und natürlich sollten einzelne Unternehmen an einem extrem hohen Standard für verantwortungsvolles Handeln gemessen werden.“

IAEO als Vorbild

Die zweite Überlegung dreht sich indes darum, eine Organisation – ähnlich der Atombehörde IAEO – ins Leben zu rufen. Denn jede KI-Entwicklung, die eine bestimmte Fähigkeitsschwelle überschreitet, müsse einer internationalen Behörde unterstellt werden, die Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen sowie Beschränkungen für den Einsatzgrad und das Sicherheitsniveau festlegen kann.

Konkret liest es sich im Blogeintrag so: „Die Nachverfolgung des Rechen- und Energieverbrauchs könnte einen wichtigen Beitrag leisten und lässt uns hoffen, dass diese Idee tatsächlich umsetzbar ist. In einem ersten Schritt könnten sich die Unternehmen freiwillig verpflichten, bereits mit der Umsetzung von Richtlinien zu beginnen, die eine mögliche Organisation eines Tages verlangen könnte. Und in einem zweiten Schritt könnten die einzelnen Länder dies umsetzen. Es wäre wichtig, dass sich eine solche Organisation auf die Verringerung existenzieller Risiken konzentriert und nicht auf Fragen, die einzelnen Staaten überlassen werden sollten, wie z. B. die Definition dessen, was eine KI sagen darf.“

Die Demokratisierung der Künstlichen Intelligenz?

Drittens und abschließend bringen die KI-Experten die Frage „Entscheidungsmacht des Individuums“ ins Spiel.

Altmann, Brockman und Sutskever sind sich einig, dass KI-Systeme, die uns aktuell besorgen, eine Macht haben, die jede bisher entwickelte Technologie übertrifft. Deshalb müssten die Verwaltung dieser Systeme sowie die Entscheidungen über deren Einsatz einer starken öffentlichen Kontrolle unterliegen.

„Wir sind der Meinung, dass die Menschen auf der ganzen Welt demokratisch über die Grenzen und Vorgaben für KI-Systeme entscheiden sollten“, heißt es im Blog. „Wir wissen noch nicht, wie ein solcher Mechanismus aussehen soll. (…) Wir sind nach wie vor der Meinung, dass der einzelne Mensch innerhalb dieser weiten Grenzen viel Kontrolle darüber haben sollte, wie sich die von ihm verwendete KI verhält.“

Deine ungelesenen Artikel:
03.11.2026

Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb

Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
/artikel/accilium-zeigt-bei-der-aiqon-ki-agenten-im-echtbetrieb
03.11.2026

Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb

Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
/artikel/accilium-zeigt-bei-der-aiqon-ki-agenten-im-echtbetrieb
Opening Fireside Chat bei der aIQon: Peter Allan (accilium) diskutierte mit Alexia Feick (Microsoft) und Paul Strunz (Wien Energie) über KI im Unternehmensalltag. (c) Zsolt Marton

Keine Charts, keine Keynotes, nur Dinge, die funktionieren. Mit dieser Regel eröffnete Peter Allan, AI Lead und Managing Partner bei accilium, am 22. Oktober die erste aIQon im 15. Stock des Juwel Wien. Das Format lehnt sich an Tech-Konferenzen an: Ein Team stellt ein Problem vor, zeigt live, was es dagegen gebaut hat, und erklärt, was es dabei gelernt hat. Allan nannte den Nachmittag ein Experiment. Wer Organisationen das Potenzial von KI vermitteln wolle, komme mit Folien nicht mehr weit, man müsse es zeigen.

Von der Beratung zum Bauen

accilium ist eine österreichische Strategie- und Managementberatung mit Sitz am Wiener Schubertring, die unter anderem für den öffentlichen Sektor arbeitet. Erst im September erhielt das Unternehmen den Zuschlag für einen Rahmenvertrag der Bundesbeschaffung GmbH (BBG) zur Digitalisierung der Verwaltung mit einem Volumen von bis zu 39 Millionen Euro.

Mit der aIQon zeigt accilium eine weitere Seite: Das Unternehmen hat heuer ein eigenes Team aus Forward Deployed Engineers aufgebaut, also Entwickler:innen, die direkt mit den Kunden arbeiten und Lösungen nicht nur konzipieren, sondern auch bauen. Die Rolle kommt aus der Software-Industrie und wird derzeit von führenden KI-Anbietern etabliert. Für eine Beratung heißt das: Strategie und Umsetzung aus einer Hand. Die gezeigten Agenten stammen alle aus diesem Team und laufen bei accilium selbst im Echtbetrieb.

(c) Zsolt Marton

Eine Kollegin, die alles mitliest

Aurelia ist ein eigenes Mitglied in einem Teams-Kanal. Sie hat ein eigenes Konto, liest Kanal, Postfach, Planner und Kalender eines Projekts mit und tut, was das Team ihr sagt. Im Szenario der Demo kehrt Projektleiterin Pia aus zwei Wochen Urlaub zurück und fragt Aurelia, was passiert ist. Statt Dutzende Nachrichten nachzulesen, bekommt sie in einer Antwort, was entschieden wurde und was für sie offen ist. Eine Kollegin ist krank: Aurelia findet deren fällige Aufgaben, schlägt Vertretungen vor und hängt die Aufgaben nach Pias Zustimmung im Planner um. Als die Kundin per Mail den Lenkungskreis vorziehen will, meldet sich Aurelia von selbst, weist darauf hin, dass eine Kollegin an dem Tag im Urlaub ist, und fragt nach, bevor sie den Termin verschiebt. Zum Jour fixe steht die Agenda in der Einladung, und eine Kollegin wird an ihren Kurzbericht erinnert.

(c) Zsolt Marton

Die Regeln dahinter sind klar: Aurelia liest alles mit, meldet sich von selbst aber nur dort, wo das Team es ihr aufgetragen hat. Planner und Kalender ändert sie erst nach einem Ja, Mails nach außen schickt sie nicht. Was sie darf, steht laut accilium im Code und nicht im Prompt. Die Regeln selbst gibt ihr das Team im Kanal, in ganz normalen Sätzen, so wie einer neuen Kollegin. Technisch läuft alles in einem Microsoft-Tenant auf Azure in der EU, das Sprachmodell in der EU-Datenzone.

Das wichtigste Learning kam aus dem eigenen Betrieb: Das richtige Maß ist für jedes Team ein anderes. Manche wollen täglich einen Status, andere jemanden, der im Hintergrund die Fäden zusammenhält und sich nur auf Nachfrage meldet. Deshalb lässt sich heute einstellen, wie proaktiv Aurelia ist. Und weil Teams einen Agenten als Kollegin wahrnehmen, gelte dasselbe wie bei jeder neuen Mitarbeiterin: Beide Seiten müssen sich aneinander gewöhnen.

Dasselbe Prinzip auf drei Ebenen

(c) Zsolt Marton

Zwei weitere Demos zeigten, dass der Ansatz auch jenseits des Projektteams funktioniert. „Linda Legal“ bündelt das Erfahrungswissen einer Rechtsabteilung und prüft direkt in Outlook Verträge gegen Richtlinie und Verhandlungsprotokoll. In der Demo entdeckte sie, dass in einem Paragrafen „jeweils“ statt des vereinbarten „zusammen“ stand, womit pro Wochenabruf 8.000 statt 4.000 Euro fällig geworden wären. Ihr Wissen liegt in lesbaren Dateien, die die Fachabteilung ohne IT selbst pflegt. „Erich Aigner“ wiederum ist ein persönlicher Assistent: Ein Berater erzählt ihm nach einem Kundentermin eine Minute lang, was zu tun ist, danach stehen Nachricht, Folgetermin und Mailentwürfe bereit. Gesendet wird nichts, das entscheidet der Mensch.

(c) Zsolt Marton

Drei Agenten, drei Ebenen: Team, Fachwissen, einzelne Person. Allen gemeinsam ist dasselbe Prinzip. Lesen, sortieren und vorbereiten tun die Agenten selbstständig, ändern und nach außen kommunizieren nur nach menschlicher Freigabe. Und diese Grenze ist technisch verankert, nicht bloß im Prompt versprochen.

Die Technik ist nicht der Engpass

Dass genau das die eigentliche Arbeit ist, zeigte auch der Opening Fireside Chat, in dem Peter Allan mit Alexia Feick und Paul Strunz über KI im Alltag, Top-down und Bottom-up in der Transformation und die Messbarkeit von KI-Projekten sprach. Strunz leitet das Digital Competence Center der Wien Energie, Feick war früher bei accilium und arbeitet heute im Customer Success bei Microsoft. Ihr gemeinsamer Befund: Die heutigen Modelle sind gut genug, der Hebel liegt in Prozessen, Governance und Befähigung. Feick riet, bei konkreten Pain Points anzusetzen statt bei dem Wunsch, „KI zu haben“. Der Output nach sechs Monaten solle eine veränderte Arbeitsweise mit messbarem Ergebnis sein, und lieber ein Use Case im crossfunktionalen Team als 30 kleine Proof-of-Concepts. Strunz ergänzte, dass Effizienzgewinne verpuffen, wenn die Prozesse dahinter nicht angepasst werden; bei der Wien Energie misst man unter anderem die Zahl aktiver Citizen Developer, eingesparte Stunden und eingespartes Geld.

(c) Zsolt Marton

Allan sieht in Agenten vor allem eine Wachstumschance: Es gebe unendlich viel Nachfrage nach Services, und wer es clever mache, nutze Agenten, um jeden einzelnen Job besser und kreativer zu machen. Bei accilium selbst sei keine Stelle durch KI ersetzt worden, wohl aber viel administrative Arbeit weggefallen. Intern begleitet das Unternehmen den Wandel mit einem eigenen Rhythmus: Jede Woche gibt es einen neuen „Build“ mit Skills, Tools und Trainings, wie bei einem Software-Unternehmen.

Alle Demos, Baupläne, Prompts und Skills stellt accilium offen zum Download bereit. Wer nicht dabei war, kann die Agenten also nachbauen. Auch das ist für eine Beratung ungewöhnlich und passt zum Anspruch des Formats: zeigen statt erklären.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung