24.05.2023

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

So steht es in einem Blogeintrag der OpenAI-Führungsriege. Konkret geht es den ChatGPT-Entwicklern darum, aktuelle KI-Initiativen mithilfe großer Regierungen zusammenzuführen. Um mit proaktiver Weitsicht auf das, was kommen mag, vorbereitet zu sein.
/artikel/governance-of-superintelligence-chatgpt-fuehrung-fordert-globale-ki-vereinigung
KI, Sam Altman OpenAI, ChatGPT
(c) Adobe Stock/TechCrunch Disrupt SF - Sam Altman, CEO von OpenAI.

Eigentlich fing es bereits in der Entertainment-Industrie an. Die Angst vor KI war spätestens mit der Terminator-Reihe ein Massenphänomen geworden, wurde anschließend hier und da von der Kulturszene in diversen Ausprägungen behandelt, um lange Zeit bloß am Rande der Gesellschaft Science-Fiction-Fans zu beschäftigen. OpenAI und ChatGPT änderten alles.

Die Angst des Menschen vor der KI

Aktuell befindet sich die Welt in einer Experimentierphase und einem Diskurs darüber, was Künstliche Intelligenz alles vermag, wie sie Gesellschaften formen wird und welche Gefahren von ihr ausgehen. Elon Musk etwa forderte vor kurzem einen Stopp der Forschung an KI, nur um kurz später eine eigene KI-Firma zu gründen- der brutkasten berichtete.

Nun haben OpenAI-Gründer Sam Altman, Präsident Greg Brockman und Chief Scientist Ilya Sutskever per Blogbeitrag erklärt, dass das Innovationstempo im Bereich der Künstlichen Intelligenz derart hoch ist; sie könnten eine Zügelung der Technologie durch bestehende Behörden nicht abwarten.

„Was die möglichen Vor- und Nachteile angeht, wird die Superintelligenz leistungsfähiger sein als andere Technologien, mit denen sich die Menschheit in der Vergangenheit auseinandersetzen musste. Wir können eine wohlhabendere Zukunft haben, aber wir müssen die Risiken beherrschen, um an diesen Punkt zu gelangen“, schreibt das Trio in dem Beitrag.

Und weiter: „Angesichts der Möglichkeit eines existenziellen Risikos können wir nicht einfach nur reaktiv sein. Wir müssen auch die Risiken der heutigen KI-Technologie abmildern. Diese Superintelligenz wird eine besondere Behandlung und Koordination erfordern.“

Die OpenAI-Führungsriege hat daher drei Überlegungen angestellt und die Bereiche „Koordination„, „Organisation“ und „demokratische Partizipation“ ausgearbeitet, um möglichen Ausuferungen der KI vorzubeugen.

Eine Idee der globalen Koordination

Erstens fordern Altmann, Brockman und Sutskever ein gewisses Maß an Koordination zwischen den „KI-Leadern dieser Welt“. Um sicherzustellen, dass die Entwicklung von Superintelligenz in einer Weise erfolgt, die sowohl die Aufrechterhaltung der Sicherheit, als auch eine reibungslose Integration der Systeme in Gesellschaften ermöglicht.

„Es gibt viele Möglichkeiten, wie dies umgesetzt werden kann. Große Regierungen auf der ganzen Welt könnten ein Projekt ins Leben rufen, an dem sich viele aktuelle Initiativen beteiligen, oder wir könnten uns gemeinsam darauf einigen, dass das Wachstum der KI-Skills auf eine bestimmte Rate pro Jahr begrenzt ist“, so die Idee. „Und natürlich sollten einzelne Unternehmen an einem extrem hohen Standard für verantwortungsvolles Handeln gemessen werden.“

IAEO als Vorbild

Die zweite Überlegung dreht sich indes darum, eine Organisation – ähnlich der Atombehörde IAEO – ins Leben zu rufen. Denn jede KI-Entwicklung, die eine bestimmte Fähigkeitsschwelle überschreitet, müsse einer internationalen Behörde unterstellt werden, die Systeme inspizieren, Audits verlangen, die Einhaltung von Sicherheitsstandards prüfen sowie Beschränkungen für den Einsatzgrad und das Sicherheitsniveau festlegen kann.

Konkret liest es sich im Blogeintrag so: „Die Nachverfolgung des Rechen- und Energieverbrauchs könnte einen wichtigen Beitrag leisten und lässt uns hoffen, dass diese Idee tatsächlich umsetzbar ist. In einem ersten Schritt könnten sich die Unternehmen freiwillig verpflichten, bereits mit der Umsetzung von Richtlinien zu beginnen, die eine mögliche Organisation eines Tages verlangen könnte. Und in einem zweiten Schritt könnten die einzelnen Länder dies umsetzen. Es wäre wichtig, dass sich eine solche Organisation auf die Verringerung existenzieller Risiken konzentriert und nicht auf Fragen, die einzelnen Staaten überlassen werden sollten, wie z. B. die Definition dessen, was eine KI sagen darf.“

Die Demokratisierung der Künstlichen Intelligenz?

Drittens und abschließend bringen die KI-Experten die Frage „Entscheidungsmacht des Individuums“ ins Spiel.

Altmann, Brockman und Sutskever sind sich einig, dass KI-Systeme, die uns aktuell besorgen, eine Macht haben, die jede bisher entwickelte Technologie übertrifft. Deshalb müssten die Verwaltung dieser Systeme sowie die Entscheidungen über deren Einsatz einer starken öffentlichen Kontrolle unterliegen.

„Wir sind der Meinung, dass die Menschen auf der ganzen Welt demokratisch über die Grenzen und Vorgaben für KI-Systeme entscheiden sollten“, heißt es im Blog. „Wir wissen noch nicht, wie ein solcher Mechanismus aussehen soll. (…) Wir sind nach wie vor der Meinung, dass der einzelne Mensch innerhalb dieser weiten Grenzen viel Kontrolle darüber haben sollte, wie sich die von ihm verwendete KI verhält.“

Deine ungelesenen Artikel:
09.10.2026

Serbien: Grüner Wasserstoff aus dem Kohleland?

Die EU fördert neue Wasserstoffprojekte in Serbien. Deutschland sieht in dem Land gar einen möglichen Lieferanten für Europa. Vor Ort zeigt sich: Es fehlen Strom aus Wind und Sonne, klare Regeln und eine Verwaltung, die sie umsetzt. Chancen für die internationale Wirtschaft gibt es trotzdem, nur nicht dort, wo man sie zuerst vermutet.
/artikel/serbien-gruener-wasserstoff-aus-dem-kohleland
09.10.2026

Serbien: Grüner Wasserstoff aus dem Kohleland?

Die EU fördert neue Wasserstoffprojekte in Serbien. Deutschland sieht in dem Land gar einen möglichen Lieferanten für Europa. Vor Ort zeigt sich: Es fehlen Strom aus Wind und Sonne, klare Regeln und eine Verwaltung, die sie umsetzt. Chancen für die internationale Wirtschaft gibt es trotzdem, nur nicht dort, wo man sie zuerst vermutet.
/artikel/serbien-gruener-wasserstoff-aus-dem-kohleland
Ein Elektrobus der Belgrader Verkehrsbetriebe lädt an einer Schnellladestation von Siemens. | (c) Alexandra Polic

Belgrad steht. Auto an Auto schiebt sich durch die Stadt, dazwischen fahren Busse, die ihr erstes Leben woanders verbracht haben: in Deutschland oder in Österreich zum Beispiel. Manche tragen noch die alten Aufkleber. „Notausstieg” steht da auf Deutsch auf einem Fenster, mitten in Serbiens Hauptstadt.

Es verwundert also wenig, dass einem in neun Tagen in Serbien nur eine einzige Haltestelle mit E-Bussen auffällt. Immerhin gab es die zu Lebzeiten der nun serbischen Busse in deutschsprachigen Ländern kaum. Aufhalten lassen sich ausländische Firmen dadurch nicht. In Belgrad verkauft etwa der chinesische Konzern BYD Elektroautos. Nur: Auf der Straße sieht man kaum welche. Trotzdem sollen ausgerechnet hier, in einem Land mit fossilem Antrieb, neue Wasserstoffprojekte entstehen, gefördert aus europäischen Ländern, zum Teil sogar aus Mitteln der EU. Woran liegt das?

Europas große Wette auf grünen Wasserstoff

Zum einen drängen die Ziele: Bis 2030 will die EU zehn Millionen Tonnen grünen Wasserstoff selbst produzieren und ebenso viel importieren. So steht es im REPowerEU-Plan. Es ist eines der ambitioniertesten industriepolitischen Vorhaben der Union und ein zentrales Werkzeug, um im Wettbewerb mit den USA und China zu bestehen. Der Draghi-Report 2024 nennt hohe Energiekosten und Importabhängigkeit als Hauptgrund, warum Europas Industrie zurückfällt. Seine Forderung: dekarbonisieren.

Grüner Wasserstoff kann dabei helfen. Er funktioniert dort, wo direkte Elektrifizierung an Grenzen stößt, etwa in Stahl, Chemie, Schifffahrt und Schwerlastverkehr, und ersetzt fossile Importe. Er ist Klima-, Industrie- und Souveränitätspolitik in einem. Hergestellt wird er in Elektrolyseuren: Anlagen, die Wasser mithilfe von Strom in Wasserstoff und Sauerstoff spalten. Grün ist er nur, wenn der Strom aus erneuerbaren Quellen wie Wind, Sonne oder Wasserkraft stammt.

Aber der Hochlauf stockt. Die Produktion ist teuer, die Infrastruktur fehlt. 2024 waren in der EU laut European Hydrogen Markets Monitoring Report 308 Megawatt Elektrolysekapazität installiert. Vorgesehen waren 6.000. Bis 2030, so sieht es die EU-Wasserstoffstrategie vor, sollen es 40.000 werden.

Serbien: Ein Kandidat ohne Plan

Während Spanien als Vorreiter gilt und in Österreich mit 140 Megawatt die bisher größte Elektrolyseanlage des Landes entsteht, versuchen europäische Akteure auch den serbischen Markt zu erschließen. Dabei fehlt Serbien bis heute eine nationale Wasserstoffstrategie.

Politisch ist das Land seit 2012 EU-Beitrittskandidat und aktuell so weit von einer Mitgliedschaft entfernt wie lange nicht. Im jüngsten Fortschrittsbericht attestierte die EU-Kommission Serbien das schlechteste Zeugnis aller Kandidaten, die Reformen seien zum Stillstand gekommen. Proteste, Korruptionsvorwürfe und Neuwahlen Ende Oktober halten das Land in Aufruhr. Kann aus einem Beitrittskandidaten ohne Strategie ein Energiepartner werden? Und was heißt das für alle, die dort investieren wollen?

Im Navigator Business Center in Novi Beograd sind zahlreiche Unternehmen und Startups angesiedelt. | (c) Alexandra Polic

Keine Nachfrage für Wasserstoff

„Alle vier Jahre wird Wasserstoff zum wichtigsten Thema, und dann verschwindet er wieder von der Agenda. Gerade sind wir eher unten auf der Kurve. Die Investitionen rund um Wasserstoff sind so niedrig wie seit Jahren nicht”, sagt Rahul Mishra, Co-Founder von The Energy Bridge. Die Wiener Plattform bringt Forscher:innen, Unternehmer:innen und Investor:innen zusammen. „Serbien ist auf jeden Fall ein interessanter Ort für erneuerbare Energien. Was grünen Wasserstoff betrifft, bin ich mir allerdings nicht so sicher”, sagt Mishra. Grüner Wasserstoff mache nur dort Sinn, wo es bereits einen hohen Anteil an erneuerbarer Energie gebe.

Aber von Serbiens heimischer Energieproduktion entfielen laut Daten der Internationalen Energieagentur (IEA) 2024 rund 70 Prozent auf fossile Brennstoffe, während Sonne, Wind und andere Erneuerbare zusammen nur etwa 1,4 Prozent beitrugen. Damit fehlt genau die Voraussetzung, die Mishra nennt. Dazu kommt ein Richtungswechsel in Brüssel: Mit ihrem im Juli präsentierten Elektrifizierungsplan setzt die EU-Kommission stärker auf Strom als auf Wasserstoff.

Tiefschwarz

Viele Menschen in Serbien sagen unabhängig voneinander das Gleiche: dass das Land tiefschwarz ist. Schwarz steht in diesem Fall für Kohle. Wasserstoff ist in Serbien ein Thema für einen kleinen Kreis von Fachleuten. Selbst manche Institutionen zeigten sich auf Anfrage überrascht, dass es solche Projekte im Land gibt. Das serbische Energieministerium hat auf Anfragen nicht reagiert.

Warum Projekte feststecken

Dabei haben in den vergangenen Jahren vor allem deutsche Firmen versucht, den serbischen Wasserstoff-Sektor aufzubauen. Laut Informationen der Deutsch-Serbischen Wirtschaftskammer (AHK) steckt ein Pilotprojekt gerade wegen regulatorischer Probleme in der Planung fest. Selbst für Pilotprojekte fehlen also Verordnungen, etwa zur Sicherheit.

Erst im Jänner hat Serbien ein nationales Gesetz zu CO₂-Emissionen eingeführt, das dem EU-Emissionshandel entsprechen soll. Wasserstoff fehlt darin, obwohl er unter den EU-Grenzausgleich CBAM fällt. Die Kammer hatte dessen Aufnahme in der öffentlichen Konsultation gefordert, blieb damit aber erfolglos.

Viele Ankündigungen, wenig Umsetzung

Ilija Batas-Bjelić forscht am Institut für Technische Wissenschaften der Serbischen Akademie der Wissenschaften und Künste (SANU). Er modelliert Energiesysteme, mit dem seines Landes hat er sich umfassend auseinandergesetzt. Sein Fazit: „Im Grunde gibt es hier kein System.” Ein echtes Energiesystem verbindet viele verschiedene Komponenten zu einem funktionierenden Ganzen: Kraftwerke, Netze, Verbraucher:innen sowie unterschiedliche Sektoren wie Strom, Wärme und Transport. In Serbien fehlt diese Verzahnung bisher.

Laut Batas-Bjelić liegt das Land in der Energiewende rund zwanzig Jahre zurück, weil Kohle für das Finanzministerium die zentrale Einnahmequelle bleibt und notfalls sogar importiert wird. Das Energieministerium habe zwar viel Arbeit in Regulierung und Gesetzgebung gesteckt, aber für die Umsetzung fehle alles: das Geld, das Fachpersonal und die Infrastruktur. „Es gibt viele Ankündigungen, aber es passiert nichts”, sagt er.

Wer trotzdem baut

„Generell halte ich Wasserstoff für diese Region für etwas zu teuer”, sagt der Forscher. „Von Fall zu Fall kann sich Wasserstoff wirtschaftlich lohnen und für Banken finanzierbar sein”, erklärt er. Den Anstoß erwartet er vor allem von kleineren Unternehmen. Solarstrom und PV-Anlagen seien billig, die Gasversorgung bleibe unsicher. Wer eine eigene PV-Anlage betreibt, könne damit auch vor Ort Wasserstoff erzeugen.

Die Theorie bestätigt sich in der Praxis. Nach Informationen aus dem Umfeld der deutschen Entwicklungsbank KfW kommt derzeit nur ein Wasserstoffprojekt im Land wirklich voran: das eines privaten Transportunternehmens nahe Belgrad. Es will Strom aus einer eigenen Solaranlage in Wasserstoff für die eigenen Lkw umwandeln, die Tankstelle soll bis Mitte 2027 in Betrieb gehen. Das Projekt ist aus Eigenmitteln finanziert. Der Aufwand für Förderungen stand in keinem Verhältnis zur Summe. Wer in Serbien auf Wasserstoff setzt, ist bisher auf sich allein gestellt. Aber was heißt das für jemanden, der investieren will?

Wo der Markt wirklich liegt

Die Gesprächspartner:innen zeigen alle in dieselbe Richtung, und sie zeigt nicht auf Wasserstoff. Batas-Bjelić beobachtet, dass derzeit ausschließlich kleine Solarprojekte tatsächlich gebaut werden, während größere Vorhaben liegen bleiben, und erwartet den Anstoß von Unternehmen selbst. Wer in Serbien in Erneuerbare investieren will, muss also kleiner denken: bei Anlagen für den Eigenverbrauch von Betrieben.

Die Deutsch-Serbische Wirtschaftskammer verweist auf eine konkrete Lücke, die auch für österreichische Investor:innen interessant sein könnte: Deutsche Firmen haben in Serbien längst selbst Photovoltaik installiert und ihre Prozesse optimiert, um auf das CO₂-Grenzausgleichssystem CBAM der EU vorbereitet zu sein. Ihre kleineren serbischen Zulieferer haben das nicht. Deren Emissionen schlagen nämlich auf die Klimabilanz ihrer internationalen Abnehmer durch. Und genau dort sei Raum für Investitionen.

Für alle Bereiche rät Daniel Schaub von The Energy Bridge, lokale Akteure einzubeziehen. „Wenn die Community rund um ein Projekt dagegen ist, wird es mit hoher Wahrscheinlichkeit scheitern. Die Community einzubinden, senkt dieses Risiko, und das ist bei Investitionen wichtig.” Wissenstransfer und lokale Arbeitsplätze gehören für ihn dazu.

Bei grünem Wasserstoff ist Serbien noch nicht so weit. Wer dort trotzdem investieren will, sollte beim Fundament anfangen, gemeinsam mit den Menschen vor Ort.


Dieser Beitrag ist im Rahmen von „eurotours 2026″ entstanden, einem Projekt des Bundeskanzleramts, finanziert aus Bundesmitteln.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Governance of Superintelligence – ChatGPT-Führung fordert globale KI-Vereinigung