Jetzt ist es Zeit, Angst vor der AI zu bekommen

✨ AI Kontextualisierung

ChatGPT ist derzeit in aller Munde. Jeder probiert den AI-Textgenerator aus und lotet selbst seine Möglichkeiten und Grenzen aus. Spoiler: Die Möglichkeiten werden in nächster Zeit noch deutlich größer, die Grenzen immer mehr verblassen. Das haben wir mit anderen AI-basierten Tools wie dem Übersetzer Deepl erlebt. Der bewegt sich bei einfachen Texten inzwischen in Richtung Perfektion. Oder beim vom (vor einiger Zeit verkauften) Wiener Startup kaleido entwickelten Bild-Freisteller remove.bg. Und wir werden es, wenn die Entwicklung so voranschreitet, in absehbarer Zeit auch bei Bildgeneratoren wie DALL·E oder Stable Diffusion erleben.

So wie wir im Journalismus mittlerweile völlig selbstverständlich für die Übersetzung von fremdsprachigen Zitaten mit Deepl und für ansprechendere Artikel-Bilder mit remove.bg arbeiten, werden wir das wohl bald auch mit ChatGPT und DALL·E machen, wann immer es als sinnvollster Weg erscheint. Das gebietet letztlich auch der Wettbewerb.

Denkt man in Sachen AI noch etwas weiter, erscheinen Text- und Bildgeneratoren als Peanuts. Autonome Fahrzeuge, neuartige Therapien für Krebs und andere bislang unheilbare Krankheiten – die künstliche Intelligenz bringt in vielen Bereichen massive Durchbrüche. Und wo sie den Menschen nicht übertrifft und daher ersetzen kann, erweist sie sich zumindest als starke Unterstützung.

Gründe, sich vor künstlicher Intelligenz (ein bisschen) zu fürchten

Blicken wir also einer rosigen Zukunft mit AI entgegen? Jein. Es gibt schon auch Gründe, sich ein bisschen zu fürchten. Doch nicht unbedingt vor den Schreckensszenarien, die seit Jahren immer wieder prophezeit werden. Dass wir etwa in ein dystopisches Szenario à la Matrix oder Terminator schlittern könnten, kann man zwar für die Zukunft nicht ganz ausschließen, es scheint aber keine akute Gefahr zu sein. Dass es wegen Job-raubenden künstlichen Intelligenzen zu einer Massenarbeitslosigkeit kommt, dürfte zwar bedingt eintreten, nämlich in einzelnen Branchen und zeitlich begrenzt, aber dafür gibt es dank mehrerer industrieller Revolutionen Erfahrungswerte und mit dem bedingungslosen Grundeinkommen einen Notfallplan. Was uns dagegen Angst machen sollte, ist, dass die Menschheit auf gefährliche Weise verblöden könnte.

Warum sollte das passieren? An dieser Stelle eine Analogie zu den bisherigen industriellen Revolutionen. Sie alle löschten bestimmte Handwerke und Berufsgruppen für immer aus, weil Maschinen die Arbeit um ein Vielfaches effizienter machen konnten. Die entsprechenden Fertigkeiten wurden im kollektiven Gedächtnis im Großen und Ganzen ausgelöscht. Damals ging es um handwerkliche Skills wie Weben.

Die AI-Revolution und das Verlernen des Denkens

In der aktuellen AI-Revolution geht es um eine noch viel empfindlichere Fähigkeit des Menschen: das Denken. Schon ein einfacher Taschenrechner in der Schule zeigt uns, dass Denkoperationen, die man nicht durchführen muss, weil es eine einfachere Alternative gibt, nicht durchgeführt werden. Die Konsequenz ist, dass man sie gar nicht durchführen könnte, wenn man es wollte. Wenn wir in naher Zukunft immer mehr Denkoperationen an die AI abgeben, werden wir sie – als ganze Gesellschaft – verlernen. Sie werden dann, wie andere Fertigkeiten davor, aus dem kollektiven Gedächtnis gelöscht werden. (Man mag an dieser Stelle anmerken, dass das Denken bereits jetzt vielerorts keinen großen Stellenwert hat).

Mit dem in Kauf Nehmen dieser Verblödung würden wir uns dann auch freiwillig komplett abhängig von der AI machen – ganz ohne The Matrix-mäßig machtgierigen Computern. Und das könnte wiederum zum massiven Problem werden. Denn wir sind zwar auch von vielen anderen Maschinen abhängig, aber die erzeugen zum Beispiel Produkte, bei denen wir leicht feststellen können, ob sie funktionieren oder nicht. Wenn die AI aus irgendeinem Grund Unwahrheiten verbreitet – und das kann sie, oder sie aus irgendeinem Grund ausfällt, und wir die zugrundeliegende Denkoperation verlernt haben, dann wird es gefährlich.

Was kann man dagegen tun? Beginnen wir einmal damit, darüber nachzudenken! Wobei – was wohl ChatGPT dazu sagt…?

Am Mittwoch schlug die Bundesregierung ein internationales KI-Zentrum in Wien vor. Es soll unter dem Dach der UNO angesiedelt werden und Staaten, Wissenschaft sowie Wirtschaft zusammenbringen, um das Potenzial von KI auszuloten, ihre Risiken zu erforschen und gemeinsame Standards zu entwickeln – brutkasten berichtete.

Wir haben uns in der heimischen Startup-Szene zu diesem Vorhaben umgehört und gemerkt, dass die Meinungen variieren: Es fallen Begriffe wie „Virtue Signalling“, globale KI-Governance, Antwort auf eine zentrale Machtfrage, Mehrwert und „Capacity-Building“.

Zehetmaier: „KI-Governance global denken“

Als ehemalige Vertreterin Österreichs und der EU bei der UNO in Genf weiß Carina Zehetmaier aus eigener Erfahrung, wie wichtig ein gemeinsamer Ort für die globale Zusammenarbeit zwischen Staaten sei.

„Die UNO hat mit dem Independent International Scientific Panel on AI und dem Global Dialogue on AI Governance bereits zwei wichtige Mechanismen für die globale KI-Governance geschaffen. Der erste ‚Global Dialogue‘ fand im Juli 2026 in Genf statt, womit die Stadt wichtige Vorarbeit geleistet hat. Wien besitzt nun die besten Voraussetzungen, um diese internationale Zusammenarbeit weiterzuentwickeln“, sagt die Vorsitzende der „Arbeitsgruppe 42“ bei Austrian Standards.

KI-Governance müsse ihr zufolge global gedacht werden – nicht nur aus der Perspektive einer einzelnen Region: „Gerade bei den leistungsfähigsten KI-Modellen brauchen wir internationale Zusammenarbeit, unabhängige Prüfungen und klare Verantwortlichkeiten. Als Gründerin von Humably – einem Startup, das Organisationen bei der verantwortungsvollen Entwicklung sowie beim Einsatz von KI unterstützt und Ausbildungsformate zur Stärkung menschlicher Aufsicht entwickelt – sehe ich sehr deutlich, wie wichtig es ist, Governance von Anfang an mitzudenken.“

Metriken und Evaluierungsmethoden

Dementsprechend bleibe es entscheidend, dass ein solches Zentrum — wie in Wien angedacht — nicht nur den globalen Dialog ermögliche, sondern konkrete Wirkung entfalte: durch unabhängige Prüfungen leistungsfähiger KI-Modelle sowie die systematische Erfassung und Untersuchung schwerwiegender Vorfälle, betont Zehetmaier.

„Darüber hinaus sollten wir international vergleichbare Metriken und Evaluierungsmethoden entwickeln, um auch die gesellschaftlichen Auswirkungen von KI systematisch zu untersuchen – etwa auf Grundrechte, Chancengerechtigkeit, Diskriminierung, Umwelt, Arbeitsmarkt und demokratische Prozesse. Denn wir müssen nicht nur wissen, ob ein KI-Modell sicher funktioniert, sondern auch, welche Folgen sein Einsatz für Menschen und Gesellschaften hat.“

Für Österreich sieht sie in einem solchen Zentrum einen enormen Gewinn – volkswirtschaftlich, für den Innovationsstandort und für die internationale Rolle der Republik. „Es könnte hochqualifizierte Talente aus aller Welt nach Wien bringen, internationale Expertise bündeln und Österreich als Standort für die Gestaltung globaler KI-Governance stärken“, meint die KI-Expertin.

Wien als vielfältiges Ökosystem

Die Hauptstadt hätte dafür bereits ein vielfältiges Ökosystem aus Wirtschaft, Wissenschaft, Zivilgesellschaft und internationalen Organisationen: Die Internationale Atomenergie-Organisation (IAEA), die EU-Agentur für Grundrechte (FRA) oder das IEEE (Institute of Electrical and Electronics Engineers).

Dazu kämen Forschungsprojekte wie FAIR-AI, Vereine wie Women in AI Austria und AI Austria und politisch gestützte Initiativen wie ShegoesAI, die Diversität und gesellschaftliche Teilhabe in der KI vorantrieben: „Wir haben somit ein Ökosystem, in dem Wirtschaft, Politik, Wissenschaft, Standardisierung und Zivilgesellschaft bereits heute an der verantwortungsvollen Gestaltung von KI arbeiten.“

Digitaler Humanismus

Was Wien darüber hinaus besonders auszeichne, sei seine Tradition des Digitalen Humanismus.

„Ein Beispiel dafür ist das von Prof. Sarah Spiekermann-Hoff an der WU Wien entwickelte ‚Value-based Engineering‘, welches Werte systematisch in die Technologieentwicklung integriert. Damit existiert hierzulande ein starkes Fundament, um technologische Innovation mit Grundrechten und demokratischen Werten zusammenzudenken. Genau diese Perspektive sollte auch in der globalen KI-Governance eine zentrale Rolle spielen“, sagt Zehetmaier.

Wasner: „Schlechtes Timing“

Eine abweichende Meinung zu diesem Thema hat Clemens Wasner, Gründer von enlite.ai. Er sieht diesen Vorschlag als „typisch österreichisches Virtue Signalling“, also das öffentliche Zurschaustellen moralischer Werte.

„Im ersten Moment dachte ich, es handelt sich dabei um eine Tagespresse-Meldung“, sagt er. „Man hat das Gefühl, dass das Land den Bedeutungsverlust seit der Ära Kreisky nie ganz verwunden hat und deshalb immer wieder nach internationaler Bühne sucht. Wie schon beim Sitz im UN-Sicherheitsrat oder den täglichen Erasmus-Meldungen aus dem Außenministerium zeigt sich, dass die Regierung Schwierigkeiten hat, ihre Prioritäten richtig zu setzen. Dabei liegen diese auf der Hand: Budget und Wirtschaft fixen, ‚Ease of Doing Business‘ verbessern, Forschung und Innovation fördern. ‚Virtue Signalling‘ ist keine Standortpolitik. Ein UN-Kooperationszentrum bringt weder Investitionen noch Rechenkapazität noch Gründungen ins Land.“

Wasner sieht zudem vor allem das Timing dieses Vorschlags als „besonders unglücklich“ an: „Nur eine Woche nach der Ankündigung drastischer Kürzungen bei den Universitätsbudgets wirkt das ziemlich realitätsfern. Man fragt sich, ob die Regierung die richtigen Berater hat, wenn sie sich ausgerechnet bei jener Community Pluspunkte holen will, die sie künftig unterfinanzieren wird. Die Zeit wäre besser investiert in Themen, für die die Menschen diese Regierung tatsächlich gewählt haben. Die Niederlande haben gestern angekündigt mithilfe von KI 25.000 Beamte einzusparen zu wollen, Österreich will Brownie-Points (Anm.: zynischer Ausdruck, um sich bei Autoritäten einzuschmeicheln) sammeln.“

Gorzala: „Strategische Antwort auf zentrale Machtfrage unserer Zeit“

CEO und Founderin von Act AI Now und stellvertretende Vorsitzende des KI-Beirats der österreichischen Bundesregierung Jeannette Gorzala meint, dass die Skalierung exponentieller Technologien schlicht nach einer neuen geopolitischen Architektur verlange.

„Der Vorstoß, ein UN-Zentrum für KI-Kooperation in Wien anzusiedeln, ist eine strategische Antwort auf die zentrale Machtfrage unserer Zeit: Wie sichern wir Kontrolle, wenn die Entwicklungsgeschwindigkeit unsere Institutionen längst herausfordert?“

Wien bringe hierzu entscheidende Assets mit: „Etwa die etablierte multilaterale Infrastruktur eines UN-Sitzes, diplomatische Reichweite und die Tradition des digitalen Humanismus. Das Fundament ist da. Jetzt geht es darum, daraus einen globalen Hub für KI-Sicherheit und verantwortungsvolle Innovation zu formen“, sagt sie.

Diplomatie dürfe jedoch nicht zum Synonym für Langsamkeit werden. „Im Zeitalter immer leistungsfähigerer KI-Modelle ist ein institutioneller Debattierclub ohne operative Wirkung keine Lösung. Die Zukunft von KI-Technologie ist global. Ihre Sicherheit auch. Wien kann der Ort sein, an dem aus globaler Konkurrenz gemeinsame Verantwortung wird.“

Women in AI: „Mehrwert in internationaler Koordination“

Alexandra Ciarnau, Präsidentin, und Julia Eisner, Vizepräsidentin Women in AI, stehen dem Vorschlag der Regierung grundsätzlich positiv gegenüber. „Wenn es ein KI-Zentrum unter dem Dach der UNO wird, könnte der Mehrwert vor allem in internationaler Koordination, wissenschaftlicher Zusammenarbeit, Governance und ‚Capacity Building‘ liegen“, sagen sie. „Ein reines KI-Rechenzentrum wäre zu wenig und da stellt sich die Kosten-Nutzen-Frage. Das beginnt beim Infrastruktur-Ausbau und geht bis hin zu höheren Energiepreisen für Haushalte.“

Österreichs Pläne für ein internationales KI-Zentrum sollten ihrer Ansicht nach nicht allein als technische Sicherheitsfrage gesehen werden. Ebenso wichtig sei der Blick auf vertrauenswürdige und verantwortungsvolle KI.

„Außerdem ist fraglich, welche Aufgaben, Ressourcen und Entscheidungsbefugnisse das Zentrum tatsächlich erhalten soll. Wichtig wäre, dass es bestehende internationale Initiativen sinnvoll ergänzt und nicht lediglich eine zusätzliche institutionelle Ebene schafft“, sagen sie. „Ebenso braucht es transparente Entscheidungsprozesse, wissenschaftliche Unabhängigkeit und eine breite Beteiligung unterschiedlicher Akteur:innen.“

„Zivilgesellschaft einbinden“

Dabei müsse Österreich nicht bei null beginnen. Das Land verfüge über eine vielfältige Forschungslandschaft, europäisch vernetzte KI-Infrastrukturen und Initiativen wie die AI Factory Austria.

Diese Strukturen sollten der Women-in-AI-Führung nach von Anfang an strategisch eingebunden werden. Ein internationales Zentrum müsste dabei auf vorhandenen Stärken aufbauen und sie miteinander verbinden, raten sie.

„KI-Governance darf nicht ausschließlich von Regierungen, großen Technologieunternehmen und technischen Expert:innen geprägt werden“, so ihr Appell. „Auch die Zivilgesellschaft, unterschiedliche wissenschaftliche Disziplinen und insbesondere bisher unterrepräsentierte Gruppen müssen eingebunden werden. Diversität ist dabei nicht nur eine Frage der Repräsentation, sondern auch der Qualität von Entscheidungen: Unterschiedliche Perspektiven helfen, gesellschaftliche Risiken, Diskriminierung und ungleiche Auswirkungen von KI frühzeitig zu erkennen.“

Hirschbrich: „Verankerung im diplomatischen Gefüge“

Mic Hirschbrich, Co-Founder von Apollo.ai sieht in diesem Vorhaben den Vorteil zusätzlicher Sichtbarkeit und eines breiteren Zugangs zu einem zentralen Thema unserer Zeit. „Es ist eine weitere Absicherung der Verankerung unseres Landes im diplomatischen Gefüge“, sagt er.

„Dazu werden wir im KI-Bereich die kommenden Jahre sehr viel Anstrengung brauchen. Ein Grundset globaler Spielregeln scheint mir fast noch bedeutender zu sein, als nationale oder kontinentale Alleingänge bei der KI-Regulierung. Als Land haben wir nach IAEO und Co. sicher die notwendige Glaubwürdigkeit und hätten damit dauerhaft wichtige KI-Player im Land, was sich auch auf den Standort positiv auswirken wird.“

Mofidian: „Einfluss nehmen“

Wirtschafts- und Tech-Anwalt Manuel Mofidian glaubt, dass Wien für die Entwicklung neuer Ansätze globaler KI-Governance eine „außergewöhnlich gute Ausgangsposition“ hat.

„Wir sind einer von vier großen Amtssitzen der Vereinten Nationen weltweit und der einzige innerhalb der Europäischen Union“, sagt er. „Hier treffen internationale Diplomatie, jahrzehntelange europäische Erfahrung mit Supranationalität und die österreichische Tradition der Neutralität aufeinander. Dazu kommt, dass Wien bereits ein international anerkannter Standort für die Bewältigung globaler technologischer Risiken ist. Denken wir nur an die Internationale Atomenergie-Organisation, die IAEA, die hier internationale Standards für nukleare Sicherheit entwickelt. Österreich hat bereits bewiesen, dass es durch Diplomatie, internationale Institutionen und politische Initiative weit über seine Größe hinaus Einfluss nehmen kann.“

Neutralität als Stärke für Glaubwürdigkeit

Auch sollte man Österreichs Neutralität wieder stärker als außenpolitische Stärke begreifen.

„Wenn die Neutralität, derzeit teils heiß diskutiert, weiterhin dem politischen Willen der österreichischen Bevölkerung entspricht, sollten wir sie nicht als eine Art politisches Sorglos-Paket verstehen, das uns vor den Konflikten der Welt bewahrt“, sagt er. Vielmehr könne sie dem Land bei globalen Herausforderungen helfen, als glaubwürdiger Initiator und Vermittler ernst genommen zu werden.

„Gerade bei Künstlicher Intelligenz sehe ich hier eine große Chance. Wir sprechen über ein potenziell wesentlich umfassenderes globales Risikofeld als etwa in der internationalen Luftfahrt. KI kann praktisch sämtliche digitalisierten Bereiche unserer Gesellschaft betreffen“, mahnt Mofidian.

Und er ergänzt: „Gleichzeitig zeigen uns die vergangenen Jahre, wie schnell klassische internationale Kooperationsmechanismen an ihre Grenzen stoßen, wenn fundamentale nationale Interessen aufeinanderprallen. Mein Ansatz wäre deshalb, die globale Erfahrung und den Kooperationsanspruch der Vereinten Nationen mit der europäischen Erfahrung aus der Supranationalität zu verbinden.“

Die EU habe seiner Ansicht nach über Jahrzehnte gezeigt, wie souveräne Staaten bestimmte Kompetenzen gemeinsam ausüben und verbindliche überstaatliche Entscheidungen ermöglichen können. „Warum sollten wir diese Erfahrung nicht nutzen, um für ausgewählte, besonders wichtige Fragen der globalen KI-Governance neue institutionelle Modelle zu entwickeln?“

Keine Weltregierung

Dabei gehe es ihm ausdrücklich nicht um eine Weltregierung oder um Überregulierung, sondern um verhältnismäßige Regeln und wirksame gemeinsame Strukturen zur Bewältigung globaler Risiken. „Vielleicht bietet uns Künstliche Intelligenz die Gelegenheit, an Österreichs internationale Tradition anzuknüpfen und Wien zu einem Ort zu machen, an dem nicht nur über globale KI-Herausforderungen gesprochen, sondern auch an neuen Modellen verbindlicher internationaler KI-Zusammenarbeit gearbeitet wird.“