19.08.2022

Warum wir die Negativität hinter uns lassen müssen

In seiner aktuellen Kolumne erläutert Mic Hirschbrich, warum wir trotz der Krisen unserer Zeit, unseren Anspruch an Fortschritt und Wohlstand nicht verlieren dürfen.
/artikel/mic-hirschbrich-kolumne-raus-aus-der-negativitaet

Beeindruckend große Namen berichteten am Salzburg Summit vor wenigen Wochen wortgewandt von dem Dilemma, in dem wir alle stecken, – wirtschaftlich, geopolitisch, ökologisch, you name it. Ein paar rangen um Aufmerksamkeit, in dem sie Begriffe wie „Zeitenwende“ nochmal zu übertrumpfen suchten. Ein paar andere aber appellierten an unsere Kraft, unseren Verstand, unsere Fähigkeit, mit Innovation die anstehenden Probleme zu lösen. Neben dem IV Präsidenten Knill, fiel auch Infineon-Chefin Sabine Herlitschka mit dem Ausbrechen aus den dystopischen Frames unserer Zeit auf. Fast schon ungewohnt, wenn jemand derart Zuversicht und Selbstbewusstsein verbreitet, ohne die Realität zu beschönigen. Man fühlt sich fast an vergangene Zeiten erinnert, als Optimismus und eine Hands-on-Mentalität noch selbstverständlich schienen.

Verlust der Pax Americana

Die Kommentatoren der darauffolgenden Tage festigten zumeist die dystopische Analyse, vielleicht in ihrem eigenen politischen Duktus, jedoch kaum milder im Urteil. Joschka Fischer etwa, jener deutsche Grüne, der vor Habeck und Co über Parteigrenzen hinweg Anerkennung erntete, sprach in einem Gastkommentar von „planetaren Konsequenzen“, die der Verlust der Pax Americana für unsere (westliche, Anm.) Welt bedeuten würde. Dieser „Ordnungsverlust“ würde zur Rückkehr großer Kriege führen, einer Gefährdung der Welternährung, der Unterbrechung des Welthandels und natürlich der offenkundigen Energiekrise. So weit so aufbauend. Der Westen sei obendrein naiv und der Klimawandel unterschätzt, China übermächtig. – Das durfte nicht fehlen.

intellectual lazyness

Wolf Lotte setzte eines drauf und erteilte unserer Hoffnung, dies alles irgendwie bewältigen zu können, mehr oder weniger eine Abfuhr. Unsere Leistungsfähigkeit sei abhandengekommen. Wir hätten eine immer geringere Aufmerksamkeitsspanne, kriegten nicht genug von Ferien, Urlaub, Auszeit, und anstatt sich richtig anzustrengen, um Probleme zu lösen, ortet Lotte eine ausgeprägte „intellectual lazyness“, Denkfaulheit oder geistige Trägheit bei uns Bürger:innen.

Vielleicht hat Lotte recht. In unseren Breiten fallen bei Diskursen zum Thema vor allem Forderungen nach einer 4-Tage Woche und einer besseren Work-Life-Balance auf. Eine kollektive Hybris scheint unser Abendland befallen zu haben und der Schweiß in Vergessenheit geraten, wie hart man für Freiheit und Wohlstand arbeiten und zuweilen auch kämpfen muss. Es fehlen zumindest die klar wahrnehmbaren Beistandsbekundungen, den ganzen Mist gemeinsam aufzuräumen, der sich aus den diversesten Sorten vor unseren Fenstern türmt.

Es könnte auch sein, dass wir dennoch dem Prinzip Hoffnung frönen und das nur (zu) selten verbalisieren. Und dass es auch genug Gründe für eben diese Hoffnung gibt.

Mic Hirschbrich

Die Fortschritts-Illusion

Aber, es bleibt uns immerhin noch unsere Innovationskraft, die uns bei Klimawandel, Wohlstandsverlust und Co zur Hilfe eilt. Der Kunst- und Kultur-beflissene Investor und Milliardär Peter Thiel widerspricht und beschreibt die „Fortschritts-Illusion“ als das Leugnen des ins Stocken geratenen materiellen Fortschritts. Dass was viele von als Fortschritt ansehen würden, sei vor allem Ablenkung. Und als Symbol dafür nennt er das iPhone, das uns sowohl von unserer Umwelt ablenken würde als auch davor, wie sich selbige veränderte. Die Großmutter, die ein neues iPhone erhielte, müsste zeitgleich Katzenfutter essen, weil für richtige Nahrung kein Geld mehr da sei. Abseits dessen was uns die Nachrichten und Experten also vermitteln, seien wir in einer Entwicklungs-Stagnation gefangen. So weit so motivierend.

Haben wir uns emotional abgekoppelt?

Ich weiß ja nicht, wie es Ihnen damit geht, aber eigentlich dürfte das alles kaum auszuhalten sein. Die Einschätzungen zu unserer Lage sind so divers wie desaströs und werden in unserer Aufmerksamkeits-Ökonomie obendrein fatalistisch vorgetragen; nicht von irgendwelchen Youtube-Rowdies, sondern von bekannten Intellektuellen unserer Zeit. Nur es passiert nichts. Keine Panik. Keine Reaktion. Wie gibt es das? Es ist, als hätten wir uns großteils von der Realität unserer Zeit emotional abgekoppelt.

Die Mehrheit, davon bin ich überzeugt, möchte an ein starkes und sicheres Europa glauben

Mic Hirschbrich

Beim Dinner in der Residenz waren die Filets zeitgleich medium-rare serviert worden, zusammen mit hervorragendem Wein. Der Abend war großartig, die Stimmung keineswegs getrübt, trotz der zuweilen schweren Kost untertags. Auch die Tage danach, als sich die Nachrichten immer noch düsterer ausnahmen, fuhren viele auf Urlaub oder packten für den See. Die Terrasse brauchte vielleicht eine kleine Renovierung und Bortolotti lockt mit dem besten Eis.

Die allgemeine Nachrichtenlage und unsere Tagesverfassung und Tun, sie scheinen so überhaupt nichts mehr miteinander zu tun zu haben. Die Welt ist aus den Fugen, aber der Jedermann war wieder Mal hervorragend und „mei is´ dieses Salzkammergut sche“. Nur, wie ist das zu erklären? Entweder die meisten Menschen haben ein Urvertrauen aus Kryptonit. Oder sie glauben die Nachrichten nicht oder nicht in dem Ausmaß, wie sie auf uns einprasseln. Oder wir schimpfen zwar gewohntermaßen auf die Politik, glauben aber tief in uns und unbewusst ganz fest, dass unser Vollkasko-Staat das schon irgendwie alles regeln kann. Oder es ist, wie so oft, eine Mischung aus all diesen Varianten?

Die Resilienz der westlichen Institutionen

Es könnte auch sein, dass wir dennoch dem Prinzip Hoffnung frönen und das nur (zu) selten verbalisieren. Und dass es auch genug Gründe für eben diese Hoffnung gibt. Wir sehen nämlich auch genügend Schwächen beim System-Konkurrenten China, die nur geschickt unter dem Mantel der Zensur gehalten werden. Wir sehen, dass die Institutionen der USA, trotz gewaltiger Umbrüche und Angriffe auf ebendiese, standhalten und uns immer wieder aufs Neue überraschen. Und ich weiß nicht, ob alle europäischen Verfassungen so klug und schön verfasst sind wie die unsrige, aber auch unsere Institutionen haben in den großen Krisen erstaunliche Resilienz bewiesen.

Und ja, bei manchem Bewerber möchte man sich fragen, ob Ansprüche und Vorstellungen noch in einem guten Verhältnis zu Kompetenz und Leistung stehen, aber wir alle haben auch sehr viele junge Menschen als Kolleg:innen gewinnen können, die sehr hart arbeiten und sehr wohl beweisen, dass sie bereit sind, auch große Verantwortung zu schultern und Leistung zu erbringen. Wir haben zwar genügend Schwurbler und Radikale die uns (online) ärgern, aber auch unzählige Menschen die sich (leise) in Vereinen und neuen Bewegungen engagieren, um einen Beitrag zu leisten, unsere Welt und die Art, wie wir leben, zu retten. Die Klugen sind oft nicht so laut, das liegt in ihrer Natur.

Was die Mehrheit möchte

Die Mehrheit, davon bin ich überzeugt, möchte an ein starkes und sicheres Europa glauben. Daran, dass wir auch unseren Kindern und Enkelkindern eine lebenswerte Welt hinterlassen. Wir alle wollen im Winter heizen und unseren Wohlstand halten können. Wir wollen Kriege abwenden und unseren historisch hart erkämpften Frieden auch weiterhin sichern. Wir wollen fair zusammenleben und unser kulturelles Erbe weitergeben. Wir wollen uns mit unseren Freunden weiterentwickeln und uns nicht über neue Feindschaften definieren. Wir wollen Innovation und Technologie dafür einsetzen, dass es der Menschheit besser geht. Und wir wollen das Offensichtliche nicht verdrängen, sondern bewältigen.

Wir wollen unseren Beitrag leisten, wissend, dass sich manches ändern wird. Wir wollen uns nicht von Angst lähmen, aber auch nicht von der Wirklichkeit ablenken lassen. Wir wollen das schaffen. Unsere Ur- und Großeltern haben nach dem zweiten Weltkrieg unglaubliches geleistet. Und jetzt sind wir an der Reihe. Nächste Woche startet das European Forum Alpbach. Mal sehen, ob der Befund zu Realität und Stimmung gleich bleibt. Man sieht sich!


Zum Autor

Mic Hirschbrich ist CEO des KI-Unternehmens Apollo.AI, beriet führende Politiker in digitalen Fragen und leitete den digitalen Think-Tank von Sebastian Kurz. Seine beruflichen Aufenthalte in Südostasien, Indien und den USA haben ihn nachhaltig geprägt und dazu gebracht, die eigene Sichtweise stets erweitern zu wollen. Im Jahr 2018 veröffentlichte Hirschbrich das Buch „Schöne Neue Welt 4.0 – Chancen und Risiken der Vierten Industriellen Revolution“, in dem er sich unter anderem mit den gesellschaftspolitischen Implikationen durch künstliche Intelligenz auseinandersetzt.

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Warum wir die Negativität hinter uns lassen müssen