28.01.2022

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

Im brutkasten-Podcast Editor's Choice gab Lisa Fassl einen Einblick in ihre Arbeit als Startup-Beauftragte im Wirtschaftsministerium und sprach dabei offen über die Hürden, die ihr begegnen.
/artikel/lisa-fassl-ueber-die-arbeit-als-startup-beauftragte-es-ist-extrem-ernuechternd
Die Female Founders-Gründerin und Startup-Beauftragte im Wirtschaftsministerium Lisa Fassl spricht Klartext
Die Female Founders-Gründerin und Startup-Beauftragte im Wirtschaftsministerium Lisa Fassl | (c) Microsoft

Im Mai 2021 löste die Female Founders-Gründerin und ehemalige aaia-Geschäftsführerin Lisa Fassl Michael Altrichter als ehrenamtliche Startup-Beauftragte im Wirtschaftsministerium (BMDW) ab, nachdem sie dort zuvor bereits im „Startup-Komitee“ tätig war. Seitdem äußerte sie sich im Rahmen der Position nur selten öffentlich. Nun meldete sich Fassl im brutkasten-Podcast Editor’s Choice ausführlich zu Wort und zog ein kritisches Zwischenresümee.

„Es sitzen Menschen in wichtigen Positionen, die einfach komplett aus der Zeit gefallen sind“

Sie habe in den vergangenen Monaten einen Lernprozess durchgemacht, sagt die Startup-Beauftragte: „Es funktioniert anders, als man es sich von außen vorstellen würde“. Dabei habe sie auch mehr Empathie für jene Leute entwickelt, die politisch aktiv sind oder in den Ministerien arbeiten: „Das ist in vielen Fällen nicht leiwand. Es gibt super viel Motivation, etwas zu tun. Aber es scheitert manchmal an Dingen, wo sich jede außenstehende Person nur an den Kopf greifen würde“. Generell gebe es in den Kabinetten extrem motivierte Leute, die Startups verstehen würden und verändern wollten. „Es krankt in vielen Punkten an den Strukturen und Systemen in Österreich, die so antiquiert, festgefahren und unflexibel sind. Es sitzen Menschen in wichtigen Positionen, die einfach komplett aus der Zeit gefallen sind. Das ist furchtbar hart aber es ist so“, meint Fassl.

Es sei so gesehen auch ein Generationenthema: „Altgewachsene, komplexe Strukturen lassen sich tatsächlich oft nicht mit jungen dynamischen Menschen, die Unternehmen bauen wollen, verbinden. Man trifft auf Menschen, die seit Jahrzehnten von Ideologie getrieben sind und auf Maximalpositionen beharren, die 2022 für mich keinen Platz mehr auf dieser Welt haben. Die Menschen, die jetzt Zukunft gestalten sollten auch die Rahmenbedingungen mitverändern“, so die Startup-Beauftragte, „Ich hatte es mir anders erhofft. Aber es ist wirklich krass und wenn man es einmal miterlebt, ist es extrem ernüchternd“.

„Manchmal gehe ich den Leuten einfach furchtbar auf den Geist“

Warum sie die unbezahlte Tätigkeit trotzdem neben jener als geschäftsführende Female Founders-Gründerin ausführt? „Wenn ich nicht zu 100 Prozent überzeugt wäre, dass ich etwas bewegen kann, würde ich es nicht machen. Das ist die einzige Motivation“, sagt Fassl. Und bei mehreren zentralen Anliegen der Startup-Szene, die sie vertritt, sei trotz der genannten Hürden einiges weitergegangen. Konkret spricht sie über die neue Rechtsform (FlexKap), den Beteiligungsfreibetrag, ein Dachfonds-Konzept und die Rot-Weiß-Rot-Karte. „Die Hauptarbeit in den vergangenen Monaten war, Kontakte zu anderen Ministerien aufzubauen und Awareness zu schaffen, dass Startups keine Nischenthema sind. Das war extrem viel Arbeit“, erzählt die Startup-Beauftragte, „ich und die Mitglieder des Startup-Komitees mussten vielfach mit den Basics anfangen. Inzwischen haben wir in einigen Ministerien aber richtig, richtig gute Kontakte, die das Thema extrem ernst nehmen“.

Fortschritte bei neuer Rechtsform und Beteiligungsfreibetrag, Hoffnung bei RWR-Karte

Jetzt gehe es daran, die Dinge endgültig umzusetzen. Dafür setze sie sich ein, sagt Fassl und meint: „Manchmal gehe ich den Leuten einfach furchtbar auf den Geist und das wird niemanden, der mich kennt, überraschen“. Und tatsächlich werde an all den genannten Themen gearbeitet – und zwar intensiver als je zuvor. Die Startup-Beauftragte konkretisiert: „Bei der neuen Rechtsform würde ich mir natürlich wünschen, dass es schneller geht. Aber wir kommen halt mit einer Geschwindigkeit aus der Startzup-Szene, die diese Strukturen überfordert. Nach meinem Stand werden wir jedenfalls tatsächlich noch im ersten Quartal ein Ergebnis sehen – ich glaube das aber erst, wenn es soweit ist“.

Beim Beteiligungsfreibetrag habe es zuletzt erstmals „sehr positive Signale“ aus dem Finanzministerium gegeben. Zur Rot-Weiß-Rot-Karte sagt Fassl: „Man merkt, es ist kurz vor zwölf. Auch da gibt es die Bereitschaft, etwas zu tun. Es ist aber das komplexeste Thema, weil vier oder fünf Ministerin mitreden. Ich glaube trotzdem, dass es dieses Jahr noch eine massive Bewegung geben wird“. In Sachen Umsetzung sehe man sich in den Ministerien auch die Vorschläge aus der Startup-Szene an: „Die Forderungskataloge kommen an und werden auch gelesen“.

„Zu null Prozent zukunftsorientiert“

Ob die die Maßnahmen dann auch tatsächlich nach den Wünschen der Startup-Szene umgesetzt werden, ist eine andere Sache. Über Verhandlungen mit und unter Interessensvertretungen sagt Fassl: „Auf diese Art ist es ein antiquierter Zugang, der extrem auf den Status Quo, aber zu null Prozent zukunftsorientiert ist. Man bleibt aus ideologischen Gründen auf Maximalpositionen und reduzieren Entscheidungen auf den absoluten Minimal-Konsens“. Nicht nur bei der neuen Rechtsform habe sie das Gefühl, dass das passiert. Also die sprichwörtliche „österreichische Lösung“? „Ja und die interessiert halt niemanden auf diesem Planeten“, sagt die Startup-Beauftragte. „Die Zeit der Klientelpolitik – das ist übrigens mein absolutes Hasswort geworden – ist für mich vorbei“.

„Wir beschäftigen uns mit Fragen, die so aus dem letzten Jahrtausend sind, dass es nicht mehr schlimmer geht. Da denke ich mir: Liebe Leute, ihr setzt gerade die Zukunft der nachfolgenden Generation wegen einer Ideologie oder für eine kleine Interessensgruppe aufs Spiel. Wie kann man so kurzsichtig denken?“, so Fassl weiter. Aussichtslos sei die Situation trotzdem nicht: „Es gibt Leute, die etwas verändern wollen und wir alle können letztlich mit unserer Stimme einen Beitrag leisten“. Daher bleibe sie auch optimistisch. „Und weil es keine andere Möglichkeit gibt“.

Gastkommentar-Serie mit Lisa Fassl

In den kommenden Monaten wird sich Fassl im Rahmen einer Gastkommentar-Serie detailliert zu verschiedenen Startup-politischen Themen äußern. Dabei wolle sie kritisch, aber konstruktiv sein, sagt die Startup-Beauftragte: „Wir können es uns nicht leisten, noch mehr Zeit liegen zu lassen. Das haben wir bereits viele Jahre lang gemacht. Es ist jetzt wichtig für Leute wie mich, die an den Schnittstellen sitzen, auch öffentlich darüber zu sprechen“.

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lisa Fassl über die Arbeit als Startup-Beauftragte: „Es ist extrem ernüchternd“