29.12.2021

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

Am Ende des bislang spektakulärsten Jahrs der heimischen Startup-Geschichte haben wir Stimmen von Key-Playern der Szene mit einem Rück- und Ausblick eingefangen.
/artikel/startup-stimmen-zum-jahreswechsel-mein-bestes-jahr-bisher-trotz-politik
Startup-Stimmen 2021: Wir haben zum Jahreswechsel Stimmen aus der Startup-Szene eingefangen
Wir haben zum Jahreswechsel Stimmen aus der Startup-Szene eingefangen

Wenn Hansi Hansmann von „wohl seinem besten Jahr bisher“ spricht (siehe unten), dann hat das was zu sagen. Generell geht ein für die Startup-Szene spektakuläres Jahr zu Ende. Die größten Investments des Landes bislang mit den ersten zwei Unicorns gab es ebenso 2021, wie den bisher größten Exit. Und neben diesen Big News gab es eine riesige Zahl an „kleineren“ Millioneninvestments und Exits. Zuviel Jubelstimmung ist dennoch nicht angesagt, wie auch die Statements von Key-Playern der Startup-Szene, die wir eingeholt haben, zeigen. Nach wie vor Kritik gibt es an den Rahmenbedingungen für Startups in Österreich und an den politisch Verantwortlichen. Das drückt den für die Szene typischen Optimismus für das kommende Jahr aber nicht zu sehr. Gut so!


Hansi Hansmann, Business Angel

Hansi Hansmann © Maximilian Rosenberger
Hansi Hansmann | © Maximilian Rosenberger

2021 war ein tolles Jahr mit einem Riesen-Schub, auch für die heimische Szene. Es gab viel – vielleicht sogar zu viel – Geld am Markt, vor allem US-Geld, das nach Europa drängt und auch Österreich „erwischt“. Die zwei Unicorns sind toll für uns, auch die zehn bis 20 großen Finanzierungsrunden mit mehr als zehn Millionen Euro Volumen. Das kaschiert die strukturelle Schwäche unseres Ökosystems. Es sollten eben zehn mal so viel sein (und das Potenzial dafür hätten wir).

Die Politik hat sich durch ein weiteres Jahr sensationelle Untätigkeit ausgezeichnet. In den wesentlichen Bereichen (siehe Katalog von aaia, AustrianStartups und AVCO) ging, wie immer, überhaupt nichts weiter, was mich zwar nicht mehr überrascht, aber trotzdem grauslich ist. Leider hat sich noch immer nicht „nach oben“ durchgesprochen, dass es nicht um ein paar Startup-Nerds geht, sondern darum, ob wir beim unglaublichen Innovationsschub, der in den nächsten Jahren durch Startups entstehen wird, vorne dabei oder bloß Zuschauer sein wollen. Stichwort: Abstieg von der zweiten Liga in die dritte.

Persönlich war es für mich ein Hammer-Jahr. Mit sechs Exits, davon mit Busuu und durchblicker zwei richtig große, und drei großen Finanzierungsrunden im Portfolio – Anyline, Tractive und storebox – und ein paar coolen neuen Co-Investments war es wohl mein bestes Jahr bisher – trotz Politik.

Hannah Wundsam, Managing Director AustrianStartups

Hannah Wundsam | (c) Moore

Für AustrianStartups war 2021 das Jahr der Entrepreneurial Education. Über 1800 Schüler:innen konnten das bei einer Youth Entrepreneurship Week in diesem Jahr Gründen hautnah erleben, und gleichzeitig sind die ersten Alumni unseres Entrepreneurial Leadership Programs mit ihren Startups so richtig durchgestartet. Großartig zu sehen ist auch, dass mit der Landkarte für Entrepreneurship Education ein Fahrplan für die nachhaltige Integration von Entrepreneurship in den Schulalltag vorgelegt wurde. Jetzt geht es wie immer um die Execution.

Herausfordernd waren die umfassenden Diskussionen zu weiteren Forderungen, die schon seit Jahren aus dem Ökosystem kommen. Von einem sehr fortschrittlichen Vorschlag für eine neue Rechtsform mussten immer mehr Abstriche gemacht werden. Die „Mitarbeiterbeteiligung“, die im Zuge der Steuerreform präsentiert wurde, ist weit weg von der Realität der Startup-Szene und die instabile politische Lage hat den Start weiterer Maßnahmen erheblich gebremst. Dadurch sind viele unserer Empfehlungen im Policy Tracker, welcher den Fortschritt auf politischer Ebene visualisiert, auf rot geblieben.

Von 2022 erwarten wir uns, dass in die Umsetzung gegangen wird und unsere Policy-Ampel endlich auf grün schaltet. Die wirtschaftlich und ökologisch herausfordernde Lage wird einer breiteren Bevölkerung zeigen, dass Innovation und Entrepreneurship einer der wenigen krisenfesten Wachstumsmotoren sind.

Paul Klanschek, Co-Founder Bitpanda

Paul Klanschek | (c) Bitpanda

2021 war ein deutlich besseres Jahr als erwartet. Sowohl für Bitpanda als auch für die gesamte Wirtschaft in Österreich. Es war das Jahr der Megafundings in Österreich und hat gezeigt, dass man es auch aus Österreich heraus auf die Internationale Bühne schaffen kann.

Viel Geld im Markt hat die gesamte Risikokapitalszene angetrieben und zu sehr viel Konkurrenz in den Cap-Tables der Startups geführt, was für Startups gut ist, aber natürlich auch Risiken mit sich bringt. Das viele Geld hat auch das Interesse in die Kapitalmärkte und Crypto-Märkte stark erhöht und somit Fintechs massives Wachstum beschert.

2022 wird ein spannendes Jahr. Die Auswirkungen der massiven Geldpolitischen Entscheidungen werden sich erst langsam zeigen, können jedoch massiven Wirbel in die durch Covid und andere Events nervösen Märkte bringen. Wie immer wird es aber auch hier Gewinner und Verlierer geben und sich smart zu positionieren wird viel helfen.

Laura Egg, Managing Director aaia

Laura Egg, Managing Director der aaia.
Laura Egg, Managing Director der aaia | © aaia

Das Jahr 2021 war stark geprägt von den zwei Unicorns und der generellen Intensität von Finanzierungsrunden. Dies hat zusätzliche Aufmerksamkeit auf die österreichische Startup-Szene und auch speziell auf Angel Investments gelenkt. Zudem herrschte große Kooperationsbereitschaft auf allen Ebenen des Ökosystems und es wurden Synergien, anstatt zusätzlichem Wettbewerb, geschaffen. 

Covid und die unklare politische Situation haben allerdings auch stark das Jahr geprägt und trotz intensiven Stimmen aus der Community wurde wenig an den aktuellen Rahmenbedingungen für Startups verändert. Hier war die ökosoziale Steuerreform besonders enttäuschend. 

Nächstes Jahr erwarten uns in jedem Fall weitere Finanzierungsrunden und Exits und höchst wahrscheinlich weitere Unicorns. Wir arbeiten mit gezielten Maßnahmen weiterhin stark daran, den privaten Kapitalmarkt in der Frühphase zu stärken und 2022 auch gezielt weibliche Angel Investorinnen auszubilden. Zudem wäre das Gründer:innen Paket natürlich ein großer Meilenstein.

Kambis Kohansal Vajargah, Head of Startup-Services WKO

Kambis Kohansal Vajargah, | (c) Christoph Steinbauer

2021 erlebten wir, wie stark sich heimische Startups über längere Zeit auch auf schwierige Marktsituationen anpassen können und sich darauf aufbauend sogar erfolgreicher aufgestellt haben. Mit über zwei Dritteln Green Startups erkennt man, wie sehr Nachhaltigkeit im Fokus des Geschäftsmodells steht. Wir nahmen an ersten Unicorn-Events teil und sahen, wie unsere Unternehmer Österreich auf die globale Startup-Landkarte katapultiert haben. Bei der Wirtschaftskammer konnten wir darüber hinaus unsere neuen Flagship-Initiativen înno up und Born Global Academy starten.

Aber Startups benötigen mehr zielgerichtete, rechtspolitische Maßnahmen, die sie im Wachstum unterstützen. Bei den Themen neue Rechtsform, Mitarbeiterbeteiligung, Beteiligungsfreibetrag und Rot-Weiß-Rot Karte sind wir noch nicht dort, wo wir hinwollen. Die Umsetzung bleibt eine Herausforderung und ist eine unserer wichtigsten Aufgaben im Jahr 2022.

2022 sollten wir genau dort weitermachen, wo wir 2021 aufgehört haben: mehr Startups in der Quantität und Qualität, mehr Initiativen für Entrepreneurship Education, mehr Nachhaltigkeit im Geschäftsmodell und Österreich für Startups attraktiver gestalten.

Conny Hörl, Business Angel, CK Venture Capital

Katja Ruhnke und Conny Hörl investieren mit CK Venture Capital in Startups © brutkasten/bittner
Katja Ruhnke und Conny Hörl investieren mit CK Venture Capital in Startups © brutkasten/bittner

Ich bin sehr glücklich, dass alle unsere elf Startups das Jahr gut überstanden haben. Medikura war für mich ein besonderes Highlight. Die haben heuer einen Pivot gemacht zu XO Life. Die Gründerin hat sich von ihrem Mitgründer getrennt und das neue Geschäftsmodell hat dann voll eingeschlagen und bringt jetzt wirklich starke Umsätze. Ein weiteres Highlight war für uns die Beteiligung YourGrow, bei der wir stark in den Prozess des go to market involviert waren.

Für 2022 haben fast alle unsere Startups die Series A-Runde vor sich. Das ist für uns ein großer Schritt und wenn der erledigt ist, ist das auch für uns als Investorinnen eine gute Sache. Ich will in diesem Jahr auch unbedingt noch in ein österreichisches Startup investieren – da sind wir mit einigen im Gespräch.

Johannes Braith, Co-Founder Storebox

Johannes Braith | (c) Storebox

2021 war geprägt von großen Finanzierungsrunden und Exits. Die österreichische Startup-Szene wurde gefühlt etwas erwachsener und entwickelte sich in eine spannende Richtung. Durch COVID-19 wurden viele Bereiche weiter digitalisiert und innoviert. D2C Businesses, E-Commerce und Click & Collect Lösungen erleben einen wahren Boom, von dem Storebox stark profitiert. Ich erwarte, dass das Finanzierungsvolumen im Jahr 2022 weiter steigen wird und die großen institutionellen Investoren vermehrt auf Österreich blicken werden.

Berthold Baurek-Karlic, Investor

Berthold Baurek-Karlic, Venionaire Capital | (c) Rene Wallentin

Rückblickend war das letzte Jahr wirtschaftlich für uns sehr erfreulich. Wir haben unser Team ausgebaut und haben eine super Stimmung im Office. Das freut mich riesig. Wir planen im nächsten Jahr weitere fünf bis zehn Talente an Bord zu holen, die uns bei der Umsetzung neuer Fonds unterstützen werden.

Unsere Startups haben sich sehr gut entwickelt, was sicherlich nicht leicht war im gegebenen Marktumfeld. Der starke Exit unserer Beteiligung Kompany hat international Wellen geschlagen, was viele Augen auf Österreichs Startup-Sektor richtet.

Vollkommen versagt hat leider die Politik. Der Standort Österreich hätte eine große Chance gehabt, stärker aus der Krise zu kommen. Diese Chance hat man verspielt. Die heurigen Erfolge sind trotz der Blockaden und Widrigkeiten des Standorts umso bemerkenswerter, ich traue mich gar nicht daran zu denken was möglich wäre, wenn die Politik endlich ihren Worten Taten folgen lassen würde.

Martin Klässner, Gründer has·to·be und Business Angel

has.to.be
has.to.be-CEO Martin Klässner | © has.to.be

Für mich selbst war die positivste Entwicklung natürlich der erfolgreiche Verkauf von has·to·be an ChargePoint als bisher größter Exit in Österreich. Dies nicht (nur) wegen dem guten Deal, sondern vielmehr aus der Tatsache heraus, dass wir zeigen konnten, dass auch Österreich Markt- und Innovationsführer erfolgreich hervorbringen kann. Die Startup-Landschaft in unserem Land wird vielfach noch unterschätzt. Ich bin mir aber sicher, dass wir in den nächsten Jahren noch einige Erfolgsgeschichten sehen werden.

Die Auswirkungen der Corona-Pandemie werden uns auch im kommenden Jahr noch stark beschäftigen. Natürlich ist dies in vielen Bereichen negativ, jedoch darf man auch nicht die Chancen vergessen, die die neue Lebens- und Arbeitswelt mit sich bringt. Ich denke, dass insbesondere die Reduktion von Reisen einen positiven Effekt auf die Umwelt nehmen wird. Auch glaube ich, dass vor allem vernetzte Systeme und Dienste entstehen werden, die ein verteiltes Arbeiten noch einfacher und effektiver machen. In diesem Bereich liegen vermutlich die nächsten Hidden Champions.

Fakt ist: 2022 wird ein spannendes, in vielerlei Hinsicht aber sicher auch ein herausforderndes Jahr werden! Ich freue mich darauf!

Carina Margreiter, Head of Entrepreneurship & Creative Industries at Austria Wirtschaftsservice (aws)

Carina Margreiter | (c) aws

2021 war erneut geprägt von Unsicherheiten aufgrund der Corona-Pandemie und für die österreichische Wirtschaft kein leichtes Jahr. Die Erstfinanzierungsrunden bei Startups haben sich eher seitwärts als steil nach oben bewegt, wie Erhebungen zeigen. Beim Angebot an Risikokapital gibt es in Österreich im Vergleich zu anderen europäischen Ländern ähnlicher Größe noch Luft nach oben.

Wir konnten aber dennoch beobachten, dass die Zahl der Neugründungen gestiegen ist. Innovative Ideen etwa im Bereich der Digitalisierung oder auch der Life Sciences sind besonders gefragt. Auch der Unternehmer:innen-Geist wurde nicht gebremst. Wir sehen das durch das große Interesse für unsere Programme und Wettbewerbe für junge Gründer:innen, wie Jugend Innovativ oder aws First Inkubator. Hier konnten wir 2021 viele am Weg zum Unternehmertum begleiten.

Besonders freut uns, dass bei unseren Förderungsprogrammen aws Creative Impact oder Seedfinancing die Themen Social-Impact und Nachhaltigkeit in den Vordergrund rücken. Auch bei den Vernetzungsservices von aws Connect zwischen Startups, Investor*innen und Corporates sehen wir positive Entwicklungen.

Die Pandemie hat gezeigt, dass es Innovationen für den gesellschaftlichen und wirtschaftlichen Wandel braucht. Wir sehen unter anderem Impact Startups als Keyplayer und adaptieren unsere Förderungsprogramme laufend nach den Bedürfnissen des Marktes. Wir haben viel vor 2022 und freuen uns auf viele spannende Unternehmensprojekte.

Herbert Gartner, Investor

Herbert Gartner | (c) Martin Wiesner

Ich hatte einige Highlights dieses Jahr, etwa die acht- bis neunstellige Exit (abhängig vom Earn-Out) von Xaleon an Teamviewer, die hohen Wachstumsraten bei vielen unserer Portfoliounternehmen wie z.B. Finmatics, ilvi, App Radar, Greenwood-Power, Fauna, etc, der Durchbruch bei unserem großen Pro-bono-Projekt „Wildnisgebiet Lassingtal“ nach fast 10 Jahren Engagement, tolle Neuinvestments wie z.B. in die Material-Science-Firma Kape, die 30 Millionen US-Dollar-Finanzierungsrunde bei USound und die erfolgreiche zweite Spin-off Austria-Konferenz mit fast 1.000 Teilnehmern.

Gleichzeitig sehe ich weiter großen Handlungsbedarf seitens der Politik. Ich hoffe, dass das Regierungsprogramm 2022 endlich umsetzt wird und hier vor allem einige relevante Punkte. Erstens die Mitarbeiterbeteiligung. Die Beteiligung für Mitarbeiter muss steuerlich der Beteiligung für Investoren gleichgestellt sein. Ich verstehe nicht, warum der Staat Mitarbeiter bei Beteiligungen doppelt so hoch besteuert wie Investoren. Zweitens die Rot-Weiß-Rot-Card. Wir müssen hochqualifizierten Hightech-Mitarbeitern aus Drittstaaten den roten Teppich ausrollen, anstatt sie zu behindern. Volkswirtschaftlich ist das sehr unvernünftig, wie wir uns hier verhalten. Drittens der Beteiligungsfreibetrag. Das würde der Innovationslandschaft und damit der Zukunft Österreichs einen großen Schub geben. Und dann noch die Pflichtveröffentlichungen in der Wiener Zeitung: Wenn diese nicht bald Geschichte sind, sollte man zu einem landesweiten Boykott aufrufen.

Mahdis Gharaei, Co-Founder the female factor

Mahdis Gharaei und Tanje Sternbauer haben the female factor gegründet © Tamás Künsztler
Mahdis Gharaei und Tanja Sternbauer haben the female factor gegründet © Tamás Künsztler

2021 war eindeutig ein gutes Jahr für die österreichische Startup Szene – ein starker Anstieg an (internationalem) Kapital, die ersten Unicorns und internationale Aufmerksamkeit!

Was (wie jedes Jahr) gefehlt hat ist Diversität. Zwar haben sich die ersten VCs zur Förderung von Diversität in Gründer:Innen Teams ausgesprochen, aber es bleibt abzuwarten ob nur Marketing oder wirklich strukturelle Maßnahmen dahinterstehen. Schlagzeilen und Cover waren geprägt von weißen Männern, die die nächste Finanzierungsrunde aufgestellt haben. Mein Wunsch für 2022 ist, dass sich dies endlich ändert und dass sich nicht nur VCs sondern auch Medien ihrer gesellschaftlichen Verantwortung bewusst werden.

Mehr wachsende Startups in Österreich bedeutet ein höherer Bedarf an Talenten. Glückerweise sprechen sich dabei immer mehr Startup-Gründer:innen für Diversität im Hiring aus und erklären dies früh zur Priorität. Die Anfragen für unsere in-house Talent Search Services sind daher immens gestiegen und die Daten unserer Job-Plattform für weibliche Talente zeigen ganz klar das Interesse der Gen Y&Z an Jobs in Startups – dies wird 2022 weiter steigen.

Ob Österreich daher international im “War for Talents” 2022 mithalten kann, liegt meiner Meinung nach an zwei Dingen: Priorisierung von Diversität in der Unternehmenskultur zur Sicherung der Arbeitgeberattraktivität und Verbesserung von Prozessen zum Hiring von internationalen Talenten (Stichwort Rot-Weiß–Rot Karte, remote work policies, Bürokratie bei der Anstellung von Talenten, die im Ausland leben).

Die lange Prozedur hinter der Rot-Weiß-Rot Karte zur Anstellung von dringend notwendigen Talenten aus dem Ausland ist in meinen Augen weiterhin eine der größten Challenges für heimische Startups & Scaleups und ein klarer Nachteil für den Standort Österreich.

Startups bilden essentielle Arbeitsplätze und benötigen im globalen Wettbewerb auch globale Talente. Das gilt es 2022 zu fördern anstatt Steine in den Weg zu legen.

Clemens Wasner, Co-Founder EnliteAI und AI Austria

Clemens Wasner ist CEO von Enlite AI und diskutiert im Podium zum Thema "Künstliche Intelligenz: Die Welt in fünf Jahren" auf der VIP night.
Clemens Wasner, Co-Founder EnliteAI und AI Austria | (c) Clemens Wasner

Neben der anhaltend positiven Entwicklung des AI-Ökosystems wird 2021 vor allem für richtungsweisende Entscheidungen auf EU Ebene in die Geschichtsbücher eingehen. Ob und wie ein europäischer Weg in AI aussehen kann liegt – wie so oft – in der Hand von Entrepreneur:innen.

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Startup-Stimmen zum Jahreswechsel: „mein bestes Jahr bisher – trotz Politik“