28.12.2023

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

Die Gender Gaps machen auch vor der Startup-Szene nicht halt. Trotzdem sind die Female Founders unseres Landes präsenter denn je: Sechs inspirierende Gründerinnen haben mit brutkasten gesprochen und verraten ihre Learnings aus 2023 sowie ihre Pläne für das neue Jahr.
/artikel/innovativ-inspirierend-inklusiv-diese-female-founders-haben-2023-veraendert
v.l.n.r.: Katharina Herzog (c) Julia Oberhauser, Stephanie Sinko und Victoria Neudorfer (c) Damn Plastic, Ana-Marija Autischer (c) Vigilios, Julia Kruselburger (c) Independo, Kosima Kovar (c) WKOÖ, Theresa Imre (c) Pamela Rußmann.

Deutlich weniger Finanzvolumen als ihre männlichen Kollegen und ein riesiger Gender-Gap. Damit mussten sich Österreichs Female Founders auch heuer wieder auseinandersetzen. Was die weibliche Startup-Szene in Österreich 2023 bewegt hat, kann sich trotzdem allemal sehen lassen: Hohe mediale Aufmerksamkeit und der EU-weit höchste nationale Anteil an Female Startups legen neben einer Vielzahl an Innovationen heuer immense Grundsteine für Veränderung. Denn die weibliche Startup-Szene hat einiges vor. Für den brutkasten-Jahresrückblick haben wir mit sechs inspirierenden Gründerinnen gesprochen und erfahren, was sie 2023 besonders bewegt hat.

Eines kann vorweg gesagt werden: Der Spirit der österreichischen Female Founders lautet “Support”. Hemmungen, diesen anzunehmen oder nützliche Tipps weiterzugeben, haben sie dabei keinesfalls. Warum auch? Welche Learnings sie an Neu-Gründerinnen weitergeben möchten, haben sie uns verraten.

Der Status Quo: Startup-Szene als Männerdomäne

Zwischen Funding Gaps und dem Überschuss an Male Startups müssen sich Frauen in der Gründungsszene beweisen. Und das, obwohl ihnen im vergangenen Jahr nur ganze zehn Prozent des nationalen Finanzierungsvolumens zugesteckt wurden. Der Rest, also 90 Prozent des frischen Kapitals hiesiger VC-Runden, rutschte in rein männliche Startups.

Aber es gibt auch gute Nachrichten: Nach dem letztjährigen Austrian Startup Monitor 2022 (S. 10) ist der Anteil der Female Startups in Österreich von 36 Prozent (2021) auf 39 Prozent (2022) gestiegen. Der Wirtschaftsprüfer EY verrät Ähnliches: Gemäß seinem Female Start-up Funding Index aus dem ersten Halbjahr 2023 machen Female Startups 36 Prozent der nationalen Jungunternehmen aus. Mit diesem Anteil befanden wir uns EU-weit im vergangenen Jahr im EU-Spitzenfeld.

Diese Gründerinnen zeigten 2023, was sie können

Wenig passierte im nationalen Segment der Female Startups also nicht: Bei Plattform-Launches, Neugründungen, Award-Nominierungen oder internationalen Auftritten konnten Österreichs Gründerinnen zeigen, wer hinter der Female Startup Szene unseres Landes steckt – und sie legten damit die Weichen für ein vielversprechendes Jahr 2024. brutkasten hat hier einige Gesichter aus der Startupszene aufgelistet, die man sich merken sollte.

Victoria Neuhofer und Stephanie Sinko von Damn Plastic

Stephanie Sinko und Victoria Neuhofer (c) Damn Plastic

Victoria Neuhofer und Stephanie Sinko sollte man kennen. Mit ihrem Female Impact Startup Damn Plastic haben sie 2023 einige Zeichen für Umweltschutz und gegen Ressourcenverschwendung gesetzt. Das Salzburger Startup verkündete im Oktober dieses Jahres, dass es mit seinem Franchise-Konzept nach Deutschland und in die Schweiz expandieren wird. Bereits im Oktober 2022 eröffnete Damn Plastic einen Standort in der slowenischen Hauptstadt Ljubljana.

Außerdem winkte 2023 eine internationale Auszeichnung: Für sein Impact-orientiertes Geschäftsmodell erhielt Damn Plastic den Great Companies Global Business Award 2023 in der Kategorie “Retail”. Das Startup konnte sich als einziges Unternehmen aus Österreich im globalen Wettbewerb durchsetzen (brutkasten berichtete).

Innovatorin Victoria Neuhofer hat das Startup gemeinsam mit Stephanie Sinko 2019 gegründet. Mit Damn Plastic vertreibt das Team sogenannte “Impact Products”. Dabei handelt es sich um Waren, die aus Müll hergestellt werden. Damit wollen die beiden Gründerinnen zur Reduzierung von Müll beitragen. Im Sortiment befinden sich neben Mode- und Sportartikeln unter anderem Haushalts- und Beautyprodukte.

Damn Plastics größtes Learning aus 2023: Just f* do it!

Stephanie Sinko, Co-Founderin des Salzburger Startups, lernte im vergangenen Jahr vor allem eines: „Als Frau bist du nicht kleiner und schwächer, nur weil das viele vielleicht denken. Die Bühne ist da – nutze sie!“ Das Damn Plastic Duo gibt Gründerinnen (to be) vor allem diesen Ratschlag für 2024 mit: „Sich zu trauen ist kein Fehler. Try and fail ist eine Bereicherung und Erfahrung, die man sammelt. Just f* do it!“

Ana-Marija Autischer von Vigilios

Ana-Marija Autischer (c) Vigilios

Nicht nur kennen, sondern vor allem auch anerkennen sollte man die Tätigkeit von Gründerin Ana-Marija Autischer. Ein schwach besuchter Bahnhof zu später Uhrzeit, ein dunkler Park oder eine fremde Stadt. Zu viele Orte bieten nicht die Sicherheit, die es braucht, die Reisesafety-App Vigilios hat Anfang 2023 genau das geändert. Auf Reisen entdeckte Gründerin und CEO Ana-Marija Autischer, dass bereits verfügbare Apps nicht die Hilfestellung anbieten, die es für ein sicheres Gefühl und den nötigen Support braucht und entwickelt kurzerhand gemeinsam mit Co-Gründer und CTO Stefan Stumpfl endlich eine App, die all das kann: Mit einem datengetriebenen personalisierten Ansatz bietet Vigilios drei Hauptfunktionen – eine Karte, Safety Insights und Support via Telefonnummern – an, die nicht nur von Reisenden genutzt werden können.

„Just like Google Maps, only for your safety“ heißt es auf der Website des Startups und das stimmt. Denn neben Restaurants oder Cafés, die in der Nähe liegen, bekommen User:innen hier auf einen Blick alle relevanten Sicherheitsinformationen über einen Ort oder ein Gebiet präsentiert. Dabei bietet die App nicht nur wichtige Telefonnummern, Anlaufstellen und Empfehlungen anderer User:innen an, sondern auch Insights über die politische Situation in der Region und zeigt, wie man sich verhalten soll, um sicher zu bleiben.

Die Daten strömen dabei aus drei verschiedenen Quellen: Zum einen Open Source Daten, etwa OpenStreetMap, und Daten, die öffentliche Regierungen über APIs (Progammmierschnittstellen) zur Verfügung stellen. Zweitens lizensierte Daten von professionellen Data-Unternehmen, die Informationen zu aktuellen Protesten und Wahlen vor Ort bieten, und drittens User- generated Content. Letzteres wird inhaltlich strengstens geprüft, einfach so posten kann man also nicht. Dabei ist der Reisefaktor nur der Anknüpfungspunkt: Autischer, die erst Anfang dieses Jahres gegründet hat, berichtet brutkasten über ihre weiteren Pläne.

So soll die App auch Informationen zu Gesundheitsfragen oder Umzügen bieten. Vor allem für Personen, die remote arbeiten und durch längere Aufenthalte andere Anlaufstellen benötigen, wäre die Erweiterung hilfreich. Anfang 2024 soll der Launch für Android-Geräte erfolgen. Bis dahin will das Startup aus dem Nutzungsverhalten seiner User:innen lernen, am Product-Market Fit arbeiten und weiter wachsen. Eines der größten Ziele für 2024 ist Prävention: Vigilios- Nutzer:innen sollen mithilfe der App gar nicht erst an unsichere und potenziell gefährliche Orte gelangen.

Ana-Marija Autischers größtes Learning aus 2023: Fokus, Fokus, Fokus.

„Es ist besser einige wenige, relevante Sachen richtig gut zu machen anstatt viele nur mittelmäßig. Sich beim Tun auch immer wieder fragen — ist das wirklich relevant für das große Ganze?“ Ganz wichtig sei dabei auch öfter einmal „Nein“ zu sagen. 2023 habe gezeigt, wie entscheidend Anpassungsfähigkeit an neue Situationen sei, betont sie im Gespräch mit brutkasten. Ihr Rat daher für Gründerinnen: „Sei anpassungsfähig und bleib optimistisch, auch wenn es mal nicht nach Plan läuft. Es ist auch keine Schande, um Hilfe und Unterstützung zu fragen. Ein frischer Blick von außen kann manchmal Wunder wirken.“

Theresa Imre von markta

Theresa Imre (c) Pamela Rußmann

Eine weitere Inspiration aus der heimischen Startup-Szene ist Theresa Imre. Sie ist Gründerin und Geschäftsführerin von markta – einem digitalen Online-Marktplatz. Das Wiener Startup unterstützt mit seinem gleichnamigen Online-Bauernmarkt den Vertrieb regionaler Produkte von Klein- und Familienbetrieben.

Im vergangenen Jahr hat markta einige Meilensteine erreicht. Einer davon ist die Eröffnung der ersten markta-Filiale im neunten Wiener Gemeindebezirk, was Geschäftsführerin Theresa Imre gemeinsam mit ihrem Geschäftspartner Julian Hödlmayr in diesem Frühjahr verkündete. Das Jungunternehmen erweitert damit sein Geschäftskonzept als Reaktion auf die immer größer werdende Konkurrenz im Onlinehandel.

Neben der Eröffnung des ersten Bauernladens startete sich markta im Dezember dieses Jahres ein neues Sozialprojekt: Mit „sozialen“ Adventskränzen und Adventskalendern will markta Langzeitarbeitslosen zurück ins Berufsleben verhelfen und regionale Produktionen stärken.

Theresa Imres größtes Learning aus 2023: Resilienz & gegenseitiges Stärken

Das vergangene Jahr beschreibt markta-Gründerin Theresa Imre im Gespräch mit brutkasten als “wirtschaftlich, politisch und sozial angespannte Zeit”. Trotzdem blickt sie positiv auf das Geschaffte zurück: “Wir hatten sowohl unfassbares Glück, aber auch einen guten Weitblick, dass wir 2023 markta vom singulären Online-Bauernmarkt zum multiplen Omnichannel-Modell mit der ersten stationären Filiale und B2B-Vertrieb ausgebaut haben.”

Zusätzlich betont sie, dass es für Unternehmen gerade in ungewissen Zeiten der Klimakrise und Auswirkungen globalisierter Wirtschaftssysteme wichtig sei, Resilienz zu zeigen, sich anzupassen, auf mehrere Standbeine zu setzen und Kooperationen untereinander zu stärken. Ihr Tipp für 2024: Wirtschaftlichkeit statt reinem Wachstum fokussieren, vorrausschauend planen und diverse Szenarien berücksichtigen.

Kosima Kovar von Ada Growth

Kosima Kovar (c) WKOÖ

Die Mehrfachgründerin, Innovatorin und Geschäftsführerin Kosima Kovar hat sich im vergangenen Jahr einige Male im nationalen und internationalen Rampenlicht gezeigt. Nicht zu unrecht, denn vor allem mit ihrem Startup Ada Growth, das sie gemeinsam mit Matthew Ziebarth im März 2021 in Wien gegründet hat, startete die Innovatorin dieses Jahr durch.

Das Startup Ada Growth sieht sein Ziel in der Förderung der Sichtbarkeit und des Erfolgs von Frauen in der Wirtschaft. Geschafft werden soll das mit einer App, die als B2B-Lösung vertrieben wird und Unternehmen dabei helfen soll, attraktiver für weibliche Talente zu werden. Das Wiener Startup erhielt im Juli des vergangenen Jahres ein sechsstelliges Investment, mit dem Ada Growth nun auf mehr als eine Million Euro investiertes Kapital kommt (brutkasten berichtete).

Den Lead dabei übernahm Business Angel Hansi Hansmann, der bereits zuvor in das Startup investiert war. Auch die Bestandsinvestor:innen Anna Hofmann, Managing Director von Green Source, und Berndt Zinnöcker, Tax Partner bei BDO, zogen wieder mit. Dazu kam eine ganze Reihe teils prominenter Neuinvestor:innen, allen voran die VC-Fonds Calm/Storm und Fund F.

Ada-Growth-Co-Founderin Kovar kann allerdings nicht nur über finanzielle Errungenschaften im Jahr 2023 berichten. Die Innovatorin wurde unter anderem für die US-Leaders Initiative YTILI (Young Transatlantic Innovation Leaders Initiative) in Chicago nominiert, an der sie im kommenden Jahr teilnehmen wird. IM brutkasten-Interview sprach sie über transatlantische Beziehungen sowie Unterschiede in der US-amerikanischen und österreichischen Startup-Szene. Neben vielen weiteren Errungenschaften, Erwähnungen und Auftritten wurde Kosima Kovar in der Forbes-„30 under 30“-Liste neben internationalen Persönlichkeiten wie der Sängerin Miley Cyrus erwähnt.

Kosima Kovars größtes Learning aus 2023: Der Sichtbarkeits-Boost & “fail smart!”

Gegenüber brutkasten erwähnt Kovar ihr größtes Learning aus dem Jahr 2023 und rät Gründer:innen zur Sichtbarkeit: “Der eine öffentliche Auftritt führt zum nächsten, der wiederum führt zum nächsten und so weiter – und plötzlich steht man auf einer TED-Bühne. Egal was du tust, wenn niemand davon weiß, hat es weniger Impact. Mach dich und deine Initiativen sichtbar!”

Für 2024 will Kovar anderen Gründer:innen die Angst vor Investor:innen nehmen: “Das ist eine Aufforderung vor allem an die weiblichen Gründerinnen, sich Finanzierungsmodelle anzusehen, die über Bootstrapping hinausgehen. Einfach machen. Du fühlst dich nie bereit. Weniger konzipieren, mehr umsetzen. Fail fast! Fail smart!”

Katharina Herzog von money:care

Katharina Herzog (c) Julia Oberhauser

Finanziell absichern können sich bei money:care zumindest die Nutzer:innen. Das Startup kümmert sich nämlich um nachhaltiges Investieren und das, ohne sich von „Greenwashing“ täuschen zu lassen. Die Wiener Plattform bietet Einblicke in Nachhaltigkeitsdaten börsengelisteter Unternehmen. Privatangeler:innen können mittels künstlicher Intelligenz zeitsparend und unkompliziert Finanz-Informationen abrufen. Beraten werden sie zusätzlich auf dem gleichnamigen Youtube-Kanal des Startups rund um das Founder-Trio Katharina Herzog, Timo Nothdurft und Ulrich Penitz, der das Thema finanzielle Bildung aufgreift.

Wie die Co-Gründerin und CEO Katharina Herzog, die zugleich das Gesicht des Kanals ist, auf die Idee für ein solches Startup gekommen ist? “Mir wurde klar, dass ich meine eigenen Finanzen nicht irgendwem überlassen, sondern mich selbst darum kümmern sollte. Daher habe ich mich immer mehr mit der Thematik beschäftigt”, erklärt sie im brutkasten-Interview.

Die Auseinandersetzung mit dem Finanzwesen machte ihr klar: Es braucht unabhängige und vertrauenswürdige Beratung in Sachen Cash. Mit dem Ziel nachhaltiges Investieren für jede und jeden simpler und transparenter zu gestalten arbeitet money:care daher mit Organisationen wie dem Forschungsinstitut der Vereinten Nationen für soziale Entwicklung (UNRISD) zusammen.

Katharina Herzogs größtes Learning aus 2023: Fokus & Vision treu bleiben!

Gelernt habe Herzog 2023 vor allem, dass es im „Startup-Rollercoaster so wichtig ist auch kleine Erfolge zu feiern, um die Energie beizubehalten und weiterzumachen.“ Ein besonders schwieriges Learning war es, nicht allen, die anfragen, Feedback zu geben, sondern dem eigenen „Fokus und der Vision treu zu bleiben.“

Auf die Frage nach ihrem Erfolgsrezept antwortet Herzog: Das Netzwerken nicht unterschätzen. „Beziehungen zu pflegen ist eine Superpower und ein starkes Netzwerk, besonders in einer frühen Gründerphase das A und O“, betont sie. Neu-Gründerinnen möchte sie daher auf den Weg geben: „Es lohnt sich, auf Menschen zuzugehen und sich auszutauschen. Nicht selten können dann aus anfangs oberflächlichen Verbindungen auch tiefere, authentische Beziehungen entstehen, die einem beruflich, aber auch persönlich viel geben.“

Julia Kruselburger von independo

Julia Kruselburger (c) independo

Um Austausch und vor allem Inklusion geht es Julia Kruselburger, Gründerin von independo. Wenn es nach ihr gehen würde, wäre digitale Inklusion in der Startup-Szene kein Randthema mehr. Erst im August gelauncht hat die Co-Founderin von independo gemeinsam mit ihrem Team ein Produkt entwickelt, das jede:r braucht und nun auch endlich alle nutzen können: Die Rede ist von einer Kalender-App.

Mit speziellen Anpassungen für Menschen mit Lernschwierigkeiten werden textbasierte Termine, die zuvor mit gängigen Kalendern von Google oder Apple synchronisiert wurden, in Piktogramme oder Audiodateien übersetzt. Schüler:innen mit kognitiven Behinderungen können die App somit eigenständig nutzen und verwalten. Dies sei besonders in inklusiven Klassen nützlich, da alle Schüler:innen denselben Kalender verwenden können, um Barrieren abzubauen.

Julia Kruselburgers größtes Learning aus 2023: Bau dir ein Umfeld, in dem du wachsen kannst!

Wichtig sei es, seine Zielgruppe von Anfang an in den Design- und Entwicklungsprozess mit einzubinden, erklärt die Founderin im Gespräch mit brutkasten. Für die Entwicklung des Produkts haben sie daher eng mit Sonderschulen, Vereinen und dem Partnerverein „Integration Wien“ gearbeitet. 2024 plant das Startup Abo-Modelle für Schulen zu entwickeln und diese im App-Store auch für individuelle Nutzer:innen anzubieten. Neu-Gründerinnen rät Julia Kruselburger sich ein Umfeld aufzubauen, in dem man wachsen kann. „Man kann so viel mehr erreichen, wenn man sich gegenseitig unterstützt, fordert und versteht.“

Ihr Tipp für Gründerinnen: „Lebt den Pippi-Langstrumpf-Vibe: Bleibt frech, wild und wunderbar. Hartnäckigkeit ist das Geheimnis – selbst bei der zehnten Frage oder dem dritten Hilferuf!“

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Innovativ, inspirierend, inklusiv: Diese Female Founders haben 2023 verändert