24.07.2026
INTERVIEW

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

„We are not fucked yet": Mit dieser Ansage sorgte Ex-Telekom-Austria-CEO Boris Nemšić beim Business Angel Summit in Kitzbühel für Aufsehen. Im brutkasten-Interview spricht er über den Standort Europa, überbordende Regulierung, das KI-Rennen und eine Idee, die er der Republik schon 2011 vorgeschlagen hat.
/artikel/boris-nemsic-interview
Ex-Telekom-Austria-CEO Boris Nemšić beim Business Angel Summit in Kitzbühel | Foto: Martin Pacher | brutkasten

Boris Nemšić zählt zu den prägenden Figuren der österreichischen Telekom-Geschichte. 1957 in Sarajevo geboren, kam er 1984 nach Wien, promovierte an der TU Wien und stieg 1997 bei der mobilkom austria ein, die er später als CEO zu einer der führenden Mobilfunkgruppen Zentral- und Osteuropas ausbaute. Bis Anfang 2009 stand er an der Spitze der Telekom Austria Group, danach wagte er den Sprung nach Russland und führte bis 2010 den Telekom-Konzern VimpelCom.

Heute lebt Nemšić in Dubai und ist längst fixer Bestandteil des Startup- und Investoren-Ökosystems: Er ist Industry Advisor bei KKR im Technologie-Bereich, Gründungsmitglied der Austrian Angel Investors Association (aaia) und Aufsichtsrat in mehreren Hightech-Unternehmen, darunter die börsennotierte Frequentis AG. Als Beiratsvorsitzender begleitete er den kroatischen Kommunikationsanbieter Infobip auf dem Weg zum ersten Unicorn des Landes. In Österreich ist er unter anderem am Drohnen-Software-Startup Dimetor, am Fintech Seasonax und am Grazer Video-Tech-Unternehmen eyeson beteiligt.

Beim Business Angel Summit in Kitzbühel saß Nemšić am Panel „Quo vadis Europa und Austria“, das mit der provokanten Frage „Are we fucked?“ eröffnet wurde. Seine Antwort dort machte die Runde, im Gespräch mit brutkasten führt er aus, was er damit meint, warum er das Rennen um generative KI noch nicht verloren gibt und woran seine eigene Initiative gegen SMS-Spam gescheitert ist.


brutkasten: Du bist heuer beim Business Angel Summit und bist in mehrere österreichische Startups investiert. Wie würdest du deine Rolle als Investor selbst beschreiben?

Boris Nemšić: Business-Angel-Investor wäre zu breit als Beschreibung. Was ich für mich selbst gemacht habe, waren frühe Investments, schon in den Zehner-Jahren, in Startups, die in meinem Gebiet tätig sind: Technologie, Telekommunikation, ICT. Dort bilde ich mir ein, dass ich mich ein bisschen auskenne, was nicht immer stimmt. Aber das mache ich mit vollem Herzen. Es geht nicht um ein Finanzinvestment als solches, sondern darum, ob ein Produkt einen Nutzen für die Kunden bringen kann und die Technologie weiterbringt. Und vielleicht ergibt sich auch eine Wertsteigerung.

Gab es in deiner Investorenlaufbahn schon erfolgreiche Exits?

Ich habe bis jetzt größte Misserfolge dokumentiert. (lacht) Die Erfolge kommen noch. Obwohl, ich hatte auch einige, allerdings hauptsächlich in Verbindung mit meiner Tätigkeit für KKR, wo ich Industry Advisor bin und mitinvestieren darf. Das waren durch die Bank hervorragende Investments.

Hast du einen spezifischen Branchenfokus? In welcher Phase steigst du ein?

Natürlich schaue ich, dass ich in einer frühen Phase einsteige, weil da die Tickets so sind, dass ich sie persönlich stemmen und die Chancen ergreifen kann. Es ist hauptsächlich ICT, alles, was sich um die Telekom- oder IT-Industrie dreht. Ich hatte auch positive Exits im Education-Bereich, aber wieder IT-getrieben. Das Gebiet, das mich derzeit sehr interessiert, sind Drohnen. Allerdings Drohnen im Sinne der Kommunikation mit Drohnen, nicht die Drohne selbst. Ein fliegendes Objekt kann fast jeder bauen. Die Frage ist, wie man Drohnen beyond line of sight, also auf lange Distanzen, reguliert und verkehrstechnisch richtig steuert. Man braucht Command and Control. Dass Drohnen inzwischen eher eine Dual-Use- und Defense-Geschichte geworden sind, hat die Geschichte ergeben.

Bei welchem Unternehmen bist du da engagiert?

Bei Dimetor in Österreich, dort bin ich Mitinvestor. Zwei meiner guten Freunde kommen von der gleichen Schule, der TU Wien, junge Doktoranden damals, als ich noch auf der Uni tätig war. Das ist eigentlich ein Brainpool, der fantastisch ist. Wir haben Produkte, die sowohl zivil als auch für Defense möglich sind. Zum Beispiel können wir fliegende SIM-Karten entdecken. Und wenn diese fliegende SIM-Karte in einer Drohne ist, dann kann es unangenehm werden. Wir können das detektieren, und dann kann man entscheiden: Ist das eine freundliche oder eine feindliche? Und dann tut man was damit.

Du lebst aktuell in Dubai. Schaust du dir von dort aus weltweit Startups an oder hast du dennoch einen Österreich-Fokus?

Ich habe vor allem einen Europa-Fokus. Ich habe in Kroatien sehr viel gearbeitet und das erste Unicorn Kroatiens mitbetreut, als wir diese Bewertung bekommen haben. Dubai ist natürlich ein unglaublicher Umschlagplatz. Dort gibt es sehr interessante Firmen, die aus irgendeinem Grund dort ansässig geworden sind. Ich glaube kaum, dass Leute hinkommen und sagen: Ich mache jetzt in Dubai ein Startup, weil Dubai. Das ist nicht der Fall. Dubai hat den Vorteil, sehr nahe an Indien, Bangladesch und Pakistan zu sein, mit einem großen Ingenieurs- und Wissenspool.

Beim Panel „Quo vadis Europa und Austria“ wurdest du gefragt: „Are we fucked?“ Deine Antwort?

Ich habe es ein bisschen frech ausgedrückt: We are not fucked yet. Wir sind im Vorspiel. Das heißt, es kann alles rauskommen. Was ich gemeint habe: Wir nehmen diese Dinge noch nicht ernst. Das ist ein Kritikpunkt, den ich mich traue, sehr laut zu sagen. Was ist Europa? Es ist ein Friedensprojekt. Wir sind reich, wir sind frei, wir sind eigentlich die beste Gegend der Welt. Jeder will zu uns kommen. Und was jetzt passiert, ist: Wir schlafen fast ein und reagieren nicht auf die Entwicklungen, die rund um uns sind. Sind das Kriege? Leider. Sind das Entwicklungen wie AI? Sind das Businessentwicklungen? Am Ende brauchen wir Wachstum, wir brauchen eine funktionierende Wirtschaft. Was wir als Europa machen, ist hauptsächlich Fokussierung auf Regulierung und Verlangsamung von allem Möglichen. Mich wundert nur, dass sie noch nicht sagen: Ein Fußball darf nicht schneller als sechzig Kilometer pro Stunde fliegen, weil sonst ist es nicht fair. Ich sage das bewusst überspitzt. Es ist traurig, dass wir unsere hervorragenden Ressourcen, unser Wissen, unsere Leute, unser Entrepreneurship verwalten, statt sie freizulassen. Das ist keine Kritik an Österreich. Österreich hat manchmal vernünftige, manchmal supergute Ansätze. Wir können nur als ganzes Europa erfolgreich sein in diesem Rennen.

Kannst du das konkretisieren?

Ich sage es in einer Metapher: In Wien habe ich in der Wohnung meines Sohnes leider fünfzehn Megabit pro Sekunde Internetverbindung. Und er ist weltweit in Competition mit Südkoreanern, die ein Gigabit haben. Wer wird gewinnen? Oder: Wir haben sechzehn Jahre gebraucht, um den Hochspannungsring in Österreich zu schließen. Gott sei Dank ist es, dank dem Verbund und den anderen, zu keinem Blackout gekommen. Wir waren ein paar Mal sehr nahe dran. Warum haben wir das nicht schneller gemacht? Weil wir alles schützen außer den Menschen. Wir schützen jede Pflanze, Hochachtung. Jede Schnecke, Hochachtung. Nur der Mensch, habe ich den Eindruck, ist nicht so wichtig. Ich überspitze ganz bewusst. Da soll man sehr viel pragmatischer sein. Wenn wir schauen, wer heute erfolgreich ist: Es sind die pragmatischen Zugänge, ob in Dubai, in den Emiraten, in China oder in den USA. Ein Problem wird erkannt und die Lösung wird gesucht. Und nicht der Prozess zur Lösung.

Fairerweise muss man sagen: Das sind unterschiedliche politische Systeme. Europa ist eine Demokratie mit 27 Mitgliedstaaten.

Du hast recht. Nur das politische System soll den Menschen dienen und nicht die Menschen behindern. Das ist der große Unterschied. Wir können uns nicht damit rühmen, dass wir ein besseres System haben. Ja, wir haben es. Nur wenn das System uns behindert, dann soll man das System so anpassen, dass es für uns gut ist. Das ist so banal. Aber wir verlieren uns in Parteien, in Strukturen, in Diskussionen. Und im Endeffekt: Ich will Strom haben. Ich will Internet haben. Ich muss Gesundheit haben, Education haben. Es ist keine Ausrede, dass es so lange dauert, weil wir eine Demokratie sind. Das ist eine faule Ausrede, die ich persönlich nicht akzeptieren kann. Noch einmal: Ich lobe keine Diktaturen und Königreiche, bei Gott nicht. Aber wenn man sich anschaut, was in den Emiraten passiert: Es wird ein Ziel gesetzt, das der Wirtschaft, den Menschen, der Entwicklung dient. Und dann wird das durchgezogen.

Wo siehst du das Problem, wenn nicht in einer Fehlkommunikation zwischen Industrie und Politik?

Du bist ja sehr nett. Wenn man Dinge falsch macht, dann sagt man, es ist falsche Kommunikation. Das lasse ich nicht gelten. Die Politik hat alle Möglichkeiten, sich beraten zu lassen, und muss das gesamtheitlicher sehen. Die Politik ist nicht blöd. Sie hat leider oft Partikularinteressen. Und es ist eine nachvollziehbare, aber schwierige Situation, dass immer irgendwo Wahlen sind. Wenn das Interesse an einer Partikularwahl das große ganze Ziel überwiegt, dann haben wir ein Problem. Wenn wir nicht in der Lage sind, das zu lösen, dann werden Systeme, die dieses Problem nicht haben, die Oberhand gewinnen. Schau, was China ist: eine Planwirtschaft, ein Einparteiensystem, alles, was wir eigentlich nicht wollen. Aber die wesentlichen Dinge machen sie richtig. Die haben uns innerhalb von dreißig Jahren in unheimliche Abhängigkeiten gebracht. Unglaublich. Und ich bin sicher, dass das viele Menschen in Europa erkannt haben, nicht heute, sondern vor zwanzig Jahren. Warum reagieren wir nicht? Weil wir kurzfristige Ziele setzen. Das Ziel ist das nächste Quartal, das Ziel ist die nächste Wahl. Statt das große Ganze zu sehen. Wir haben die Wissenschaft, wir haben Hirn, wir haben Geld, wir haben Ressourcen, um breiter und größer zu denken. Nur irgendwo am Weg verlieren wir uns.

Hast du ein Beispiel, wo du selbst an dieser Regulierung gescheitert bist?

Ich habe mich die letzten zwei, drei Jahre mit SMS-Spam beschäftigt. Jeder von uns bekommt irgendwelche blöden SMS, wo oben eine Bank steht, Unicredit oder Bitpanda oder was auch immer, und drinnen steht irgendein Scam. Ich habe mir zur Aufgabe gemacht: Wie kann man das verhindern? Weißt du, woran ich gescheitert bin? Am deutschen Briefgeheimnis. Das deutsche Briefgeheimnis wird auf SMS angewendet. Wie rückständig und ignorant muss man sein, um das anzuwenden? Es geht darum: Darf ich in den Header der SMS hineinschauen? Wenn dort Unicredit steht und ich erkenne, das ist die falsche Nummer, dann ist es Scam, und dann filtere ich es aus. Es ist so einfach. Die Erklärung ist: Das ist ein Verfassungsgesetz in Deutschland, es geht nicht. Und die Bevölkerung hat Millionen an Schaden. Wen schützen wir jetzt? Die armen Menschen, die auf das reinfallen und Millionen verlieren? Oder wen schützen wir da? Wenn ich krank bin, soll historisch gesehen auch ein Arzt kommen und mir Blut rauslassen statt eine CT zu machen. Ich meine, das ist absurd. Man muss mit der Zeit gehen.

Die Bundesregierung hat einige Maßnahmen für das Innovationsökosystem gesetzt, Stichwort Dachfonds. Wie bewertest du das?

Ich bewerte es positiv, eindeutig positiv. Ich habe mich 2011 als Chef der ÖIAG beworben. Bin es nicht geworden, Gott sei Dank. Eine meiner Thesen damals in meinen Bewerbungsunterlagen war, dass die ÖIAG-Companies, heute ÖBAG, einen Teil ihrer Dividende in einen Forschungsförderungsfonds oder Startup-Fonds einzahlen sollen, damit wir einen Geldpool haben, mit dem wir dieses Ökosystem stärken.

Das war vor fünfzehn Jahren. Jetzt wird genau das diskutiert.

Eben. Wenn eine Idee kommt und man sie fünfzehn Jahre später diskutiert, darf ich ein paar Fragezeichen stellen. Es gibt einen Punkt: Die Zeit kannst du nicht kaufen. Die Zeit kann man fast nie mit Geld erschlagen. Und ich glaube, wir gehen sehr sorglos mit der Zeit um. In der Wirtschaft ist das noch schlimmer.

Gibt es Tipping Points, die schon erreicht sind? In generativer KI etwa haben wir das Rennen doch verloren.

Nein, glaube ich nicht. Da bin ich anderer Meinung als einige Teilnehmer im Panel. Ich bin sicher, dass man das in drei Jahren aufholen kann. Weil das ist pure Force: Du nimmst so viel Geld, baust so viele Data Center. Wir haben die Wissenschaft, wir haben die Leute, die das können. In drei Jahren, so wie DeepSeek das gemacht hat, können wir es schaffen. Das Rennen ist nicht verloren. Es ist nur die Entscheidung, ob man es macht oder nicht. Mir wäre am liebsten, dass wir überhaupt nicht auf die Idee kommen müssen. Nur die Situation ist so, dass irgendjemand in den USA, China oder wo immer sagen kann: Mir gefällt überhaupt nicht, dass Österreich LLMs oder KI hat, ich drehe es ab. Das darf nicht passieren. Das heißt, wir brauchen einen gewissen Grad an Autonomie. Das heißt nicht, dass wir alles nachbilden und doppelt haben müssen. Aber man muss einen gewissen Grad an Selbstständigkeit haben oder mindestens Hebel, um diese Selbstständigkeit erhalten zu können.

In Europa ist nur ASML ein wichtiger globaler Player. Und nachdem er der Einzige ist, ist man erpressbar. Gott sei Dank haben wir das. Aber da sind wir nicht unbedingt die großen Meister. Ich habe noch die Hoffnung, dass sich die KI in eine Richtung entwickelt, dass die Industrievertikalen, die KI anwenden, so stark werden, dass sie sich selbstständig entwickeln. Eine wird in Europa sein, eine in Amerika, eine in Österreich, egal wo. Das wird sich ausgleichen. Aber die Infrastruktur muss man haben. Und auch damit gehen wir nicht besonders proaktiv um. Es ist blöd, dass ein Glasfaseranschluss in Österreich und Deutschland Pi mal Daumen dreitausend Euro kostet und gleichzeitig in Spanien zweihundertsechzig Euro. Es gibt ein paar Gründe dafür, ein paar sind legitim. Aber die Mehrzahl der Gründe ist einfach erfunden. Da sieht man, wie inkonsistent wir agieren.

Du hast sehr viel erreicht in deiner Karriere. Welche Ziele hast du dir noch gesteckt?

Ich habe mir in meiner Karriere, Karriere unter Anführungszeichen, nie persönliche Ziele gesetzt. Ich habe Business-Ziele gesetzt: Wenn ich Vorstand einer Firma bin, will ich diese und jene Ziele erreichen. Aber keine persönlichen Ziele, weil man so offen und so breit sein muss, dass man entscheiden kann, ob man eine Chance wahrnimmt oder nicht. Ich bin nach Russland gegangen, obwohl ich überzeugt bin, dass ich den besten Job in Österreich hatte, zehn Jahre lang.

Beim Summit haben zwölf Startups gepitcht, die noch am Anfang stehen. Was gibst du jungen Unternehmer:innen mit auf den Weg?

Es war interessant, dass die zwölf aus sehr verschiedenen Ecken kommen, was gut ist. Ich persönlich glaube an Startups, die entweder etwas sehr tangibles machen oder ein Businessmodell haben, das global anwendbar ist. Das kann eine kleine Sache sein, aber global anwendbar. Ich hoffe, sie denken in die Richtung, dass sie nicht nur ein kleines Problem lokal lösen, sondern dass ihre Plattform oder ihr Produkt eine globale Anwendung haben kann. Da gibt es viele Chancen, und auch viele Dinge, die man gut überlegen muss.

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Boris Nemšić:“Demokratie ist keine Ausrede dafür, dass alles so lange dauert“