22.08.2017

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

DerBrutkasten hat die Chance genutzt den IT-Pionier und Investor Hermann Hauser im Rahmen der I.E.C.T. Summer School in Wattens, zum Gespräch zu bitten. Dabei haben wir unter anderem erfahren, in welche Branche er im Moment vorwiegend investiert und welches Handy er benutzt.
/artikel/hermann-hauser-im-interview-habe-vor-trump-mehr-angst-als-vor-a-i
Hermann Hauser sucht bei der I.E.C.T. – Challenge nach Startups für ein Investment
(c) Johannes Felder

Hermann Hauser ist einer der erfolgreichsten Auslandsösterreicher und fördert aktuell mit seinem Institute for Entrepreneurship Cambridge –Tirol (I.E.C.T.) ausgewählte Entrepreneure und Startups, um sie zu nachhaltigem wirtschaftlichem Erfolg zu führen. Zudem blickt er mit seinen 68 Jahren auf ein ruhmreiches Leben als Serial Entrepreneur und IT-Visionär. Er hat das britische Silicon Valley gegründet und mit seinem ersten Unternehmen Acorn den weltweit meistverbreiteten Mikroprozessor-Chip ARM auf den Markt gebracht. Über 100 Milliarden Prozessoren wurden verkauft. Heute ist er als Investor sowie Business Angel aktiv dabei, die Startup-Szene in Zentraleuropa zu fördern. Im Gespräch mit dem Brutkasten erklärt Hauser unter anderem welches Potenzial er in Big Data sieht und wie er mit Vertretern der Generationen Y und Z zurechtkommt.

+++ Hermann Hauser bringt Startups aus der ganzen Welt nach Tirol +++


Was treibt Sie an? Was ist ihr Motor?

Als ich 18 Jahre alt war musste ich mich entschieden entweder Wirtschaftswissenschaften oder Physik zu studieren. Der Hauptgrund, warum ich Physik studieren wollte war ein Zitat aus Goethes Faust: „Daß ich erkenne, was die Welt im Innersten zusammenhält, Schau alle Wirkenskraft und Samen, und tu nicht mehr in Worten kramen“. Und diese Leidenschaft für Deep Technology ist mir mein ganzes Leben lang geblieben. Als Risikokapitalist sehe ich jetzt – das habe ich am Anfang nicht erwartet – dass es so viele neue, tiefe Technologien gibt, die immer faszinierender werden und ich lerne im Augenblick mehr DeepTech-Projekte kennen als jemals zuvor. Auch im Bereich der Genetik und Gene Sequencing. I am having a ball at the moment (Anm.: „Ich habe im Moment sehr viel Spaß“)! Der zweite Antrieb ist für mich, mit so vielen jungen Leuten zusammenarbeiten zu können, die die Energie und Freude haben, diese neuen, tiefen Technologien in kommerzielle Erfolge umzusetzen.

Das klingt sehr philanthropisch. Sie beschäftigen sich auch heute vorwiegend mit Zukunftsthemen, den neuesten technologischen Entwicklungen, IT-Anwendungen und Branchen. An welcher Zukunft arbeiten Sie hier konkret? Was wünschen Sie sich für die kommenden Generationen?

Das ist fast eine philosophische Frage. Ich bin eigentlich über die Jahre Utilitarist geworden. Da gibt es diesen berühmten Philosophen und Utilitaristen Jeremy Benthon, den ich vor kurzem in London getroffen habe. Er hat Mitte des 19. Jahrhunderts das University College London mitbegründet und sitzt heute noch ausgestopft bzw. einbalsamiert in einem Kasten in der Eingangshalle. Zudem war er der Erfinder des Utilitarismus und hat eben das Ziel der Menschheit dadurch definiert, dass er gesagt hat: „We should maximize the happiness for the maximum number of people“, das war damals noch sehr visionär und sehr abstrakt. (Anm.: Das Maximum-Happiness-Principle der Utilitaristen zu Deutsch: ‘Handle so, dass das größtmögliche Maß an Glück entsteht’)

Mit den neuen, tiefen Technologien wie Machine Learning, Blockchain oder Smart Contracts kann man nun vermuten, dass sich das in einer oder zwei Generationen tatsächlich verwirklichen lässt. Der Grund warum das in der Vergangenheit nicht umsetzbar war, ist dass man keine gesellschaftlichen Gesetze realistisch implementieren konnte, sodass diese auch wirklich jeder umsetzen, oder sich an diese Verhaltensweisen anpassen muss. Ich glaube, dass sich vor allem mit neuen Technologien wie Blockchain und Smart Contracts viele wirtschaftliche und gesellschaftliche Prozesse abstrahieren und verwirklichen lassen – unter Kontrolle der Community.

Sie haben einen PHD in Physik. Was hat Sie damals an den frühen Computern fasziniert, sodass Sie sich unternehmerisch dieser Branche gewidmet haben?

Als ich mein Doktorat in Physik, an der Universität Cambridge fertig hatte, gab es eine Mikroprozessor-Gruppe und das war eine faszinierende Gesellschaft von jungen Menschen, die daran geglaubt haben – wie sich dann später herausgestellt hat war das ein realistischer Glaube – dass man die Computer den Massen beibringen und zugänglich machen kann. In den frühen 80er-Jahren waren Computer ausschließlich in klimatisierten Räumen zu finden und durften nur von den Doktoranden verwendet werden. Kein normaler Mensch hatte jemals Zugang zu einem Computer.

„Es hat mich so fasziniert, dass der Computer normalen Menschen zugänglich gemacht werden kann.“

Doch die „Micorprocessor Group“ an meiner Universität hat damals herausgefunden, dass normale Menschen diese kleinen Mikroprozessoren (verschiedenster Anbieter) auf kleinen Platinen zusammenbauen und sich so einen eigenen Heimcomputer erschaffen können. Es hat mich so fasziniert, dass der Computer normalen Menschen zugänglich gemacht werden kann, dass Chris Curry und ich gemeinsam Acorn Computers gegründet haben. Dass wir den erfolgreichsten Mikroprozessor der Welt produzieren werden, war damals noch nicht Teil des Programms. (schmunzelt)

Sie sind hier in Tirol aufgewachsen. Was verbindet Sie noch mit diesem Bundesland?

Meine Cousins (Anm.: Josef und Johannes Hauser). Ich habe 22 Cousins, aber zwei davon sind mit mir in Cambridge gewesen, haben Englisch gelernt und mit ihnen bin ich heute besonders befreundet. Josef hat vor ein paar Jahren gesagt, dass es die richtige Zeit ist, Hochtechnologie in Österreich zu fördern. Damals habe ich ihm gesagt, dass ich daran nicht glaube, aber ich veranstalte eine Summer School in Alpbach und ich werde ihm beweisen, dass es hier keine guten Projekte gibt – aber das war nicht so. Es waren im Gegenteil sehr gute Projekte dabei und daher machen wir das jetzt schon das dritte Mal und jedes Jahr werden die Projekte besser. Von den 27 Projekten, die wir dieses Jahr haben bin ich insbesondere beeindruckt und freue mich jetzt schon auf die Präsentationen am Ende der Woche.

Einer ihrer Vorträge trägt den Titel ”The six Waves of Computing”. Dabei betonen Sie, dass jede Technologie im Lauf der Zeit von einer neuen ersetzt wurde und es die größten Player nie geschafft haben, auch die nächste Welle zu reiten. War das 2016 mit ein Grund für den Verkauf von ARM?

Es gibt tatsächlich kein einziges Beispiel dafür, dass die Anführer einer Welle des Fortschritts, auch die nächste Welle angeführt hätten. Das erstaunlichste Beispiel ist mit der Smartphone-Welle gerade passiert, denn die PC-Welle war ja vollkommen von Microsoft und Intel dominiert. Wenn man zu dieser Zeit irgendjemandem gesagt hätte, dass weder Intel noch Microsoft irgendeinen Marktanteil bei Smartphones haben werden, hätte jeder gesagt, dass das unmöglich ist, aber es ist so passiert. Der Mikroprozessor in den Smartphones ist zu über 95 Prozent der ARM und die Operating Systems sind Android und IOS von Apple. Die nächste Welle wird wahrscheinlich eine Ausnahme meines Prinzips werden, denn die sechste Welle ist vom Internet of Things ausgelöst und in diesem Bereich werden schon jetzt zu über 90 Prozent ARMs verwendet – vielleicht bleibt in diesem Fall der Mikroprozessor ja der gleiche.

Ich war ja gegen den Verkauf von ARM, aber Masayoshi Son von SoftBank hat extrem viel Geld geboten. ARM ist eine private Firma gewesen, die an der New Yorker sowie der Londoner Börse dotiert war. Er hat einen 43-prozentigen Mehrwert geboten und da war es für die Aktionäre besser jetzt diesen Mehrwert zu kassieren, als nochmal drei bis fünf Jahre zu warten, bis es noch mehr wird. Ansonsten gab es keinen Grund die Firma zu verkaufen. Wir hatten eine Milliarde Dollar in Cash und ein Management Team „to die for“. Zum Glück hat Masayoshi Son das Management Team aber bestehen lassen und dort keine Änderungen durchgeführt. Er hat diese Vision einer globalen Firma für Internet of Things und das ist eine Vision, die ich teile. Er hat recht, dass man da noch eine viel größere Firma aufbauen kann.

Also können wir uns darauf einstellen, dass unsere Computer und ähnliche Devices, wie wir sie heute kennen, in einer nächsten Welle durch Anwendungen und Produkte des Internet of Things ersetzt werden?

Ja, ersetzt oder ergänzt!

Welches Potenzial sehen Sie in Big Data?

Ein Anwendungsbeispiel, das am nächsten liegt ist wohl das autonome Fahren mit selbstfahrenden Autos. Da hätte auch keiner geglaubt, dass dies so schnell möglich sein wird. Ich denke, dass das in den nächsten fünf bis zehn Jahren so ausgedungen sein wird, dass die meisten Autos selbstfahrend sind. Das ist auch ein Beispiel für die Disruption, die dadurch entsteht, dass diese technische Möglichkeit des autonomen Fahrens jetzt auch das Businessmodell ändert. Die Autoindustrie hatte mit dem Ford Modell T das letzte Mal eine große Disruption mit dem Aufkommen der Massenproduktion. Sie haben sich daran gewöhnt, dass es in der Autoindustrie nicht wie in der Computerindustrie zugeht, wo bereits fünf Disruptionen vieles umstrukturiert haben.

Meine Vorlesung „The six Waves of Computing“ gibt es mittlerweile schon so lange, dass sie als „The five Waves of Computing“ angefangen hat. Erst seit einigen Jahren ist mir vollkommen klar, dass das auf alle Sektoren zutrifft, aber dass diese Disruptionen viel seltener oder weniger schnell passieren können. Die Autoindustrie hat jetzt besonders disruptive Zeit, weil sie zwei Disruptionen auf einmal bekommen, nämlich die Elektrifizierung und das autonome Fahren. Letzteres ist eine wesentlich gravierendere Änderung des Businessmodels. Von, ich kauf mir ein Auto, geht es jetzt hin zu dem Modell „Transport as a Service“, bei dem man sich nur mehr die Fahrt kauft.

Redaktionstipps

Wenn immer mehr Computer und Roboter die Arbeit und Aufgaben von Menschen übernehmen. Was bleibt dann noch für die Menschen bzw. warum machen nicht schon jetzt Maschinen unsere Arbeit?

Weil das nicht so lustig ist, auf der faulen Haut zu liegen! (lacht) Bis jetzt ist die Erfahrung so, dass wenn es diese disruptiven Technologien gegeben hat, die in gewissen Sektoren vieles fundamental geändert haben, immer viel mehr Jobs geschaffen wurden, als alte ersetzt. Ob das diesmal wieder passiert, weiß man nicht und man kann da utopische und dystopische Szenarien andenken. Mein Einstellung ist, dass wir mit diesen künstlichen Intelligenzen co-evolvieren werden.

„Ich habe im Augenblick vor Trump viel mehr Angst als vor der künstlichen Intelligenz.“

Facebook musste erst Anfang August seine A.I. ausschalten, nachdem sie eine eigene Sprache entwickelt hat, die Menschen nicht verstehen konnten. Könnten uns die Maschinen, nach dem Vorbild von Matrix, nicht auch gefährlich werden?

Ja natürlich man kann da viele dystopische Szenarien bauen, bis zu einer wirklich schlechten, dass die Maschinen uns irgendwann alle umbringen. Ich habe im Augenblick vor Trump viel mehr Angst als vor der künstlichen Intelligenz.

Sie haben schon öfter gesagt, dass im Zuge der Digitalisierung laufend weitere Innovationen geben wird, die es vermögen, verschiedenste Industrien zu disrupten. Werden zukünftig auch althergebrachte Institutionen bzw. Banken durch Technologien wie etwa die Blockchain und digitale Währungen in ihrer Weltherrschaft herausgefordert?

Ja! (grinst)

Vor rund einem Jahr haben Sie angekündigt, dass Sie nun weniger in ICT und vermehrt in Life Sciences investieren. Warum?

Because they’re having all the fun at the moment! (Anm.: „Diese Branche hat im Moment den ganzen Spaß“). Die Fortschritte im Bereich der Life Sciences sind so viel gravierender und grundlegender, als im Bereich der ICTs – mit Ausnahme von A.I.. Life Science und A.I. sind meine zwei Hauptprojekte im Moment.

Seit 2015 haben Sie in 16 österreichische Startups investiert. Sie sind mit ihrem 1997 gegründeten  IECT als einer der ersten Business Angels aufs zentraleuropäische Parkett getreten. Wie hat sich die Szene seither entwickelt?

Unwahrscheinlich schnell und sehr positiv! Es entwickelt sich im Augenblick in Österreich mit irrsinniger Geschwindigkeit ein Ökosystem und ich habe am Anfang nicht verstanden, warum das so schnell geht. Inzwischen ist meine Erklärung dafür, dass sich erstens so eine Gruppe von intelligenten jungen Leuten in Österreich gefunden hat, die es ja jetzt in ganz Europa auch gibt, denen es völlig egal ist, ob sie Englisch oder Deutsch sprechen, und die in ihrem Sektor zweitens genau wissen, was jetzt im Silicon Valley los ist, oder in Cambridge, oder Tokyo – also dort wo die wichtigen Firmen sitzen mit denen sie sich vergleichen, oder mit denen sie zusammen arbeiten wollen. Diese jungen, cleveren Leute sind jetzt auch ziemlich Standort-unabhängig, weil sie sich eben von selbst automatisch vernetzen. In Österreich gibt es nur leider kein Geld und deswegen freut es mich, dass ich meinen kleinen Teil dazu beitragen kann.

Was sagen Sie zum Gendergap in der Startup-Szene und was müsste diesbezüglich getan werden?

Den gibt es nicht nur in Österreich, sondern auf der ganzen Welt. Wir sind mit Amadeus Capital meines Wissens der einzige Fonds in Europa, der von einer Frau geleitet wird, nämlich von Anne Glover. Ich habe das Gefühl, wenn mehr Frauen Venture Capital Fonds führen würden, dann würde das die Szene entsprechend bereichern.

Sie stammen aus der 68er Generation und agieren als Wegbereiter für eine hochtechnologische Zukunft, die von den Generationen Y und Z weitergeführt werden wird. Was denken Sie über Vertreter dieser Generationen als Gründer, Mitarbeiter, Geschäftspartner usw.?

Ich halte sehr viel von ihnen und habe ja zwei von ihnen auch selbst produziert (lacht). Die Generation gefällt mir sehr gut, sie ist sehr aufgeschlossen, sehr kollegial, sehr international und genauso energiegeladen wie wir es waren, als wir jung waren. Es freut mich immer sehr, die nächste Generation zu unterstützen, weil das die Zukunft ist, ob man will oder nicht.

Gemeinsam mit der Crowd-Investing Plattform CONDA, wo Sie auch investiert sind, wird ja am 13. Oktober wieder die I.E.C.T. – Challenge stattfinden. Was kann man in diesem Jahr erwarten?

Im letzten Jahr hatten 60 Bewerber, die wir immer auf die zehn bis 15 besten herunter filtern und das wird in diesem Jahr auch so werden.

„Ich lese oftmals nur das erste und das letzte Kapitel und das ist meistens gut genug.“

Was lesen Sie im Moment?

Wie immer viel zu viele Bücher auf einmal… Die wichtigsten zwei sind wohl ein Fachbuch zu Synthetic Biology und „Homo Deus“ von Yuval Noah Harari. Ich lese oftmals nur das erste und das letzte Kapitel und das ist meistens gut genug.

Welches Handy und welchen Computer bzw. Laptop benutzen Sie aktuell?

Pixel von Google und ein Ipad Pro.

Was halten Sie vom Apple A10 Fusion und der Apple A10X Fusion, die ja auf der ARM Technologie basieren?

Das ist ein toller Chip und es ist auch signifikant für das Businessmodell von ARM, dass eben Apple den Chip mit der Lizenz von ARM bauen kann und nicht den Chip einkaufen muss.

Man sagt, dass man aus Fehlern mehr lernt als aus Erfolgen. Gibt es Entscheidungen in ihrem Leben, die Sie aus heutiger Sicht anders getroffen hätten?

Wahrscheinlich viele, aber es waren auch ein paar gute dabei. Es ist sehr schwer zu sagen, ob sich manche Dinge anders entwickelt hätte, wenn man etwas anders gemacht hätte. I have no great regrets (Anm.: „Ich bedauere nicht viel“). Die Entscheidung nach England zu gehen war eine gute Entscheidung, nach dem Physik Studium eine Firma aufzubauen war auch eine gute Entscheidung und ich habe ein Mordsglück mit meiner Frau – und das ist ja auch eine wichtige Entscheidung. Ich kann mich wirklich nicht beklagen.

+++ Scheitern erlaubt: Aus diesen Fehlern haben junge Millionäre gelernt +++

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hermann Hauser im Interview: „Habe vor Trump mehr Angst, als vor A.I.”