17.01.2019

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

Die nächste Revolution der Arbeitswelt ist im Gange und künstliche Intelligenz spielt dabei eine wesentliche Rolle. Stehen wir vor einer Krise oder einer riesigen Chance?
/artikel/ki-wie-sich-arbeit-veraendert
Arbeit, KI, AI, Künstliche Intelligenuz, Artificial Intelligence
(c) zapp2photo/ fotolia.com

Digitalisierung – ein Wort das viele Menschen verzückt, anderen hingegen den Schweiß den Nacken hinuntertreibt. Die Welt war stets von Veränderung geprägt, Paradigmenwechsel gab es viele und das tägliche Leben erlebte immer wieder Wandel. Auch die Arbeitswelt war nie frei von Veränderungen; mal rascher, mal schleichend. Mit der fortschreitenden Technologisierung unserer Gesellschaft verändert sich die Arbeit aber weiter. Für einige Personen eine Entwicklung voller „Opportunities“, andere fürchten, durch künstliche Intelligenz ersetzt zu werden. Es spielen viele Faktoren mit hinein, die man beachten muss, um aktuelle und zukünftige Entwicklungen zu verstehen und dafür gerüstet zu sein.

+++ Xing New Work Sessions: Wie sieht die Arbeitswelt von Morgen aus? +++

„Es werden sich Jobs ändern, Jobs wegfallen und neue Jobs entstehen“

Sepp Hochreiter ist eine Koryphäe auf dem Gebiet der künstlichen Intelligenz. Er ist Leiter des Instituts für Bioinformatik an der Johannes-Kepler-Universität (JKU) in Linz. Seit 2017 steht er im Linz Institute of Technology dem AI Lab vor. Er sagt: „Es werden sich Jobs ändern, Jobs wegfallen und neue Jobs entstehen.“ Der Erfinder der LSTM-Technik, einer Methode zur Verbesserung der Entwicklung künstlicher Intelligenz, sieht bereits jetzt Ansätze veränderter Arbeitswelten bzw. das Ersetzen von Menschen durch Maschinen, z.B. bei Chatbots, automatisierten Livetickern bei Fußballspielen, Tweets im Trump-Wahlkampf oder Beschwerdeservices.

Weitere Bereiche, in die AI zeitnah Einzug halten wird, seien unter anderem Telefonservices, Sales, Marketing, Mobility, Security, Kochen und Lektorat. „Jobs, bei denen durch KI leicht zu automatisieren ist“, präzisiert er. Die Quintessenz seiner Einschätzung ist, dass repetitive Jobs wegfallen. Hochreiter sieht darin jedoch keine Neuerung in der Arbeitsgeschichte. Denn solche Entwicklungen habe es immer schon gegeben. „Man denke nur an den Landwirt, der früher 20 Mitarbeiter hatte. Dann kamen Traktoren und Maschinen. Heutzutage hat der Landwirt ein bis zwei Mitarbeiter“, so der Experte weiter.

+++ Studie: Künstliche Intelligenzen nehmen doch keine Arbeitsplätze weg +++

Ähnlich sieht es Klaudia Bachinger von WisR, einer Internetplattform, die Unternehmen und Pensionisten zusammenbringt. „Repetitive Prozesse werden ersetzt werden, allerdings nicht im Servicebereich, da Maschinen Kontext und Empathie nicht können. Es mangelt ihnen an emotionaler Intelligenz“, sagt sie. In diesem Sinne bringt Hochreiter ein Beispiel aus den USA, das stellvertretend für die Problematik von AI in der Arbeitswelt gesehen werden kann: Dort wurde als Experiment einer AI aufgetragen, Gerichtsurteile vorherzusagen. Als Basis dazu diente eine Datenbank alter Urteile. „Am Anfang lief es gut, doch als eine Variable, die Hautfarbe der Beklagten, von Weiß auf Schwarz geändert wurde, stieg auch das Strafmaß. Ähnlich beim vorhergesagten Gehalt für diverse Berufe, als man das Geschlecht auf weiblich änderte: Es sank“, erklärt Hochreiter. Die AI habe menschliche Fehler übernommen.

Intelligent Designer

Was Bachinger im Gespräch menschliche Skills und Storytelling nennt, kann man mit Hochreiters Begriff des Intelligent-Designers vergleichen, betrachtet man die Arbeitswelt in ein paar Jahren. Zukünftige Jobs in Bereichen, in denen der Mensch unerlässlich bleibt, drehen sich alle um Daten und Design. Hochreiters Aufzählung gibt einen kleinen Aus- und Einblick darin, welche Professionen fürs Arbeiten Seite an Seite mit künstlicher Intelligenz vonnöten sein werden. Er nennt Data Evangelist, Data Scientist, Robotics, Digital Knowledge Manager, AI-Design und Robot-Psychologie als essenzielle Felder, die im Entstehen sind.

Zudem werde es noch weitere Probleme geben, die weiterhin von menschlicher Hand gelöst werden müssten. Selbstfahrende Autos etwa werden über kurz oder lang Taxifahrer und Chauffeur ersetzen. Man müsse aber klären, so Hochreiter, welche Auswirkungen dies im Straßenverkehr habe. „Heute hat man als Fußgänger Blickkontakt mit dem Fahrer, der einen dann über die Straße lässt. Das selbstfahrende Auto muss zu erkennen geben, dass es den Passanten gesehen hat. Wie macht es das? Es geht vor allem um die Interaktion zwischen Mensch und Maschine“, sagt der AI-Pionier.

Bachinger hat in diesem Zusammenhang fehlende emotionale Intelligenz, kritisches Denken und Kreativität (laut dem World Economic Forum drei der wichtigsten Skills im Jahr 2030) als Knackpunkte genannt, wieso der Mensch durch AI nicht komplett ersetzt werden kann. Hochreiter geht weiter und nennt es „Weltwissen“, welches sich künstliche Intelligenz erst aneignen müsse. „Körperliche und monotone geistige Tätigkeiten werden verschwinden, dafür wird die Arbeit interessanter“, denkt der AI-Experte. „Die Maschine wird zum Lehrbuben.“

„Human Robot-Interaction“

Bis sie aufhöre, den Menschen als „Lehrer“ nötig zu haben und es eine AGI (Artificial General Intelligence), die selbstständig lernt, gebe, würden noch 20 Jahre vergehen, wie Clemens Wasner, CEO von Enlite.ai und Organisator der AAIC (Applied Artificial Intelligence Conference), zu diesem Thema erwähnt: „Alle Expertenmeinungen sehen das frühestens bis 2040. Keiner der aktuellen Ansätze kann bis zu einer AGI skalieren und wir stehen, was neue Methoden betrifft, noch ganz am Anfang, vergleichbar mit der Situation von neuronalen Netzen in den1980ern“, sagt er. Bemerkenswerte Entwicklungen gebe es jedoch heute bereits, so Wasner weiter. „In der Robotik zeichnen sich bereits wesentliche Fortschritte durch selbstlernende Systeme ab, die nicht nur zu neuen Graden der Automatisierung führen. Auch die Zusammenarbeit von Robotern und Menschen wird dadurch erst wirklich möglich, sogenannte ‚Human-Robot-Interaction‘. Dies wird sich zuallererst in der Produktion, etwa von Autos, bemerkbar machen, wo bisher Roboter und Menschen getrennt gearbeitet haben. Auch im Delivery-Center von Amazon wird es diese Art der Kollaboration sehr bald flächendeckend geben, Stichwort Packaging.“

Laut dem Report des Marktforschungs- und IT Analyse-Unternehmens Gartner werden bis 2020 durch AI 1,8 Millionen Jobs vernichtet, dafür 2,3 Millionen geschaffen werden. Wasner meint, dass es Technologieverlierer immer gebe; die eigentliche Frage sei, ob Gesellschaft, Politik und Wirtschaft dies als gottgegeben hinnehmen oder aktiv Schritte setzen, um die Folgen abzufedern. „Die Auswirkungen werden sich hier aber sehr stark regional unterscheiden. Beispiel Handel in Österreich: Laut Statistik arbeiten rund 360.000 Personen im Einzelhandel, viele davon sind Frauen. Man muss kein Hellseher sein, um vor allem in diesem Bereich eine große Automatisierungswelle bis 2030 vorherzusagen“, so Wasner.

Lebenslanges Lernen als Credo

Während im Startup-Bereich Begriffe wie Digitalisierung, Arbeitszeitflexibilisierung und AI mit offenen Armen willkommen geheißen werden, würde der Niedriglohnsektor die Veränderung drastisch spüren.

„Das Gegenbeispiel zum Handel sind klassische Männerberufe wie etwa Fernfahrer in Emerging Markets. Aufgrund des Mangels an qualifizierten Fernfahrern sind europäische Lkw Hersteller sehr darum bemüht, so schnell wie möglich autonom fahrende Lkws herzustellen. Dies hat für Westeuropa einen positiven Impact, wirkt sich aber auf Emerging Markets, wo es noch eine sehr hohe Zahl an Fernfahrern gibt, fatal aus“, sagt Wasner. Der allgemeine Tenor dabei: Wer nicht bereit ist, sich umzustellen, wird abgehängt. Als Begriff wird hier von Expertenseite „lebenslanges Lernen“ eingeworfen, was bei der Betrachtung der nahenden Neo-Arbeitswelt wiederum weitere Aspekte öffnet: Umschulung, Fachkräfte, bedingungsloses Grundeinkommen und Arbeitspsychologie.

Nach der bisherigen Aufzählung neuer Jobs, die kommen mögen, und Rahmenbedingungen, die eine Gesellschaft braucht, um auf den digitalen Wandel zu reagieren, ist ersichtlich, dass Neuorientierungen und Umschulungen Faktoren sein werden, ohne die ein geregelter Übergang nicht möglich sein wird.

+++ Live Interview: CEO und Founder von JobRocker im LIVE Gespräch +++

„Die neuen Technologien werden in allen Arbeitsbereichen Einzug halten und es wird immer wieder Neues dazukommen. Weiterbildung wird in manchen Bereichen notwendiger sein, um in der neuen Zeit mithalten zu können. Es müssten theoretisch jetzt schon erste Umschulungen stattfinden, damit die Gesellschaft in zwei, drei Jahren bereit ist für Neues“, sagt der CEO des Headhunting-Startups JobRocker, Günther Strenn. „Gerade diejenigen, die nicht bereit sind, sich zu ändern, werden verlieren und auf der Strecke bleiben. Da die technischen Fortschritte immer schneller und größer werden, sind lebenslanges Lernen und ständige Weiterbildung nicht nur notwendig, sondern unbedingt erforderlich. Es gibt keine Garantie mehr, bis zur Pension im selben Job zu sein.“

Umdenken zu Migration nötig

Ein weiterer immer wieder gehörter Begriff, wenn Digitalisierung zum Thema wird, ist der Fachkräftemangel. In Deutschland etwa steht 2025 eine Pensionierungswelle bevor, die einen weiteren Mangel an Spezialisten erzeugt, der ohne Automatisierung kaum geschlossen werden kann. In Japan sind aufgrund restriktiver Immigrationspolitik der Pflege und Gesundheitsbereich stark betroffen.

„In beiden Fällen bedeutet dies – auf Wunsch – längere Beschäftigung im Unternehmen bei gleichzeitigen Bemühungen zu mehr Automatisierung. Österreichwirkt in dieser Diskussion oft etwas unbeholfen, um nicht zu sagen unaufrichtig: So wird oft im selben Atemzug über den großen Fachkräftemangel und zu hohe Immigration geklagt, was für ein reiches Land ein Widerspruch in sich sein sollte“, sagt Wasner zu diesem Thema. „Hier ist ein Umdenken, was Ausbildung, Einstellung zu Migration und Qualifikation betrifft, dringend notwendig, da unser bestehendes System viel zu träge für die immer kürzer werdenden Zyklen ist. Erst, wenn dieses Umdenken stattgefunden hat, werden wichtige Initiativen wie Coding Ausbildung auch auf die notwendige Akzeptanz stoßen.“

Klaudia Bachinger sieht einen Weg, diesem Mangel entgegenzutreten, darin, Pensionisten wieder in den Arbeitsmarkt zu holen. „Rund 50 Prozent im DACH-Raum wollen wieder arbeiten“, sagt sie. Dabei stützt sie sich auf Studien von Leopold Stieger, Gründer von Seniors4sucess und Autor des Buchs „Pension – Lust oder Frust?“. Darin heißt es: Während 2014 rund ein Drittel der Rentner nach der Pensionierung noch Lust aufs Arbeiten gehabt hätte, wäre dieser Wert 2016 bereits bei rund der Hälfte der rund 2,7 Millionen Pensionisten im Land gewesen. Davon sehen sich zwei Drittel in einem Ehrenamt, ein Drittel in der bezahlten Arbeit. „Der Grund dafür ist die Wertschätzung beim Ausüben einer sinnvollen Tätigkeit, das soziale Gefüge, das man unter Kollegen spürt, und die mentale Bestätigung, die man erhält. Zudem hält Arbeit Menschen länger fit – geistig und körperlich. Das haben auch die Japaner in ihrem ‚Silver Human Resources Center‘ in einer Langzeitstudie belegen können“, erklärt Bachinger. Die Lücke, die durch Fachkräftemangel entstehe, ließe sich durch Frauen, Migranten und Pensionisten gut schließen, meint sie.

„Junge schneller, Ältere mit Abkürzung“

Auch JobRocker CEO Strenn sieht in dieser Idee einen Mehrwert, wenn er sagt: „Die Jungen sind schneller, aber die Alten kennen die Abkürzung. Das Knowhow der älteren Generation ist wertvoll, und das Ziel sollte sein, ihr Wissen mit den neuen Technologien zu vereinen. Gerade im Dienstleistungsbereich, in dem die Digitalisierung noch nicht überhandgenommen hat, kann man Pensionisten in den Arbeitsmarkt integrieren.“

Laut der WKO wird es hierzulande bis zum Jahr 2030 rund 3,9 Millionen über 50Jährige geben, und bis 2050 mehr als 4,4 Millionen Menschen, die das halbe Jahrhundert an Lebensjahren überschritten haben werden. „Die Babyboomer Generation geht in Pension. In Deutschland etwa werden rund acht Millionen Menschen am Arbeitsmarkt fehlen, das sind 20 Prozent der gesamten Arbeitskräfte“, sagt Bachinger, die aus Erfahrung weiß, dass ältere Semester für projektbezogene Arbeit im Sinne der Gig-Economy oder auch für Teilzeit berufe empfänglich sind.

Flexible Arbeit

Während Gedanken hinsichtlich des Fachkräftemangels um Immigration und „Demographic Aging“ kreisen, wird die zukünftige Arbeitswelt auch stark von dem umstrittenen Begriff Arbeitszeitflexibilisierung geprägt sein. Der Zwölfstundentag hat enorme Kritik ausgelöst, aber auch Befürworter gefunden. Globaler Konkurrenzdruck wird von Unternehmern gerne ins Feld geführt, wenn es darum geht, gesetzliche Freiheiten zu haben, um Mitarbeiter nach Bedarf länger einzusetzen.

Dazu nennt Bernhard Niesner vom sozialen Netzwerk für Sprachenlernen busuu die Formel 996 aus China als Beispiel des harten Wettbewerbs. „In China praktizieren manche Firmen das sogenannte ‚996‘, ‚working 9 a. m. to 9 p. m., 6 days a week‘. Natürlich ist dies nicht im Sinne der Arbeitnehmer und wirkt sich sicherlich mittel- bis langfristig auch extrem negativ auf die Kultur in einer Firma und auf die Effizienz – Stichwort Burnout – aus. Aber dies ist leider die Realität, wenn man mit solchen hoch aggressiven Firmen im Wettbewerb steht“, sagt er und betont deutlich, dass er kein Befürworter einer „100-Stunden- Arbeitswoche“ sei, ein wenig mehr Flexibilität teilweise jedoch nicht schaden würde, „um es Firmen und Mitarbeitern zu ermöglichen, wenn es mal wirklich wichtig ist und ums Überleben der Firma geht, auch mal mehr zu arbeiten“.

Auch Strenn schlägt in eine ähnliche Kerbe, wenn er sagt: „Wenn Unternehmen weiterhin wettbewerbsfähig bleiben wollen, ist die Flexibilität der Unternehmen und der Mitarbeiter gefragt. Dadurch, dass Fließbandarbeit immer mehr ersetzt wird und outputbezogene Arbeit kaum messbar ist, müssen auch Unternehmen umdenken. Gerade durch Technologien ist ein effizienteres Arbeiten möglich, und es sollte projektbezogen und zielorientiert gedacht und gearbeitet werden.“ Bachinger spricht sich zudem dafür aus, dass flexiblere Arbeitszeit in Absprache mit Arbeitnehmern zu implementieren ist. Sie weiß, dass es in manchen Branchen nötig ist, flexibel zu sein, und denkt nicht, dass es sich heutzutage Arbeitgeber – wie befürchtet – leisten können, ihre Angestellten auszunützen und damit ihrer Arbeitgebermarke („Employer Brand“) maßgeblich zu schaden. Durch die Transparenz mit Kununuu, Glassdoor, LinkedIn und Co. wissen die Bewerber ganz genau, wie Arbeitsklima und Leadership eines Unternehmens sind.

Information ≠ Wissen

Aus unternehmerischer Sicht scheint die Übereinkunft zu herrschen, dass mit dem globalen Markt, der Digitalisierung, dem Konkurrenzdruck und Phasen, in denen mehr Arbeitskraft benötigt wird, die eingeführte Flexibilisierung Unternehmen mehr Spielraum gewährt, um zu agieren und zu reagieren, wo es verlangt ist. Aus arbeitspsychologischer Sicht spielen da noch andere Punkte hinein, wie Mario Schuster, Founder von Mental Synergy, Mentaltrainer sowie auch Berater bei arbeitspsychologischen Fragestellungen, erzählt. Er arbeitet mit CEOs und Managern großer Konzerne (darunter Personen aus der Automobilindustrie) zusammen und hilft dabei, mentale Kompetenzen zu steigern. „Die Digitalisierung löst bei Manchen Ängste aus und ist nur schwer greifbar. Digitalisierungsprozesse an sich gibt es bereits seit über 20 Jahren, dennoch braucht es jetzt Orientierung und Aufklärung, da der Mensch mit der technologischen Entwicklung teilweise nicht mehr mitkommt“, sagt er.

Da man heutzutage einen unendlichen Zugriff auf Information habe, finde ein „Information-Overload“ statt, der nicht automatisch zur Generierung von mehr Wissen führe. Schuster nennt es das „Crackberry-Phänomen“, welches beschreibt, dass man den inneren Zwang hat, immer und überall erreichbar sein zu müssen und seine Nachrichten zu checken.

Arbeit, AI, KI
(c) Google – Ein „Informations-Overload“ – wie es ihn heutzutage gibt – führt nicht automatisch zur Aneignung von mehr Wissen.

Ähnlich einer Sucht

Schuster erkennt auch im Arbeitsbereich eine übertriebene Smartphone-Nutzung und ein exzessives Verhalten, das beinahe einer Sucht gleichkommt. Rückbezogen auf die Arbeitszeitflexibilisierung bringt der Psychologe den Vergleich eines Marathonläufers A, der jeden Tag zehn und am vierten Tag zwölf Kilometer läuft, während Person B den Marathon an einem Tag bewältigt. „Beim zweiten Fall ist die individuelle Beanspruchung deutlich höher und die notwendigen Erholungsphasen sind überproportional länger“, sagt er. Ähnlich verhalte es sich beim Arbeiten.

„Nach sieben, acht Stunden steigt das Unfallrisiko deutlich an und Erschöpfung setzt ein. Bei einer Arbeitszeit von viermal zwölf Stunden in der Woche reichen drei Tage Erholung nicht aus, um die Belastung dieser Zeit abzubauen“, so Schuster weiter. Der Mensch sei zwar kein fragiles Wesen und könne über kurze Zeiten ein solches Arbeitspensum durchaus aushalten, jedoch benötigt er auch sinnvolle Belastungs- und Regenerationszyklen, um Leistungseinbußen oder gesundheitliche Schäden zu vermeiden. Die Konsequenz sei, dass es dann immer schwerer falle, nach der Arbeit abzuschalten.

Cybertariat

Auch dadurch, dass Arbeit und Freizeit und zeitliche und räumliche Dimension verschmelzen – etwa Arbeiten aus dem Zug per Laptop –, werden Erholungsprozesse gehemmt. Andrea Birbaumer, ihres Zeichens stellvertretende Obfrau der Gesellschaft kritischer Psychologen und Psychologinnen, Fachabteilung A&O Psychologie, möchte in dieser Hinsicht ebenfalls nicht schwarzmalen, führt aber den Begriff „Cybertariat“ von Ursula Huws, Professorin an der University of Hertfordshire, ins Feld.

Der Begriff ist an das Wort Prekariat angelehnt und beschreibt die neue Arbeitsorganisation. „Menschen sind permanent ‚on‘ und suchen sich online Arbeit. Die Gig-Economy erzeugt Spannung, das Stresslevel steigt. Es gibt keine Absicherung“, sagt sie. „Aus gesellschaftlicher und gesundheitlicher Sicht muss man sagen, dass nicht jeder es schafft, sich ständig neu zu orientieren und zu netzwerken, um sich Arbeit zu beschaffen.“

Auch die Psychologin sagt, dass es Tendenzen der Digitalisierung bereits es seit zwei Jahrzehnten gebe; das sei nicht neu, jedoch führe das ständige Arbeiten-Können-und-Müssen zu einer Reihe von Nachteilen. Es fehle an Regenerationsphasen, was zu gastrovaskulären oder Herz- Kreislauf- Beschwerden führen könne.

Allerdings sei die Anpassung auch eine Generationsfrage. Junge Menschen seien durch ihre Sozialisierung mit neuer Technologie anpassungsfähiger, jedoch gebe es dazu noch keine konkreten Daten. „Tendenzen zeigen aber, dass all das nicht folgenlos bleibt“, so Birbaumer.

Die Psychologin denkt zudem, dass Arbeit künftig wegen der Technologisierung auch von einem großen Kontrollaspekt geprägt sein wird. Permanentes Dokumentieren und Eingeben von Daten könne zu einem Super-GAU führen, wenn sich die Frage stellt, wann die eigentliche Arbeit getan werde. Besonders Führungskräfte würden zukünftig stark gefordert sein. Zwischen Vorgaben der Politik und Unternehmenskonzepten müssten sie auch gleichzeitig Mitarbeiter stützen. „Dies könnte die Qualität der Arbeit steigern, etwa bei Transparenz und dem Vergleich, ist aber zugleich auch stark branchenabhängig“, so Birbaumer.

Digitalisierung der Arbeit, Fachkräftemangel, Demographic Aging, Arbeitspsychologie, Arbeitsplatzvernichtung vs. Neue Jobs, Umdenken und Umschulung – all diese Begriffe, die in ein paar Jahren wesentliche Themen des gesellschaftspolitischen Prozesses sein werden, deuten bereits heute an, dass es bald passende Rahmenbedingungen braucht.

BGE als „Power“

Ein Punkt, der alle genannten Faktoren umfasst und immer wieder ins Spiel gebracht wird, ist das bedingungslose Grundeinkommen (BGE). Kritiker sehen darin eine soziale Hängematte, die das Ende der Arbeit einläutet. Andere möchten damit den Druck auf die Arbeitnehmer mindern. Clemens Wasner dazu: „Am BGE wird kein Weg vorbeiführen. Die Erklärung hierfür ist simpel: Mit zunehmender Geschwindigkeit, in der sich neue Technologien und Methoden im Berufsalltag ausbreiten, wird es unumgänglich, den Bürgern auch die Zeit einzuräumen, diese zu erlernen. In dem Zusammenhang finde ich es kurios, dass etwa die internen Trainingsprogramme und Mitarbeiterfreistellungen im Silicon Valley allseits gelobt werden, gleichzeitig aber auf die Bildungskarenz, die ein noch weitaus progressiveres Instrument ist, geschimpft wird“, sagt er. „Arbeit als soziale Bedeutung heißt, Anerkennung erfahren, den Sinn darin sehen und Motivation besitzen – und auf ein gemeinsames Ziel hinarbeiten. Wenn man aber nur ums Überleben kämpft, fehlt es an Qualität“, sagt Birbaumer. Kreativität hätte unter einem BGE Platz, bei dem es nicht darum ginge, dass man sich die nächste vom Staat finanzierte Villa leisten könne, sondern den Druck des Alltags entferne. „Die Leute hätten mehr Energie für Engagement. Ich sehe darin keine Hängematte, sondern Power.“ Jedoch müsse man differenzieren, für welche Gruppe es bestimmt sei. Und die Frage der Höhe gelte es ebenfalls abzuklopfen.

„Innovation durch Erholung“

Auch Mario Schuster erkennt im BGE ein sensibles Thema. „Tätigkeiten mit geringerer, aber auch mittlerer Qualifikation fallen weg, dafür wird es mehr Spezialisten brauchen. Bei 300.000 Arbeitslosen heißt das aber nicht, dass daraus 300.000 neue IT-Techniker werden“, so Schuster. Der Arbeitspsychologe nennt dazu drei psychologische Grundbedürfnisse des Menschen, die bei diesem Thema richtungsweisend sein könnten und das Killerargument „faule Haut“ etwas entkräften: Das Individuum brauche nach der Self-Determination-Theory der Forscher Edward L. Deci und Richard M. Ryan (erstmals 1985 an der University of Rochester vorgestellt) Anerkennung, Weiterentwicklung und Autonomie. In ihrem Paper heißt es zudem, „Menschen, die über ihre Tätigkeit frei entscheiden können, sind wesentlich motivierter“. Dabei soll diese Freiheit nicht als „frei von Pflichten und Arbeit“ verstanden werden, sondern als „frei von Überlebenskampf und Druck“, was zugleich als Entspannungsfaktor in einer veränderten Arbeitswelt mit hohen Anforderungen gelten kann. Denn Schusters Worten nach verhält es sich so: „Innovation entsteht nicht durch mehr Arbeit, sondern durch Erholung.“

Dieser Beitrag erschien in gedruckter Form im brutkasten Magazin #7 “Die Welt in 5 Jahren”


 

Deine ungelesenen Artikel:
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
24.09.2026

Ex-Google-Designerin Elizabeth Churchill über die Autonomie von KI-Agenten und menschliche Kontrolle

KI wird zunehmend selbstständig handeln – und damit wachsen auch die Risiken. Wenn Maschinen eigenständig Entscheidungen treffen, stellt sich die Frage, wo ihre Autonomie enden muss und der Mensch Kontrolle behalten sollte. Elizabeth F. Churchill, ehemalige Senior Director of User Experience bei Google, erklärt brutkasten gegenüber, welche Prinzipien im Umgang mit agentischer KI künftig entscheidend werden.
/artikel/ex-google-designerin-elizabeth-churchill-ueber-die-autonomie-von-ki-agenten-und-menschliche-kontrolle
KI-Agenten
© Philipp Lipiarski - Elizabeth F. Churchill.

Auf der diesjährigen uxcon hielt Elizabeth F. Churchill eine Keynote über die Zukunft der Mensch-Maschine-Interaktion. Sie ist Professorin sowie Gründungsdirektorin des Fachbereichs für Human-Computer Interaction (HCI) an der MBZUAI in Abu Dhabi und zählt zu den prägenden Stimmen im Bereich Psychologie, Künstliche Intelligenz und Kognitionswissenschaften.

Bei Google, eBay und Yahoo tätig

Im Laufe ihrer Karriere baute sie Forschungsteams für Tech-Giganten wie Google, eBay, Yahoo und PARC auf. Für ihre Führungsrolle und ihren Einfluss auf die Tech-Branche wurde die Wissenschaftlerin vielfach ausgezeichnet, zuletzt unter anderem mit dem SIGCHI Lifetime Practice Award 2024.

In Wien erörterte sie in den Hallen der Hauptuniversität das Zusammenspiel von Mensch und Technologie und erklärte brutkasten gegenüber den fundamentalen Paradigmenwechsel, der aktuell die gesamte Software-Welt erfasst: den Aufstieg agentischer KI-Systeme. Dabei machte sie deutlich, dass dieser Wandel ein neues Verständnis von Kontrolle und Autonomie erfordert.

Vom Werkzeug zum Agenten: Der Unterschied

Die entscheidende Veränderung bei KI sei weniger, dass Systeme „bessere Antworten“ geben, sondern dass sie zunehmend selbstständig handeln könnten. Klassische Software – ob deterministisches Werkzeug oder reaktives KI-System – habe stets auf konkrete Eingaben des Menschen gewartet.

Ein KI-Agent dagegen bekommt ein Ziel und bestimmte Rahmenbedingungen und kann daraus einen adaptiven Ausführungsplan ableiten, Werkzeuge und APIs nutzen sowie mehrere Schritte selbstständig ausführen. Bei Multi-Agenten-Systemen arbeiteten mehrere solcher Agenten zusammen, oft als sich selbst korrigierende „Schwärme“, die asynchron im Hintergrund laufen.

Damit verändert sich auch die Rolle des Menschen „dramatisch“: Menschen bedienen das System nicht mehr zwangsläufig Schritt für Schritt, sondern würden zu einer Art „Flugdirektor“ (Supervisory UX), der Ergebnisse definiere und den Weg dorthin überwache. Diese Entwicklung bringe, Churchill zufolge, bisherige, starre Benutzeroberflächen an ihre Grenzen.

Ghost-State-Dilemma

Wenn Agenten im Hintergrund arbeiteten, drohe Nutzer:innen der Verlust des Kontexts – ein sogenanntes „Ghost-State-Dilemma“, bei dem nicht mehr nachvollziehbar sei, in welchem Zustand sich Prozesse aktuell befänden. Ein Kernrisiko dabei ist die unterschiedliche Entscheidungsarchitektur (Choice Architecture) von Mensch und Maschine: Während der Mensch bei Aufgaben – wie etwa einer Hotelbuchung – intuitive, visuelle und kontextuelle Nuancen (Größe des Zimmers, Lage) abwäge, operierten Agenten rein deterministisch anhand von API-Vorgaben.

Diese Diskrepanz kann dazu führen, dass Agenten durch kumulative Fehler vom eigentlichen Ziel abwichen oder APIs auf unerwartete Weise ausnutzten. Achtsam mit agentischen Systemen zu arbeiten, erfordere deshalb ein völlig neues Design-Paradigma: Autonomie müsse bewusst begrenzt und Kontrolle sichtbar gehalten werden, meint Churchill.

Kill Switches

Aus diesem Rollenwechsel leitet die Expertin konkrete Gestaltungsmechanismen ab: Vor kritischen Aktionen sollte der Mensch geplante Schritte in sogenannten „Trockenläufen“ (Plan Dry Runs) prüfen und freigeben können. Zudem brauche es klare und vor allem transparente Zusammenfassungen, sobald sich ein Prozess plötzlich ändert, sowie „Circuit Breaker“ (Kill Switches), um laufende Prozesse sofort zu unterbrechen, falls sie aus dem Ruder laufen.

Die zentrale Frage lautet somit für Churchill nicht mehr nur: „Was kann die KI?“, sondern: „Wie gestalten wir die Sichtbarkeit ihrer autonomen Entscheidungen – und wo muss der Mensch zwingend die Kontrolle behalten?“

„Je höher die Tragweite des Kontexts, desto weniger Autonomie sollte das KI-System bei kritischen Entscheidungen haben“, sagt sie. Wo genau diese Grenze verläuft, müssten KI-Designer für jeden Anwendungsfall neu bestimmen.

Die Falle der heimlichen Entmächtigung

Aus Churchills Sicht sei ein entscheidender Punkt, dass Unternehmen die Falle der „heimlichen Entmächtigung“ vermeiden müssten, also der stillen Einschränkung menschlicher Handlungsfähigkeit unter dem „Deckmantel der Bequemlichkeit“. Systeme sollten keine „undurchsichtigen Blackboxen“ sein, die allein Entscheidungen treffen.

Co-Governance als Notwendigkeit

Über einzelne Sicherheitsmechanismen hinaus brauche es laut Churchill zudem ein grundsätzliches Governance-Prinzip: Menschen gewöhnten sich zunehmend daran, mit Systemen über Gespräche einfache Aufgaben zu erledigen. Wenn es jedoch um wichtige oder emotionale Entscheidungen gehe, stießen sie schnell an ihre Grenzen. Deshalb müssten sie im Sinne von Co-Governance weiterhin informiert und in den Entscheidungsprozess eingebunden bleiben.

Churchills Erfahrung nach konzentriert sich die Industrie vor allem auf Leistungstests, gute Sprache und die Fähigkeiten von KI-Modellen. Dabei würde die langfristige Wirkung auf Menschen und Gesellschaft oft zu wenig berücksichtigt.

„Menschliche Erfahrung bleibt chaotisch, kulturell vielfältig und in gelebten Umgebungen verankert“, sagt sie. „Wir müssen den Fokus vom Bau von Generalisten-Modellen, die plausible Antworten produzieren, hin zur Entwicklung kulturell kontextualisierter und resilienter Werkzeuge verschieben, die echtes menschliches Aufblühen (human flourishing) und kritisches Denken unterstützen.“

Ratschläge für Startups

Laut Churchill sei es ein großer Fehler, generative KI als Ersatz für Fachwissen zu sehen. Sie sollte vielmehr dazu dienen, vorhandenes Fachwissen zu unterstützen und zu erweitern. Startups würden dabei oft ein zentrales Problem übersehen: Sie würden Foundation-Modelle in „Thin Wrappers“ verpacken (wie automatisierte Bewerber-Screenings oder Kundensupport-Bots), ohne robuste Schutzmechanismen einzubauen.

„So sahen sich beispielsweise Unternehmen wie die ‚National Eating Disorders Association‚ (NEDA) unmittelbar mit Gegenreaktionen konfrontiert, nachdem sie geschulte menschliche Mitarbeiter der Helpline durch einen KI-Chatbot ersetzt hatten, der innerhalb weniger Tage begann, schädliche Ratschläge zum Thema Diäten zu geben“, nennt sie ein warnendes Beispiel. „Unternehmen können erfolgreich sein, wenn sie KI direkt in spezifische, professionelle Arbeitsabläufe einbetten, beispielsweise indem sie das Modell als fachkundiges kollaboratives Gerüst behandeln, anstatt zu versuchen, die Fachkraft vollständig zu automatisieren bzw. überflüssig zu machen.“

„Ich vermeide gerne utopische und dystopische Visionen“

Neben der Gefahr, dass Menschen aus der Kontrolle gedrängt werden, sieht Churchill ein zweites Problem: die Eskalation des Wettbewerbs der Tech-Giganten rund um KI, die sie als berechtigte Krise innerhalb der Spitzenforschung bezeichnet.

„Leider übertreffen wettbewerbsorientierte Marktanreize die Governance-Mechanismen immer wieder“, sagt sie. „Es ist enttäuschend, dass dies der Fall ist. Aber das Problem als ein spekulatives Science-Fiction-Szenario des Aussterbens zu rahmen, kann von systemischen Schäden ablenken, die in Echtzeit stattfinden. Persönlich vermeide ich gerne utopische und dystopische Visionen. Daher bin ich weniger besorgt über eine sich selbst verbessernde Superintelligenz, die außer Kontrolle gerät, als vielmehr über den schleichenden Zusammenbruch institutioneller Verantwortlichkeit und die Übertragung lebensverändernder Entscheidungen an fragile, nicht nachvollziehbare statistische Systeme.“

Florieren kleiner Volkswirtschaften

Für Europa sieht Churchill in diesem „Rennen“ mit den USA und Asien „nicht alles verloren“, vielmehr bestehe der Fehler darin, die hochzentralisierten, rechenintensiven Foundation-Modelle aus Silicon Valley oder Shenzhen zu kopieren.

„Ich glaube, dass die Zukunft der KI auf Vertrauen, Präzisionstechnik, eingebetteter industrieller Automatisierung, souveräner Dateninfrastruktur und strikter regulatorischer Compliance (EU AI Act) beruht“, betont sie. „Kleine Volkswirtschaften mit hohem Vertrauen wie Österreich werden florieren, indem sie spezialisierte Nischen fördern. Wie etwa verifizierbare industrielle KI, menschenzentrierte Fertigungsautomatisierung, hochzuverlässige biomedizinische Werkzeuge und vertrauenswürdige Systeme des öffentlichen Sektors.“

Die Welt in fünf Jahren

Churchill wagt einen – wenn auch schwierigen – Blick in die Zukunft: „In fünf Jahren wird die Neuartigkeit von Konversationen hoffentlich nicht mehr so sehr im Mittelpunkt der Aufmerksamkeit stehen“, meint sie. „Hoffentlich werden wir erkennen, dass der generative Hype eine Infrastrukturphase für eine Ära hybrider kollektiver Intelligenz war. Die dominante Herausforderung wird nicht die technische Skalierung sein, sondern soziotechnische kognitive Architekturen. Und die Frage, wie wir das Bauen, Managen, Ausbilden, Kurskorrigieren und Steuern navigieren, wenn hybride menschlich-synthetische Agentenlogik in die grundlegende Struktur der täglichen Arbeit und des gesellschaftlichen Lebens eingewoben ist?“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neue Arbeitswelten durch KI: Wie sich Arbeit in den nächsten Jahren verändert