08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot “Berufsinfomat” bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: “Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.”

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis “es können fehlerhafte Inhalte produziert werden” ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten “AMS-Algorithmus”, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
11.09.2024

Change Management: Die 5 größten Fallen für Scale-Ups – und wie sie vermieden werden können

Ferry Fischer, Wirtschafts-Coach und Sport-Mentaltrainer, erklärt im Gastbeitrag, welche Fallen für Scale-Ups lauern und wie man sie löst.
/artikel/change-management-die-5-groessten-fallen-fuer-scale-ups-und-wie-sie-vermieden-werden-koennen
11.09.2024

Change Management: Die 5 größten Fallen für Scale-Ups – und wie sie vermieden werden können

Ferry Fischer, Wirtschafts-Coach und Sport-Mentaltrainer, erklärt im Gastbeitrag, welche Fallen für Scale-Ups lauern und wie man sie löst.
/artikel/change-management-die-5-groessten-fallen-fuer-scale-ups-und-wie-sie-vermieden-werden-koennen
Fallen für Scaleups
(c) Canva/Ferry Fischer - Wirtschafts-Coach und Sport-Mentaltrainer.

Scale-Ups sind in einem permanenten Change. Mehr Mitarbeiter:innen, immer wieder Sturkturanpassungen, laufend neue Produkte, bzw. Produktanpassungen und vieles mehr. Wenn aus dem Startup ein Scale-Up wird, sind die Founder meist (zu Recht) glücklich, denn die Idee hat gegriffen, die Investoren sind überzeugt und spendabel. Und doch ist es eine Krise, die es jetzt zu bewältigen gilt. Denn, wenn hier in zu viele Fallen getappt wird, scheitert das Unternehmen oder findet sich in unangenehmen Diskussionen mit den Investoren wieder.

In den letzten Jahren habe ich einige Scale-Ups begleitet und mit dem Thema „Change von und in Unternehmen“ beschäftige ich mich als Coach und Unternehmensberater seit 30 Jahren. Aus all den Erfahrungen habe ich die 5 Fallen des Changes für Scale-Ups definiert und gebe Tipps, wie sie vermieden bzw. bewältigt werden können.

Falle Nr. 1: Ein unpräzises unemotionales Zielbild

Motivation entsteht aus dem persönlichen Entdecken meines Lustgewinns oder meiner Schmerzvermeidung beim Erreichen des Zielbildes. Kenne oder verstehe ich das unternehmerische Zielbild des nächsten Jahres nicht, dann kann ich auch keine Motivation daraus entwickeln.

Der zählbare Erfolg des Unternehmens wird über die Mitarbeiter:innen an der Basis vorangetrieben, nicht vom C-Level. Wenn also diejenigen, die mit den Kunden Kontakt haben oder die, die Apps für die Kunden programmieren, nicht emotional vom Zielbild begeistert sind, arbeiten sie mehr für Geld (denn dort finden sie dann ihren minimalen Lustgewinn) und nicht, um das junge Unternehmen zu leuchtenden Höhen zu führen.

Lösung: Entwickle ein Zielbild für die Situation in einem, max. in zwei Jahren, das die Menschen im Unternehmen berührt und wo möglichst alle ihren Lustgewinn/ihre Begeisterung dafür finden können! Die Formulierung muss dabei nicht präzise und vollständig sein.

Das ist der Fehler, den die meisten machen. Sie formulieren ganze Absätze mit möglichst jeder Kleinigkeit, die zu erreichen ist und quetschen dadurch jede Fantasie und Emotion aus dem Bild. Es geht hier um ein klares Bild, das von allen im Unternehmen als Bild verstanden werden soll. Denn: Unser Gehirn denkt in Bildern und nicht in Worten.

Praxistipp: Entwerft euer Zukunftsszenario und lasst es von einigen ausgewählten Mitarbeit:innen challengen (ob es für sie klar ist und ob es für sie erstrebenswert erscheint). Wenn das Bild fertig ist, wird es von allen Führungskräften persönlich deren Teams präsentiert und mit ihnen besprochen. Die Führungskräfte sollten auch helfen, dass jede/r im Team den persönlichen Nutzen beim Erreichen des Bildes findet. (Frei nach Viktor Frankl: „In allem ist stets ein Sinn vorhanden, er muss jedoch von jedem Menschen selbst entdeckt werden“)

Falle Nr. 2: Zu wenig Präzision im Tracking der täglichen Fortschritte (nach dem Motto: „passt schon“)

Gerade im permanenten Krisenmanagement eines Scale-Ups hat das laufende Tagesgeschäft Vorrang. Ups – und wieder in die Falle getappt, diesmal massiv. Der Teufelskreis beginnt: Ich weiß nicht, was ich zum Erreichen des gemeinsamen Ziels beitragen kann. Ich bin aber begeistert und würde gerne was beitragen. Also mache ich mir Gedanken. Nein geht jetzt nicht, es gibt eine Anfrage. Ich sollte aber was beitragen, aber was? Ui eine neue Anfrage einer Kollegin. Usw.

Am Abend geht jede/r unbefriedigt aus dem Unternehmen, weil soviel zu tun war und mir im Stress nichts Konkretes eingefallen ist, was ich zum Ziel beitragen kann oder, weil ich nicht weiß, ob das, was ich beigetragen habe auch das ist, was hilft. Die meisten Scale-Ups haben ein OKR (Objectives and Key Results) System eingeführt, das dafür ideal wäre, aber aus meiner Sicht nicht sauber angewandt wird. Meist ist es mehr ein KPI (Key Performance Indicator – Zielerreichungs)-System als ein strategisches Umsetzungs-Tool.

Lösung: Jeder im Unternehmen hat eine tägliche(!) ToDo-Liste, wo der eigene Beitrag zum gemeinsamen Ziel definiert ist und wo sichergestellt ist, dass das der bestmögliche Beitrag innerhalb des Teams ist.

Wenn Stress da ist – und der ist ja immer da – und wenn im Change sich ständig was verändert, dann ist es wichtig, dass ich eine simplifizierte Klarheit meines Beitrags habe. Den arbeite ich zügig ab und voila, jetzt habe ich nicht nur ein gutes Gefühl, meinen Beitrag für heute schon geleistet zu haben, sondern auch noch viel Zeit für Kunden, Kolleg:innen und Unerwartetes.

Klingt simpel, ist es auch. Es braucht nur die Bereitschaft von allen im Team, dieses (saubere OKR) System aufzusetzen und die Einhaltung, bzw. notwendigen Anpassungen auch laufend vorzunehmen.

Praxistipp: Frage deine Mitarbeiter:innen, ob sie genau wissen, was sie zur Zielerreichung heute beitragen können. Wenn Unsicherheit besteht, legt die Tätigkeiten gemeinsam so präzise fest, dass ihr sie wie in einer Checkliste abhaken könnt. Merke: Ich kann heute nur erledigen, was ich mir heute vorgenommen habe, daher braucht eine Strategie Aktionen, die auch heute erledigt werden können, sonst wird die Strategie nie umgesetzt werden.

Falle Nr. 3: Es gibt aktuell gerade Wichtigeres oder Dringenderes zu tun

Das Unternehmen ist nun klar ausgerichtet mit einem emotionalen Bild, die täglichen Tätigkeiten sind festgelegt und jedem/r klar. Alle sind motiviert. Aber gerade jetzt ist was ganz Wichtiges reingekommen und die Geschäftsführung muss sich fokussiert darum kümmern. Rummms – die nächste Falle hat zugeschlagen.

80% der Changes gehen schief oder verlaufen im Sand, weil die Priorität bis zum Erreichen des Ziels nicht gnadenlos bei allen auf 1 gestanden ist. Meist beginnt das im C-Level („Der Change läuft ja eh recht gut, da können wir uns anderem widmen“).

Lösung: Der Change muss die oberste Priorität haben. Bevor andere Aufgaben erledigt werden, müssen die täglichen To-Dos im Change-Prozess bearbeitet sein. Das gilt auf allen Ebenen, vom CEO bis zu den einzelnen Teammitgliedern. Wenn der Wandel auf der Prioritätenliste nicht an erster Stelle steht, wird er im Alltag untergehen.

Meine Erfahrung dabei: wenn nur ein Teil im Unternehmen die Priorität nicht auf 1 hat, ist der Change nach recht kurzer Zeit im ganzen Unternehmen zu Ende. (ist wie ein Schimmel, der sich rasant ausbreitet. Je prominenter und höher in der Hierarchie der Schimmel startet, umso rascher die Ausbreitung).

Praxistipp: Einfordern der Prio 1 von sich selbst und allen anderen. Nach dem Motto: „heimgegangen oder Bildschirm im Homeoffice abgedreht wird erst, wenn die tägliche ToDo-Liste abgearbeitet wurde“. Disziplin ist aus meiner Erfahrung essentieller Baustein des Erfolges (siehe auch Jim Collins „From Good to Great“). Ich stelle Disziplin sicher, indem ich konsequent auf die Prio 1 aufmerksam mache und darauf bestehe. Das löst dann die Motivation „Schmerzvermeidung“ aus: Ich habe zwar heute keine Lust auf meine To-Dos, aber bevor ich mir die Diskussion mit meinem Vorgesetzten oder Kolleg:innen antue, mache ich es dann doch.

Falle Nr. 4: Mangelndes Ressourcen-Bewusstsein

„Den Willen hätt ich schon, allein mir fehlt der Glaube.“ Mephistopheles in Goethes Faust bringt’s auf den Punkt, wo es nach der Vermeidung der ersten drei Fallen dann doch noch scheitern kann.

Jetzt kommen wir zum Bereich „mentale Stärke“. Wir können nur das nutzen, was uns bewusst ist. Unsere selektive Wahrnehmung ist hier oft das Problem. Wir glauben, die (neue) Situation nicht meistern zu können, weil wir ja hier kaum eine oder gar keine Kompetenz haben. Und deshalb geben wir auf. Die gute Nachricht hier ist: Es ist (nur) eine Falle und kein echter Show-Stopper.

Lösung: Wir müssen uns unsere zur Verfügung stehenden Ressourcen bewusst machen. Sie miteinander teilen, aufschreiben, clustern und dann auswählen und anwenden. Je mehr wir für eine bestimmte Aufgabe finden, umso besser. Dazu haben wir: innere Ressourcen (das eigene Wissen, die Erfahrungen, die Talente, Glaubenssätze, Fähigkeiten etc.), interne Ressourcen (die inneren Ressourcen der Kolleg:innen im Team oder Unternehmen) und externe Ressourcen (Berater, Bench-Marks von anderen Unternehmen, Cloud Wissen, AI, etc.).

Praxistipp: Jede/r im Team schreibt für ein zu lösendes Thema die inneren Ressourcen auf. Dann tauschen alle deren Findings aus und überlegen noch welche externen Ressourcen hilfreich wären. Wieder möglichst viele finden! Danach wählen alle gemeinsam die besten Ressourcen aus und beschließen wie sie angewandt werden sollen. Hat in all meinen Projekten IMMER funktioniert, um den Change sehr gut weiter voranzutreiben!

Falle Nr. 5: Das Mindset als Killer

Was immer je von Menschenhand entstanden ist, war zu aller erst ein Mindset. Wenn also das Mindset von jemanden im Change z.B. lautet: „das wird eh nix“ oder „das schaffen wir nie“, dann stoppt dort der Change und schimmelt sich voran.

Lösung: Ein auf den Change ausgerichtetes Mindset soll formuliert werden. Ein kurzer Satz, den jede/r im Change täglich oftmals anwendet, um sich selbst und andere immer wieder auf das Ziel und den Glauben daran auszurichten. Es werden so unterstützende Glaubenssätze wie „Wir schaffen das gemeinsam“, „Jeder Schritt zählt“ oder „Wir lernen aus jedem Fehler“ geformt und gefestigt, die die neue Wirklichkeit erschaffen.

Praxistipp: Beginnend beim C-Level wird ein Master-Mindset festgelegt, das dann als Unternehmens-„Mantra“ für den Change angewandt wird. Parallel dazu ist es Aufgabe aller Führungskräfte, mit deren Mitarbeiter:innen in persönlichen Gesprächen zu helfen, deren Zugang zum Master-Mindset zu finden, bzw. eigene individuelle Mindsets zu finden, die helfen, im Change dranzubleiben.

Fazit: Die 5 Fallen sind in jedem Change aufgestellt und schnappen öfter zu, als man sich eingestehen möchte. Sie können mit den Tipps in diesem Artikel vermieden werden, bzw. kann man mit ihnen aus der Falle herauskommen. Diese Tipps anzuwenden, benötigt Zeit. Die dafür aufgewandte Zeit kommt x-fach wieder rein.

Jetzt gibt es noch zwei zusätzliche Fallen für jeden Change: 1: Ich habe keine Zeit („Ausrede, um die Bequemlichkeitszone nicht verlassen zu müssen“) oder 2: Da fang ich erst an, wenn ich es genau geplant habe (auch eine Ausrede – kein Change kann ausreichend genau geplant werden. Einfach loslegen und darauf vertrauen, dass jeder Prozess ein progressives Learning auslöst – siehe Mindset!)


Mit dem folgenden Download findest du eine Checkliste zu den 5 Fallen. Diese Change-Fallen-Vermeidungs-Checkliste sollte in allen 5 Punkten mit einem eindeutigen JA von JEDEM/R Mitarbeiter:in (inkl. Führungkräften) beantwortet werden, sonst startet dort der Change-Stopper. Dieses Vorgehen ist kein hoher Anspruch, sondern eine Notwendigkeit.

Hier ist dein ToDo für heute: Starte bei deinem Team und gehe mit jedem Teammitglied die Checkliste durch. Ist nur ein Checkpunkt kein JA, dann weißt du ja jetzt, was zu tun ist…

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie