08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot “Berufsinfomat” bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: “Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.”

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis “es können fehlerhafte Inhalte produziert werden” ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten “AMS-Algorithmus”, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
20.11.2024

Vier mentale Stärken für Founder:innen und deren Unternehmen

Coach Ferry Fischer verrät in seinem Gastbeitrag, welche vier Techniken Gründer:innen nutzen können, um ihre mentale Stärke aufzubauen.
/artikel/vier-mentale-staerken-fuer-founderinnen-und-deren-unternehmen
20.11.2024

Vier mentale Stärken für Founder:innen und deren Unternehmen

Coach Ferry Fischer verrät in seinem Gastbeitrag, welche vier Techniken Gründer:innen nutzen können, um ihre mentale Stärke aufzubauen.
/artikel/vier-mentale-staerken-fuer-founderinnen-und-deren-unternehmen
Ferry Fischer, Coach und Unternehmensberater (c) Ferry Fischer

Du siehst einen Golfprofi, wie er auf den letzten Löchern der finalen Runde ruhig und voller Konzentration den Fokus behält und das Turnier souverän gewinnt. Kann er das, weil er so talentiert ist oder weil er geheime Tricks kennt? Nein, er kann das, weil er sich selbst kennt und kontinuierlich seine mentale Fähigkeiten, die jede:r besitzt, entwickelt hat.

Selbstvertrauen kommt von Selbstbewusstsein. Je bewusster ich mir über meine Fähigkeiten und meine Schwachstellen bin (und natürlich auch, wie ich damit gut umgehen kann), desto mehr entwickle ich Vertrauen in mich selbst. Das ist ein Prozess stetiger Reflexion und Entwicklung.

Ich selbst halte mich für einen durchschnittlich talentierten Sportler und habe jeden Sport, den ich ausgeübt immer erst sehr spät begonnen. Dennoch war ich ehrgeizig und wollte was erreichen, also habe ich einen wichtigen Aspekt des Erfolges mehr entwickelt als die anderen. Die mentale Stärke. Und damit ist mir sowohl im Sport als auch im Beruf weit Überdurchschnittliches gelungen.

Hier stelle ich dir nun meine „Best Of Mental-Stärken“, bzw. Techniken vor, damit du auch davon profitieren kannst.

1. Resilienz: Der Umgang mit Rückschlägen

Im Sport ist Scheitern unvermeidbar – Golfer:innen, Tennisspieler:innen, etc. verlieren die allermeisten Turniere und gewinnen nur wenige. Mental starke Athlet:innen wissen: Eine Niederlage macht sie nicht zum Versager oder zur Versagerin, sondern gibt ihnen die Chance, zu lernen und zu wachsen.

Wichtig ist, dass ich weiß, dass ich es schaffen kann und von jeder Niederlage lerne. Unbeirrbar gehe ich meinen Weg, aber ich hinterfrage mich ständig und passe mich durch die Erfahrung des temporären Scheiterns an.

Wenn du im Golf den ersten Schlag gleich mal in den Wald schlägst und die Nerven bewahrst, mit dem Mindset „das braucht jetzt genau mich, um doch noch erfolgreich das Loch zu Ende zu spielen“, dann gibst du dem Erfolg eine gute Chance. Wenn du es dann schaffst, ist das Erfolgserlebnis umso größer. Schaffst du es nicht, dann nimmst du deine Learnings, gehst zum nächsten Loch und bist um ein Stück erfahrener, um mit einer ähnlichen Situation nun besser umzugehen (wie du das noch zwischen zwei Löchern schaffen kannst, zeige ich dir im Punkt 3).

Umsetzung für Founder:innen:

Lernperspektive einnehmen: Nach jedem Rückschlag bewusst analysieren: „Was lief gut? Was lief schlecht? Was lerne ich daraus?“ (am besten schriftlich, das verstärkt es noch) Fehlerkultur etablieren: Im Team kommunizieren, dass Fehler und Misserfolge ein natürlicher Teil des Wachstumsprozesses sind und Lessons Learned nach jedem Projekt etc. einfordern.

2. Klare Zielsetzung: Der Kompass zum Erfolg

Wenn ich mir etwas vorgenommen habe, dann habe ich nie aufgegeben (und schon gar nicht aus Frust oder Enttäuschung), war jedoch stets bereit, mich aufgrund der Erfahrungen anzupassen. Das heißt, entweder habe ich mein Tun angepasst, um das Ziel zu erreichen oder ich habe das Ziel nach einer strukturierten Analyse der Fakten verändert oder verworfen (das ist für mich kein Aufgeben, sondern eine wohl durchdachte und selbstreflektierte neue Entscheidung).

Manchmal öffnen sich Möglichkeiten, die du nie für möglich gehalten hast und die sich erst ergeben, weil du dran geblieben bist. Solange ich an meine Vision glaube und bereit bin, mich, den Weg und die Rahmenbedingungen stets zu hinterfragen, kann mich nichts aufhalten. Das Ziel ist das Ziel, der Weg muss sich dem Ziel anpassen und ich mich auch.

Umsetzung für Founder:innen:

Sei dir klar, was du mit deinem Unternehmen erreicht haben willst: Setze dir nun (Zwischen-)Ziele, die dich dorthin bringen werden, und verfolge sie. Wenn du diese Ziele nicht erreichst, dann passe an (Schritte, Methoden, Zwischenziele). Aber verliere nicht das visionäre Ziel aus den Augen! OKR als Methode hilft da besonders gut!

Miss es oder vergiss es: Damit wir uns den Fortschritt nicht schönreden, was sehr leicht geschieht, müssen wir messen und laufend anpassen. Aber nie das große Ziel aus den Augen verlieren. Was leicht geht: genießen und dann mehr davon. Was schwer geht, noch einmal probieren und dann hinterfragen! Mein Motto dabei: „Face the brutal facts!“

3. Mentale Visualisierung: Erfolg beginnt im Kopf

Dabei gibt es zwei Ausrichtungen:

1. Mentales Vorerleben: Du siehst das Erreichen des Ziels vor Augen. Oder den erfolgreichen Abschluss mit Investor:innen.

Es zahlt sich aus, im Unterbewusstsein das Erfolgserlebnis im Vorhinein auszulösen, um dein Selbstbewusstsein zu stärken und den Fokus auf Erfolg zu lenken. Kein:e Slalomläufer:in der Welt würde den Slalom in Angriff nehmen, ohne vorher den erfolgreichen Lauf visualisiert zu haben. Würde er/sie das nicht machen, wäre ein Ausscheiden wohl das sichere Ergebnis.

Ich stelle mir vor schwierigen Gesprächen immer vor, wie das Gespräch zur Zufriedenheit beider gut endet. Nicht, wie es verläuft, denn das ist egal, Hauptsache es endet gut. Wenn dann das Gespräch oder die Verhandlung eine komische Richtung einnimmt, dann sage ich mir: „Interessant, wie sich das gerade entwickelt. Gut dass ich weiß, wie es ausgeht!“. Mit dieser Technik ist ein Erfolg nicht garantiert, aber die Erfolgswahrscheinlichkeit steigt enorm.

2. Mentales Umerleben: Das Gehirn unterscheidet nicht zwischen real und imaginär Erlebtem. Es speichert beides als Erfahrung ab. Das können wir uns zu Nutze machen.

Wenn also etwas schief gelaufen ist, dann setze dich hin und erlebe die Situation so, wie sie optimal hätte verlaufen sollen. Spiele die Situation ideal durch und speichere so einen Erfolg ein, an den sich dein Unterbewusstsein dann in der nächsten ähnlichen Situation erinnern wird.

Umsetzung für Founder:innen:
Vorbereitung durch Visualisierung: Stelle dir vor einem Pitch oder einem schwierigen Gespräch vor, wie du souverän auftrittst und dein Ziel erreichst. Mentales Umerleben durchspielen: Nimm jeden Misserfolg her, analysiere, was schief gelaufen ist und wie du es hättest besser oder ideal machen können und spiele dann die Situation mit der Idealversion durch. Nimm die Erfolgsgefühle dabei war, das steigert noch den Effekt.

4. Selbstdisziplin: Die Kunst der konstanten Umsetzung flexibler Planung

Erfolg ist immer das Ergebnis des Tuns. Du kannst daher den Erfolg nicht machen, sondern nur ermöglichen. Machen kannst du aber deinen täglichen Beitrag. Daher überlege dir, was du jeden Tag ganz konkret tun kannst, um deinen gewünschten Erfolg zu schaffen. Setze dir Zwischenziele, um zu überprüfen, ob du den erwünschten Fortschritt erreichst. Erreichst du den Fortschritt nicht, dann überlege, ob das Ziel richtig gewählt ist und/oder ob das tägliche Tun ausreicht und passe bei Bedarf an.

Jetzt ist es wichtig, den täglichen Zweifel auszuschalten. Einmal in der Woche oder alle zwei Wochen darf angepasst werden. Täglich wird getan und abgehakt. Das funktioniert! Alleine durch das tägliche Abarbeiten des Plans deines eigenen Beitrags entsteht ein Erfolgserlebnis, das dich vorantreibt.

Wie ich mit Hockey im Alter von 21 Jahren begonnen habe und mir zum Ziel gesetzt habe, es in die erste österreichische Liga zu schaffen, war mir klar, dass mir technisch nahezu jeder Hockeyspieler, der von Kindheit an trainiert hat, überlegen sein wird. Was ich aber tun kann, war meine mentale Stärke und meine körperliche Kondition mehr zu entwickeln, als die anderen. Ich hatte einen genauen Plan für beides und nach 10 Jahren hatte ich es geschafft. Um die Zeit war ich sogar den österreichischen Nationalspielern, mit denen ich einmal trainiert habe, konditionell und mental überlegen. Ich habe in dieser Zeit jede Woche nach einem Plan trainiert und diese Pläne laufend nach meinen Fortschritten und Rückschritten angepasst. Heute würde man sagen, ich habe nach OKR trainiert. Das gab es damals aber noch nicht als Begriff.

Umsetzung für Founder:innen:
Routinen etablieren: Plane deinen täglichen Beitrag zum Erfolg und halte dich an diese Struktur. Überlegt anpassen: Passe deinen Plan nur in ruhigen Momenten an, nicht wenn unter der Woche Frust oder Zweifel aufkommen. Alles braucht seine Zeit, sich zu entwickeln und daher ist es wichtig, Pläne in Ruhe und überlegt zu erstellen und anzupassen. Wenn es aber keine messbare Entwicklung gibt, dann ist es auf jeden Fall Zeit, anzupassen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie