08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
vor 12 Stunden

KOKUYO-Manager:“Der innovativste Raum ist nicht der technisch fortschrittlichste“

Das japanische Unternehmen KOKYUO denkt Arbeitsumgebungen seit mehr als 120 Jahren vom Menschen her, nicht vom Schreibtisch. Im schriftlichen Interview spricht Kentaro Imai, Global Marketing Division von Kokuyo, über Life-Based Working, die Rolle von Brückenbauern zwischen Innovationsökosystemen und darüber, was österreichische und japanische Organisationen voneinander lernen können.
/artikel/interview-kokuyo
vor 12 Stunden

KOKUYO-Manager:“Der innovativste Raum ist nicht der technisch fortschrittlichste“

Das japanische Unternehmen KOKYUO denkt Arbeitsumgebungen seit mehr als 120 Jahren vom Menschen her, nicht vom Schreibtisch. Im schriftlichen Interview spricht Kentaro Imai, Global Marketing Division von Kokuyo, über Life-Based Working, die Rolle von Brückenbauern zwischen Innovationsökosystemen und darüber, was österreichische und japanische Organisationen voneinander lernen können.
/artikel/interview-kokuyo
Kentaro Imai leitet die Global Marketing Division von Kokuyo | (c) Kokuyo

Wenn über die Zukunft der Arbeit gesprochen wird, geht es meist um Technologie. Bei KOKUYO geht es zuerst um den Menschen. Das japanische Unternehmen wurde im Oktober 1905 in Osaka gegründet, damals als kleiner Betrieb, der Umschläge für Rechnungsbücher herstellte. Daraus wurde über 120 Jahre hinweg ein Konzern, der Schreibwaren, Büromöbel, Raumgestaltung und Beratung verbindet. Im Alltag bekannt ist KOKUYO vor allem durch die Campus-Notizbücher, die seit 1975 zum Standard in japanischen Schulen und Büros gehören.

Prägender für die Arbeitswelt-Debatte ist allerdings ein anderer Strang der Firmengeschichte: KOKUYO nutzt die eigenen Büros seit Jahrzehnten als Labor. Bereits 1969 machte das Unternehmen sein damals neues Headquarter öffentlich zugänglich und startete damit die Live-Office-Initiative. 2021 folgte The Campus im Tokioter Stadtteil Shinagawa, wo Teile des Bürogebäudes für die Nachbarschaft geöffnet wurden, samt Park, Shop und Coffee Stand. Im Mai 2026 eröffnete KOKUYO in Osaka ein neues globales Headquarter, ebenfalls als offener Experimentierraum angelegt.

Dazu kommt die Forschungsseite: Das hauseigene Workstyle Research Lab stützt sich auf eine jährliche globale Befragung von rund 5.000 Personen sowie auf Arbeitsplatzforschung in 30 Ländern und an mehr als 1.000 Standorten.

Wie KOKUYO dieses Denken auf europäische Märkte überträgt, verantwortet Kentaro Imai. Als General Manager der Global Marketing Division im Global Workplace Business ist er erster Ansprechpartner für Hersteller und Händler in Europa und Nordamerika. Was Life-Based Working bedeutet, warum es Brückenbauer zwischen den Innovationsökosystemen braucht und was sich Österreich und Japan gegenseitig abschauen können, erzählt Imai hier im Interview.


brutkasten: Herr Imai, was bedeutet es bei KOKUYO, an der Zukunft zu arbeiten?

Für uns bedeutet es nicht, eine einzige, endgültige Zukunft vorherzusagen. Es bedeutet, mögliche Zukünfte so greifbar zu machen, dass Menschen sie über ihre eigene Neugier erfahren können.x

Bei unseren Produkten heißt das, über den Gegenstand hinauszudenken. Ein Sessel ist nicht nur ein Sessel, er kann Bewegung, Konzentration, Interaktion und Wohlbefinden beeinflussen. Bei unseren Räumen heißt es, Umgebungen zu gestalten, die sich mitverändern, wenn sich Tätigkeiten und Erwartungen der Menschen verändern. In unseren Teams heißt es: Menschen genau beobachten, empathisch zuhören, Ideen prototypisch bauen und aus dem lernen, was tatsächlich passiert.

Unsere Büros, Forschungseinrichtungen und Räume wie The Campus funktionieren deshalb als lebende Labore. Wir testen neue Verhältnisse zwischen Arbeit, Leben, Lernen, Gemeinschaft und Technologie in realen Situationen, statt sie nur theoretisch zu diskutieren. Unser Anspruch ist es, ein Morgen zu zeigen, auf das man nicht warten will. Das verlangt Neugier, Experimentierfreude und den Mut, Zukunft sichtbar zu machen, bevor jede Antwort feststeht.

Bild: Bürosessel ingCloud, ausgezeichnet mit dem Red Dot: Best of the Best 2026 | © KOKUYO

Wie prägen „Be Unique“ und Life-Based Working das Zukunftsverständnis von KOKUYO?

„Be Unique“ beginnt mit der Überzeugung, dass Individualität eine Wertquelle ist und nichts, was Organisationen wegstandardisieren sollten.

Menschen haben unterschiedliche Körper, Persönlichkeiten, Verantwortlichkeiten, kulturelle Hintergründe, Arbeitsrhythmen und Denkweisen. Life-Based Working bedeutet, bei diesen Realitäten des menschlichen Lebens anzusetzen, statt bei den traditionellen Annahmen des Büros.

Statt den einen idealen Arbeitsplatz zu entwerfen oder die eine richtige Art zu arbeiten vorzuschreiben, schaffen wir Ökosysteme der Wahlmöglichkeiten. Menschen brauchen Orte für konzentriertes Arbeiten, für Zusammenarbeit, für Gespräche, für Lernen, für Erholung, für Bewegung und für soziale Verbindung. Und sie brauchen die Autonomie, jene Umgebung zu wählen, die zu ihrem jeweiligen Vorhaben passt.

Gleichzeitig darf Individualität nicht Isolation bedeuten. KOKUYOs langfristige Vision ist eine selbstbestimmte, kooperative Gesellschaft: eine, in der Menschen ihre Einzigartigkeit ausdrücken können, andere respektieren und gemeinsam neuen Wert schaffen. Die Zukunft der Arbeit sollte den Menschen also mehr Handlungsspielraum geben und zugleich ihre Beziehungen zu Kolleginnen und Kollegen, zu Communities und zur Gesellschaft stärken.

Wie wichtig sind Brückenbauer zwischen Kulturen und Innovationsökosystemen?

Sie sind unverzichtbar, weil Ideen sich nicht einfach von einem Land in ein anderes kopieren lassen. Sie müssen übersetzt werden, nicht nur sprachlich, sondern kulturell und organisatorisch, hinein in den Kontext der jeweiligen Community.

Ein Konzept, das in Japan funktioniert, muss für Österreich oder einen anderen europäischen Markt womöglich neu gerahmt werden. Erwartungen an Hierarchie, Entscheidungsfindung, Privatsphäre, Zusammenarbeit, Risiko und individuelle Autonomie können sich unterscheiden. Brückenbauer helfen beiden Seiten zu verstehen, welche menschlichen Bedürfnisse universell sind und welche Annahmen lokal geprägt.

Büro als soziale Infrastruktur: In The Campus treffen KOKUYO-Mitarbeitende auf Gäste, Anrainerinnen und Anrainer. Für Imai entsteht Innovation genau in solchen Begegnungen. | © KOKUYO

Sie verbinden außerdem Organisationen, die einander sonst nie begegnen würden: etablierte Unternehmen, Startups, KMU, Forschende, Designerinnen und Designer, Verwaltungen, Bildungseinrichtungen und lokale Communities. Organisationen wie We Are Unicorns, CIC und Venture Café liefern dafür die Beziehungen und die gemeinsame Sprache.

KOKUYO hat ein wachsendes internationales Netzwerk. Unser Ziel sollte aber nie sein, eine japanische Lösung zu exportieren oder eins zu eins zu übersetzen. Die eigentliche Chance liegt darin, japanisches Wissen mit lokaler europäischer Erfahrung zu verbinden und gemeinsam etwas zu entwickeln, das keine der beiden Seiten allein hervorgebracht hätte.

Warum sind physische Begegnungsorte für Innovation wichtig?

Digitale Technologie erlaubt Kommunikation über enorme Distanzen. Aber Kommunikation allein erzeugt nicht automatisch Vertrauen, Zugehörigkeit oder Zusammenarbeit.

Innovation beginnt oft mit Beobachtung, informellen Gesprächen, unerwarteten Begegnungen und Co-Creation. Menschen bemerken etwas, tauschen Perspektiven aus, fordern einander heraus und entwickeln nach und nach das Zutrauen, gemeinsam zu experimentieren. Physische Orte schaffen die Bedingungen dafür.

The Campus ist deshalb mehr als ein Showroom oder ein Büro. Es ist ein Experimentierfeld für die Zukunft von Arbeit, Leben und Lernen. Indem Teile des Arbeitsplatzes für die Nachbarschaft geöffnet werden, begegnen einander Mitarbeitende, Gäste, Kreative und Anrainerinnen und Anrainer auf andere Weise.

Wir verstehen solche Räume als soziale Infrastruktur. Ihr Zweck ist nicht, Menschen unterzubringen, sondern Neugier, Beteiligung und neue Beziehungen zu ermöglichen. Der innovativste Raum ist nicht zwangsläufig der technisch fortschrittlichste. Es ist jener, in dem Menschen, die einander sonst nie treffen würden, beginnen, gemeinsam etwas zu denken und zu bauen.

The Campus in Tokio-Shinagawa: KOKUYO hat einen Teil des eigenen Firmengeländes in einen offenen Park mit Shop und Coffee Stand verwandelt, der allen zugänglich ist. | © KOKUYO

Wie wichtig sind internationale Zusammenarbeit und das Lernen von anderen Perspektiven?

Internationale Zusammenarbeit ist keine Zusatzaktivität am Rand von Innovation. Sie wird zu einer ihrer zentralen Voraussetzungen.

Die Zukunft der Arbeit wird in Tokio, Wien, Mumbai, Shanghai oder Sydney nicht dieselbe sein. Demografie, Wohnen, Mobilität, Technologie, Führungspraktiken und gesellschaftliche Erwartungen prägen, wie Menschen Arbeit und Leben erfahren.

Seit 2021 öffnet KOKUYO Teile seiner Tokioter Zentrale für die Nachbarschaft. Die Live-Office-Idee, eigene Büros als Versuchsfläche zu nutzen, verfolgt das Unternehmen seit 1969. | © KOKUYO

Unser Workstyle Research Lab stützt sich auf eine jährliche globale Befragung von rund 5.000 Personen und auf Arbeitsplatzforschung in 30 Ländern und an mehr als 1.000 Standorten. Das hilft uns, Muster zu erkennen. Es erinnert uns aber auch daran, dass es weder den einen globalen Mitarbeiter noch die eine universelle Arbeitsplatzlösung gibt.

Internationale Kooperation erlaubt uns, die eigenen Annahmen infrage zu stellen. Manchmal hilft eine andere Kultur dabei, etwas wieder zu sehen, das man selbst längst nicht mehr wahrnimmt, weil es normal geworden ist. Unsere Aufgabe ist deshalb nicht, die eine globale Best Practice zu bestimmen und überall zu wiederholen. Sie besteht darin, einen globalen Lernprozess zu schaffen: Evidenz teilen, Ideen lokal testen und Lösungen gemeinsam mit jenen anpassen, die sie am Ende nutzen.

Was können österreichische und japanische Organisationen voneinander lernen?

Wir sollten aufpassen, keines der beiden Länder auf ein Klischee zu reduzieren. Dennoch gibt es einander ergänzende Stärken, aus denen sich wertvolle Lernprozesse ergeben können.


Mehr über We Are Unicorns

We Are Unicorns wurde von Marie-Therese Barth und Florian Moosbeckhofer in Wien gegründet. Die beiden arbeiteten zuvor knapp sieben Jahre lang gemeinsam in der Wirtschaftskammer Österreich im Digitalisierungsbereich, unter anderem an der Innovation Map. Ihr Unternehmen versteht sich als „Innovationsabteilung as a Service“ für kleine und mittlere Unternehmen, die für aufwendige Strategieprozesse meist weder Zeit noch eigene Ressourcen haben.

Kern des Angebots ist der Future Radar, ein kostenfreies digitales Werkzeug, das Betrieben 55 konkrete Chancen für den eigenen unternehmerischen Erfolg aufzeigt. Ein eigens entwickelter KI-Assistent ordnet die Themen ein und leitet daraus nächste Schritte für das jeweilige Unternehmen ab. Mehr dazu im brutkasten-Talk: „Lust auf Zukunft machen“: Wie We Are Unicorns KMU unterstützen will

Tipp der Redaktion:

Wer sich selbst ein Bild von KOKUYO Zugang zur Arbeitswelt machen will, hat dazu im Herbst Gelegenheit: Der japanische Konzern stellt auf der Orgatec aus, der internationalen Leitmesse für Arbeits- und Objekteinrichtung, die von 27. bis 30. Oktober 2026 in Köln stattfindet. Die Messe steht heuer erstmals unter einem Leitthema, „From rooms to relationships“, und rückt damit die Beziehungen zwischen Menschen im Arbeitsumfeld in den Mittelpunkt.

Disclaimer: Dabei handelt es sich um eine Themenpartnerschaft, die Teil des brutkasten-Magazins „Aufbrechen“ ist – in Kooperation mit WeAreUnicorns.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie