08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
03.07.2026

Warum die internationalen Krypto-Player in Wien bei Manuel Gahns Lumia landen

Vor drei Jahren mit dem Startup House gestartet betreibt Manuel Gahn mit Lumia mittlerweile zwei Standorte, mehrere Geschäftszweige und einen besonderen Fokus auf internationale Krypto-Unternehmen. Im Interview erzählte er uns mehr dazu.
/artikel/warum-die-internationalen-krypto-player-in-wien-bei-manuel-gahns-lumia-landen
03.07.2026

Warum die internationalen Krypto-Player in Wien bei Manuel Gahns Lumia landen

Vor drei Jahren mit dem Startup House gestartet betreibt Manuel Gahn mit Lumia mittlerweile zwei Standorte, mehrere Geschäftszweige und einen besonderen Fokus auf internationale Krypto-Unternehmen. Im Interview erzählte er uns mehr dazu.
/artikel/warum-die-internationalen-krypto-player-in-wien-bei-manuel-gahns-lumia-landen
Manuel Gahn und Lena Manzenreiter | (c) Lumia
Manuel Gahn und Lena Manzenreiter | (c) Lumia

Eine ganze Reihe internationaler Krypto-Anbieter baut bekanntlich seine EU-Hauptquartiere in Wien auf. Während Player wie Bybit EU, KuCoin EU oder zuletzt WhiteBit EU dank Erhalt der MiCAR-Lizenz bereits offiziell die Arbeit aufgenommen haben, müssen andere vorerst unter dem Radar bleiben.Nicht weniger als fünf dieser Player, KuCoin EU, WhiteBit EU und drei weitere, die noch nicht genannt werden dürfen, haben sich an den beiden Standorten des Wiener Office-Space-Unternehmens Lumia angesiedelt. Das wiederum befindet sich aktuell in der nächsten Expansionsphase, nachdem nach dem Start mit dem Startup House vor drei Jahren bereits 2024 ein zweiter Standort eröffnet wurde.

Dabei setzt man nicht nur auf internationale Krypto-Unternehmen. Kürzlich hat Lumia-Gründer Manuel Gahn mit Lena Manzenreiter als neue Head of Ecosystem & EUHQ eine Verantwortliche für diese internationalen Ansiedlungen an Bord geholt, die auch als Ansprechpartnerin für Partnerorganisationen wie Wirtschaftsagentur Wien, FFG, GIN, WKO, und DAAA fungiert. Im Interview erzählte uns Gahn über die besondere Position von Lumia im Krypto-Bereich, die Anforderungen, die man dafür erfüllt und die Strategie, die dahinterliegt.


brutkasten: Wie hat sich Lumia seit dem Start mit dem Startup House vor einigen Jahren entwickelt? Wo steht ihr gerade?

Manuel Gahn: Mit dem Startup House haben wir vor gut drei Jahren angefangen. Wir sind wirklich zu diesem physischen Ankerpunkt der Wiener Startup-Szene geworden, vor allem auch als Community Place. Etwas unbeabsichtigt hat sich ja auch das hocherfolgreiche Geschäftsmodell der Event-Venues entwickelt, wobei wir hier mit Loft und Prisma zwei Standorte haben. All das ist im Lumia-Ökosystem gebündelt. Wir haben zudem gemerkt, dass es sich bei unseren Coworkern mittlerweile auch über das Startup-Segment hinaus entwickelt hat. Mit unseren Serviced Offices ziehen wir auch größere Firmen an – beispielsweise Dyson und Uber.

Prisma fungiert bei Lumia als Event-Venue | (c) Lumia

Hat sich das auch auf euer Angebot ausgewirkt?

Ja, wir haben gemerkt, dass wir in Premium Serviced Offices expandieren können. Vor gut eineinhalb Jahren kam dann die Ansiedlung von KuCoin Europe, die dann den Prozess begonnen haben, sich für die MiCAR-Lizenz zu bewerben. Das war für uns eine neue Herausforderung, aber auch sehr spannend. Mit dem chinesischen Markt war ich davor schon ein bisschen in Berührung, weil ich in Hongkong studiert habe. Auch mit dem chinesischen Eigentümern konnte ich dementsprechend etwas besser umgehen als vielleicht andere Spaces in Wien.

Und mittlerweile seid ihr im Krypto-Segment aber noch deutlich weiter gewachsen…

Ja, wir sind wieder in der Expansion, weil wir mittlerweile so viel Nachfrage und volle Büros haben. Insbesondere mit dem Fokus auf zukünftige sogenannte CASPs, also Crypto Asset Service Providers. Das sind jetzt nicht nur Krypto-Player und Krypto-Börsen selbst, sondern auch zum Beispiel Stablecoin-Unternehmen, die sehr strenge regulatorische Vorschriften und Vorgaben für die Office Compliance haben, mit der Finanzmarktaufsicht als sehr kompetenter Regulatorin. Die Fragen für die Büro-Requirements sind zwar komplex, aber für alle die gleichen und die haben wir mittlerweile am besten ausgearbeitet. Zwei unserer Unternehmen haben diesen Prozess bereits geschafft und weitere drei sind aktuell dabei.

Du hast KuCoin EU schon erwähnt. Die zweiten, die diesen Prozess geschafft haben, darfst du auch nennen…

Ja, KuCoinEU ist an unserem zweiten Standort in der Tribüne, wo auch das Prisma als Konferenzzentrum läuft. Im Startup House ist im Frühjahr Whitebit EU eingezogen und hat letzte Woche die MiCAR-Lizenz bekommen. Die drei weiteren Unternehmen darf ich noch nicht nennen, weil sie gerade im Lizenz-Prozess sind. Aber auch die sind bereits in Office-Größen von 5 bis 20 Leuten und arbeiten sehr stark an ihrer Compliance, um die Lizenzen zu bekommen. Da wird es in den nächsten paar Wochen noch neue Announcements geben.

Mit was überzeugt ihr die Krypto-Unternehmen? Warum kommen alle zu euch?

Es sind nicht alle bei uns. Bybit EU, die wohl größte Wette auf Österreich, etwa nicht. Ich weiß von sieben oder acht, die diese Prozesse haben, und fünf davon sind hier. Natürlich ist es die starke Flexibilität, anfangs ein kleines Team zu haben und bei uns wachsen zu können. Lumia zieht außerdem Wiens engagierteste Personen und Firmen an – viele davon jung und Expats. Im Krypto-Bereich liegt das auch an der Nähe zu Bitpanda. Viele Leute, die in diesen in MiCAR-Lizenzierungsprozessen steckenden Firmen angestellt sind, sind ehemalige Pandas und schätzen den Business Hub rund um die Krieau.

Die Bitpanda-Zentrale ist direkt gegenüber vom Startup House…

Ja. Und der größte Hebel ist letztlich das Netzwerk. Angefangen hat es bei KuCoin Europe mit Oliver Stauber, Christian Niedermüller, Christian Derler und so weiter. Keiner von denen ist jetzt noch dort und sie haben alle neue Arbeitgeber, die auch in diesen Lizenzprozessen sind. Sie alle sind bei uns geblieben.

Und so trifft sich dann das gesamte ehemalige Team bei euch wieder?

Lustigerweise ja. Sonst würde man sagen, wir sind im B2B-Business, also Lumia macht Office Business, aber eigentlich, nachdem wir einfach die besten Arbeitsplätze Österreichs anbieten, ist es ein bisschen ein B2C-Business. Vielleicht verändern sich die Arbeitgeber:innen von den Personen, aber die Personen wollen bei uns bleiben.

Du hast auch von regulatorischen Hürden gesprochen. Bei jenen davon, die das Office angehen, seid ihr am Zug. Kannst du mir da mehr erzählen?

Ja, die Office-Compliance hat sich als Quick Win für MiCAR-Applicants herauskristallisiert. Da geht es etwa darum, dass laut Vorschriften drei voneinander getrennte Bereiche für eine Krypto-Company nötig sind. Holding, Compliance-Team, Anti-Money-Laundering Officer, Anti-Terrorism-Financing und so weiter. Wie wird die Hot Wallet gestored? Wie sind die Access Logs? Wie gehen wir mit Umsatzsteuerschädlingen um? Wie werden Besucher:innen registriert? Gibt es ein High-Security-Zutrittskontrollsystem? Das ist das, was wir jetzt auch gerade wieder aufrüsten und nochmal verbessern. Wir brauchen etwa verstärkte Sicherheitstüren und Fenster mit einbruchsicheren Sichtschutzfolien. Es ist schon wirklich ein Aufwand, sich da zu spezialisieren. Die ersten ein, zwei Male waren nicht lustig, aber jetzt haben wir das perfektioniert.

Lumia stellt für seine Mieter spezielle Zugangssysteme bereit | (c) Lumia

Damit wissen mittlerweile auch die Regulatoren, wenn sie für den sogenannten Office Visit “wiedermal” bei uns vorbeikommen, dass wir wissen, was zu tun ist. Ich will damit nicht sagen, dass es die Unternehmen leichter haben, die Lizenz zu bekommen und Office Compliance ist auch wirklich nur ein ganz kleiner Teil. Es sind genau dieselben strengen Regeln, die sie in anderen Immobilien auch haben. Nur wir können dabei unterstützen, weil wir in diesem konkreten Thema vermutlich europaweit am meisten Erfahrung haben.

Und ich nehme jetzt an, der Prüfer, der zum fünften Mal wegen der fünften Firma zu euch kommt, weiß dann schon, dass eure Fenster bruchsicher sind…

Zum Beispiel. Sie wissen auch, dass wir die WLAN-Netzwerke voneinander trennen, es komplett sichere Storage Archives gibt, die Zutrittskontrollen on-premise laufen und es Security-Kameras gibt. Zum Beispiel müssen alle Besucher:innen getrackt werden. Da gibt es dann eine Registrierung über unsere Rezeption. Die checkt sie ein und aus, prüft die IDs und teilt Visitor-Badges aus. Das haben wir wirklich zur Perfektion getrieben.

Jetzt Anfang Juli ist ein großes Thema natürlich, dass die MiCAR-Regelungen endgültig schlagend werden. Wie nimmst du das von deiner Position aus wahr?

Wir kriegen das gar nicht so viel mit, weil wir nicht im Tagesgeschäft involviert sind. Eine neue Firma hat morgen diesen Office Visit. Heute stellen wir auch gerade nochmal sicher, dass alle Systeme laufen, damit alles funktioniert. Nachdem es einmal aufgesetzt wurde, muss es dann ja immer funktionieren. Es ist schon auch lustig, wenn dann viele internationale Gäste hier sind.

Aber die Firmen siedeln sich unter anderem deswegen bei uns an, weil sie auch noch nicht wissen, was passiert, wenn sie abgelehnt werden. Da kann man keinen Fünf-Jahres-Vertrag mit vielleicht 400 Quadratmetern unterschreiben, wenn man nach sechs Monaten abgelehnt wird und keine Lizenz bekommt. Da sind Flex-Office-Lösungen eine sehr gute Lösung.

Ich stelle zum Ende nochmal eine klassische Ausblicksfrage: Du hast am Anfang des Interviews anklingen lassen, dass ihr weiter in der Expansionsphase seid. Und du hast gesagt, dass sich auch internationale Unternehmen abseits der Krypto-Branche wegen eines EU-Headquarters bei euch umsehen.

Wir sind jetzt gerade dabei, weitere 500 bis 1.500 Quadratmeter dazu zu mieten – das ist noch nicht ganz fix. Je nach Arbeitsplätzen und Conference Center kann das noch variieren oder auch noch viel mehr werden, falls noch mehr von diesen Firmen kommen. Was wir gemerkt haben: Es gibt zum Beispiel dank „Go Austria“ von GIN und FFG ziemlich viel Zuzug nach Wien als Basis für einen Markteintritt in Europa. Flexible Premium-Arbeitsplätze können hier natürlich auch von Wirtschaftsagentur Wien und ABA gut positioniert werden. Diese Firmen brauchen anfangs mal ein Virtual Office und expandieren dann womöglich auch auf Arbeitsplätze. Die wissen oft noch gar nicht, was genau deren Europe Entry Strategy sein wird.

Deswegen haben wir auch diese Marke „EUHQ by Lumia“ erfunden. Das können Finanzdienstleister oder Crypto Asset Service Provider sein, auf die wir aktuell unseren Fokus legen, weil es eben sehr schwer ist, denen zu genügen, und wir da den perfekten Product-Market-Fit gefunden haben. Aber es gibt auch andere, die in unserem Tech-Expat-Hub gerne einziehen würden.

Unsere Mitarbeiterin Lena Manzenreiter leitet die Expansion in dieses Geschäftsfeld. Sie wird viel im Ökosystem, mit der DAAA und mit der Wirtschaftsagentur Wien an neuen Initiativen arbeiten, um mit diesen internationalen White-Collar-Jobs neue Akzente zu setzen – um Wien als wichtigen Tech-Standort und Expansions Hub für Europa weiter zu etablieren.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie