08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
19.11.2026

First Circle Capital: Österreichische Gründerin schließt 26-Mio.-Dollar-Fonds für afrikanische Fintechs ab

Viele afrikanische Fintechs haben Schwierigkeiten haben, früh an Kapital zu kommen. Eine österreichische Gründerin will diese Finanzierungslücke schließen: Co-Founderin Agnes Aistleitner Kisuule hat mit First Circle Capital einen 26-Millionen-Dollar-Fonds aufgestellt, der junge Finanztechnologie-Unternehmen in Afrika unterstützt.
/artikel/first-circle-capital-oesterreichische-gruenderin-schliesst-26-mio-dollar-fonds-fuer-afrikanische-fintechs-ab
19.11.2026

First Circle Capital: Österreichische Gründerin schließt 26-Mio.-Dollar-Fonds für afrikanische Fintechs ab

Viele afrikanische Fintechs haben Schwierigkeiten haben, früh an Kapital zu kommen. Eine österreichische Gründerin will diese Finanzierungslücke schließen: Co-Founderin Agnes Aistleitner Kisuule hat mit First Circle Capital einen 26-Millionen-Dollar-Fonds aufgestellt, der junge Finanztechnologie-Unternehmen in Afrika unterstützt.
/artikel/first-circle-capital-oesterreichische-gruenderin-schliesst-26-mio-dollar-fonds-fuer-afrikanische-fintechs-ab
First Circle Capital
Agnes Aistleitner Kisuule I © zVg

Agnes Aistleitner Kisuules Weg führte 2019 nach Uganda. Dort bemerkte sie, dass sich am afrikanischen Kontinent einiges Spannendes im Fintech-Bereich tut, aber nicht genug „early stage“-Kapital zur Verfügung steht. So gründete sie gemeinsam mit der Angel-Investorin Selma Ribica (Unicorn Qonto in Frankreich und Lieferservice Dash in Ghana) und Robert Smith First Circle Capital, einen Fintech-Fonds. Unterstützt wurde sie u. a. von Michael Ströck (Calm/Storm Ventures), PSPDFKit- und OpenClaw-Gründer Peter Steinberger, Hermann Futter und Oskar Obereder. – brutkasten berichtete. Die von den beiden Frauen geführte Investmentgesellschaft unterhält Standorte in Kampala, Nairobi, Casablanca und Kapstadt.

First Circle Capital: Finales Closing

„Wenn man heute auf afrikanische Märkte blickt, zeigen sich spannende Entwicklungen vor allem in Ländern wie Südafrika, Ägypten und Marokko sowie punktuell in Subsahara-Afrika“, erzählte Aistleitner Kisuule gegenüber brutkasten noch im Juli 2026 zur KI-Thematik in Afrika. „Allerdings gibt es insgesamt noch zu wenig Aktivitäten und vor allem deutlich weniger Kapital als in Europa“. Damals schon meinte sie, dass es im Fintech-Bereich etwas besser aussehe.

Nun vermeldet die gebürtige Österreicherin das Final Closing ihres ersten Fonds, First Circle Africa Fund I, in Höhe von 26 Millionen US-Dollar. Der auf Finanztechnologie spezialisierte Fonds investiert in afrikanische Startups in der Frühphase, die innovative Finanzprodukte, digitale Dienstleistungen und technologische Infrastruktur für die nächste Generation des afrikanischen Finanzsektors entwickeln.

„Als österreichische Unternehmerin sehe ich im afrikanischen Technologiesektor ein enormes Potenzial, das für Europa und die Weltwirtschaft zunehmend an Bedeutung gewinnt. Besonders beeindruckt mich, wie Gründerinnen und Gründer mit innovativen Technologien konkrete wirtschaftliche und gesellschaftliche Herausforderungen lösen – vom Zugang zu Krediten und Versicherungen bis hin zum Aufbau moderner Finanzinfrastruktur“, erklärt Aistleitner Kisuule. „Afrika bietet aus meiner Sicht außergewöhnliche Chancen für langfristig orientierte Investoren. Mit First Circle Capital wollen wir dazu beitragen, dass aus vielversprechenden technologischen Innovationen nachhaltige, international wettbewerbsfähige Unternehmen entstehen.“

Pre-Seed- und Seed-Phase

Mit Africa Fund I konzentriert sich First Circle Capital auf Investitionen in Unternehmen in der Pre-Seed- und Seed-Phase. Der Fonds verfolgt eine spezialisierte Investmentstrategie in sechs zentralen Fintech-Bereichen: InsurTech, alternative Kreditmodelle, Interoperabilität und Finanzinfrastruktur, Climate-Fintech, Fintech-Software-as-a-Service (SaaS) sowie RegTech.

Die Investmentthese von First Circle Capital, die das Unternehmen als „FinTech 2.0“ bezeichnet, baut auf der ersten Wachstumswelle afrikanischer Zahlungsdienstleister und Kreditplattformen auf. Im Mittelpunkt steht die nächste Innovationsphase des Finanzsektors: ein breiterer Zugang zu Krediten und Versicherungen, leistungsfähigere Finanzinfrastruktur, effizientere digitale Geschäftsprozesse und die bessere Einhaltung regulatorischer Anforderungen.

Ein zunehmend wichtiger Bestandteil dieser Strategie seien sogenannte KI-native Fintech-Unternehmen. Dabei handelt es sich um Startups, die Künstliche Intelligenz, Automatisierung und datengetriebene Prozesse von Anfang an in ihre Geschäftsmodelle integrieren. Dadurch sollen die Kosten für Finanzdienstleistungen gesenkt, effizientere Produkte entwickelt und deutlich größere Kundengruppen erreicht werden.

„Erhebliche Lücken“

„Trotz des außergewöhnlichen Wachstums des afrikanischen Fintech-Sektors in den vergangenen zehn Jahren bestehen weiterhin erhebliche Lücken, insbesondere beim Zugang zu Finanzdienstleistungen, bei der Interoperabilität, der digitalen Infrastruktur und der Verfügbarkeit spezialisierter Finanzprodukte“, sagt Aistleitner Kisuule. „Wir sehen enormes Potenzial darin, Gründerinnen und Gründer zu unterstützen, die genau diese Herausforderungen angehen: indem sie Zahlungen günstiger machen, den Zugang zu Krediten und Versicherungen erweitern, Betrugsprävention und Risikomanagement stärken, Finanzprozesse durch Software effizienter gestalten und innovative Finanzierungslösungen für Branchen wie Landwirtschaft und Energie entwickeln. Africa Fund I ermöglicht es uns, solche Unternehmen frühzeitig zu identifizieren und sie auf ihrem Weg zu führenden Akteuren des afrikanischen Finanzsektors zu begleiten.“

First Circle Capital investiert dabei in ganz Afrika, darunter Kenia, Nigeria, Südafrika, Ägypten, Marokko, Uganda, Ghana und das frankophone Afrika. Zu den Investoren von First Circle Africa Fund I zählen IFC, Bpifrance, MSMEDA, Axian, der Dutch Good Growth Fund, Stellar Foundation und FSD Africa.

In 18 Unternehmen investiert

First Circle Capital hat bereits in 18 Unternehmen in verschiedenen afrikanischen Märkten investiert. Zu den Portfoliounternehmen gehört unter anderem TurnStay, ein südafrikanisches Travel-Fintech-Unternehmen, das grenzüberschreitende Zahlungsinfrastruktur für internationale Reiseanbieter entwickelt. Das marokkanische Unternehmen WafR digitalisiert Transaktionen und Zahlungen über lokale Einzelhandelsgeschäfte, während Scale als Card-as-a-Service-Infrastrukturanbieter Unternehmen und Fintechs die Einführung eigener Kartenprodukte ermöglicht. Mit Orca Fraud ist zudem ein KI-natives Unternehmen im Portfolio vertreten, das Technologien zur Betrugsprävention für Finanzinstitute entwickelt.

Weitere Investments umfassen Opareta, einen Anbieter von SaaS- und Datenlösungen für das Management von Mobile-Money-Agentennetzwerken, sowie Balad, den regulierten Anbieter von Infrastruktur für internationale Geldüberweisungen in Ägypten. Hinzu kommt Power, ein Unternehmen, das großen afrikanischen Banken Lösungen bietet, mit denen Beschäftigte vorzeitig auf bereits verdientes Gehalt zugreifen können.

First Circle Capital mit zusätzlicher Unterstützung

Neben der Bereitstellung von Kapital unterstützt First Circle Capital seine Portfoliounternehmen aktiv in entscheidenden Wachstumsphasen. Dazu gehören der Zugang zu Anschlussfinanzierungen, strategischen Investoren, Geschäftspartnerschaften und neuen Geschäftsmöglichkeiten. Mehrere Portfoliounternehmen bereiten sich mittlerweile auf eine Series-A-Finanzierungsrunde vor, heißt es per Aussendung.

Selma Ribica, Mitgründerin und Managing Partner von First Circle Capital, erklärt: „Africa Fund I basiert auf einer klaren Überzeugung: Die nächste Generation führender afrikanischer Fintech-Unternehmen wird aus jenen Unternehmen hervorgehen, die strukturelle Herausforderungen lösen, welche den Zugang zu Finanzdienstleistungen auf dem Kontinent weiterhin einschränken“, sagt sie.

Und ergänzt: „Besonders spannend finden wir die Entstehung KI-nativer Fintech-Unternehmen. Gründerinnen und Gründer haben heute die Möglichkeit, Finanzunternehmen vom ersten Tag an auf Automatisierung, künstlicher Intelligenz und Software aufzubauen. Das kann die Wirtschaftlichkeit von Finanzdienstleistungen in afrikanischen Märkten grundlegend verändern. Wir möchten diese Unternehmen bereits in ihren frühesten Entwicklungsphasen identifizieren und ihre Gründerinnen und Gründer beim Wachstum eng begleiten.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie