08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
16.11.2026

Vom Autoleasing zur Wärmepumpe: Das Wiener Startup PlusMarie will Heimprojekte auf Raten möglich machen

Zwei ehemalige WU-Absolventen wollen eine Lücke im österreichischen Finanzierungsmarkt schließen: Mit PlusMarie bringen Michael Bayer und Matthias Hausberger Banken und Leasinganbieter direkt mit Handwerksbetrieben zusammen. Das Startup setzt dabei auf individuelle Finanzierungslösungen für Projekte rund ums Eigenheim.
/artikel/vom-autoleasing-zur-waermepumpe-das-wiener-startup-plusmarie-will-heimprojekte-auf-raten-moeglich-machen
16.11.2026

Vom Autoleasing zur Wärmepumpe: Das Wiener Startup PlusMarie will Heimprojekte auf Raten möglich machen

Zwei ehemalige WU-Absolventen wollen eine Lücke im österreichischen Finanzierungsmarkt schließen: Mit PlusMarie bringen Michael Bayer und Matthias Hausberger Banken und Leasinganbieter direkt mit Handwerksbetrieben zusammen. Das Startup setzt dabei auf individuelle Finanzierungslösungen für Projekte rund ums Eigenheim.
/artikel/vom-autoleasing-zur-waermepumpe-das-wiener-startup-plusmarie-will-heimprojekte-auf-raten-moeglich-machen
PlusMarie
Michael Bayer (l.) und Matthias Hausberger von PlusMarie. I © PlusMarie

Beim Autokauf ist Finanzierung (Leasing) selbstverständlich, bei Heizung, Photovoltaikanlage oder neuem Bad wird sie in Österreich kaum angeboten. Das Startup PlusMarie will das mit seiner Plattform ändern. Gegründet haben es Michael Bayer und Matthias Hausberger, die sich seit 2017 vom Studium an der WU kennen.

Kein Point-of-Sale-Angebot in Österreich

Bayer arbeitete zuletzt im Aktienteam von Morgan Stanley in London. Hausberger war nach dem Master vier Jahre in Berlin, zuerst bei Ninetailed, dann bei Contentful, wo er an Personalisierung und Automatisierung arbeitete. Die Idee zum Startup kam über einen Bekannten Bayers in den USA, der dort Kredite für Home-Improvement-Projekte vermittelt. „In Amerika werden circa 30 Prozent dieses Heimverbesserungsmarktes finanziert, in Österreich fast nichts, PV-Anlagen vielleicht, aber Badezimmer, Swimming Pool und Klimaanlagen kaum.“, sagt Bayer. Den Grund sieht er im Verkaufsprozess: „Beim Auto wird es am Point of Sale angeboten, beim Handwerk nicht.“

PlusMarie setzt deshalb bei den Betrieben an. Diese können die Finanzierung direkt in ihre Angebote einbinden und erhalten im Gegenzug Statusinfos zu den Anfragen, eine Website-Einbindung und Werbematerial. Verdient wird über eine Vermittlungsprovision von Banken und Leasinggesellschaften. Für Endkunden soll die Finanzierung nicht teurer sein, „eher gleich kosten oder etwas günstiger sein“, wie die Founder betonen. PlusMarie führt hierzu eine Bonitätsvorprüfung durch und bereitet die Anfragen für die Banken auf.

PlusMarie mit mehreren Angeboten

Für Endkunden liegt der Vorteil laut Bayer darin, dass sie nicht selbst zur Hausbank gehen und dort ein einzelnes Angebot einholen müssen. Über PlusMarie bekommen sie mehrere Angebote und können das günstigste und das am besten passende auswählen.

Von bestehenden Vergleichsplattformen will sich PlusMarie vor allem bei komplexeren Fällen abheben. Andere Plattformen fragen laut Hausberger die Selbstauskunft ab und liefern ein Ja oder Nein. Eine Finanzierungsanfrage sei aber oft wesentlich komplizierter, weil es um Einzelfälle gehe, für die ein Formular nicht ausreiche. Das gelte etwa für Leasing, bei dem auch Projektdaten nötig sind. „Leasing kann man auch für Gegenstände, wie zum Beispiel eine Wärmepumpe, eine PV-Anlage, teilweise auch Pools oder Einbauküchen verwenden“, erklärt Hausberger.

Auf der anderen Seite gibt es dem Founder zufolge technisch versierte Lösungen, die sich auf einen speziellen Bereich wie die Energiewende konzentrieren, aber nicht den gesamten Heimverbesserungsmarkt abdecken. Diese Anbieter würden zudem nicht mit traditionellen Banken zusammenarbeiten. PlusMarie verbinde indes beides: Als Partner nennt das Startup etablierte große Banken und neu auch Uniqa Leasing.

Das Blackbox-Problem

Ohne diese Einbindung sei den Gründern nach der ganze Prozess eine „Blackbox“. Sie könnten weder mit Ratenzahlung werben, noch wüssten sie, ob der Kunde zurückkommt. „Mit PlusMarie kann er hingegen Instagram-Werbung schalten oder Flyer im Verkaufsraum auflegen“, erklärt Bayer.

Novelle des Verbraucherkreditgesetzes

Finanzierung sei ein heikles Geschäft mit sensiblen Daten und vielen Vorschriften, sagt Hausberger. Mit der Novelle des Verbraucherkreditgesetzes am 20. November 2026 werde es noch komplexer. „Ich glaub, viele Betriebe wissen noch gar nicht, was auf sie zukommt“, sagt Bayer.

Er erklärt das Risiko an einem Beispiel: Ein Betrieb bietet Ratenzahlung an, die letzte Rate liegt mehr als 50 Tage nach der Leistung, der Betrieb prüft nicht die Bonität und weist nicht auf die Kosten der Kreditaufnahme hin, auch wenn sie zinsfrei ist. Dann kann der Kunde zurücktreten. „Theoretisch kann man sich eine Klimaanlage für den Sommer holen, auf Raten kaufen und im Nachhinein, wenn der Sommer vorbei ist, sagen: Bitte Geld zurück“, so Bayer. PlusMarie will Betriebe über solche Risiken informieren.

PlusMarie plant DACH-Expansion

Das Wiener Startup operiert seit dem 20. August und konnte die Zahl der Partnerbetriebe von rund 30 auf 43 steigern, mit Stand Ende Oktober. Neue Betriebe erreicht das Startup über Messen, Cold Calls, LinkedIn, Medien und einen Blog. Gefunden werde es auch über KI-Suche oder Mundpropaganda.

Als nächsten Schritt will PlusMarie den österreichischen Markt so weit wie möglich erschließen, die Markenbekanntheit steigern und Finanzierung zum Standard machen. Danach soll die Expansion in den DACH-Raum folgen. Außerdem will das Startup das Angebot bei Hypothekarkrediten ausbauen. Es habe bereits Fälle gegeben, in denen Kunden etwa Wärmepumpen, PV- und Klimaanlagen einbauen ließen und PlusMarie Hypotheken abgewickelt hat, weil es eigenen Angaben nach günstiger war, die bestehende Hypothek aufzustocken. Dieses Produkt will das Gründerduo „perfektionieren“.

Beim Personal setzen die Gründer weiter stark auf Technologie. Ausgebaut werden soll vor allem die Kundenabwicklung, wo individuelle Beratung nötig ist. PlusMarie ist eigenfinanziert. Investoren seien vor allem als Partner für Netzwerk und Know-how interessant, Kapital brauche man aktuell nicht.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie