08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.
/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie
Mic Hirschbrich
Mic Hirschbrich | Hintergrundbild: Foto: AMS, Fotostudio B&G

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot “Berufsinfomat” bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: “Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.”

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis “es können fehlerhafte Inhalte produziert werden” ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten “AMS-Algorithmus”, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:
19.11.2024

Lanbiotic: Grazer Startup entwickelt Pflegeprodukte für Neurodermitis und expandiert

Das Grazer Startup Lanbiotic hat es geschafft, seit Gründung jedes Jahr profitabel zu sein. 2024 wird das Umsatzziel voraussichtlich verdoppelt. Co-Founderin Katrin Wallner berichtet von neuen Produkten, Expansionsplänen und der Unterstützung durch die Austria Wirtschaftsservice (aws).
/artikel/lanbiotic-grazer-startup-entwickelt-pflegeprodukte-fuer-neurodermitis-und-expandiert
19.11.2024

Lanbiotic: Grazer Startup entwickelt Pflegeprodukte für Neurodermitis und expandiert

Das Grazer Startup Lanbiotic hat es geschafft, seit Gründung jedes Jahr profitabel zu sein. 2024 wird das Umsatzziel voraussichtlich verdoppelt. Co-Founderin Katrin Wallner berichtet von neuen Produkten, Expansionsplänen und der Unterstützung durch die Austria Wirtschaftsservice (aws).
/artikel/lanbiotic-grazer-startup-entwickelt-pflegeprodukte-fuer-neurodermitis-und-expandiert
Lanbiotic, Neurodermitis
(c) Oliver Wolf - Patrick Hart und Katrin Susanna Wallner von Lanbiotic.

Das Grazer Startup Lanbiotic stellt medizinische Hautpflege-Produkte mit lebensfähigen Bakterien speziell für die von Neurodermitis geplagte Haut her. Dabei verwenden die beiden Gründer:innen Patrick Hart und Katrin Wallner den zum Patent angemeldeten Bakterienstamm “Lactococcus Lanbioticus“.

Lanbiotic: “Skalierung als neue Normalität”

“Mit unseren probiotischen Hautanwendungen bringen wir gesundheitsfördernde Bakterien direkt auf die Haut, um die natürliche Balance des Hautmikrobioms wiederherzustellen und Hautprobleme gezielt an der Ursache zu bekämpfen”, erklärt Wallner.

Das letzte Jahr fühlte sich für die Gründerin an, als sei ein Traum nicht nur wahr, sondern sogar übertroffen worden. Andererseits sei es eine “neue Normalität” an der Skalierung des Unternehmens zu arbeiten.

“Wir haben weitere Produkte mit unserem einzigartigen Bakterienstamm ‘Lactococcus Lanbioticus’ entwickelt, um umfassender auf die Bedürfnisse von Menschen mit zu Neurodermitis neigender Haut eingehen zu können. Neu hinzugekommen sind Flora Bath und Flora Sun”, erklärt Wallner.

Flora Bath ist ein spezieller Badezusatz, der für Menschen entwickelt wurde, die großflächig oder an der Kopfhaut von Ekzemen betroffen sind – ein Bereich, in dem Pflegecremen oft an die Grenzen ihrer Praktikabilität stoßen.

“Der Fokus liegt wie immer bei Lanbiotic auf der Ergänzung des Hautmikrobioms, also ‘der lebende Teil’ der natürlichen Schutzbarriere der Haut, die den gesamten Körper bedeckt, mit probiotischen Bakterien”, so Wallner weiter. “Eine Ausgewogenheit des Hautmikrobioms ist, wie auch im Darm, entscheidend, um die Gesundheit der Haut zu bewahren und Beschwerden zu lindern.”

Flora Sun hingegen ist ein weiteres Produkt, das auf die besonderen Herausforderungen empfindlicher Haut unter UV-Strahlung eingeht. Studien hätten gezeigt, dass das Hautmikrobiom die natürliche Fähigkeit der Haut verbessern kann, mit den Effekten – und häufig auch Schäden – durch Sonneneinstrahlung umzugehen.

EHI-Siegel für Onlineshop

“Parallel dazu haben wir auch international expandiert: Der Eintritt in den deutschen Markt war ein großer Schritt, der mit der Anpassung unserer Produktions- und Logistikkapazitäten verbunden war, um langfristig weitere internationale Märkte beliefern zu können. Unser Webshop wurde außerdem mit dem EHI-Siegel zertifiziert, um unseren Kund:innen einen sicheren und vertrauenswürdigen Einkauf zu ermöglichen.”

Auch das Team wuchs 2024, zudem konnte durch zahlreiche Medienauftritte und Messeteilnahmen Aufmerksamkeit für die eigenen Produkte und die Marke gewonnen werden.

“Als weiteres Highlight wurden wir von der Apothekerkammer mit unserer Fachfortbildung akkreditiert, was Apotheker dazu motiviert, unsere Fortbildungen zu besuchen und mehr über das noch recht ‘nischige’ Thema Hautmikrobiom zu erfahren”, sagt Wallner.

Neue Märkte im Fokus

Aktuell arbeitet das Startup intensiv daran, Lanbiotic als Unternehmen und Marke weiterzuentwickeln, strategisch zu positionieren und zu skalieren. Das oberste Ziel ist es, die Lebensqualität von Menschen mit Neurodermitis über ihre mikrobiombasierten Produkte zu verbessern.

“Wir möchten Lanbiotic in weiteren Märkten etablieren, insbesondere natürlich in Ländern, wo die Prävalenz für Neurodermitis hoch ist. Dafür arbeiten wir an effizienten Marketingprozessen, um unsere Markenbekanntheit zu steigern, und bauen unsere Vertriebsstrukturen aus”, erklärt die Founderin. “Um diesen Schritt bestmöglich zu unterstützen, suchen wir gezielt nach vertrauenswürdigen Partnern für den internationalen Vertrieb, die unsere Werte und Qualitätsansprüche teilen. Die Kooperationen sollen es uns ermöglichen, unsere Produkte nachhaltig in weiteren europäischen und außereuropäischen Ländern anzubieten und das Thema Hautmikrobiom international bekannter zu machen.”

Daneben optimiert das Team Produktionsprozesse, um der wachsenden Nachfrage nachkommen zu können. In der Produktentwicklung liegt dabei der Fokus auf der Entwicklung weiterer wissenschaftsbasierten probiotischen Pflegeprodukten, die speziell auf die Bedürfnisse von Menschen mit Neurodermitis und empfindlicher Haut zugeschnitten sind. Dazu steht man intensiv mit Industrie und Spitzenforschung in Kontakt.

Lanbiotic: Strukturen und Prozesse schaffen

Intern sei man vor allem stark mit dem Aufbau der Organisation beschäftigt. Man arbeitet daran, Strukturen und Prozesse zu schaffen, die das Wachstum langfristig stützen können. Ziel sei es, eine gesunde Organisation aufzubauen, die den Expansions- und Innovationszielen gerecht werde und das Unternehmen flexibel in die nächsten Entwicklungsstufen führt.

Lanbiotic wurde in der Vergangenheit unter anderem auch von der Austria Wirtschaftsservice (aws) unterstützt. So absolvierte das Unternehmen den aws First Incubator und erhielt über aws Innovationsschutz eine Förderung, um sein geistiges Eigentum zu schützen. Später folgte eine Preseed- und Seed-Förderung über aws Innovative Solutions. Mit diesem Seed-Förderprogramm unterstützt die aws innovative Gründungsideen, die über die Unternehmensgrenzen hinaus einen positiven gesellschaftlichen Impact bewirken. Der Fokus liegt auf skalierbaren Geschäftsmodellen. Im Fall von Lanbiotic war die Förderung essentiell, um die Produktentwicklung und Markteinführung zu finanzieren und sich allgemein zu professionalisieren.

“Eine bessere Förderung als aws Seed Innovative Solutions könnte es derzeit, meiner Meinung nach, für uns nicht geben”, sagt sie. “Es handelt sich um einen nicht rückzahlbaren Zuschuss von 400.000 Euro, der für unterschiedlichste Aktivitäten in der Markteinführung und Produkteinführung verwendet werden kann. Naturgemäß ist das Programm sehr kompetitiv, aber wenn man für die Finanzierung ausgewählt wird, hat man wirklich einen gewaltigen Booster, um ein nachhaltiges Unternehmen aufzubauen.”

Die weiteren Ziele von Lanbiotic

Im Allgemeinen habe ihnen das Programm bereits jetzt weit mehr gebracht als Geld. “Ich empfand den Bewerbungsprozess per se als wertvolle Erfahrung, um mir unser Business Model noch einmal ganz genau anzusehen und unsere Ziele zu definieren”, präzisiert die Grazerin. “Dass wir sie jetzt so scheinbar ‘locker’ übertreffen konnten, ist natürlich die Draufgabe.”

Durch die positive Resonanz der stetig wachsenden Stammkundenbasis sieht sich Wallner in ihrer Mission bestätigt. “Wir wissen aber auch, dass viele Menschen Lanbiotic noch nicht kennen und Neurodermitis in vielen Ländern nach wie vor ein großes Problem darstellt”, sagt sie. “Daher wollen wir gezielt skalieren, den Umsatz und Gewinn steigern, innerhalb und außerhalb Europas expandieren und unser Produktportfolio weiter diversifizieren.”

In Sachen Umsatzentwicklung wird Lanbiotic 2024 das gesetzte Umsatzziel voraussichtlich verdoppeln, wie Wallner erzählt. “Unser für 2025 gestecktes Ziel ist ambitioniert, aber wir sind zuversichtlich, dass wir hier wieder gute Arbeit leisten. Aktuell haben wir einen sechsstelligen Nettoumsatz erreicht, und dank der Unterstützung durch die aws Seed-Förderung werden wir auch heuer, wie jedes Jahr seit unserer Gründung, noch profitabler sein.”


* Disclaimer: Das Startup-Porträt erscheint in Kooperation mit Austria Wirtschaftsservice (aws)

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Amt: Early Adopter mit Shitstorm-Garantie