Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.

/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie

✨ AI Kontextualisierung

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:

Martin Pacher

16.10.2026

Wie La French Tech Vienna die Innovations-Ökosysteme von Frankreich und Österreich verbinden will

Die französische Startup-Bewegung La French Tech ist nun auch in Wien vertreten. brutkasten war letzte Woche beim Launch-Event in der französischen Botschaft vor Ort. Dort ging es um technologische Souveränität und um die Frage, wie Startups und Investor:innen beider Länder leichter zueinanderfinden.

/artikel/la-french-tech-vienna-launch

Martin Pacher

16.10.2026

Wie La French Tech Vienna die Innovations-Ökosysteme von Frankreich und Österreich verbinden will

/artikel/la-french-tech-vienna-launch

Im Foyer der französischen Botschaft in Wien läuft an diesem Abend ein Gast auf vier Beinen über den Marmorboden. Auf seinem Rücken sitzt ein Kamerakopf, daneben ragt eine Funkantenne hervor. Im Hintergrund stehen drei Flaggen: die französische, die europäische und die österreichische.

Der Hausherr hält es an diesem Abend betont analog. „Ich muss sagen, meine Rede wurde nicht von ChatGPT geschrieben, sondern von Menschen“, sagt Botschafter Matthieu Peyraud zur Begrüßung. Dann wird er grundsätzlich: Technologische Souveränität lasse sich nur auf europäischer Ebene erreichen, kein Mitgliedstaat schaffe das allein.

Der Anlass für Roboter und Rede am 8. Oktober: der offizielle Start von La French Tech Vienna, laut Peyraud der ersten French-Tech-Community in Österreich. Sie ist Teil von La French Tech, einem Netzwerk mit nach eigenen Angaben mehr als 100 Communities in Frankreich und weltweit, das großteils von Freiwilligen getragen wird.

Zwei Jahre Pilotphase

Neu ist die Initiative nicht. Sie lief zuvor unter dem Namen French Startups Vienna. Peyraud bezeichnet diese Phase in seiner Rede als „eine Art Pilotprojekt“. Seit rund zwei Jahren bringt sie französische und österreichische Gründer:innen, Forschende und Investor:innen zusammen.

Der französische Botschafter Matthieu Peyraud eröffnete am 8. Oktober den offiziellen Start von La French Tech Vienna in der Botschaft in Wien. Seine Botschaft: Technologische Souveränität gelingt nur auf europäischer Ebene. | (c) Emma Brycove/Französische Botschaft in Österreich

„Wir haben sehr klein angefangen, nur mit französischsprachigen Leuten, die mehr über Tech sehen und hören wollten“, sagt Renaud Viot im Gespräch mit brutkasten. Er ist Co-Präsident von La French Tech Vienna und CEO des Startups Lynxia. Er versteht die Initiative als Community: Die Mitgliedschaft ist kostenlos und steht österreichischen wie französischen Startups offen. „Wir verlangen nur, dass die Leute entweder neugierig auf Tech sind oder bereit, ihr Wissen über Tech zu teilen“, sagt er. Das Kernformat sind regelmäßige Events.

Souveränität als Leitthema

Inhaltlich steht der Abend im Zeichen technologischer Souveränität. Künstliche Intelligenz, Cloud Computing, Cybersicherheit, Halbleiter und Dateninfrastrukturen seien zu strategischen Gütern geworden, sagt Peyraud. Frankreich und Österreich hätten starke Forschungseinrichtungen wie das französische CNRS und das AIT Austrian Institute of Technology. Die gemeinsame Herausforderung sei, wissenschaftliche Exzellenz in globale Technologieführerschaft zu übersetzen. Zu oft gelinge es europäischen Innovationen nicht, im Tempo und in der Größe der internationalen Konkurrenz zu skalieren.

Als Beleg dafür, dass es anders geht, nennt der Botschafter Mistral AI. Die Übernahme des Linzer Startups Emmi AI durch Mistral AI zeige, wie Unternehmen aus verschiedenen europäischen Ländern ihre Expertise bündeln. Sie unterstreiche zudem die technologische Stärke Österreichs.

„Noch nicht so sehr am Radar“

Wo es konkret hakt, schildert Arnaud Béasse. Der Managing Director von 1764 Advisory kümmert sich in der Community um die Investorenbeziehungen. „An erster Stelle möchte ich Investoren mit Startups verbinden“, sagt er im Gespräch mit brutkasten. Das gelte in beide Richtungen. Österreicher:innen nach Frankreich zu bringen, habe bisher sehr gut funktioniert. Die größere Aufgabe sei nun der umgekehrte Weg: französische Investor:innen auf das aufmerksam zu machen, was in Österreich entsteht. Das sei bei ihnen „noch nicht so sehr am Radar“.

Das österreichische Deep-Tech-Startup iono Robotics aus Linz hat mit dem WORKMATE den ersten humanoiden Arbeitsroboter „Made in Austria“ entwickelt. | (c) Emma Brycove/Französische Botschaft in Österreich

Béasse nennt dafür mehrere Gründe. Größere Fonds würden oft mit Teams aus Deutschland auf Österreich schauen. „Das genügt nicht“, sagt er. Dazu komme bei manchen Venture-Capital-Fonds die Angst vor der Sprachbarriere. Bei Business Angels sei diese Hürde noch höher.

Seine Rolle sieht Béasse deshalb nicht nur im Vermitteln von Kontakten. Es gehe darum, Investor:innen auch beim Ökosystem und bei der Kultur zu begleiten. Aus französischer Sicht sehe man in Europa zuerst Spanien, Italien, Deutschland und die Benelux-Länder. Österreich müsse man erst aus dem Schatten von Deutschland und der Schweiz holen.

Acht Startups aus Frankreich und Österreich pitchten vor dem Publikum in der französischen Botschaft, abgestimmt wurde per Smartphone. | (c) Emma Brycove/Französische Botschaft in Österreich

Chancen sieht er bei Corporate Venture Capital. Französische Konzerne seien in Österreich vertreten. Hier gebe es derzeit viele Innovationen in den Bereichen Defense und Dual Use, die für solche Gruppen interessant seien.

ABA will Brücke zwischen den Ökosystemen schlagen

Auf österreichischer Seite ist die Austrian Business Agency (ABA) eingebunden. Verena Gruber, Director Western Europe, ist außerordentliches Mitglied im Board der Community. Als Standortagentur der Republik sei die ABA dafür da, französische Startups dabei zu unterstützen, die Chancen in Österreich zu entdecken, sagt sie im Gespräch mit brutkasten. Mit La French Tech Vienna habe man nun „ein tolles Tool“, um Verbindungen herzustellen, bei Investments ebenso wie bei Kooperationen mit Corporates. Am Tag nach dem Launch standen laut Programm Besuche bei der ABA, der Wirtschaftsagentur Wien und ecoplus sowie eine Führung durch die AI Factory Austria (AI:AT) auf dem Plan.

Die Initiative ist noch sehr jung. Als Beispiel dafür, was möglich ist, nennt auch Gruber den Emmi-AI-Deal. Er zeige die Kompetenz Österreichs bei Industrial AI. „Das ist eine Nische, worauf wir uns auch sehr stark konzentrieren können“, sagt Gruber. Damit könne Österreich auch einen Beitrag zur europäischen Souveränität bei Technologie leisten.

Acht Startups auf der Bühne

Nach den Reden pitchen acht Startups, das Publikum stimmt per Smartphone ab. Aus Frankreich kommen Proxima, VirtualBrowser, PleIAs und Manabou, aus Österreich Cyberaci, Eustella, Prop Corn und Ablatic. Sechs der acht ordnet die Event-Website dem Thema Souveränität zu, von europäischen Sprachmodellen bis Cybersecurity.

Manche der französischen Startups sehen laut Renaud Viot einen Market Fit mit Österreich, andere suchen einen Partner vor Ort, wieder andere haben hier bereits Kund:innen. Die beiden Ökosysteme seien einander ähnlich, beide seien stark bei Spinoffs und in der Forschung. Gemeinsam könne man einander „zu Partnern statt zu Konkurrenten“ machen, sagt Viot.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag