Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

08.01.2024

KI im Amt: Early Adopter mit Shitstorm-Garantie

Gastbeitrag. Das AMS hat vergangene Woche einen KI-Chatbot veröffentlicht - und dafür scharfe Kritik einstecken müssen. Doch die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis, argumentiert Apollo.ai-Gründer Mic Hirschbrich. Er erläutert außerdem, was es künftig für solche Projekte braucht.

/artikel/ki-im-amt-early-adopter-mit-shitstorm-garantie

✨ AI Kontextualisierung

Als brutkasten mich um eine Einschätzung zum neu gelaunchten AMS-Chatbot „Berufsinfomat“ bat, überschlugen sich bereits die Nachrichten. In Branchen-Blogs, Boulevardmedien und Qualitätspresse war schnell klar, was bei diesem KI-Projekt schiefgelaufen war.

Der Bot wurde kritisiert, sexistische Antworten zu liefern und Ungleichheit zu fördern, wie eine Radiosendung empört berichtete. Im Frühstücksfernsehen belächelte man die vielen unpassenden Antworten, und anderswo wurde behauptet, andere Anbieter hätten ein vergleichbares Service in Minuten nachgebaut.

Zudem wurde der hohe Preis von 300.000 Euro für einen als diskriminierend empfundenen Chatbot, der Männer und Frauen unterschiedlich behandle, kritisiert. Viele X-User verglichen dies mit dem „Kaufhaus Österreich“ und sahen es als Verschwendung von Steuergeldern. Ein Digital-Experte im Radio-Live-Interview wirkte bei der Machart des Chatbots uninformiert und wiederholte lediglich gängige Sexismus-Vorwürfe.

Dabei wird kaum über die funktionierenden Teile der Software gesprochen, die jeder selbst testen kann. Auch wird selten erwähnt, dass eine Behörde endlich das tut, was man 2023 von ihr erwarten sollte: sich digital etwas zu trauen. Bei der übermäßigen Welle der Kritik am AMS-Chatbot scheint es nicht nur um die suboptimale Launch-Strategie zu gehen, während andere vergleichbare Projekte kaum Beachtung finden.

Ein Tweet von Martin Thür bringt es auf den Punkt: „Ich habe keinen einzigen kritischen Artikel zum Chatbot der Stadt Wien gefunden. Nicht einmal dessen Kosten sind offengelegt. Mir scheint, nicht nur die KI hat einen Bias.“

Die teilweise überzogene Kritik offenbarte Widersprüche und mangelndes Projektverständnis. Markus Kaiser, ehemaliger Geschäftsführer des BRZ, drückte seine Verwunderung auf LinkedIn aus. Auch scheint es, dass die Medien nicht gründlich recherchieren, warum eine Behörde diese Lösung wählte, und begnügen sich mit oberflächlicher User-Testung. Wer so vorgeht, kann ein jedes Produkt eines generativen Modells in Grund und Boden kritisieren. Es wirkt, als stünde eigentlich ein anderes Thema im Vordergrund: Der Nimbus, dass wir Digitalisierung (im öffentlichen Bereich) einfach nicht können.

In Wahrheit fehlt es auf beiden Seiten am Verständnis, wie solche Projekte eingeführt werden sollen, sowohl auf Betreiber- als auch auf Stakeholder-Seite. Aber zumindest das lässt sich lösen.

Was es für solche Projekte künftig braucht:

BETA-Kultur 2.0

Vor Jahren kam die BETA-Test-Kultur aus dem Silicon Valley zu uns. Produkte wurden zuerst intern, dann ausführlich extern getestet. Diese Kultur ist mittlerweile fast verschwunden, was der digitalen Innovationskultur schadet. Die Entwicklung komplexer Produkte erfordert Offenheit, hohe Fehlertoleranz und eine breit getragene Feedback-Kultur. Wir sollten solche Phasen wieder einführen, besonders im Bereich generativer KI, um ausreichend Userfeedback zu sammeln und unvermeidliche Fehler auszumerzen. Richtig kommuniziert sollte jedem User klar sein, dass der Hinweis „es können fehlerhafte Inhalte produziert werden“ ernst gemeint ist.

Bullshit-Verbot bei KI-Themen

Früher gab es ein Bullshit-Eldorado bei Tech-Themen. Heute ist unser Umgang mit Informationen faktischer und verantwortungsvoller. Doch der Druck zur Übertreibung stieg wieder, ausgelöst durch Branchenriesen wie OpenAI und Microsoft. Die Erwartungen, was KI leisten kann, sind durch falsche Versprechungen und Medienberichte überhöht. Der Weg zu belastbaren und sicheren b2b KI-Anwendungen ist in Wahrheit aufwendig und erfordert Expertise und Ressourcen (besonders im öffentlichen Dienst). Aber er lohnt sich.

Mut zu KI-Projekten bei Ämtern und Behörden

Der neue Shitstorm könnte Ämtern und Behörden den Mut nehmen, eigene Innovationsprojekte voranzutreiben. Doch genau dieser ist wichtig. Jedes Amt, jedes Ministerium sollte Startups die Chance geben, ihre Technologie einzusetzen. Dem AMS gebührt Respekt für seinen Mut, insbesondere nach dem davor erlebten Shitstorm zum sogenannten „AMS-Algorithmus“, der aber keine KI war, wie es Medien und NGOs ebenfalls und überwiegend falsch kommunizierten.

Das Problem mit unserer unfair verteilten Fehlertoleranz

Das AMS, wie viele andere in unserer Region, steht vor einer besonderen Herausforderung: Als OpenAI ChatGPT für alle zugänglich wurde und schnell 100 Millionen Nutzer erreichte, herrschte auch bei uns große Euphorie. Die Kritik an den noch offensichtlichen, zahlreichen Schwächen des Systems war dabei fast nicht vorhanden. Man hörte oft: „Ja, es gibt Probleme mit Halluzinationen und dem ‚Reasoning‘, das Datenschutz- und Knowledge-Graph-Problem ist noch nicht gelöst, aber nutzt es trotzdem sofort, sonst seid ihr nicht mehr zu retten.“

Ganz anders ist die Reaktion, wenn ein europäischer oder österreichischer Anbieter einen KI-Service vorstellt und bewirbt. Hier herrscht fast eine Nulltoleranzpolitik. Kritik und eine gewisse Schadenfreude am Scheitern anderer sind dann häufig. Mittlerweile ist allgemein bekannt, dass Trainingsdaten für KI voreingenommen sein können – ein Spiegelbild der menschlichen Entscheidungen, auf denen sie basieren. Diese Voreingenommenheit wird normalerweise durch Tests entdeckt und behoben (wenn es doch nur bei Mitarbeitern und Kunden so einfach wäre). KI-Projekte im Einklang mit Datenschutzvorschriften zu gestalten, ist Neuland und aufwendig, und auch die Sicherheitsaspekte können kostspielig sein.

Wie könnte es mit dem AMS Berufsinfomat weitergehen?

Eine wichtige Lehre ist, die Menschen und diversen Stakeholder besser auf KI-Anwendungen vorzubereiten. Eine ausführliche interne Testung gefolgt von einer kontrollierten, länger angesetzten und begleiteten BETA-Test-Phase, ist ab jetzt ein Muss. Das AMS könnte einen kleinen Schritt zurück machen und das Rollout-Verfahren korrigieren. So könnten sich Stakeholder konstruktiv einbringen. NGOs könnten ihre Bedenken bezüglich Datenschutz, Sexismus, Rassismus und Ungleichheit gefahrlos erforschen und Feedback geben. Die Medien würden sich dann hoffentlich weniger auf die Schwächen konzentrieren und auch die Stärken hervorheben, was das Vertrauen in die Behörden stärkt.

Denn ein Projekt, das offen zugibt, innovativ, aber auch noch fehleranfällig (also BETA) zu sein, wird weniger Ziel von Kritik sein, sondern einladen, unvoreingenommen getestet zu werden

Deine ungelesenen Artikel:

Martin Pacher

vor 22 Stunden

Satellives: Das Tullner SpaceTech-Startup, das Satelliten wie ein Leporello faltet

Satellives entwickelt einen flachen, modularen Satelliten, der sich im Orbit zu einer Kette entfaltet. Anfang 2029 soll er erstmals fliegen. Wir haben mit Gründerin und CEO Lilly Eichinger über die Hintergründe gesprochen.

/artikel/satellives-das-tullner-spacetech-startup-das-satelliten-wie-ein-leporello-faltet

Martin Pacher

vor 22 Stunden

Satellives: Das Tullner SpaceTech-Startup, das Satelliten wie ein Leporello faltet

/artikel/satellives-das-tullner-spacetech-startup-das-satelliten-wie-ein-leporello-faltet

Wer heute im All etwas anderes vorhat als Erdbeobachtung oder Kommunikation, stößt schnell an eine Wand. „Wenn du irgendetwas im All machen willst, egal ob Experimente, Manufacturing, Datenspeicherung oder eine Plattform für Quantenkommunikation, dann hast du keine Infrastruktur“, sagt Lilly Eichinger, Gründerin und CEO von Satellives. „Es gibt kaum Plattformanbieter.“ Bisher führe der Weg für solche Missionen im Wesentlichen über die ISS. Deren Betrieb soll 2030 enden, kommerzielle Nachfolgestationen sind in Entwicklung, aber noch keine im Regelbetrieb.

In diese Lücke will das Tullner Startup. Der Ausgangspunkt war das Ergänzungsstudium Extended Studies on Innovation am Innovation Incubation Center (i²c) der TU Wien, wo Eichinger die Idee entwickelte. Kunst und Philosophie hatte sie vor ihrem Physik- und Architekturstudium in Wien studiert.

Der Leporello-Satellit

Das Produkt ist ein flacher Satellit, der aus einzelnen Einheiten besteht: den Tiles, jede fünf Zentimeter hoch und etwa so groß wie eine Pizzaschachtel. „Es sieht aus wie Kacheln, im Grunde wie Solarpaneele, die sich im Orbit entfalten“, sagt sie. „Aber es sind keine Solarpaneele. Es sind voll funktionsfähige Satelliten.“

Der Kniff steckt im Scharnier. Die Einheiten sind verbunden und übereinander gestapelt, ähnlich einem Leporello. Gestapelt passen sie in einen handelsüblichen CubeSat-Dispenser, was die Startkosten drückt. Im Orbit entfalten sie sich zu einer langen Kette: „Wir nennen sie Mosaics Satellites.“

Ein Mosaic von Satellives | (c) Satellives

Der technische Kernclaim betrifft Energie. Pro Einheit könne man bei gleichem Gewicht viermal so viel Energie speichern wie ein durchschnittlicher CubeSat, sagt Eichinger. Der Wert beruht auf eigenen Berechnungen und ist im Flug nicht demonstriert. „Das Einzige, was es im All unbegrenzt gibt, ist Energie.“ Nur lasse sie sich kaum nutzen: Bei CubeSats sei nicht das Einsammeln das Problem, sondern der fehlende Platz für Batterien. Wer energiehungrige Missionen fliegen wolle, habe deshalb nur schlechte Optionen. „Entweder du baust einen 50-Millionen-Dollar-Satelliten, was fast niemand kann, oder du kannst es nicht.“

Dazu kommt Modularität. „Die meisten Satelliten sind One-Trick-Ponys“, sagt Eichinger. An die Plattform lassen sich dagegen Produktionsboxen andocken. Zwei Tiles würden nach ihrer Rechnung reichen, um einen kleinen 3D-Drucker dauerhaft zu versorgen und gleichzeitig als Plattform für Quantenkommunikation oder Datenspeicherung zu dienen.

Flache Satelliten an sich sind nicht neu, das räumt Eichinger ein: Starlink stapelt sie längst, weil sich so Startkosten sparen lassen. Neu sei die Kombination aus flachem Formfaktor und echter Modularität. Das Patent dafür ist nach ihren Angaben bei der WIPO und in Österreich angemeldet, zunächst bewusst auf ihren Namen und nicht auf die Gesellschaft. Ende Juli wurde es an die Gesellschaft übertragen. Ab einem gewissen Punkt, sagt sie, mache staatsnahe oder fremdgehaltene IP ein Unternehmen für Investor:innen unattraktiv.

Gegen den Hype

Rechenzentren im Orbit sind für Satellives selbst ein Zielmarkt. Beim Hype darum bremst Eichinger trotzdem. „Alle sagen: Bringt die Datenspeicher ins All, dort ist es kalt. So funktioniert das nicht.“ Kühlung sei auch oben nötig. Wäre das der einzige Punkt, sagt sie, bräuchte es den Orbit gar nicht: „Warum bringt man die Daten dann nicht in die Arktis? Dort kann man sie kühlen.“ Der größte Engpass sei das Wärmemanagement: Im Vakuum lasse sich ein Rechenzentrum nur schwer kühlen. Dazu kämen Verarbeitung und Downlink per Laserkommunikation, beides brauche kontinuierlich hohe Energie. Ein riesiges und künftig sehr relevantes Geschäftsfeld sei es dennoch.

Satellives-Gründerin Lilly Eichinger im Gespräch mit brutkasten-Chefredakteur Martin Pacher. (c) brutkasten / Haris Dervisevic

Verglühen lassen will sie nichts. „Wir planen, zu 100 Prozent nachhaltig zu operieren.“ Der übliche Wiedereintritt am Missionsende erzeuge giftige Gase. „Okay, nicht ein einzelner CubeSat. Aber wenn es eine Million sind oder zehntausend im Jahr, dann summiert sich das.“ Beschädigte Tiles sollen stattdessen über einen Reentry-Service zurückkommen und recycelt werden.

Kapitalbedarf

Firmensitz ist Tulln, weil Satellives über das AplusB-Scale-up-Programm vom accent Inkubator begleitet wird, bis Ende Januar 2027. Das Headquarter soll langfristig in Wien liegen. Das Kernteam umfasst laut Website vier Personen: neben Eichinger als CEO ein Technical Co-Founder, ein Operations Co-Founder und eine weitere Person im Bereich Operations.

Der Kapitalbedarf: rund 1,6 Millionen Euro für 18 Monate. Die Hälfte davon soll aus Förderungen und von Business Angels kommen. „Wir arbeiten da gerade wirklich zehn Stunden am Tag dran“, sagt Eichinger. Erst mit dem Geld könne man Ingenieur:innen einstellen und vom Prototyping in den echten Bau wechseln. Dazu sucht das Startup 25.000 bis 50.000 Euro für die Patentanmeldung in weiteren Ländern.

Das Ziel: zwei Einheiten, erste On-Orbit-Demonstration in Q1 2029, die bereits Pilotkund:innen bedienen soll. Das Fernziel formuliert sie größer. „Österreich kann für Space das werden, was Estland für die Digitalisierung ist. Es ist ein kleines Land, niemand hätte erwartet, dass Estland zum digitalen Hub wird. Aber sie sind es geworden, und sie rocken es.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag