Carina Zehetmaier und Gabriele Bolek-Fügl sind Seriengründerinnen und waren lange Jahre als Präsidentin und Vize-Präsidentin bei Women in AI Austria tätig, bevor sie im März 2025 ihre Posten abgaben und nun im Beirat vertreten sind – brutkasten berichtete.

Humably entsteht

Beide haben bei ihrer langjährigen Arbeit festgestellt, dass sie besonders gut zusammenarbeiten – auch unter großem Druck. Also blieben sie nach vier Jahren als Führung einander treu und es folgten gemeinsame Workshops und Begleitung von Unternehmen hinsichtlich KI-Nutzung. Bis Bolek-Fügl einen Vorschlag machte: „Ich habe zur Carina gesagt, wir könnten natürlich weiterhin Workshops anbieten, aber so skalieren wir nicht. Eine Plattform für Themen wie AI-Act, Governance und AI-Compliance wäre doch eine gute Idee.“

So entwarf man den KI-Assistenten Humably (Human Enablement), hinter dem die Firma paiper.one steht, die es bereits seit über einem Jahr gibt; und die sich momentan in einem Re-Branding befindet, wie die beiden Founderinnen erklären. Dafür gab es eine aws-AI-Adoption-Förderung in Höhe von 150.000 Euro.

Zehetmaier verfügt durch ihre Arbeit als „Chairwoman of the Working Group“ bei Austrian Standards und als „Member of the Austrian AI Advisory Board“ über ausreichend Erfahrung im KI-Bereich. Bolek-Fügl hat mit ihrem Unternehmen Compliance 2b und als Projektberaterin von „Fair AI“ ebenfalls das nötige Know-how, um, wie beide sagen, aus der Vor-Front heraus, die wichtigsten Fragen zum EU-AI-Act und AI-Compliance zu klären und zu erklären.

Denn, mit der nächsten Umsetzungsphase des AI-Acts kommenden Sommer kommen auch verschiedene Fragen auf Unternehmer:innen zu, die sie sich bereits heute stellen sollten: „KI-Kompetenzen müssen alle aufbauen“, mahnt Zehetmaier. „Gibt es Maßnahmen, um die Kompetenz zu sichern; wenn ja, welche? Wie sieht es mit Transparenzpflichten aus? Etwa bei Chatbots, Verpflichtungen, Rollen und Risikostufen, die einhergehen. Unser Assistent stellt die richtigen Fragen, um zu eruieren, wo das Unternehmen steht. Wir merken, hier in Österreich herrscht ein großer Bedarf.“

Neue Rollen benötigt

Zu den Kunden der Plattform gehören bereits die Stadt Leoben oder Haus der Barmherzigkeit, wo man Belegschaften in KI-Basis-Kenntnissen schult. „Zusätzlich erarbeiten wir generelle Schulungsvideos für Organisationen basierend auf internen Vorgaben – Lern-Content speziell mit Avatar-Videos. Weil sich so schnell viel in diesem Bereich verändert und Anpassungen per Avatar leichter umsetzbar sind“, sagt Zehetmaier.

Die Arbeit in Unternehmen ändere sich gerade dort, wo KI eingesetzt werde. Man müsse viel mehr auf Datenqualität achten, denn beim Befüllen von KI-Systemen könnten Abweichungen und Fehler große Effekte auf Unternehmen haben, erklärt Bolek-Fügl: „Wir brauchen neue Rollen, die darauf achten, dass alles korrekt funktioniert.

„Laptop lebt?“

Beide Founderinnen wissen, dass es Leute gibt, die bei diesem Thema Widerstand in sich tragen. Das sei zum Teil dem Namen geschuldet, dem man dieser Art von Software verpasst habe: Künstliche Intelligenz. „Manche haben den Eindruck, dass ihr Laptop irgendwie ‚lebt‘ und wollen das nicht“, erklärt Zehetmaier. „Dem ist natürlich nicht so. Wir haben bisher gelernt, mit einer regelbasierten Software umzugehen, nun sind nicht-regelbasierte Systeme dran. Wir geben in unseren Kursen Menschen die Sicherheit, diese Art zu beherrschen.“

Das betrifft rechtliche und ethische Aspekte sowie ein Grundverständnis von Datenschutz und Urheberrecht. Aus Sicht von Zehetmaier gibt es in Unternehmen sehr wohl einzelne Personen, die Handlungsbedarf sehen – HR, Culture-Management oder Compliance-Officers – jedoch werde diese Einstellung von oben oftmals nicht gelebt.

„Ich beobachte in Gesprächen, dass das Commitment von oben fehlt. Das ist ein riesiges Hemmnis. Wenn die Leadership-Ebene es nicht für gut befindet, haben Mitarbeitende auch Zurückhaltung. Das ist sehr herausfordernd. Je weniger ich als Organisation weiß, was passiert, desto größer die Risiken“, sagt Zehetmaier. Sie rät dazu, auf Organisationsebene den Umgang mit KI nicht allein Mitarbeitenden zu überlassen, sondern einen Verhaltenskodex zu implementieren: „Ich muss klar sagen: Was dürfen sie, was nicht? Wie gehen wir mit Daten um?“

Webseiten neu denken

Bolek-Fügls Erfahrung nach warten viele Unternehmer noch ab, was sie als großen Fehler ansieht, weil die Konkurrenz bereits viel weiter sei. „Ein konkretes Beispiel ist die Google-KI-Unterstützung“, sagt sie. „Viele Personen suchen (Anm.: beim Googeln) nicht mehr die Homepages auf, was schlicht bedeutet, man muss die eigene Website anders gestalten als früher. So, dass sie für den KI-Algorithmus interessant ist und ins Sprachmodell hineinpasst.“

Beide Founderinnen richten daher einen Dringlichkeitsappell an Unternehmer:innen. Man müsse sich jetzt mit Risikomanagement beschäftigen, um für diverse Situationen bereit zu sein. Ein Beispiel aus Zehetmaiers jüngster Vergangenheit verdeutlicht, was man im Entrepreneurship künftig ebenso bedenken muss.

Ein Leak

Bei einer internen Sitzung einer Konferenz wagt die Gründerin ein kleines Experiment und forderte ChatGPT auf, alles zu einem bestimmten Thema herauszufinden. Die Folge: Die KI „leakte“ ein geheimes Dokument, das nicht für die Öffentlichkeit bestimmt war. „Es gibt ein großes Potential, dass Sachen ans Licht kommen, die unter das Geschäftsgeheimnis fallen“, sagt sie.

Die Echtheit des besagten Dokuments wurde bestätigt und sorgte für einen großen Schock, so Zehetmaier weiter. Es wurde mittlerweile entfernt.

Bolek-Fügl weist hier darauf hin, dass bereits eine einfache Übersetzungsaufforderung von Mitarbeiter:innen – aus dem Englischen ins Deutsche – dazu führen könnte, dass betriebsfremde Personen mit den richtigen Prompts leicht Dinge über Unternehmen herausfinden könnten und das auch rechtliche Folgen nach sich ziehen kann.

„Auf rechtlich-konformer Ebene bleiben“

Oder wie Zehetmaier sagt: „In Hochrisikobereichen, wo Compliance nötig ist, können Mitarbeitende leicht in solche verbotenen Sphären eintreten. Das lässt sich aber mit einem klaren Kodex, Schulungen und Prozessen zur Behandlung von Use-Cases verhindern. Man darf sich nicht nur die Tools ansehen, sondern auch die Einsatzgebiete beim AI-Act. Damit man auch auf der rechtlich-konformen Ebene bleibt.“