Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

23.03.2026

NACHLESE | FOLGE 5

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

Nachlese. Hemmschuh oder Enabler? In der neuen Folge von "No Hype KI" wird diskutiert, wie sich die rasante technologische Entwicklung mit Sicherheit, Governance und dem EU AI Act vereinbaren lässt.

/artikel/ki-und-sicherheit-im-unternehmen-schnellere-autos-haben-auch-sehr-gute-bremsen

✨ AI Kontextualisierung

„No Hype KI“ wird unterstützt von ACP, EY, ITSV, KEBA Group, Lenovo, Microsoft, ONTEC AI und der Universität Graz.

Wenn es um die Implementierung von Künstlicher Intelligenz geht, steht das Thema Sicherheit für viele Unternehmen an erster Stelle – insbesondere dann, wenn mit sensiblen Informationen gearbeitet wird. Aber wie lässt sich KI-Sicherheit und die damit verbundene Governance umsetzen, ohne zum Hemmschuh zu werden? Und wie sehr ist Sicherheit eine technologische Frage, wie sehr hängt sie am Menschen? Diese und mehr Fragen wurden in der fünften Folge der aktuellen Staffel der brutkasten-Serie „No Hype KI“ behandelt.

Es diskutierten Moritz Mitterer, Aufsichtsratsvorsitzender ITSV, Hernan Villamizar, Senior Manager AI and Advanced Analytics bei EY, Franziskos Kyriakopoulos, Vice President Digital Business bei der KEBA Group, und Gabriele Bolek-Fügl, CEO von PaiperOne & Beirätin Women in AI Austria.

Sicherheit als Fundament, nicht als Hemmschuh

Bei der ITSV stehe Sicherheit ganz im Zentrum, betont Moritz Mitterer. Er hebt die besondere Brisanz bei der Verarbeitung von Gesundheitsdaten in der Sozialversicherung hervor. „Wir testen neue Anwendungen in einem sehr sicheren Umfeld on premise, bevor wir in den Rollout gehen“, sagt er über die zurückhaltende, aber strukturierte Herangehensweise seiner Organisation. Nicht nur die Technik berge Risiken, sondern auch die falsche Anwendung durch den Menschen.

Dass gesetzliche Regulierungen wie der EU AI Act in diesem Kontext oft als Innovationsbremse kritisiert werden, sieht Gabriele Bolek-Fügl als CEO des Governance-Spezialisten PaiperOne anders. Aus ihrer Sicht bietet die Regulierung vor allem Schutz für die Anwender:innen. „Mit dem AI Act wird auf der gesamten Lieferkette klargestellt, wer haftet, wenn ein Problem mit dem KI-System besteht“, argumentierte Bolek-Fügl. Sie habe nicht den Eindruck, dass dies Innovationen verhindere, sondern vielmehr dringend benötigte Rechtssicherheit schaffe.

Governance: Von Rennwagen und Pferden

Die Expert:innen sind sich einig, dass Governance-Strukturen neu gedacht werden müssen, um Unternehmen handlungsfähig zu halten. Hernan Villamizar von EY wählt dafür einen prägnanten Vergleich: „Die schnelleren Autos haben auch sehr gute Bremsen“. Eine gut durchdachte KI-Governance helfe Entwickler:innen und Nutzer:innen letztlich dabei, die Technologie in einem sicheren Rahmen schneller und verantwortungsvoller anzuwenden.

Dabei stoßen klassische Software-Regeln jedoch an ihre Grenzen, wie Bolek-Fügl zu bedenken gibt. Da KI-Systeme statistisch und nicht rein regelbasiert arbeiten, sieht sie einen Paradigmenwechsel in der Arbeitsweise im Unternehmen – und zieht einen weiteren Vergleich aus der Welt der Mobilität: „Wir sind es alle gewohnt, mit Autos zu fahren, und plötzlich kauft die Unternehmensführung lauter Pferde und keiner weiß mehr, wie er richtig um die Ecke biegen kann.“ Es gebe daher eine Notwendigkeit von tiefgreifenden, kontinuierlichen Schulungen für die Belegschaft.

Der Faktor Mensch und das Risiko der Schatten-KI

Trotz technologischer Sicherheitsvorkehrungen, wie etwa dem Einsatz von KI direkt auf isolierter Hardware („AI on Device“), wie es KEBA umsetzt, bleibt der Mensch die entscheidende Schnittstelle, meint auch Franziskos Kyriakopoulos. Er stellt klar, dass Hardware-Lösungen allein nicht ausreichen. Man müsse sich zwingend auch mit Richtlinien wie der DSGVO oder dem AI Act auseinandersetzen. „Das ist auch ein People’s Business, weil es schlussendlich Menschen sind, die sich damit beschäftigen“, betont der Experte. Bei KEBA setze man daher auf klare Datenrichtlinien und vertraue auf gut geschulte Mitarbeiter:innen.

Fehlt dieses Enablement im Unternehmen, steigt das Risiko für sogenannte „Schatten-KI“ rasant an. Villamizar verweist hierzu auf Studien, wonach rund 50 Prozent der Mitarbeiter:innen private KI-Accounts für berufliche Zwecke nutzen. Dies geschehe oft aus Stress oder Innovationsdrang. Eine zu restriktive Unternehmenspolitik sei hier kontraproduktiv, urteilt der EY-Experte: „Wenn ich denke, Governance und Security bedeutet, alles zu blockieren, verursache ich gerade solche Handlungen“.

Safespaces und eine neue Fehlerkultur

Um der Schatten-IT entgegenzuwirken und gleichzeitig den Umgang mit neuen Tools zu erlernen, plädieren alle Diskutant:innen für geschützte Experimentierräume („Safespaces“). Mitterer greift das Bild des Autos noch einmal auf und fordert, dass Unternehmen Budgets und Zeitfenster schaffen müssen, damit Mitarbeiter:innen ihren „KI-Führerschein“ machen können. In der ITSV werde dies bereits durch einen speziellen Innovationsausschuss gefördert.

Letztlich erfordere KI aber auch ein Umdenken bei den Erwartungshaltungen des Managements. Kyriakopoulos kritisierte die weit verbreitete Haltung, nach einem KI-Investment sofortige finanzielle Erfolge zu erwarten. Man müsse auch mit Fehlschlägen umgehen können, um langfristig von Prototypen zu serienreifen Produkten zu gelangen. „Es gibt eine Mentalität, dass man glaubt, man investiert in KI und es muss sofort der Return on Investment da sein. So funktioniert AI halt nicht“, resümierte der KEBA-Manager.

Deine ungelesenen Artikel:

Dominik Perlaki

vor 19 Stunden

Wie Fullstacks von Wien aus in 5 Jahren auf achtstellige Umsätze kam

2021 in Wien gestartet, hat Fullstacks Standorte in Deutschland und der Schweiz, fast 60 Mitarbeiter:innen und große Namen als Kunden. Wir sprachen mit Co-Founder Sebastian Mangelkramer über die Erfolgsgeheimnisse des IT-Dienstleisters.

/artikel/wie-fullstacks-von-wien-aus-in-5-jahren-auf-achtstellige-umsaetze-kam

Dominik Perlaki

vor 19 Stunden

Wie Fullstacks von Wien aus in 5 Jahren auf achtstellige Umsätze kam

/artikel/wie-fullstacks-von-wien-aus-in-5-jahren-auf-achtstellige-umsaetze-kam

Die Rewe Group, die Neue Zürcher Zeitung, die ÖBB, Erste Digital, die Wirtschaftskammer, die Österreichische Banknoten- und Sicherheitsdruck GmbH, Admiral oder die niederösterreichische Landesregierung – die Liste namhafter Referenzkunden des 2021 in Wien gestarteten Platform-Engineering-Spezialisten Fullstacks ließe sich noch eine Zeit lang fortsetzen. Was sie alle gemeinsam haben: Sie arbeiten in regulatorisch anspruchsvollen Umfeldern.

„Unser Ansatz ist klar, dass wir immer compliant und secure by design sind“, sagt Sebastian Mangelkramer im Gespräch mit brutkasten. Er hat Fullstacks gemeinsam mit Philipp Kainz gegründet, später kamen Philipp Schlaffer und Fabian Regitz ins C-Level und als Anteilseigner dazu und bauten Standorte in der Schweiz und Deutschland auf. „Wir haben unser Ökosystem sukzessive erweitert, damit wir unserem Namen gerecht werden. Fullstacks bedeutet top-down alles von der Enterprise-Architektur über Softwaremodernisierung, Platform Ops, Architektur, Planung, Inbetriebnahme und letztlich Managed Services“, erklärt der Gründer.

Digitale Souveränität „bereits Teil des Gründungsimpulses“

Dabei setzt der IT-Dienstleister auch auf eines der ganz großen aktuellen Themen: Digitale Souveränität. „Souveränität und Offenheit waren bereits Teil unseres Gründungsimpulses. Wir hatten damals sogar Angst, zu spät dran zu sein. Aber es stellte sich heraus: Wir haben genau das richtige Timing erwischt. Jetzt, wo die Nachfrage richtig hoch ist, können wir liefern und trauen uns auch dicke Dinger zu.“

Mehr als 14 Mio. Euro Umsatz im Vorjahr

Heute hat der Platform-Engineering-Spezialist knapp unter 60 Mitarbeiter:innen und verdoppelte ihren Umsatz im Vergleich von 2024 zu 2025 auf mehr als 14 Millionen Euro – „bei 20 Prozent Umsatzrendite“, wie Mangelkramer betont. In den schwarzen Zahlen ist Fullstacks aber nicht erst seit Kurzem. „Wir mussten von Tag eins rentabel sein. Das ging gar nicht anders. Wenn wir nicht rentabel gewesen wären, dann wäre unser Kühlschrank leer gewesen“, erzählt der Gründer.

Sebastian Mangelkramer ist Co-Founder und CEO von Fullstacks | (c) Fullstacks

Und bis heute ist das Unternehmen komplett eigenfinanziert. „Wir haben uns am Anfang 100.000 Euro von einem engen Freund privat geliehen. Das war aber eigentlich nur notwendig, um Sicherheit zu haben, um einen Knoten im Kopf aufzulösen. Wir haben das Geld nie angerührt, weil wir immer so viel Respekt davor hatten“, so Mangelkramer. Das Geld für die Eintragung der GmbH habe er sich von seinem Vater geliehen.

„Wir brauchen Leute, die zupacken, die eine ‚Whatever it takes‘-Mentalität haben“

Und schon im ersten Geschäftsjahr schrieb Fullstacks 900.000 Euro Umsatz – zu zweit mit Co-Founder Philipp Kainz. Dann holte man den ersten Mitarbeiter an Bord; später Philipp Schlaffer und Fabian Regitz als Geschäftspartner. Seitdem wuchs das Team konstant. Doch Mangelkramer betont: „Es darf und kann nicht jeder zu uns. Wir brauchen Leute, die zupacken, die eine ‚Whatever it takes‘-Mentalität haben, die unternehmerisch denken und einfach Bock haben.“

Diese Autonomie ermögliche es Fullstacks auch, trotz Wachstums ein „Speedboat“ zu bleiben. „Unsere Leute müssen selbst entscheiden. Wir übertragen Verantwortung und fordern sie auch ein. So bleibt man schnell und effizient“, sagt der Gründer. Doch er räumt ein: „Auch wir als Unternehmer dahinter sind greifbar. Man kann uns ‚beim Krawattl packen‘, wenn irgendwas nicht funktioniert.“ Letztlich sei es dennoch das Ziel, „sich überflüssig zu machen“. Und das funktioniere bereits gut: „Philipp und ich können mehrere Wochen gleichzeitig auf Urlaub gehen und der Laden läuft.“

Ziel: „ein signifikanter europäischer Player zu sein“

Doch das ist freilich nicht das einzige Ziel. Denn mit dem, was bereits erreicht wurde, will sich Mangelkramer noch lange nicht zufrieden geben. „Ich denke in Unternehmensphasen. Phase eins waren Fundament und Identität. Das haben wir gut erreicht. Jetzt sind wir in der zweiten Phase: Skalierung und Differenzierung.“ Hier wolle man in den kommenden Jahren noch auf 100 bis 150 Mitarbeiter:innen anwachsen, die Premium-Brand ausbauen und das laufende Geschäft mit Managed Services festigen.

Die dritte Phase schließlich betitelt Mangelkramer mit „Expansion und Nachhaltigkeit“. „Das heißt, nachhaltige Profitabilität, ein selbsttragendes Leadership-System und – vielleicht nach den Sternen gegriffen – aber ein signifikanter europäischer Player zu sein“, so der Gründer. Und wie kommt man dorthin? „Man muss immer kritisch sein, immer am Ball bleiben. Permanente Veränderung und Anpassungen sind der Kern.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag