23.03.2026
NACHLESE | FOLGE 5

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

Nachlese. Hemmschuh oder Enabler? In der neuen Folge von "No Hype KI" wird diskutiert, wie sich die rasante technologische Entwicklung mit Sicherheit, Governance und dem EU AI Act vereinbaren lässt.
/artikel/ki-und-sicherheit-im-unternehmen-schnellere-autos-haben-auch-sehr-gute-bremsen
v.l. Moritz Mitterer (ITSV), Gabriele Bolek-Fügl (PaiperOne & Women in AI Austria), Hernan Villamizar (EY) und Franziskos Kyriakopoulos (KEBA Group) | (c) brutkasten

„No Hype KI“ wird unterstützt von ACPEYITSVKEBA GroupLenovoMicrosoftONTEC AI und der Universität Graz.


Wenn es um die Implementierung von Künstlicher Intelligenz geht, steht das Thema Sicherheit für viele Unternehmen an erster Stelle – insbesondere dann, wenn mit sensiblen Informationen gearbeitet wird. Aber wie lässt sich KI-Sicherheit und die damit verbundene Governance umsetzen, ohne zum Hemmschuh zu werden? Und wie sehr ist Sicherheit eine technologische Frage, wie sehr hängt sie am Menschen? Diese und mehr Fragen wurden in der fünften Folge der aktuellen Staffel der brutkasten-Serie „No Hype KI“ behandelt.

Es diskutierten Moritz Mitterer, Aufsichtsratsvorsitzender ITSV, Hernan Villamizar, Senior Manager AI and Advanced Analytics bei EY, Franziskos Kyriakopoulos, Vice President Digital Business bei der KEBA Group, und Gabriele Bolek-Fügl, CEO von PaiperOne & Beirätin Women in AI Austria.

Sicherheit als Fundament, nicht als Hemmschuh

Bei der ITSV stehe Sicherheit ganz im Zentrum, betont Moritz Mitterer. Er hebt die besondere Brisanz bei der Verarbeitung von Gesundheitsdaten in der Sozialversicherung hervor. „Wir testen neue Anwendungen in einem sehr sicheren Umfeld on premise, bevor wir in den Rollout gehen“, sagt er über die zurückhaltende, aber strukturierte Herangehensweise seiner Organisation. Nicht nur die Technik berge Risiken, sondern auch die falsche Anwendung durch den Menschen.

Dass gesetzliche Regulierungen wie der EU AI Act in diesem Kontext oft als Innovationsbremse kritisiert werden, sieht Gabriele Bolek-Fügl als CEO des Governance-Spezialisten PaiperOne anders. Aus ihrer Sicht bietet die Regulierung vor allem Schutz für die Anwender:innen. „Mit dem AI Act wird auf der gesamten Lieferkette klargestellt, wer haftet, wenn ein Problem mit dem KI-System besteht“, argumentierte Bolek-Fügl. Sie habe nicht den Eindruck, dass dies Innovationen verhindere, sondern vielmehr dringend benötigte Rechtssicherheit schaffe.

Governance: Von Rennwagen und Pferden

Die Expert:innen sind sich einig, dass Governance-Strukturen neu gedacht werden müssen, um Unternehmen handlungsfähig zu halten. Hernan Villamizar von EY wählt dafür einen prägnanten Vergleich: „Die schnelleren Autos haben auch sehr gute Bremsen“. Eine gut durchdachte KI-Governance helfe Entwickler:innen und Nutzer:innen letztlich dabei, die Technologie in einem sicheren Rahmen schneller und verantwortungsvoller anzuwenden.

Dabei stoßen klassische Software-Regeln jedoch an ihre Grenzen, wie Bolek-Fügl zu bedenken gibt. Da KI-Systeme statistisch und nicht rein regelbasiert arbeiten, sieht sie einen Paradigmenwechsel in der Arbeitsweise im Unternehmen – und zieht einen weiteren Vergleich aus der Welt der Mobilität: „Wir sind es alle gewohnt, mit Autos zu fahren, und plötzlich kauft die Unternehmensführung lauter Pferde und keiner weiß mehr, wie er richtig um die Ecke biegen kann.“ Es gebe daher eine Notwendigkeit von tiefgreifenden, kontinuierlichen Schulungen für die Belegschaft.

Der Faktor Mensch und das Risiko der Schatten-KI

Trotz technologischer Sicherheitsvorkehrungen, wie etwa dem Einsatz von KI direkt auf isolierter Hardware („AI on Device“), wie es KEBA umsetzt, bleibt der Mensch die entscheidende Schnittstelle, meint auch Franziskos Kyriakopoulos. Er stellt klar, dass Hardware-Lösungen allein nicht ausreichen. Man müsse sich zwingend auch mit Richtlinien wie der DSGVO oder dem AI Act auseinandersetzen. „Das ist auch ein People’s Business, weil es schlussendlich Menschen sind, die sich damit beschäftigen“, betont der Experte. Bei KEBA setze man daher auf klare Datenrichtlinien und vertraue auf gut geschulte Mitarbeiter:innen.

Fehlt dieses Enablement im Unternehmen, steigt das Risiko für sogenannte „Schatten-KI“ rasant an. Villamizar verweist hierzu auf Studien, wonach rund 50 Prozent der Mitarbeiter:innen private KI-Accounts für berufliche Zwecke nutzen. Dies geschehe oft aus Stress oder Innovationsdrang. Eine zu restriktive Unternehmenspolitik sei hier kontraproduktiv, urteilt der EY-Experte: „Wenn ich denke, Governance und Security bedeutet, alles zu blockieren, verursache ich gerade solche Handlungen“.

Safespaces und eine neue Fehlerkultur

Um der Schatten-IT entgegenzuwirken und gleichzeitig den Umgang mit neuen Tools zu erlernen, plädieren alle Diskutant:innen für geschützte Experimentierräume („Safespaces“). Mitterer greift das Bild des Autos noch einmal auf und fordert, dass Unternehmen Budgets und Zeitfenster schaffen müssen, damit Mitarbeiter:innen ihren „KI-Führerschein“ machen können. In der ITSV werde dies bereits durch einen speziellen Innovationsausschuss gefördert.

Letztlich erfordere KI aber auch ein Umdenken bei den Erwartungshaltungen des Managements. Kyriakopoulos kritisierte die weit verbreitete Haltung, nach einem KI-Investment sofortige finanzielle Erfolge zu erwarten. Man müsse auch mit Fehlschlägen umgehen können, um langfristig von Prototypen zu serienreifen Produkten zu gelangen. „Es gibt eine Mentalität, dass man glaubt, man investiert in KI und es muss sofort der Return on Investment da sein. So funktioniert AI halt nicht“, resümierte der KEBA-Manager.

Deine ungelesenen Artikel:
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
Schulterschluss in Paris: Macron und Modi warben auf der VivaTech 2026 gemeinsam für eine „verantwortungsvolle KI" als Wertegemeinschaft. | (c) VivaTech

Am 12. Juni erreicht Anthropic ein Brief des US-Handelsministeriums. Drei Tage zuvor war Claude Fable 5 erschienen, das leistungsfähigste allgemein verfügbare Modell des Hauses. Nun ist es für jede Person ohne US-Staatsbürgerschaft zu sperren, im In- wie im Ausland. Weil sich Staatsangehörigkeit nicht in Echtzeit prüfen lässt, schaltet Anthropic beide Modelle weltweit ab, auch für die eigenen US-Kund:innen. Betroffen sind nicht nur einzelne Nutzer:innen: Anwendungen, die das Modell direkt einbinden, stehen über Nacht still, und der Fall führt vor Augen, wie viele Produkte und ganze Geschäftsmodelle auf einem einzigen, von außen abschaltbaren Modell ruhen. Der „kill switch“, über den Europa seit Jahren theoretisch debattiert, ist plötzlich real, und er trifft die fortgeschrittenste KI ihrer Generation. Anthropic kündigte an, den Zugang so rasch wie möglich wiederherzustellen, zum Redaktionsschluss war die Sperre weiter in Kraft.

Fünf Tage später öffnet in Paris die VivaTech, Europas größte Tech-Messe, zum zehnten Mal. 15.000 Startups, Jeff Bezos als Stargast, und doch reibt sich die KI-Euphorie an der Angst vor der eigenen technologischen Abhängigkeit. Schon auf der Eröffnungsbühne nimmt Frankreichs Wirtschaftsminister Roland Lescure direkt Bezug auf die Anthropic-Sperre: Es gehe nicht länger um eine Zugangsdebatte, Regeln könnten sich über Nacht ändern, und Souveränität heiße, dann noch handlungsfähig zu sein. Tags zuvor hatte Premier Lecornu verkündet, der französische Inlandsgeheimdienst trenne sich vom US-Konzern Palantir zugunsten des heimischen Anbieters ChapsVision. Die Kulisse ist gesetzt.

Souveränität, messbar gemacht

Ausnahmsweise lässt sich Souveränität hier auch messen. Nvidia hatte auf der VivaTech 2025 mehr als 20 KI-Fabriken für Europa versprochen und Mistral zum souveränen Compute-Champion erklärt. Und anders als im Vorjahr liefert die Messe Konkretes: Mistral Compute geht als europäische GPU-Cloud teilweise in Betrieb, Foxconn und Bull kündigen eine Serverfertigung im französischen Angers an. Aus Ankündigung wird Auslieferung. Nur ist selbst das Souveräne es nur halb: Mistral Compute läuft auf 18.000 Nvidia-Chips. Die ganze europäische KI ruht auf einem nicht-europäischen Silizium-Sockel. Doch genau hier liegt Europas einziger echter Trumpf: Ohne die EUV-Lithografie des niederländischen Konzerns ASML, dessen Chef Christophe Fouquet ebenfalls in Paris war und der inzwischen Europas wertvollstes Unternehmen ist, kann weltweit niemand Spitzenchips fertigen. Abhängig auf der einen Ebene, unverzichtbar auf der anderen. Souveränität als Baustelle, nicht als Zustand.

„Tech for humanity“: Narendra Modi positionierte Indien auf der VivaTech 2026 als KI-Länderpartner Frankreichs. (c) VivaTech

Und Österreich?

Und Österreich? Steht in dieser Debatte überraschend weit vorn. Die „Declaration on European Digital Sovereignty“, die inzwischen alle 27 EU-Staaten mittragen, geht auf eine österreichische Initiative rund um Digitalisierungs-Staatssekretär Alexander Pröll zurück. Wien als Anstoßgeber dessen, worüber Paris nun diskutiert. Und das Bundesheer hat seine 2020 begonnene Migration von rund 16.000 Arbeitsplätzen auf LibreOffice 2025 abgeschlossen, bewusst ohne Cloud, also ohne fremden Schalter. Die unbequeme Frage für die heimische Szene lautet, ob aus solchen Verwaltungsentscheidungen auch ein Markt für österreichische Anbieter wird, oder ob Souveränität Behördensache bleibt.

Verhandeln aus der Schwäche

Den wahren Lackmustest liefert nicht die Bühne, sondern eine Frage am Rande. Auf die Fable-5-Sperre angesprochen, fordert Emmanuel Macron keine Unabhängigkeit. Er appelliert an die USA, ihre Spitzentechnologie zu teilen, und kündigt zugleich mehr Geld für die französische KI-Industrie an. Zuerst die Bitte um Zugang, dann, hilfsweise, die eigene Souveränität. Das kann man als Schwäche lesen. Man kann es auch als nüchterne Arbeitsteilung verstehen: das Beste nutzen, das es gibt, und parallel absichern, falls es wegbricht. Dass Macron sich die politische Bühne mit Indiens Premier Narendra Modi teilte, der für eine menschenzentrierte KI jenseits von Washington und Peking wirbt, unterstreicht denselben Reflex: Souveränität wird als Wertegemeinschaft inszeniert, die offene Frage nach Compute, Kapital und Chips bleibt.

Joe Tsai Chairman at Alibaba Group bei der VivaTech | (c) brutkasten / Martin Pacher

„Souveränität ist keine Isolation, sie ist Offenheit aus einer Position der Stärke“, sagt Deutschlands Digitalminister Karsten Wildberger. Schön gesagt, nur verhandelte Europa diese Woche aus Abhängigkeit, nicht aus Stärke. Alibabas Joe Tsai formulierte es zynisch ehrlicher: Europa solle seine Eier in zwei Körbe legen. Ein zweiter Lieferant ist keine Unabhängigkeit. Und doch, hier wird es unbequem, ist Diversifizierung für eine Region, die den ganzen Stack realistisch nie allein bauen wird, womöglich nicht die feige, sondern die rationale Antwort. Die ehrliche Variante von Souveränität wäre dann nicht Autarkie, sondern die Fähigkeit, den Lieferanten zu wechseln, wenn einer den Schalter umlegt, ohne dass das eigene Geschäft mit ihm stillsteht.

Der Preis der Autonomie

Bleibt die Frage, die diese Ausgabe aufwirft. Dass Europa Souveränität will, bestreitet niemand. Die eigentliche Frage ist der Preis: höhere Kosten, langsamere Verfügbarkeit, weniger Zugriff auf das jeweils beste Modell. Und ob das Geld dafür da ist. Auf die USA entfallen rund 50 Prozent des globalen Risikokapitals, auf China 40, auf Europa fünf. Solange sich daran nichts ändert, bleibt Souveränität das würdevollere Wort für eine gut gemanagte Abhängigkeit. Die Fable-5-Woche hat Europa beides gegeben, den Schreck und die Ausrede. Welche Lehre hängen bleibt, entscheidet sich nicht in den Hallen von Porte de Versailles, sondern in den Beschaffungsabteilungen, die nächsten Monat wieder eine Lizenz verlängern müssen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“