23.03.2026
NACHLESE | FOLGE 5

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

Nachlese. Hemmschuh oder Enabler? In der neuen Folge von "No Hype KI" wird diskutiert, wie sich die rasante technologische Entwicklung mit Sicherheit, Governance und dem EU AI Act vereinbaren lässt.
/artikel/ki-und-sicherheit-im-unternehmen-schnellere-autos-haben-auch-sehr-gute-bremsen
v.l. Moritz Mitterer (ITSV), Gabriele Bolek-Fügl (PaiperOne & Women in AI Austria), Hernan Villamizar (EY) und Franziskos Kyriakopoulos (KEBA Group) | (c) brutkasten

„No Hype KI“ wird unterstützt von ACPEYITSVKEBA GroupLenovoMicrosoftONTEC AI und der Universität Graz.


Wenn es um die Implementierung von Künstlicher Intelligenz geht, steht das Thema Sicherheit für viele Unternehmen an erster Stelle – insbesondere dann, wenn mit sensiblen Informationen gearbeitet wird. Aber wie lässt sich KI-Sicherheit und die damit verbundene Governance umsetzen, ohne zum Hemmschuh zu werden? Und wie sehr ist Sicherheit eine technologische Frage, wie sehr hängt sie am Menschen? Diese und mehr Fragen wurden in der fünften Folge der aktuellen Staffel der brutkasten-Serie „No Hype KI“ behandelt.

Es diskutierten Moritz Mitterer, Aufsichtsratsvorsitzender ITSV, Hernan Villamizar, Senior Manager AI and Advanced Analytics bei EY, Franziskos Kyriakopoulos, Vice President Digital Business bei der KEBA Group, und Gabriele Bolek-Fügl, CEO von PaiperOne & Beirätin Women in AI Austria.

Sicherheit als Fundament, nicht als Hemmschuh

Bei der ITSV stehe Sicherheit ganz im Zentrum, betont Moritz Mitterer. Er hebt die besondere Brisanz bei der Verarbeitung von Gesundheitsdaten in der Sozialversicherung hervor. „Wir testen neue Anwendungen in einem sehr sicheren Umfeld on premise, bevor wir in den Rollout gehen“, sagt er über die zurückhaltende, aber strukturierte Herangehensweise seiner Organisation. Nicht nur die Technik berge Risiken, sondern auch die falsche Anwendung durch den Menschen.

Dass gesetzliche Regulierungen wie der EU AI Act in diesem Kontext oft als Innovationsbremse kritisiert werden, sieht Gabriele Bolek-Fügl als CEO des Governance-Spezialisten PaiperOne anders. Aus ihrer Sicht bietet die Regulierung vor allem Schutz für die Anwender:innen. „Mit dem AI Act wird auf der gesamten Lieferkette klargestellt, wer haftet, wenn ein Problem mit dem KI-System besteht“, argumentierte Bolek-Fügl. Sie habe nicht den Eindruck, dass dies Innovationen verhindere, sondern vielmehr dringend benötigte Rechtssicherheit schaffe.

Governance: Von Rennwagen und Pferden

Die Expert:innen sind sich einig, dass Governance-Strukturen neu gedacht werden müssen, um Unternehmen handlungsfähig zu halten. Hernan Villamizar von EY wählt dafür einen prägnanten Vergleich: „Die schnelleren Autos haben auch sehr gute Bremsen“. Eine gut durchdachte KI-Governance helfe Entwickler:innen und Nutzer:innen letztlich dabei, die Technologie in einem sicheren Rahmen schneller und verantwortungsvoller anzuwenden.

Dabei stoßen klassische Software-Regeln jedoch an ihre Grenzen, wie Bolek-Fügl zu bedenken gibt. Da KI-Systeme statistisch und nicht rein regelbasiert arbeiten, sieht sie einen Paradigmenwechsel in der Arbeitsweise im Unternehmen – und zieht einen weiteren Vergleich aus der Welt der Mobilität: „Wir sind es alle gewohnt, mit Autos zu fahren, und plötzlich kauft die Unternehmensführung lauter Pferde und keiner weiß mehr, wie er richtig um die Ecke biegen kann.“ Es gebe daher eine Notwendigkeit von tiefgreifenden, kontinuierlichen Schulungen für die Belegschaft.

Der Faktor Mensch und das Risiko der Schatten-KI

Trotz technologischer Sicherheitsvorkehrungen, wie etwa dem Einsatz von KI direkt auf isolierter Hardware („AI on Device“), wie es KEBA umsetzt, bleibt der Mensch die entscheidende Schnittstelle, meint auch Franziskos Kyriakopoulos. Er stellt klar, dass Hardware-Lösungen allein nicht ausreichen. Man müsse sich zwingend auch mit Richtlinien wie der DSGVO oder dem AI Act auseinandersetzen. „Das ist auch ein People’s Business, weil es schlussendlich Menschen sind, die sich damit beschäftigen“, betont der Experte. Bei KEBA setze man daher auf klare Datenrichtlinien und vertraue auf gut geschulte Mitarbeiter:innen.

Fehlt dieses Enablement im Unternehmen, steigt das Risiko für sogenannte „Schatten-KI“ rasant an. Villamizar verweist hierzu auf Studien, wonach rund 50 Prozent der Mitarbeiter:innen private KI-Accounts für berufliche Zwecke nutzen. Dies geschehe oft aus Stress oder Innovationsdrang. Eine zu restriktive Unternehmenspolitik sei hier kontraproduktiv, urteilt der EY-Experte: „Wenn ich denke, Governance und Security bedeutet, alles zu blockieren, verursache ich gerade solche Handlungen“.

Safespaces und eine neue Fehlerkultur

Um der Schatten-IT entgegenzuwirken und gleichzeitig den Umgang mit neuen Tools zu erlernen, plädieren alle Diskutant:innen für geschützte Experimentierräume („Safespaces“). Mitterer greift das Bild des Autos noch einmal auf und fordert, dass Unternehmen Budgets und Zeitfenster schaffen müssen, damit Mitarbeiter:innen ihren „KI-Führerschein“ machen können. In der ITSV werde dies bereits durch einen speziellen Innovationsausschuss gefördert.

Letztlich erfordere KI aber auch ein Umdenken bei den Erwartungshaltungen des Managements. Kyriakopoulos kritisierte die weit verbreitete Haltung, nach einem KI-Investment sofortige finanzielle Erfolge zu erwarten. Man müsse auch mit Fehlschlägen umgehen können, um langfristig von Prototypen zu serienreifen Produkten zu gelangen. „Es gibt eine Mentalität, dass man glaubt, man investiert in KI und es muss sofort der Return on Investment da sein. So funktioniert AI halt nicht“, resümierte der KEBA-Manager.

Deine ungelesenen Artikel:
13.08.2026

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

Seit 2014 zieht die Bits & Pretzels Startup- und Innovationsbegeisterte nach München. Heuer mit Steven Bartlett und Trevor Noah als Stargästen. Mitgründer Bernd Storm van's Gravesande erklärt, warum ein Ankerkunde für viele Startups eine starke Ergänzung oder Alternative zu VC-Kapital sein kann und warum ohne VCs trotzdem kein Startup-Ökosystem existieren würde.
/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder
13.08.2026

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

Seit 2014 zieht die Bits & Pretzels Startup- und Innovationsbegeisterte nach München. Heuer mit Steven Bartlett und Trevor Noah als Stargästen. Mitgründer Bernd Storm van's Gravesande erklärt, warum ein Ankerkunde für viele Startups eine starke Ergänzung oder Alternative zu VC-Kapital sein kann und warum ohne VCs trotzdem kein Startup-Ökosystem existieren würde.
/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder
Bits & Pretzels Mitgründer und Managing Director Bernd Storm van's Gravesande © Bits & Pretzels

Weißwurst zum Frühstück, Brezn zur Beteiligungsverhandlung: Wenn München jedes Jahr im Herbst zur Wiesn bläst, verwandelt sich ein Teil der Stadt gleichzeitig in die größte Gründerbühne Europas. Seit 2014 zählt die Bits & Pretzels zu den wichtigsten Innovationsevents des Kontinents. Größen wie Barack Obama oder Arnold Schwarzenegger haben in München bereits ihre Weisheiten mit dem Publikum geteilt. Bei der dreitägigen Konferenz geht es aber nicht nur um Inspiration, sondern vor allem um Austausch und potenzielle Kundengewinnung. Genau darin sieht Bits-&-Pretzels-Mitgründer und Managing Director Bernd Storm van’s Gravesande eine relevante Alternative zur klassischen Kapitalaufnahme über VCs.


brutkasten: Die polarisierende These, mit der wir heute starten: VCs sind out, Corporates sind in. Wie kommst du dazu?

Bernd Storm van’s Gravesande: Ich möchte die zentrale und wichtige Rolle von VCs damit überhaupt nicht kleinreden – ohne Venture Capital gäbe es das ganze Startup-Ökosystem nicht, das muss uns klar sein. Aber die Überspitzung dient natürlich auch dazu, dass wir erkennen: Für viele Startups – nicht für alle – gibt es Alternativen. Nämlich, dass ein Ankerkunde manchmal passender ist als ein Ankerinvestor. Da muss man immer definieren: für wen, für welches Startup, in welcher Phase.

Aber ein Ankerkunde kann sehr wertvoll sein. Nehmen wir ein Beispiel, das gerade in aller Munde ist: Defense. Wir haben die Helsings, die Quantum Systems und so weiter. Das ist eine spezielle Branche, aber das Muster dahinter erkennen wir auch in anderen Branchen. Bei all diesen hast du nicht nur reine VCs, sondern etwa mit der Bundeswehr oder mit internationalen Staaten ganz konkrete Kunden, mit denen du nicht nur über potenzielle Umsätze sprichst, sondern über ganz konkrete.

Wenn du als Startup schon zahlende Kunden mitbringen kannst, ist das so viel mehr wert als jede Powerpoint oder Marktanalyse. Das ist der eigentliche Proof. Du hast einen Ankerkunden und das ist sehr viel wert, auch für künftige Partner- und Kundenbeziehungen oder spätere Finanzierungsrunden.

Ist das eine Entwicklung, die du erst in letzter Zeit beobachtest, oder war das eigentlich immer schon so?

Die Rahmenbedingungen haben sich verändert, es geht verstärkt in diese Richtung. Vor vier, fünf Jahren war Kapital sehr günstig, Venture Capital war auch leichter in höheren Bewertungsrunden aufzunehmen. Da war es nicht so zwingend notwendig, zähe Corporate Deals einzugehen. Diese Rahmenbedingungen haben sich geändert.

Gleichzeitig haben sich aus meiner Sicht auch die Corporates selbst entwickelt. Vor zehn Jahren war es fancy, Acceleratoren und Innovation Labs zu haben, Innovationsprogramme – ein bisschen Schaufensterdekoration. Daraus ist inzwischen ein existenzieller Druck geworden, vor allem im Bereich KI. Die Corporates sehen die Innovation von Startups nicht mehr als Nice-to-have, sondern stehen so stark unter Druck, dass sie darauf angewiesen sind und überlegen müssen, wie sie diese intern nutzen können. Das sind die zwei Hauptfaktoren, die sich geändert haben: die Rahmenbedingungen für die Kapitalaufnahme und die Dringlichkeit der Corporates, externe Innovation aufzunehmen oder mit Startups zusammenzuarbeiten.

Bei der Bits & Pretzels haben wir ja nicht nur Investoren und Kunden, sondern auch 500 CIOs, weil wir verstehen, dass diese künftige Kunden- oder Entwicklungsbeziehung in unserer Wirtschaft notwendig sein wird – wir reden über Europa, über Deutschland. Das ist keine temporäre Reaktion, nach dem Motto: Weil Kapital teurer ist, machen wir eben was anderes. Es geht klar in die Richtung, dass man idealerweise sehr früh im Rahmen der Produktentwicklung gemeinsam mit Ankerkunden erste Umsätze generiert und am Markt Fortschritte erzielt.

Gibt es Red Flags, bei denen du sagen würdest: Finger weg von dieser Corporate-Venturing-Beziehung?

Red Flag ist ein hartes Wort, aber vorsichtig wäre ich bei Innovationslaboren. Ich würde jedem empfehlen, direkt zum Bereichsleiter oder zur Bereichsleiterin mit Umsatz- und Kostenverantwortung zu gehen, weil man dann bei den Entscheider ist. Ich würde mich nur eng committen, wenn man einen Kontakt auf Vorstands- oder Bereichsvorstandsebene hat – einen C-Level-Sponsor, weil man sonst nicht alle Türen öffnen kann.

Man muss sich vor Augen halten: Wenn du ein Corporate als Kunden siehst, ist das ein toller Proof, aber auch ein Riesen-Pain. Ein häufiges Problem, ein Stolperstein, ist die Geschwindigkeit. Wenn ich als kleiner Gründer an einen DAX-Konzern herantrete, bin ich startklar, ich fange morgen mit der Entwicklung an. Aber die brauchen so viele Abstimmungen – Rechtsabteilungen, Bereichsleiter, Einkaufsprozesse, Integrationsschnittstellen, IT-Implementierungsbudgets. Das dauert. Das muss man als Gründer wissen, das geht nicht von heute auf morgen. Was ich aus eigener Erfahrung und von vielen anderen auf der Bits & Pretzels gehört habe, nenne ich „Pilotitis“: Lass uns mal einen kostenlosen Proof of Concept machen und dann weitersehen. Mit hoher Wahrscheinlichkeit geht das nie in den Echtbetrieb, das ist die falsche Herangehensweise.

Beim Thema Kundenrisiko: Wenn Corporates Exklusivität wollen, dann höchstens temporär, sechs, zwölf Monate, aber bitte nicht 24 Monate – sonst bist du gefangen und kannst nur hoffen, dass sie dir Folgeprojekte geben. Ein weiteres mögliches Warnsignal: Wenn sich der Einkaufsprozess so in die Länge zieht, dass etwa ein Betriebsrat zustimmen muss, sollte man sich fragen, ob das trotzdem der richtige Kunde ist – als Gründer hat man ja ohnehin schon Zeitdruck, etwas FOMO und ein bisschen Paranoia.

Wo passen die VCs in diesem Bild trotzdem noch rein? Wo macht es weiterhin mehr Sinn, auf VC zu setzen statt auf Corporates als Pilotkunden?

Grundsätzlich immer, wenn man ein skalierbares Tech-Business-Modell hat. Ich sage nur, dass VC nicht mehr die einzige Option ist. Die Anzahl der Finanzierungsrunden geht runter, die Anzahl der Gründungen geht hoch – also müssen sich Gründer zwangsläufig überlegen, wo sie außer von VCs Geld herbekommen. Umsatz ist das neue Risikokapital, plakativ gesagt. Das kann für viele funktionieren, weil nicht alle von Milliardenrunden wie bei Helsing oder von den gerade raisenden Health-Tech-Companies gesegnet sind. Wir reden auch über den Mittelstand der Gründungen, der ebenfalls Umsatz braucht – und kein VC-Geld zu bekommen heißt nicht automatisch, keinen Erfolg am Markt zu haben. Viele bekommen keinen VC. Und ich plädiere dafür, zu überlegen, dass Umsatz auch gutes, für viele sogar das passende Kapital sein kann.

Auf der Bits & Pretzels findet auch heuer wieder der CIO AI Summit statt, den ich intern kuratiere und hoste. Da kommen 500 CIOs aus dem deutschen Mittelstand, aus der deutschen Industrie und von Großunternehmen zusammen, tauschen sich zunächst untereinander aus, und dann öffnen wir den Raum, damit jeder Gründer und jede Gründerin mit ihnen in Kontakt treten kann. Genau das sind mögliche Kontaktpunkte, um Ankerkunden zu gewinnen – und auch für jedes österreichische Startup, das den deutschen Markt als relevant erachtet, eine sehr effiziente Möglichkeit, Industriekontakte zu knüpfen.

Wenn wir schon bei der Bits & Pretzels sind: Wie ist es euch eigentlich gelungen, Steven Bartlett heuer als Speaker zu gewinnen und auf welche Highlights darf man sich sonst noch freuen?

Beharrlichkeit. Es ist nicht das erste und nicht das zweite Mal, dass wir angefragt haben, das erste Mal ungefähr 2024. Wir haben als Veranstalter den Luxus, aber auch die Bürde, zu überlegen, wer passt, wer motiviert, wer inspiriert, wer den Leuten Energie im Raum gibt und die Gespräche entfacht. Und da waren wir uns immer einig, dass Steven Bartlett ein toller Mensch ist – selbst Gründer, und durch seine Empathie in seinen Interviews betont er immer wieder genau diesen menschlichen Aspekt hinter dem Unternehmen, hinter der Gründung. Das passt sehr gut zu unserem heurigen Motto „Human After All“. Dazu kommt seine enorme Expertise: Er ist ein sehr guter Speaker, ein bisschen Celebrity, aber eben auch ein fantastischer Fachexperte, der die Leute begeistern kann – und das wollen wir. Also leider keine wahnsinnige Story von einem zufälligen Treffen beim Kaffee in London, sondern schlicht Hartnäckigkeit, bis er endlich Zeit hatte.

Ein bisschen in dieselbe Richtung geht auch Trevor Noah, den wir ebenfalls dabei haben: Auch er ist Unternehmer, hat für Microsoft eine KI-Serie gemacht, ist also vom Fach. Ich glaube, solche Personen können unsere Themen nochmal ganz anders beleuchten, aus einer anderen Perspektive, und die Leute begeistern. Ein bisschen Out-of-the-box-Denken eben – deshalb holen wir sie.


Die Bits & Pretzels 2026 findet heuer von 28. bis 30. September 2026 wieder in München statt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI und Sicherheit im Unternehmen: „Schnellere Autos haben auch sehr gute Bremsen“