„No Hype KI“ wird unterstützt von ACP, EY, ITSV, KEBA Group, Lenovo, Microsoft, ONTEC AI und der Universität Graz.
Wie lassen sich Innovationskraft und Sicherheit beim Einsatz von Künstlicher Intelligenz vereinen? Welche Rolle spielt der EU AI Act für die Haftung von Unternehmen? Und wie schützt man sich vor neuen Bedrohungen wie Prompt Injections oder unkontrollierten KI-Aktionen?
In der fünften Folge der zweiten Staffel von „No Hype KI“ diskutiert eine Expert:innenrunde über Governance, Security und Responsible AI. Das Gespräch beleuchtet technische Ansätze wie „AI on Device“ ebenso wie regulatorische Rahmenbedingungen und den notwendigen Kulturwandel in Organisationen. Es wird analysiert, warum Governance kein Innovationshemmer sein muss, sondern als Enabler für Geschwindigkeit fungiert und wie Unternehmen der Gefahr der „Schatten-KI“ begegnen können.
Es diskutieren:
⚫ Moritz Mitterer, Aufsichtsratsvorsitzender der ITSV
⚫ Gabriele Bolek-Fügl, CEO von PaiperOne & Beirätin Women in AI Austria
⚫ Hernan Villamizar, Senior Manager AI and Advanced Analytics bei EY
⚫ Franziskos Kyriakopoulos, Vice President Digital Business bei der KEBA Group
Um diese Themen geht es im Videotalk:
1. Sicherheit und der Schutz hochsensibler Daten
- Moritz Mitterer betont, dass Sicherheit in der Sozialversicherung aufgrund der Arbeit mit hochsensiblen Gesundheitsdaten an oberster Stelle steht.
- Er erläutert, dass neue KI-Anwendungen zur Risikominimierung bevorzugt in isolierten On-Premise-Umgebungen getestet werden.
- Franziskos Kyriakopoulos führt aus, dass lokale Datenverarbeitung durch „AI on Device“ eine zusätzliche Sicherheitsebene für industrielle Anwendungen schafft.
- Er betont die Wichtigkeit softwareseitiger Compliance-Maßnahmen wie die automatisierte Anonymisierung von Bilddaten direkt am Gerät.
2. Rechtlicher Rahmen und der EU AI Act
- Gabriele Bolek-Fügl erklärt, dass der EU AI Act durch klare Haftungsregeln entlang der Lieferkette die Rechtssicherheit für Unternehmen erhöht.
- Sie weist darauf hin, dass die neue Produkthaftungsrichtlinie die Verantwortlichkeiten bei Softwarefehlern im KI-Kontext präzisiert.
- Kyriakopoulos unterstreicht, dass Industriebetriebe bestehende Sicherheitsrichtlinien nun systematisch um spezifische KI-Regularien erweitern müssen.
3. Neue technische Risiken und autonome Agenten
- Hernan Villamizar warnt vor der Entstehung von „Action Risks“, bei denen autonome KI-Agenten eigenständig Transaktionen oder Kommunikationen ausführen.
- Er erläutert, dass neue Angriffsvektoren wie Prompt Injections direkt die interne Steuerungslogik von Sprachmodellen bedrohen.
- Der EY-Experte empfiehlt Ansätze wie „Zero Trust Development“ und den Einsatz spezialisierter Prüf-Agenten zur Identifikation von Sicherheitslücken im Code.
4. Governance als Enabler für Innovation
- Villamizar nutzt die Analogie eines Rennwagens, bei dem starke Bremsen als Governance-Elemente kontrollierte Geschwindigkeit erst ermöglichen.
- Bolek-Fügl führt aus, dass Governance-Strukturen an die statistische Natur von KI-Systemen im Vergleich zu klassischer Software angepasst werden müssen.
- Villamizar betont, dass klar definierte Prozesse das Vertrauen der Business-Owner in die Sicherheit der technologischen Implementierung stärken.
5. Mitarbeiterbefähigung und Fehlerkultur
- Mitterer hebt hervor, dass Mitarbeiter durch gezielte Qualifizierungsmaßnahmen zum kompetenten und sicheren Umgang mit KI-Tools befähigt werden müssen.
- Bolek-Fügl betont die Notwendigkeit, Anwender für das Erkennen von mathematisch logischen, aber inhaltlich falschen KI-Ergebnissen zu sensibilisieren.
- Kyriakopoulos plädiert für das Schaffen von Freiräumen auf „Teststrecken“, in denen neue Technologien ohne sofortigen Erfolgsdruck validiert werden können.
6. Schatten-KI und praktische Implementierung
- Villamizar stellt fest, dass rein restriktive technische Verbote häufig zur unkontrollierten Nutzung privater KI-Accounts für dienstliche Aufgaben führen.
- Bolek-Fügl warnt davor, dass sensible Informationen trotz Firewalls durch einfaches Abfotografieren von Bildschirmen unbemerkt abfließen können.
- Mitterer berichtet von der Etablierung eines zweckgebundenen Innovationsbudgets, um den Nutzen neuer KI-Projekte in der Praxis schnell zu validieren.
- Kyriakopoulos erklärt, dass die Vernetzung verschiedener Fachbereiche in dezentralen Taskforces den unternehmensweiten Wissenstransfer über KI-Lösungen fördert.
