Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.
Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.
Achtung bei Erstellung & Verwendung von General Purpose AI
Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.
AI Act sieht hohe Risiken bei Hochrisiko-KI
Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.
Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung
Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.
Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.
“Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis
Nachlese. Der Hype um künstliche Intelligenz ist längst im Rollen. Doch wie schaffen Unternehmen den Durchbruch in der Praxis? In der dritten Folge der neuen brutkasten-Serie “No Hype KI” schildern Expert:innen, welche Erfolgsfaktoren wirklich zählen und wie sich Herausforderungen souverän meistern lassen - von Datenlücken bis hin zur Einbindung der Belegschaft. Klar wird, dass die Technik nur ein Teil der Gleichung ist.
“Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis
Nachlese. Der Hype um künstliche Intelligenz ist längst im Rollen. Doch wie schaffen Unternehmen den Durchbruch in der Praxis? In der dritten Folge der neuen brutkasten-Serie “No Hype KI” schildern Expert:innen, welche Erfolgsfaktoren wirklich zählen und wie sich Herausforderungen souverän meistern lassen - von Datenlücken bis hin zur Einbindung der Belegschaft. Klar wird, dass die Technik nur ein Teil der Gleichung ist.
Wie lässt sich KI “richtig” in Unternehmen integrieren? Wieso erleben Unternehmen einen “Bottom-Up-Push” und warum sprechen viele dabei noch von großen Hürden? Um diese und viele weitere Fragen ging es in der dritten Folge von “No Hype KI”. Zu Gast waren Alexandra Sumper von Nagarro, Manuel Moser von CANCOM Austria, Moritz Mitterer von ITSV sowie Clemens Wasner von AI Austria und EnliteAI.
Der Bottom-Up-Push
“Der AI-Hype ist jetzt circa zehn Jahre alt”, startet Clemens Wasner die Diskussionsrunde. Was als “vorausschauende Warnung und Betrugserkennung” im B2B-Sektor begann, hat sich eine knappe Dekade später zu einer Bottom-Up-Push-Bewegung entwickelt. “Einzelne Mitarbeitende verfügen teilweise über weitaus mehr praktische Erfahrung mit Generativer KI”, als “das oft auf einer Projektebene passiert”, so Wasner.
Um KI federführend in Unternehmen zu verankern, sei es wichtiger denn je, Mitarbeitende einzubinden und ihnen intern eine Bühne für den Best-Practice-Austausch zu geben, erklärt Wasner weiter. Aktuell ginge der KI-Push immer intensiver von Mitarbeiter:innen aus. Vergleichbar sei diese Bewegung mit dem Aufkommen der Smartphones vor etwa fünfzehn Jahren.
Daten mit Qualität
Als Basis sollte zuerst allerdings der Datenhaushalt eines Unternehmens sauber strukturiert und reguliert werden, sagt Manuel Moser, Director Digital Innovation & Software Engineering bei CANCOM Austria. “Wenn ein Unternehmen in puncto Daten hinterherhinkt, kann das jetzt durchaus ein Stolperstein sein”, sagt der Experte. In CRM- und ERP-Systemen finden sich häufig unvollständige Angaben. Die dadurch entstehende unzureichende Datenqualität könne jede KI-Initiative ins Stocken bringen, so Moser.
“Der größte Feind ist Zettel und Bleistift”
Schon allein das Notieren von Informationen auf Zetteln gilt nicht nur als scheinbar banale Hürde, wie Moser im Talk erläutert. Analoge Gewohnheiten können enorme Auswirkungen auf den gesamten Digitalisierungsprozess des Unternehmens haben: “Ich sage immer: Bei Digitalisierungslösungen ist der größte Feind der Zettel und der Bleistift am Tisch, mit denen man das digitale Tool am Ende des Tages umgeht.”
Gerade der öffentliche Sektor sollte im KI-Einsatz sowie in der Verwaltung von Daten sorgfältig agieren. Moritz Mitterer, Aufsichtsratsvorsitzender der ITSV, spricht von besonders sensiblen Daten aus der Sozialversicherung, die ein enges rechtliches Korsett und damit ein höheres Maß an Vorsicht mit sich bringen.
“Wir haben 2017 in der ITSV damit begonnen, innerhalb der Struktur damit zu experimentieren”, erzählt Mitterer. Ein essentielles Learning daraus: Gerade große Prozessmengen stellen sich als ideales Feld für KI heraus – wenn man vernünftige Leitplanken, klare Haftungsregeln und eine unternehmensweite Governance definiert.
Im Fokus stehen User:innen
Datenqualität, Governance und gleichzeitig reichlich Agilität? Worauf sollten sich Unternehmen in erster Linie konzentrieren, um KI lösungsorientiert einzusetzen? Alexandra Sumper, Director Delivery Österreich bei Nagarro, betont, dass KI-Projekte weit mehr als reine Technik voraussetzen: “Meine Erfahrung zeigt wirklich, nicht zu groß zu beginnen, wenn man erst am Anfang steht.“ Viele Firmen würden sich gerade anfangs in Strategiepapieren verlieren, anstatt realitätsgetreue Use Case zu definieren, so die Expertin.
“Man muss gut darauf achten, dass man liefert. Sowohl an Datenqualität, als auch an optimierter User Experience”, erläutert Sumper. Als Erfolgsbeispiel nennt sie die Asfinag, die einen KI-Chatbot erfolgreich eingeführt hat. Das Besondere dabei: Ein Kernteam entwickelte die KI-Lösung, achtete auf Datenqualität und band die künftigen Nutzer:innen ein. Die Akzeptanz im Unternehmen stieg rasant, erzählt Sumper von den Projektanfängen.
Ähnliche Schlüsse zieht Sumper aus der Beobachtung anderer Kund:innen: In erster Linie gelte es zu testen, ob KI in einem kleinen Rahmen Nutzen bringt. Sobald Mitarbeiter:innen erleben, dass KI ihre Arbeit wirklich erleichtert, wächst das Vertrauen und die Bereitschaft, weitere Schritte zu gehen.
“Am Anfang gibt es nichts, dass zu 100 Prozent funktioniert”
Dass sich eine Trial-and-Error-Phase gerade in den Anfängen des KI-Einsatzes nicht vermeiden lässt, scheint ein allgemeiner Konsens der Diskussionsrunde zu sein. “Es gibt nichts, was sofort 100 Prozent top funktioniert”, so Sumper. Um Fehlerquellen und deren Auswirkungen jedoch möglichst gering zu halten, empfiehlt die Expertin Qualitätssicherung durch ein Key-User-Team, um Fehler festzustellen, zu korrigieren und Daten-Gaps zu schließen.
Hierbei sollen die Möglichkeiten von generativer KI intelligent genutzt werden, wie Clemens Wasner hervorhebt: “Wir haben das erste Mal eine Technologie, die es ermöglicht, unstrukturierte Daten überhaupt auswertbar zu machen.” Nun gilt es, Effizienz in der Datenstrukturierung und -auswertung zu fördern, um mit der aktuellen Welle der digitalen Transformation mitzuhalten. Denn KI ist, wie Manuel Moser von CANCOM Austria bestätigt, ein wesentlicher Teil der digitalen Transformation: “Ein Baustein, wenn man so will, wie ein ausgestrecktes Werkzeug eines Schweizer Taschenmessers.”
KI-Bereiche mit Potenzial zur Ausgründung
Das Gespräch zeigte insgesamt, dass Unternehmen viel gewinnen können, wenn sie KI nicht als fertige Lösung, sondern als Lernprozess verstehen, in den die Belegschaft aktiv mit eingebunden wird. Auf einer soliden Datenbasis mit klarer Kommunikation ließe sich schon in kleinen Projekten ein spürbarer Mehrwert für das Unternehmen erzeugen.
In manchen Branchen, darunter Sozialversicherungen, E-Commerce sowie Luftfahrt und Logistik, sind Fortschritte unvermeidlich, um den steigenden Anforderungen von Markt- und Mitarbeiterseite gerecht zu werden.
Wasner spricht hierbei von einem Fokus auf Digital Business, der sich bereits in der Entstehung neuer Geschäftsfelder am Markt zeigt: Immer häufiger bündeln Unternehmen Wissensträger:innen zu den Bereichen Data, IoT und Machine Learning in einer eigenen Organisation oder Ausgründung. Gezielt wird hier das Potenzial eines eigenen KI-Kernteams zu nutzen und auszubauen versucht.
Luft nach oben
Dass es in vielen Branchen noch reichlich ungenutztes Potenzial gibt, haben mittlerweile einige Reports aufgeschlüsselt dargestellt. Gerade im Healthcare-Bereich sei “mit Abstand am meisten rauszuholen” – unter anderem im Hinblick auf den sicheren und effizienten Umgang mit Patienten- und Amnesie-Daten zur schnellen und akkuraten Behandlung.
Laut Moritz Mitterer der ITSV besteht eine große Herausforderung darin, sensible Patientendaten und strenge Regulatorik mit dem Wunsch nach Fortschritt zu vereinen. Gerade in Sozialversicherungen sei es wichtig, eine klare Governance zu schaffen und den Einsatzrahmen von KI zu definieren. Nur so könne Vertrauen gefestigt und sichergestellt werden, dass neue Technologien nicht an bürokratischen Hemmnissen oder Sicherheitsbedenken scheitern.
Vertrauen ist “noch ein starker Blocker”
“Am Ende des Tages probieren Unternehmen aus: Wie reagiert die Technologie, wie geht man damit um, welche Art von Projekten macht man?”, rundet Manuel Moser von CANCOM Austria die Diskussion ab. Der nächste Schritt liege darin, immer “mehr in die Kernprozesse von Unternehmen reinzukommen”, so Moser. “Und das, glaube ich, ist ein sehr wesentlicher Punkt.” Das Vertrauen, dass es die Technologie braucht. Das ist aktuell noch ein “starker Blocker in Unternehmen”.
Die Expertenrunde teilt einen universellen Konsens: Der Mensch sowie sein Know-how und Vertrauen in KI spielen bei der digitalen Transformation eine erhebliche Rolle. Sobald KI-Anwendungen auf eine verlässliche Datenstruktur und klare Organisation treffen, kann sich KI im Unternehmensalltag entfalten. Erst durch das Zusammenspiel von Technik, Datenkultur und motivierten Teams wird KI zum Treiber neuer Chancen.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
