07.12.2022

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
/artikel/ai-act-der-eu-ki-regulierung-im-anmarsch
In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala

Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.

Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.

Achtung bei Erstellung & Verwendung von General Purpose AI

Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.

AI Act sieht hohe Risiken bei Hochrisiko-KI

Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.

Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung

Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.


Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.

Deine ungelesenen Artikel:
vor 16 Stunden

Eigenkapital steigt, aber Investments sinken – mit Folgen für den Kreditmarkt

Obwohl Österreichs Unternehmen ihre Eigenkapitalquote zuletzt verbessern konnten, werden Investitionen vorsichtiger geplant. Das hat auch Auswirkungen auf den heimischen Kreditmarkt.
/artikel/eigenkapital-steigt-aber-investments-sinken-mit-folgen-fuer-den-kreditmarkt
vor 16 Stunden

Eigenkapital steigt, aber Investments sinken – mit Folgen für den Kreditmarkt

Obwohl Österreichs Unternehmen ihre Eigenkapitalquote zuletzt verbessern konnten, werden Investitionen vorsichtiger geplant. Das hat auch Auswirkungen auf den heimischen Kreditmarkt.
/artikel/eigenkapital-steigt-aber-investments-sinken-mit-folgen-fuer-den-kreditmarkt
Investments
(c) Stock.Adobe/sutthiphong - Die die Investitionsfreude in den heimischen Unternehmen sinkt.

Trotz schwieriger Rahmenbedingungen ist es den österreichischen Unternehmen in den vergangenen Jahren gelungen, ihre Eigenkapitalausstattung zu verbessern. 57 Prozent (ein Plus von sechs Prozent gegenüber 2023) der Betriebe bewerten ihre aktuelle Eigenkapitalsituation mit “sehr gut” oder “gut”. Gleichzeitig sehen 42 Prozent der Befragten die Entwicklung innerhalb der vergangenen drei Jahre positiv. Trotzdem sinkt die Investitionsfreude in den Unternehmen angesichts zahlreicher Herausforderungen und negativer Einflüsse – das sind einige der Ergebnisse des Austrian Business Checks von KSV1870. Die Studie wurde im März 2024 gemeinsam mit dem Markt- und Meinungsforschungsinstitut Marketagent durchgeführt, an der rund 1.200 Unternehmen teilgenommen haben.

Darin liest man: Lediglich 17 Prozent (2023: 21 Prozent) haben Investitionen im laufenden Jahr fix eingeplant. Gleichzeitig steigt der Anteil jener, die Investitionen für 2024 bereits jetzt zur Gänze ad acta gelegt haben. Das hat auch Folgen für den heimischen Kreditmarkt: Gerade einmal neun Prozent (2023: 20 Prozent) der Unternehmen planen eine Kreditaufnahme in diesem Jahr.

“Implosionsgefahr”

Für den Kreditschutzverband hat vor allem der Mix an Krisen, mit denen sich Österreichs Wirtschaft zuletzt konfrontiert sah, vielerorts unmittelbaren (negativen) Einfluss auf die Geschäftstätigkeit und -ergebnisse genommen.

“Viele Unternehmen haben zuletzt vieles richtig gemacht. Angesichts der steten Implosionsgefahr aufgrund zahlreicher externer Gefahren ist das keine Selbstverständlichkeit und zeugt von einer bestehenden Widerstandsfähigkeit”, erklärt Gerhard Wagner, Geschäftsführer der KSV1870 Information GmbH.

Vorsichtige Planung bei Investments

Die Bandbreite an Herausforderungen und wirtschaftlichen Ungewissheiten dürfte auch dazu führen, dass Unternehmen ihre Investments noch vorsichtiger planen und genau überlegen, welche Investitionen tatsächlich notwendig sind, so eine weitere Erkenntnis der Untersuchung. Neben den 17 Prozent der Unternehmen, die Investments für dieses Jahr fest eingeplant haben, machen weitere 41 Prozent (2023: 49 Prozent) etwaige Investitionen von der Geschäftsentwicklung in den nächsten Monaten abhängig. Parallel dazu steigt der Anteil von jenen, die keine Investments ins Auge fassen, von 30 auf 42 Prozent an.

Als Lichtblick wird gesehen, dass von jenen Unternehmen, die Geld in die Hand nehmen möchten, 55 Prozent die Investitionen dazu nutzen wollen, um den eigenen Betrieb weiterzuentwickeln und innovativer auszurichten. Das ist insbesondere in der Industrie und am Dienstleistungssektor der Fall. Gleichzeitig gibt es aber auch 41 Prozent (vor allem in Handel und Gewerbe), die etwaige Investments vordergründig dazu verwenden wollen, um den laufenden Betrieb aufrechtzuerhalten.

Jedes zehnte Unternehmen möchte heuer Kredit aufnehmen

Die rückläufige Investitionsbereitschaft innerhalb der österreichischen Wirtschaft führt auch dazu, dass die Zahl der Kreditaufnahmen im Vergleich zum vergangenen Jahr deutlich gesunken ist – wie erwähnt von 20 auf neun Prozent. Demzufolge erwägt gerade einmal jedes zehnte Unternehmen, im Jahr 2024 einen Kredit aufzunehmen.

“Insgesamt scheinen Österreichs Unternehmen dem Thema Kredit aktuell eher reserviert gegenüberzustehen. Zwar gibt es noch einige Betriebe, wo eine finale Entscheidung offen ist und abgewartet wird, wie sich das laufende Geschäftsjahr entwickelt, doch schon jetzt scheint klar zu sein, dass es am Ende des Jahres deutlich weniger Kreditvergaben geben wird, als in der jüngeren Vergangenheit”, erklärt Wagner.

Die häufigsten Gründe, warum ein Kredit aufgenommen wird, sind auch heuer insbesondere die Finanzierung von Renovierungs- und Umbaumaßnahmen, der Aufbau neuer Geschäftsbereiche sowie der Ankauf von Immobilien.

Generell wird die Kreditaufnahme seitens der Unternehmen als zunehmend schwieriger bewertet, wie aus der Umfrage hervorgeht. Wurde die Kreditaufnahme vor zwei Jahren von insgesamt 52 Prozent der Befragten als “sehr schwierig” bzw. “schwierig” eingestuft, so sind es heuer bereits 66 Prozent. Die Gründe dafür werden vor allem im Bereich der Zinserhöhungen gesehen, aber auch, dass immer mehr private und unternehmerische Sicherheiten gefordert werden. Zusätzlich erschwere das hohe Maß an Bürokratie eine mögliche Kreditaufnahme.

Wünsche an die Politik

Auf die Frage, welche Wünsche es seitens der heimischen Unternehmer:innen in Richtung einer zukünftigen Bundesregierung gibt, wurden insbesondere jene Faktoren häufig genannt, die gerade jetzt als besonders erschwerende Aspekte eingestuft werden. Das sind vor allem die Senkung von Lohnkosten, die Reduktion der Bürokratie und umfassende Steuerentlastungen.

Genauso wichtig wäre es aus Sicht der Befragten aber auch, den anhaltenden Arbeitskräftemangel in den Griff zu bekommen und eine praxisorientierte Bildungsreform umzusetzen, die sich an den tatsächlichen Bedürfnissen und Anforderungen der Wirtschaft orientiert.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch