02.12.2022

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

Mit dem AI Act, der in Kürze verhandelt wird, will die EU einen klaren Rechtsrahmen für Künstliche Intelligenz schaffen.
/artikel/ai-act-eu-will-ki-staerker-foerdern-und-reglementieren
Fahne der Europäischen Union
Foto: Adobe Stock

In der KI-Forschung steht die EU – wie auch in anderen Forschungsbereichen – gut da. Der Staatenbund bringt weltweit die meisten wissenschaftlichen Papers zum Thema hervor. In anderen relevanten Bereichen, etwa bei Investitionen, sieht es aber – wie so oft – anders aus. An China und die USA wird die EU auch dann nicht herankommen, wenn sie ihr Ziel, im Laufe des Jahrzehnts auf 20 Milliarden Euro Investment in AI pro Jahr zu kommen, erreicht. Unter anderem hier soll ein neuer “AI Act” (KI-Verordnung) der Europäischen Union Verbesserung bringen – der brutkasten berichtete bereits. Zum Gesetzeswerk liegt ein Vorschlag der EU-Kommission vor, der kommende Woche erstmals abgestimmt wird, um dann in die Trilogverhandlungen zwischen Europäischem Parlament, Rat und EU-Kommission zu gehen.

“Balanceakt” zwischen Förderung und Regulierung

Auffallend ist im Entwurf zum AI Act vor allem der Versuch, Künstliche Intelligenz sehr genau – und auch relativ streng – zu reglementieren. Der Rechtsrahmen soll künftig sowohl für öffentliche als auch für private Akteure gelten – innerhalb und außerhalb der EU, “sofern das KI-System in der EU in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind”. Zu diesem Spannungsfeld zwischen Förderung und Reglementierung meinte Digitalisierungs-Staatssekretär Florian Tursky bei einem heutigen Pressetermin, es sei ein Balanceakt in den Verhandlungen, das richtige Maß an Regulierung zu finden.

Staatssekretär Florian Tursky beim heutigen Presetermin | © BMF

Einteilung in vier Risikostufen

Ob eine KI-Anwendung überhaupt zugelassen wird, soll nach dem AI Act-Entwurf vom von dieser ausgehenden Risiko abhängig sein, das in vier Klassifizierungen unterteil werden soll: Unannehmbares Risiko, Hohes Risiko, Geringes Risiko und Minimales Risiko. Anwendungen mit unannehmbarem Risiko sollen demnach verboten werden, etwa “social Scoring”. Die Einstufung als hohes Risiko führt zu strengen Vorgaben vor Inverkehrbringen. KI-Systeme mit geringem Risiko treffen gewisse Transparenzverpflichtungen.

Der Großteil der Anwendungen stellen Systeme mit minimalem Risiko dar, wird angeführt. Für diese gilt die freie Anwendung auf Basis der bestehenden rechtlichen Verpflichtungen ohne zusätzliche Auflagen. Dem Hochrisikobereich gehören laut EU-Kommission 15 Prozent aller Anwendungen an. Fragen zur Haftung von KI-Systemen werden im Rechtsakt übrigens nicht verankert. Hierzu wurde erst kürzlich eine gesonderte KI-Haftungs-Richtlinie vorgelegt.

In Österreich verschiedene Behörden für Ahndung von AI Act-Verstößen zuständig

Personen und Unternehmen sollen bei mutmaßlichen Verstößen gegen die geplante KI-Verordnung künftig Beschwerde bei der zuständigen Marktaufsichtsbehörde einreichen können. “In Österreich ist die Marktüberwachung je nach Produkt bei einer unterschiedlichen Stelle angesiedelt”, heißt es vom Staatssekretäriat für Digitalisierung in einer Aussendung.

Staatssekretär Tursky kommentiert dort: “Die KI-Verordnung ist ein wichtiger Schritt für Europa, um in diesem Zusammenhang für Rechtssicherheit zu sorgen. Ziel ist es, einerseits die Entwicklung von KI in Europa zu fördern. Gleichzeitig müssen aber die öffentlichen Interessen, wie Grundrechte und Sicherheit gewährleistet sein”. Ein klarer europaweiter Rechtsrahmen sei beim Thema Künstliche Intelligenz unerlässlich. Er schaffe sowohl für Entwickler die Sicherheit klarer Regeln für die Gestaltung, als auch für die Endnutzer die Sicherheit, mit einer sicheren und vertrauenswürdigen KI-Anwendung zu interagieren.

Deine ungelesenen Artikel:
14.11.2024

“Analyser”: Konsortium entwickelt Tool, das bei CSRD und EU-Taxonomie helfen soll

In einem von der FFG geförderten Projekt unter der Leitung von Fraunhofer Austria wird ein Tool entwickelt, das Unternehmen beim Erfüllen der CSRD-Anforderungen unterstützen soll.
/artikel/analyser-konsortium-entwickelt-tool-das-bei-csrd-und-eu-taxonomie-helfen-soll
14.11.2024

“Analyser”: Konsortium entwickelt Tool, das bei CSRD und EU-Taxonomie helfen soll

In einem von der FFG geförderten Projekt unter der Leitung von Fraunhofer Austria wird ein Tool entwickelt, das Unternehmen beim Erfüllen der CSRD-Anforderungen unterstützen soll.
/artikel/analyser-konsortium-entwickelt-tool-das-bei-csrd-und-eu-taxonomie-helfen-soll
Analyser, CSRD, EU-Taxonomie
(c) - PwC Österreich -Das Konsortium des Projekts "Analyser" beim Kick-Off.

Die Regeln der Corporate Sustainability Reporting Directive (CSRD), die in den kommenden Jahren sukzessive schlagend werden, bedeuten für zahlreiche österreichische Unternehmen eine Verpflichtung zur Nachhaltigkeitsberichterstattung. Bei vielen von diesen – auch jene, die freiwillig schon früher als erforderlich mit der Umsetzung starten – werden Schwierigkeiten erwartet, die Anforderungen zu erfüllen, da insbesondere KMU nicht über ausreichend Kapazitäten für interne Nachhaltigkeitsabteilungen verfügen würden.

CSRD und Taxonomie

Dies gilt im Besonderen für die EU-Taxonomie, die ergänzend zur CSRD anzuwenden ist. Gemäß ihr müssen die wirtschaftlichen Aktivitäten eines Unternehmens als nachhaltig oder nicht-nachhaltig deklariert werden.

Die Verordnung umfasst umfangreiche und detaillierte Kriterien, die für Ungeübte nicht leicht zu verstehen sind. Deshalb will in einem kürzlich gestarteten Forschungsprojekt namens “AI Enabled Sustainability Jurisdiction Demonstrator” (Analyser) ein Forschungskonsortium KI-basierte Module entwickeln. Die sollen es auch ungeschulten Anwenderinnen und Anwendern ermöglichen, die gesetzlichen Meldepflichten zu erfüllen. So soll eine Erleichterung für Unternehmen erzielt werden.

“Das oberste Ziel unseres Projekts ist es, die Zahl der KMU zu erhöhen, die selbstständig in der Lage sind, die EU-Taxonomie in guter Qualität zu berichten”, erklärt Maximilian Nowak, der das Projekt bei Fraunhofer Austria leitet.

Das Konsortium

Das Konsortium, bestehend aus Fraunhofer Austria, Universität Innsbruck, Technischer Universität (TU) Wien, Leiwand AI, PwC Wirtschaftsprüfgesellschaft, der Wirtschaftsagentur Niederösterreich ecoplus, Murexin und Lithoz wird dafür Teile des Prozesses mithilfe von Künstlicher Intelligenz automatisieren. Ein Chatbot, der auf einem eigens kreierten Sprachmodell beruht, soll mit den Anwenderinnen und Anwendern im Dialog stehen und sicherstellen, dass alle benötigten Dokumente vorliegen.

Es sind nämlich viele Fragen im Rahmen der Nachhaltigkeitsberichterstattung zu klären: Welche wirtschaftlichen Aktivitäten gibt es im Unternehmen? Wie umfangreich sind diese? Welche davon sind taxonomiefähig, können also überhaupt nach den Kriterien bewertet werden?

Josef Baumüller, der von Seiten der TU Wien an dem Projekt beteiligt ist, sagt: “Es ist vielen noch nicht bewusst, wie komplex die Anforderungen zunächst an die Datenerhebung und anschließend an die Klassifizierung sind. Die Prozesslandschaft im Unternehmen muss erfasst und auf die Vorgaben der EU-Taxonomie übergeleitet werden, darüber hinaus gilt es, relevante Datenbedarfe zu identifizieren und im Sinne der Effizienz v.a. bereits vorhandene Datenbestände zu nützen.”

CSRD-Berichterstattung eine Herausforderung

Dass eine Unterstützung der Unternehmen unumgänglich ist, sagt auch Stefan Merl von der PwC Österreich GmbH Wirtschaftsprüfungsgesellschaft: “Wir spüren bereits jetzt eine massive Zunahme in den Anfragen von Unternehmen, insbesondere von KMU, die sehen, dass die Erfüllung der CSRD-Berichterstattungspflichten eine große Herausforderung ist. Es führt kein Weg daran vorbei, eine automatisierte Lösung zu entwickeln, die weit über den Automatisierungsgrad bestehender Tools hinausgeht. Genau das wollen wir im Projekt ‘Analyser’ verwirklichen.”

Dabei ist essenziell, dass die im Tool eingesetzte KI fair, nachvollziehbar und korrekt arbeitet. Dafür soll Leiwand AI GmbH die nötige Expertise in das Projekt einbringen.

“In einer so kritischen Angelegenheit wie der Nachhaltigkeitsberichterstattung ist es besonders wichtig, dass auch Maßnahmen hinsichtlich einer zuverlässigen und fairen KI-Lösung getroffen werden. Durch den Einsatz verschiedener Methoden rund um nachhaltige und vertrauenswürdige KI werden wir dazu beitragen, dass der ‘Analyser’ gesicherte Informationen liefert, fair in Bezug auf Bias und Diskriminierung ist und im Einklang mit dem EU AI Act steht”, sagt Mira Reisinger, Data Scientist bei Leiwand AI.

Das Projekt ist im Herbst 2024 gestartet, läuft über drei Jahre und wird durch die FFG aus Mitteln des Bundesministeriums für Klimaschutz, Umwelt, Energie, Mobilität, Innovation und Technologie gefördert.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren