02.12.2022

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

Mit dem AI Act, der in Kürze verhandelt wird, will die EU einen klaren Rechtsrahmen für Künstliche Intelligenz schaffen.
/artikel/ai-act-eu-will-ki-staerker-foerdern-und-reglementieren
Fahne der Europäischen Union
Foto: Adobe Stock

In der KI-Forschung steht die EU – wie auch in anderen Forschungsbereichen – gut da. Der Staatenbund bringt weltweit die meisten wissenschaftlichen Papers zum Thema hervor. In anderen relevanten Bereichen, etwa bei Investitionen, sieht es aber – wie so oft – anders aus. An China und die USA wird die EU auch dann nicht herankommen, wenn sie ihr Ziel, im Laufe des Jahrzehnts auf 20 Milliarden Euro Investment in AI pro Jahr zu kommen, erreicht. Unter anderem hier soll ein neuer „AI Act“ (KI-Verordnung) der Europäischen Union Verbesserung bringen – der brutkasten berichtete bereits. Zum Gesetzeswerk liegt ein Vorschlag der EU-Kommission vor, der kommende Woche erstmals abgestimmt wird, um dann in die Trilogverhandlungen zwischen Europäischem Parlament, Rat und EU-Kommission zu gehen.

„Balanceakt“ zwischen Förderung und Regulierung

Auffallend ist im Entwurf zum AI Act vor allem der Versuch, Künstliche Intelligenz sehr genau – und auch relativ streng – zu reglementieren. Der Rechtsrahmen soll künftig sowohl für öffentliche als auch für private Akteure gelten – innerhalb und außerhalb der EU, „sofern das KI-System in der EU in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind“. Zu diesem Spannungsfeld zwischen Förderung und Reglementierung meinte Digitalisierungs-Staatssekretär Florian Tursky bei einem heutigen Pressetermin, es sei ein Balanceakt in den Verhandlungen, das richtige Maß an Regulierung zu finden.

Staatssekretär Florian Tursky beim heutigen Presetermin | © BMF

Einteilung in vier Risikostufen

Ob eine KI-Anwendung überhaupt zugelassen wird, soll nach dem AI Act-Entwurf vom von dieser ausgehenden Risiko abhängig sein, das in vier Klassifizierungen unterteil werden soll: Unannehmbares Risiko, Hohes Risiko, Geringes Risiko und Minimales Risiko. Anwendungen mit unannehmbarem Risiko sollen demnach verboten werden, etwa „social Scoring“. Die Einstufung als hohes Risiko führt zu strengen Vorgaben vor Inverkehrbringen. KI-Systeme mit geringem Risiko treffen gewisse Transparenzverpflichtungen.

Der Großteil der Anwendungen stellen Systeme mit minimalem Risiko dar, wird angeführt. Für diese gilt die freie Anwendung auf Basis der bestehenden rechtlichen Verpflichtungen ohne zusätzliche Auflagen. Dem Hochrisikobereich gehören laut EU-Kommission 15 Prozent aller Anwendungen an. Fragen zur Haftung von KI-Systemen werden im Rechtsakt übrigens nicht verankert. Hierzu wurde erst kürzlich eine gesonderte KI-Haftungs-Richtlinie vorgelegt.

In Österreich verschiedene Behörden für Ahndung von AI Act-Verstößen zuständig

Personen und Unternehmen sollen bei mutmaßlichen Verstößen gegen die geplante KI-Verordnung künftig Beschwerde bei der zuständigen Marktaufsichtsbehörde einreichen können. „In Österreich ist die Marktüberwachung je nach Produkt bei einer unterschiedlichen Stelle angesiedelt“, heißt es vom Staatssekretäriat für Digitalisierung in einer Aussendung.

Staatssekretär Tursky kommentiert dort: „Die KI-Verordnung ist ein wichtiger Schritt für Europa, um in diesem Zusammenhang für Rechtssicherheit zu sorgen. Ziel ist es, einerseits die Entwicklung von KI in Europa zu fördern. Gleichzeitig müssen aber die öffentlichen Interessen, wie Grundrechte und Sicherheit gewährleistet sein“. Ein klarer europaweiter Rechtsrahmen sei beim Thema Künstliche Intelligenz unerlässlich. Er schaffe sowohl für Entwickler die Sicherheit klarer Regeln für die Gestaltung, als auch für die Endnutzer die Sicherheit, mit einer sicheren und vertrauenswürdigen KI-Anwendung zu interagieren.

Deine ungelesenen Artikel:
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
Fahne der Europäischen Union
Foto: Adobe Stock

Jede:r kennt wohl die Situation: Man bezahlt für ein Abo, das man nie bewusst abgeschlossen hat. Aus einer kostenlosen Testversion rutscht man still und leise in ein kostenpflichtiges Abo. Das soll in Zukunft nicht mehr passieren können. Heute hat die EU-Kommission einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. De facto handelt es sich um eine Aktualisierung der EU-Verbraucherschutzvorschriften. Man wolle damit sicherstellen, dass Verbraucher:innen „in der EU online das gleiche hohe Schutzniveau genießen wie offline“. Die Werbebranche sieht in dem Vorschlag vor allem neue Rechtsunsicherheiten.

Die wichtigsten Neuerungen

Verboten werde sollen etwa manipulative Marketingtaktiken, sogenannte „Dark Patterns“. Darunter fallen gefälschte Behauptungen, die Kund:innen dazu bewegen, ein Produkt zu kaufen, das sie sonst nicht gekauft hätten. EU-Bürger:innen werden durch Behauptungen wie „Ein Produkt sei schnell ausverkauft“ dazu bewogen. Neben gratis Testversionen wie Trail-Modelle, die sich nicht automatisch in kostenpflichtige Versionen verwandeln dürfen, müssen Abonnements auch einfach zu kündigen sein.

Die EU-Kommission fordert zudem eine transparente Preisgestaltung, insbesondere bei Käufen mit virtuellen In-App-Währungen und bei dynamischen Preisen für Kultur- und Sportveranstaltungen. In virtuellen Warteschlangen wären Unternehmen verpflichtet, den aktuellen Preis in Echtzeit und den höchstmöglichen Preis anzuzeigen. Außerdem sollen unfaire personalisierte Anzeigen und Preise, die sich an Minderjährige richten, eingeschränkt werden.

Ersparnis von jährlich bis zu 13,7 Mrd. Euro

Parallel zum Gesetz über digitale Fairness schlägt die Kommission eine Überarbeitung der Verordnung über die Zusammenarbeit im Verbraucherschutz vor, mit der der Kommission mehr Befugnisse zur direkten Untersuchung und Verhängung von Geldbußen in Großfällen übertragen würden.

In Brüssel erwarte man einen faireren Wettbewerb, „damit Unternehmen mit Vertrauen wachsen und innovativ sein können“. Außerdem will man, dass Verbraucher:innen durch die Überarbeitungen besser geschützt und fairer behandelt werden. EU-Bürger:innen sollen insgesamt bis zu 13,7 Milliarden Euro pro Jahr sparen.

„Fairness entsteht nicht durch eine weitere Schicht an Vorschriften“

Die Werbebranche sieht das anders: „Niemand in unserer Branche stellt infrage, dass Konsument:innen online fair behandelt werden müssen. Aber Fairness entsteht nicht durch eine weitere Schicht an Vorschriften, sondern durch die konsequente Durchsetzung der bestehenden Regeln“, sagt Hannes Wurzwallner, Präsident des iab austria.

Viele der diskutierten Maßnahmen seien bereits im EU-Recht, wie in der DSGVO oder der UGP-Richtlinie, geregelt. Die Vertretung der Digitalwirtschaft betont in einer Aussendung, dass „überschneidende Regelungen aus Sicht des iab austria zu Rechtsunsicherheit, unterschiedlichen Auslegungen in den Mitgliedstaaten und zusätzlichen Belastungen insbesondere für kleine und mittlere Unternehmen führen könnten“ und spricht sich dafür aus, „bestehende Regeln zu evaluieren, bevor neue entstehen“. Bezüglich der „Dark Patterns“ müsse berücksichtigt werden, dass die Bewertung von Interface-Design vom jeweiligen Kontext abhänge.

Deutscher Startup-Verband warnt vor Mehrbelastung 

„Grundsätzlich sind wir für eine Harmonisierung der Regelungen. Es sollten aber die Auswirkungen auf Startups und Scaleups bedacht werden. Sie sind schließlich die, die Innovation in Europa vorantreiben“, sagt AustrianStartups-CEO Hannah Wundsam auf brutkasten-Anfrage. In Deutschland unterstützt man „das Ziel, Verbraucher:innen vor unfairen Praktiken zu schützen, und begrüßt einheitliche Regeln in der EU“, wie der deutsche Startupverband heute mitteilte.

Er warnt jedoch vor einer Mehrbelastung für Startups und Scaleups. “Der Digital Fairness Act darf das Skalieren in Europa nicht verteuern. Startups und Scaleups brauchen Regeln, die Verbraucher schützen und Wachstum zulassen”, kommentiert Christoph J. Stresing, Geschäftsführer des Startup-Verbands. Die laufenden Kosten für Unternehmen werden laut Kommission auf 678 Millionen bis 1,2 Milliarden Euro im Jahr beziffert, wie der Startupverband mitteilte.

Bei Startups for Europe wolle man die europäischen Startup-Organisationen zu dem Thema aufeinander abstimmen. „Im ersten Schritt möchten wir einen paneuropäischen Gesichtspunkt beschließen und vertreten“ sagt Wundsam, die auch im Vorstandsmitglied bei Startups for Europe ist.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren