14.06.2023

AI Act: Abstimmung im EU-Parlament steht bevor

Abgeordnete des Europäischen Parlaments stimmen am Mittwoch über ihr Position zu einem lang diskutierten Gesetzespaket ab, welches die Nutzung von Künstlicher Intelligenz reglementieren soll. Es gibt jedoch Kritik an dem neuen Rechtsrahmen.
/artikel/ai-act-abstimmung-im-eu-parlament-steht-bevor
Foto: Unsplash/Guillaume Périgois

Allerspätestens seit ChatGPT in unseren Schulklassen eingesetzt wird oder in praktisch jedem Medium thematisiert wurde, ist Künstliche Intelligenz (KI) im Mainstream gelandet. Nun kommt es in der Europäischen Union (EU) zu weiteren Schritten, um auch die gesetzlichen Rahmenbedingungen zu schaffen. Am Mittwoch entscheidet das Europäische Parlament über seine Verhandlugnsposition zum AI Act. Das Gesetzespaket soll ein Regelwerk für KI-Anwendungen festlegen. Somit sollen die Pflichten von Anbieter:innen und Nutzer:innen juristisch verankert werden.

KI-Risikos erkennen und minimieren

So groß das Potenzial von Künstlicher Intelligenz ist, so groß sind auch die Befürchtungen vor dem Missbrauch der Technologie. Im AI Act werden vier unterschiedliche Risikoklassen kategorisiert. So gibt es etwa inakzeptable Risiken, die verboten werden. Darunter fallen Systeme, die Menschen ausnutzen, die Menschen aufgrund ihrer Aussagen oder Taten bewerten (Social Scoring), die biometrische Daten in Echtzeit erfassen oder auch KI-gestützte Spielwaren, die Kinder negativ beeinflussen könnten.

Zwar nicht verboten, aber unter strengen Bestimmungen reguliert werden Programme mit einem hohen Risiko, die im Bildungsbereich, Arbeitsmarkt, Grenzkontrollen oder bei kritischer Infrastruktur zum Einsatz kommen. Hier muss beispielsweise auf die Qualität der Datenfütterung geachtet werden und Transparenz gegeben sein. Anwendungen mit einem begrenztem Risiko müssen gekennzeichnet werden – dazu zählt etwa Chatbots wie ChatGPT. Jene, die laut dem Entwurf ein geringes Risiko beherbergen, also z. B. KI in Videospielen, sind frei nutzbar.

Kritik und Zeit zur Nachjustierung

Skeptiker:Innen bezweifeln, dass eine Technologie, die sich so rasant entwickelt, in dieser Form und auf diesem Wege reglementiert werden kann. Zudem wird kritisiert, dass das neue Regelwerk, die Europäische Union und seine Mitgliedsstaaten im internationalen Wettbewerb limitiert, während in den Vereinigten Staaten noch keine ernstzunehmenden juristischen Schritte in Gang gekommen sind. Andere fordern hingegen mehr Regeln und fordern weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede.

Bis der AI Act in Kraft tritt, dürfte es wohl noch zwei bis drei Jahre dauern. Nach der Abstimmung am Mittwoch starten die Verhandlungen zwischen EU-Rat, -Parlament und Kommission. Im Trilog werden Details ausgehandelt und eventuell auch etwaige Verbesserungen vorgenommen. Was der AI Act für Startups bedeuten könnte, lest ihr hier.

Deine ungelesenen Artikel:
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
11.11.2026

Strengere EU-Regeln bei Online-Abos und Marketing: Werbebranche und deutscher Startup-Verband warnen

Die EU-Kommission hat einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. Dabei sollen Testversionen nicht automatisch zu kostenpflichtigen Abos führen können. Startups, die Trial-Modelle anbieten, brauchen in Zukunft die ausdrückliche Zustimmung der Kund:innen. Iab austria befürchtet durch ein weiteres Gesetz Unklarheiten und unterschiedliche Auslegungen. Der deutsche Startup-Verband sieht eine mögliche finanzielle Belastung für Startups und Scaleups.
/artikel/strengere-eu-regeln-bei-online-abos-und-marketing-werbebranche-und-deutscher-startup-verband-warnen
Fahne der Europäischen Union
Foto: Adobe Stock

Jede:r kennt wohl die Situation: Man bezahlt für ein Abo, das man nie bewusst abgeschlossen hat. Aus einer kostenlosen Testversion rutscht man still und leise in ein kostenpflichtiges Abo. Das soll in Zukunft nicht mehr passieren können. Heute hat die EU-Kommission einen Vorschlag für ein Gesetz über digitale Fairness vorgelegt. De facto handelt es sich um eine Aktualisierung der EU-Verbraucherschutzvorschriften. Man wolle damit sicherstellen, dass Verbraucher:innen „in der EU online das gleiche hohe Schutzniveau genießen wie offline“. Die Werbebranche sieht in dem Vorschlag vor allem neue Rechtsunsicherheiten.

Die wichtigsten Neuerungen

Verboten werde sollen etwa manipulative Marketingtaktiken, sogenannte „Dark Patterns“. Darunter fallen gefälschte Behauptungen, die Kund:innen dazu bewegen, ein Produkt zu kaufen, das sie sonst nicht gekauft hätten. EU-Bürger:innen werden durch Behauptungen wie „Ein Produkt sei schnell ausverkauft“ dazu bewogen. Neben gratis Testversionen wie Trail-Modelle, die sich nicht automatisch in kostenpflichtige Versionen verwandeln dürfen, müssen Abonnements auch einfach zu kündigen sein.

Die EU-Kommission fordert zudem eine transparente Preisgestaltung, insbesondere bei Käufen mit virtuellen In-App-Währungen und bei dynamischen Preisen für Kultur- und Sportveranstaltungen. In virtuellen Warteschlangen wären Unternehmen verpflichtet, den aktuellen Preis in Echtzeit und den höchstmöglichen Preis anzuzeigen. Außerdem sollen unfaire personalisierte Anzeigen und Preise, die sich an Minderjährige richten, eingeschränkt werden.

Ersparnis von jährlich bis zu 13,7 Mrd. Euro

Parallel zum Gesetz über digitale Fairness schlägt die Kommission eine Überarbeitung der Verordnung über die Zusammenarbeit im Verbraucherschutz vor, mit der der Kommission mehr Befugnisse zur direkten Untersuchung und Verhängung von Geldbußen in Großfällen übertragen würden.

In Brüssel erwarte man einen faireren Wettbewerb, „damit Unternehmen mit Vertrauen wachsen und innovativ sein können“. Außerdem will man, dass Verbraucher:innen durch die Überarbeitungen besser geschützt und fairer behandelt werden. EU-Bürger:innen sollen insgesamt bis zu 13,7 Milliarden Euro pro Jahr sparen.

„Fairness entsteht nicht durch eine weitere Schicht an Vorschriften“

Die Werbebranche sieht das anders: „Niemand in unserer Branche stellt infrage, dass Konsument:innen online fair behandelt werden müssen. Aber Fairness entsteht nicht durch eine weitere Schicht an Vorschriften, sondern durch die konsequente Durchsetzung der bestehenden Regeln“, sagt Hannes Wurzwallner, Präsident des iab austria.

Viele der diskutierten Maßnahmen seien bereits im EU-Recht, wie in der DSGVO oder der UGP-Richtlinie, geregelt. Die Vertretung der Digitalwirtschaft betont in einer Aussendung, dass „überschneidende Regelungen aus Sicht des iab austria zu Rechtsunsicherheit, unterschiedlichen Auslegungen in den Mitgliedstaaten und zusätzlichen Belastungen insbesondere für kleine und mittlere Unternehmen führen könnten“ und spricht sich dafür aus, „bestehende Regeln zu evaluieren, bevor neue entstehen“. Bezüglich der „Dark Patterns“ müsse berücksichtigt werden, dass die Bewertung von Interface-Design vom jeweiligen Kontext abhänge.

Deutscher Startup-Verband warnt vor Mehrbelastung 

„Grundsätzlich sind wir für eine Harmonisierung der Regelungen. Es sollten aber die Auswirkungen auf Startups und Scaleups bedacht werden. Sie sind schließlich die, die Innovation in Europa vorantreiben“, sagt AustrianStartups-CEO Hannah Wundsam auf brutkasten-Anfrage. In Deutschland unterstützt man „das Ziel, Verbraucher:innen vor unfairen Praktiken zu schützen, und begrüßt einheitliche Regeln in der EU“, wie der deutsche Startupverband heute mitteilte.

Er warnt jedoch vor einer Mehrbelastung für Startups und Scaleups. “Der Digital Fairness Act darf das Skalieren in Europa nicht verteuern. Startups und Scaleups brauchen Regeln, die Verbraucher schützen und Wachstum zulassen”, kommentiert Christoph J. Stresing, Geschäftsführer des Startup-Verbands. Die laufenden Kosten für Unternehmen werden laut Kommission auf 678 Millionen bis 1,2 Milliarden Euro im Jahr beziffert, wie der Startupverband mitteilte.

Bei Startups for Europe wolle man die europäischen Startup-Organisationen zu dem Thema aufeinander abstimmen. „Im ersten Schritt möchten wir einen paneuropäischen Gesichtspunkt beschließen und vertreten“ sagt Wundsam, die auch im Vorstandsmitglied bei Startups for Europe ist.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt des Artikels betrifft die gesetzlichen Rahmenbedingungen für die Anwendung von künstlicher Intelligenz in der Europäischen Union. Durch die Kategorisierung von KI-Risiken und die Festlegung von Pflichten für Anbieter und Nutzer soll ein Regelwerk geschaffen werden, um den Missbrauch der Technologie zu vermeiden. Die Einführung des AI Act könnte somit zu mehr Transparenz und Sicherheit im Umgang mit KI beitragen und mögliche negative gesellschaftliche Auswirkungen minimieren. Allerdings gibt es auch Kritik an dem Regelwerk und Fragen bezüglich seiner Umsetzbarkeit und Folgen im internationalen Wettbewerb.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Der AI Act der Europäischen Union könnte bedeutende wirtschaftliche Auswirkungen auf Unternehmen haben, die KI-Anwendungen entwickeln und nutzen. Das Regelwerk soll Pflichten für Anbieter und Nutzer von KI-Anwendungen juristisch verankern und KI-Risiken erkennen und minimieren. Unternehmen, die KI-Systeme entwickeln und verwenden, müssen sich auf strengere Regulierungen einstellen und möglicherweise ihre Geschäftsmodelle anpassen. Startups könnten von dem AI Act ebenfalls betroffen sein.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Dieser Artikel hat als Innovationsmanager:in eine wichtige Relevanz, da er sich mit der gesetzlichen Regelung von Künstlicher Intelligenz-Anwendungen in der Europäischen Union beschäftigt. Dies könnte mögliche Innovationen und Anwendungen beeinflussen, einschränken oder auch fördern und somit Auswirkungen auf die Entwicklungen im eigenen Unternehmen haben. Es ist daher wichtig, über die geplanten Regelungen informiert zu sein und gegebenenfalls Anpassungen vorzunehmen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie sich über die möglichen Auswirkungen des AI Act auf Unternehmen, die auf KI-Technologie setzen oder davon betroffen sein könnten, informieren. Insbesondere sollten Sie die Kategorisierung von KI-Anwendungen mit hohem Risiko prüfen und die regulatorischen Anforderungen im Auge behalten, um mögliche Risiken für Ihre Investitionen frühzeitig zu erkennen.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in ist es wichtig das Thema Künstliche Intelligenz im Auge zu behalten, da es eine immer größer werdende Rolle in unserer Gesellschaft und Wirtschaft spielt. Der AI Act der Europäischen Union soll dabei helfen, gesetzliche Rahmenbedingungen für KI-Anwendungen zu schaffen und die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Somit wird es auch für Politiker:innen von Bedeutung sein, sich mit den rechtlichen Rahmenbedingungen von Künstlicher Intelligenz vertraut zu machen und diese gegebenenfalls mitzugestalten.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Der AI Act ist ein Gesetzespaket, das ein Regelwerk für KI-Anwendungen festlegen soll, um die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Dabei werden verschiedene Risikoklassen kategorisiert, um die Wahl der Anwendungen mit Videoüberwachung, biometrischen Daten und Social Scoring zu regulieren. Während einige Skeptiker:innen die Regulierung kritisieren, fordern andere weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede. Die Abstimmung am Mittwoch ist ein wichtiger Schritt, und es wird einige Jahre dauern, bis der AI Act in Kraft tritt.

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • EU-Parlament
  • Anbieter:innen
  • Nutzer:innen
  • Skeptiker:Innen
  • EU-Rat
  • EU-Kommission

AI Act: Abstimmung im EU-Parlament steht bevor

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Europäisches Parlament
  • Europäische Union (EU)
  • ChatGPT

AI Act: Abstimmung im EU-Parlament steht bevor