09.12.2023

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

Nach 36 Stunden intensiver Verhandlungen erzielten EU-Parlament, EU-Kommission und Mitgliedsstaaten eine Einigung beim AI Act. Die technischen Details der ersten umfassenden Regulierung von künstlicher Intelligenz in der EU müssen aber noch geklärt werden.
/artikel/ai-act-beschluss
Fahnen der Europäischen Union
Fahnen der Europäischen Union | Foto: Adobe Stock

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

„Deal“, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei „historisch“, schreib er in einer weiteren Nachricht. Der AI Act sei „viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.“

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. „Es könnte Wochen dauern, um den Text zu konsolidieren“, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

„Foundation Models“ wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit „Foundation Models“ ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die „Foundation Models“ hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die „systemische Risiken“ aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter „Praxis-Stresstest“ zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. „Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen“, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Deine ungelesenen Artikel:
13.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
13.11.2026

Die 6 häufigsten Rechtsfallen für Startups im ersten Geschäftsjahr

Im ersten Geschäftsjahr konzentrieren sich Gründer:innen meist voll auf Produkt und Wachstum – rechtliche Risiken werden dabei leicht unterschätzt. Doch Rechtsfehler können schnell existenzgefährdend werden. brutkasten sprach dazu mit Rechtsschutz-Experte Gerd Plank von ERGO Versicherung AG.
/artikel/die-6-haeufigsten-rechtsfallen-fuer-startups-im-ersten-geschaeftsjahr
(c) Sasun Bughdaryan via Unsplash

In der Gründungsphase steht das operative Geschäft an erster Stelle: Produkte werden entwickelt, Marketingkampagnen gestartet und erste Kund:innen akquiriert. Rechtliche Rahmenbedingungen und eine nachhaltige Absicherung rücken dabei mitunter in den Hintergrund. Dabei können nicht nur unbedachte Versäumnisse, sondern sogar unverschuldete Konflikte junge Unternehmen rasch in finanzielle Schieflagen bringen.

“Ich mache ja nichts falsch”

„Ein häufiger Satz von Gründerinnen und Gründern lautet: Was soll schon passieren? Ich mache ja nichts falsch“, sagt Rechtsschutz-Experte Gerd Plank von der ERGO Versicherung. Doch im Unternehmensalltag geraten Firmen keineswegs nur durch eigenes Fehlverhalten in juristische Auseinandersetzungen. Plank verdeutlicht das an einem Praxisbeispiel aus dem Strafrechtsschutz: „Auch wenn ein Geschäftspartner etwas falsch macht, etwa bei der Verrechnung, kann ein Unternehmen ins Visier der Staatsanwaltschaft geraten.“ In Österreich gebe es jährlich rund 540.000 Ermittlungsverfahren bei den Staatsanwaltschaften, denen lediglich 28.000 Verurteilungen gegenüberstehen. „Das bedeutet, dass 95 Prozent der Verfahren eingestellt werden oder mit einem Freispruch enden – die immensen Anwalts- und Verteidigungskosten von oft 10.000 bis 20.000 Euro muss man ohne Rechtsschutzversicherung dennoch selbst tragen“, so Plank.

Rechtsschutz-Experte Gerd Plank | (c) ERGO Versicherung

Auch bei zivilrechtlichen Auseinandersetzungen würden Gründer:innen das finanzielle Risiko unterschätzen. „Schon wenn man einen vermeintlich kleinen Streitwert von 500 Euro einklagt, liegen die Gesamtkosten in der ersten Instanz bereits bei rund 1.600 Euro. Kommen weitere Verhandlungen hinzu, ist man rasch bei 6.000 Euro“, führt Plank aus. Da ein Großteil der Gerichtsverfahren mit einem Vergleich enden würden, blieben beide Parteien häufig auf ihren eigenen Anwaltskosten sitzen. „In Österreich liegt der häufigste bestrittene Wert bei 10.000 Euro. Die Gesamtkosten bei diesem Streitwert erreichen schnell 20.000 Euro“, so der Experte. Ohne Absicherung verzichten Startups daher oft auf berechtigte Forderungen, um Prozesskosten zu vermeiden – was im Einzelfall existenzbedrohende finanzielle Auswirkungen haben kann.

Die 6 häufigsten Rechtsfallen

Um solche Szenarien zu verhindern, sollten Gründer:innen die typischen Stolpersteine der ersten Monate kennen. Gerd Plank fasst im Gespräch mit brutkasten die sechs häufigsten Rechtsfallen zusammen – und zeigt auf, wie sich Startups mit dem passenden Rechtsschutz davor schützen können.

1. Mündliche Vereinbarungen und undokumentierte Vertragsänderungen

In der Startphase regiert oft das Prinzip Vertrauen. Verträge werden mündlich geschlossen oder vereinbarte Leistungen nachträglich per Handschlag abgeändert. „Einer der wichtigsten Punkte, bei denen es später zu Streitigkeiten kommt, sind undokumentierte Änderungen an Verträgen“, warnt Plank. Kommt es zu Uneinigkeiten über den Leistungsumfang oder Zahlungen, stehe Aussage gegen Aussage. Der Kunde bestreite etwa Zusatzleistungen, und das Startup bleibe auf den Kosten sitzen.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz der ERGO Versicherung unterstützt Gründer:innen durch juristische Erstberatung und Vorab-Vertragsprüfungen zu günstigen Konditionen. Zudem bietet ERGO für Jungunternehmer:innen einen besonderen Vorteil: Den Entfall der üblichen Wartefristen. „Kommt ein Unternehmen nach Abschluss eines größeren Auftrags zu uns, besteht im Premium-Rechtsschutz für Streitigkeiten aus dem Vertrag sofort Versicherungsschutz“, hebt Plank hervor.

2. Offene Rechnungen nicht konsequent eintreiben

Zahlen Kunden ihre Rechnungen nicht, zögern junge Firmen oft, rechtliche Schritte einzuleiten – aus Sorge um die Kundenbeziehung oder aus Angst vor hohen Prozesskosten. Dies führt rasch zu massiven Liquiditätsengpässen. „Laut KSV1870-Statistik kommen 30 bis 40 Prozent der Insolvenzen in Österreich dadurch zustande, dass Kund:innen Rechnungen nicht bezahlen und die Unternehmer nicht die finanziellen Mittel haben, um ihre Forderungen gerichtlich durchzusetzen“, erläutert Plank.

Wie der Rechtsschutz hilft: Das Forderungsmanagement der ERGO Versicherung übernimmt den Inkassoprozess. „Durch unser Know-how erreichen wir eine Eintreibungsquote von rund 80 Prozent“, führt der Experte aus. Ein Netzwerk aus 600 spezialisierten Partneranwält:innen vertritt Betroffene an allen 115 Bezirksgerichten in Österreich und in weiteren Instanzen. „Außergerichtliche Lösungswege dauern im Schnitt ein halbes Jahr, während ein Gerichtsprozess im Schnitt bis zu dreieinhalb Jahre in Anspruch nehmen kann“, betont Plank.

3. Fehler bei der Mitarbeiterbeschäftigung

Bei der Einstellung des ersten Personals passieren häufig Fehler. Ein Klassiker ist die fehlerhafte Einstufung von Arbeitskräften. „Der typische Fall ist, dass eine Person als freier Dienstnehmer oder Selbstständiger bezeichnet wird, obwohl die tatsächlichen Arbeitsbedingungen für ein Angestelltenverhältnis sprechen“, so Plank. Stellt die Sozialversicherung bei einer Nachprüfung eine Scheinselbstständigkeit oder Fehler bei Kollektivvertragsgehältern fest, drohen Nachzahlungen im fünfstelligen Bereich.

Wie der Rechtsschutz hilft: Gründer:innen werden präventiv bei Dienstverträgen beraten, im Streitfall übernimmt der Firmen-Rechtsschutz im Rahmen des vereinbarten Versicherungsschutzes die Vertretungs- und Prozesskosten. „Mit fachkundiger juristischer Beratung lassen sich Kollektivvertragsentlohnungen, Arbeitszeiten und Sonderzahlungen von Anfang an korrekt regeln“, erklärt Plank.

4. Vernachlässigter Schutz von Marken, Software und IP

Viele Startups bringen innovative Produkte, Softwarelösungen oder Marken auf den Markt, ohne ihr geistiges Eigentum ausreichend abzusichern oder finanziell verteidigen zu können. „Wenn etwa ein Vertragspartner Daten weitergibt oder Ideen kopiert, werden Prozesse nach dem Immaterialgüterrecht extrem teuer“, gibt Plank zu bedenken. Ohne Rechtsbeistand fehlen jungen Firmen meist die Mittel, sich gegen finanzstarke Nachahmer zur Wehr zu setzen.

Wie der Rechtsschutz hilft: Der Premium-Rechtsschutz deckt komplexe Auseinandersetzungen im Immaterialgüterrecht ab. „Diese Streitigkeiten abzusichern ist entscheidend, da Rechtsstreitigkeiten um das geistige Eigentum hohe Streitwerte aufweisen“, betont der ERGO-Experte. ERGO stellt spezialisierte Partneranwält:innen bereit und übernimmt im Rahmen des vereinbarten Versicherungsschutzes die anfallenden Kosten.

5. Mangelhafte AGB und unzulässige Klauseln

Insbesondere im E-Commerce und beim Vertrieb an Endverbraucher greifen Gründer:innen häufig auf fehlerhafte oder ungeprüfte Allgemeine Geschäftsbedingungen (AGB) zurück. Werden Informationspflichten, Rücktrittsrechte oder Gewährleistungsbestimmungen missachtet, hat das teure Konsequenzen. „Wenn AGB unzulässige Klauseln enthalten, können sich Kunden darauf berufen und Zahlungen verweigern“, erklärt Plank.

Wie der Rechtsschutz hilft: Der D.A.S. Firmen-Rechtsschutz von ERGO bietet Unternehmern die Möglichkeit, Vertragswerke und AGB von spezialisierten Anwält:innen zu günstigen Konditionen prüfen zu lassen. „Es ist essenziell, sich von Anwält:innen im Vorfeld beraten zu lassen, ob die erstellten Klauseln rechtlich gültig sind, bevor man Angebote am Markt platziert“, rät Plank.

6. Überschreitung der Gewerbeberechtigung

In der Praxis bieten Startups nicht selten Leistungen an, die über den Umfang ihres eingetragenen Gewerbescheins hinausgehen. „Man muss wirklich darauf achten, dass man nur innerhalb jener Gewerbeberechtigungen arbeitet, die tatsächlich eingetragen sind“, mahnt Plank. Wird die Gewerbeberechtigung überschritten, drohen Verwaltungsstrafverfahren, die im schlimmsten Fall mit einem Gewerbeentzugsverfahren einhergehen.

Wie der Rechtsschutz hilft: Der Rechtsschutz für Gewerbeentzugsverfahren schützt Unternehmer vor den finanziellen Folgen von Verwaltungsstrafverfahren. „Auch bei drohendem Gewerbeentzug bieten wir die entsprechende rechtliche Absicherung und Vertretung“, führt Plank aus.


Aktionsangebot: ERGO Blue Weeks 

Aktuell bietet die ERGO Versicherung im Rahmen der „Blue Weeks“-Aktion besondere Konditionen für den D.A.S. Firmen-Rechtsschutz. Bei einem Vertragsabschluss bis 31. Jänner 2027 sparen Unternehmen bis zu fünf Monatsprämien.

Zusätzlich profitieren Jungunternehmer:innen im ersten Geschäftsjahr von einem Bonus – bis zu 20 Prozent auf die Prämienhöhe. Nähere Informationen erhalten Sie bei einer persönlichen Beratung mit den Rechtsschutzexperten der ERGO Versicherung.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz