07.12.2022

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
/artikel/ai-act-der-eu-ki-regulierung-im-anmarsch
In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala

Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.

Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.

Achtung bei Erstellung & Verwendung von General Purpose AI

Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.

AI Act sieht hohe Risiken bei Hochrisiko-KI

Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.

Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung

Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.


Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.

Deine ungelesenen Artikel:
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
Schulterschluss in Paris: Macron und Modi warben auf der VivaTech 2026 gemeinsam für eine „verantwortungsvolle KI" als Wertegemeinschaft. | (c) VivaTech

Am 12. Juni erreicht Anthropic ein Brief des US-Handelsministeriums. Drei Tage zuvor war Claude Fable 5 erschienen, das leistungsfähigste allgemein verfügbare Modell des Hauses. Nun ist es für jede Person ohne US-Staatsbürgerschaft zu sperren, im In- wie im Ausland. Weil sich Staatsangehörigkeit nicht in Echtzeit prüfen lässt, schaltet Anthropic beide Modelle weltweit ab, auch für die eigenen US-Kund:innen. Betroffen sind nicht nur einzelne Nutzer:innen: Anwendungen, die das Modell direkt einbinden, stehen über Nacht still, und der Fall führt vor Augen, wie viele Produkte und ganze Geschäftsmodelle auf einem einzigen, von außen abschaltbaren Modell ruhen. Der „kill switch“, über den Europa seit Jahren theoretisch debattiert, ist plötzlich real, und er trifft die fortgeschrittenste KI ihrer Generation. Anthropic kündigte an, den Zugang so rasch wie möglich wiederherzustellen, zum Redaktionsschluss war die Sperre weiter in Kraft.

Fünf Tage später öffnet in Paris die VivaTech, Europas größte Tech-Messe, zum zehnten Mal. 15.000 Startups, Jeff Bezos als Stargast, und doch reibt sich die KI-Euphorie an der Angst vor der eigenen technologischen Abhängigkeit. Schon auf der Eröffnungsbühne nimmt Frankreichs Wirtschaftsminister Roland Lescure direkt Bezug auf die Anthropic-Sperre: Es gehe nicht länger um eine Zugangsdebatte, Regeln könnten sich über Nacht ändern, und Souveränität heiße, dann noch handlungsfähig zu sein. Tags zuvor hatte Premier Lecornu verkündet, der französische Inlandsgeheimdienst trenne sich vom US-Konzern Palantir zugunsten des heimischen Anbieters ChapsVision. Die Kulisse ist gesetzt.

Souveränität, messbar gemacht

Ausnahmsweise lässt sich Souveränität hier auch messen. Nvidia hatte auf der VivaTech 2025 mehr als 20 KI-Fabriken für Europa versprochen und Mistral zum souveränen Compute-Champion erklärt. Und anders als im Vorjahr liefert die Messe Konkretes: Mistral Compute geht als europäische GPU-Cloud teilweise in Betrieb, Foxconn und Bull kündigen eine Serverfertigung im französischen Angers an. Aus Ankündigung wird Auslieferung. Nur ist selbst das Souveräne es nur halb: Mistral Compute läuft auf 18.000 Nvidia-Chips. Die ganze europäische KI ruht auf einem nicht-europäischen Silizium-Sockel. Doch genau hier liegt Europas einziger echter Trumpf: Ohne die EUV-Lithografie des niederländischen Konzerns ASML, dessen Chef Christophe Fouquet ebenfalls in Paris war und der inzwischen Europas wertvollstes Unternehmen ist, kann weltweit niemand Spitzenchips fertigen. Abhängig auf der einen Ebene, unverzichtbar auf der anderen. Souveränität als Baustelle, nicht als Zustand.

„Tech for humanity“: Narendra Modi positionierte Indien auf der VivaTech 2026 als KI-Länderpartner Frankreichs. (c) VivaTech

Und Österreich?

Und Österreich? Steht in dieser Debatte überraschend weit vorn. Die „Declaration on European Digital Sovereignty“, die inzwischen alle 27 EU-Staaten mittragen, geht auf eine österreichische Initiative rund um Digitalisierungs-Staatssekretär Alexander Pröll zurück. Wien als Anstoßgeber dessen, worüber Paris nun diskutiert. Und das Bundesheer hat seine 2020 begonnene Migration von rund 16.000 Arbeitsplätzen auf LibreOffice 2025 abgeschlossen, bewusst ohne Cloud, also ohne fremden Schalter. Die unbequeme Frage für die heimische Szene lautet, ob aus solchen Verwaltungsentscheidungen auch ein Markt für österreichische Anbieter wird, oder ob Souveränität Behördensache bleibt.

Verhandeln aus der Schwäche

Den wahren Lackmustest liefert nicht die Bühne, sondern eine Frage am Rande. Auf die Fable-5-Sperre angesprochen, fordert Emmanuel Macron keine Unabhängigkeit. Er appelliert an die USA, ihre Spitzentechnologie zu teilen, und kündigt zugleich mehr Geld für die französische KI-Industrie an. Zuerst die Bitte um Zugang, dann, hilfsweise, die eigene Souveränität. Das kann man als Schwäche lesen. Man kann es auch als nüchterne Arbeitsteilung verstehen: das Beste nutzen, das es gibt, und parallel absichern, falls es wegbricht. Dass Macron sich die politische Bühne mit Indiens Premier Narendra Modi teilte, der für eine menschenzentrierte KI jenseits von Washington und Peking wirbt, unterstreicht denselben Reflex: Souveränität wird als Wertegemeinschaft inszeniert, die offene Frage nach Compute, Kapital und Chips bleibt.

Joe Tsai Chairman at Alibaba Group bei der VivaTech | (c) brutkasten / Martin Pacher

„Souveränität ist keine Isolation, sie ist Offenheit aus einer Position der Stärke“, sagt Deutschlands Digitalminister Karsten Wildberger. Schön gesagt, nur verhandelte Europa diese Woche aus Abhängigkeit, nicht aus Stärke. Alibabas Joe Tsai formulierte es zynisch ehrlicher: Europa solle seine Eier in zwei Körbe legen. Ein zweiter Lieferant ist keine Unabhängigkeit. Und doch, hier wird es unbequem, ist Diversifizierung für eine Region, die den ganzen Stack realistisch nie allein bauen wird, womöglich nicht die feige, sondern die rationale Antwort. Die ehrliche Variante von Souveränität wäre dann nicht Autarkie, sondern die Fähigkeit, den Lieferanten zu wechseln, wenn einer den Schalter umlegt, ohne dass das eigene Geschäft mit ihm stillsteht.

Der Preis der Autonomie

Bleibt die Frage, die diese Ausgabe aufwirft. Dass Europa Souveränität will, bestreitet niemand. Die eigentliche Frage ist der Preis: höhere Kosten, langsamere Verfügbarkeit, weniger Zugriff auf das jeweils beste Modell. Und ob das Geld dafür da ist. Auf die USA entfallen rund 50 Prozent des globalen Risikokapitals, auf China 40, auf Europa fünf. Solange sich daran nichts ändert, bleibt Souveränität das würdevollere Wort für eine gut gemanagte Abhängigkeit. Die Fable-5-Woche hat Europa beides gegeben, den Schreck und die Ausrede. Welche Lehre hängen bleibt, entscheidet sich nicht in den Hallen von Porte de Versailles, sondern in den Beschaffungsabteilungen, die nächsten Monat wieder eine Lizenz verlängern müssen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch