02.08.2024
AI ACT

Der AI Act: Tipps von der Expertin

Die Europäische Union gilt als erste Region der Welt, die den Einsatz Künstlicher Intelligenz umfassend regelt. Was der AI Act für Startups bedeutet und welche Maßnahmen sie jetzt setzen sollten.
/artikel/der-ai-act-tipps-von-der-expertin
Eine Frau vor braunem, pinken Hintergrund.
Prof. Dr. Christiane Wendehorst (c) brutkasten

Der AI Act ist seit heute Mitternacht in Kraft. Er betrifft Startups, die KI-Anwendungen entwickeln und auch solche, die sie verwenden. Die EU will damit KI regulieren und sicherstellen, dass die Technologie nicht zur Gefahr für Grund- und Menschenrechte wird.

Die Vorarbeiten zur KI-Verordnung sind bereits seit mehr als fünf Jahren im Gange. Darin verwoben sind auch Vorschläge der Wiener Rechtswissenschafterin und Expertin für Digitalisierung und Innovation im Recht Christiane Wendehorst. “Ganz viel von dem, was wir jetzt auch in der KI-Verordnung sehen, wurde im Prinzip 2018 entwickelt”, erzählt sie im brutkasten-Talk.

AI Act: Risikopyramide als Herzstück

Die Struktur der KI-Verordnung ist jene eines Produktsicherheitsgesetzes. Das heißt, sie klassifiziert KI-Anwendungen nach ihrem Risikopotenzial und definiert, wie diese Gefahren von KI-Herstellern als auch KI-Usern einzuschätzen und einzudämmen sind. Als „Herzstück“ der KI-Verordnung gilt die Risikopyramide. Die für KI-Systeme geltenden Regeln sind gestaffelt nach deren Risiko und dabei folgen sie dem Prinzip: Je größer das Risiko, desto größer die Pflichten.

zeigt eine Pyramide
eigene Darstellung I Die Risikopyramide der KI-Verordnung

Für Startups bedeutet diese Risikopyramide zunächst, dass sie selbst Einschätzungen ihrer KI-Anwendungen vornehmen müssen. Der Gesetzgeber hat eine Einteilung für KI-Systeme erstellt und sogenannte Hochrisiko-KI-Systeme definiert, die in Artikel 6 der KI-Verordnung sowie im Anhang III festgelegt sind. Startups, die ein KI-System entwickeln oder verwenden, müssen nun also überprüfen, ob ihr System unter diese Risikostufe fällt. Wenn dem so ist, müssen sie die genauen Anforderungen in dieser Risikoklasse beachten.

ACHTUNG: Der Anhang III zu Hochrisiko-KI-Systemen kann von der Kommission laufend ergänzt werden, daher sollten Startups diesen Anhang im Blick behalten.

Fristen: keine Panik, aber auch kein Müßiggang

Für alle, die ob des Inkrafttretens nervös werden, gilt: Keine Panik. Die KI-Verordnung geht mit großzügigen Übergangsfristen einher. Wer sich mit der KI-Verordnung beschäftigen sollte, sind Startups, die KI-Anwendungen entwickeln oder diese für ihr Unternehmen verwenden. Für sie gilt es sich in der nächsten Zeit anzuschauen, in welche Risikoklasse die KI eingestuft wird. Die Rechtswissenschafterin rät Startups, diese Risikoeinschätzung bald vorzunehmen. „Nicht kalkulieren: Ich lasse mir jetzt erst einmal Zeit und es wird schon nicht so arg sein und dann warte ich bis zum letzten Tag“, so Wendehorst.

eigene Darstellung I Daten: RTR-Servicestelle

Nach dem Inkrafttreten gilt erst einmal eine Übergangsfrist von sechs Monaten. Viele der Vorschriften betreffen Startups, wenn sie Hochrisiko-KI-Systeme verwenden. Die Vorschriften von Kapitel 1 und 2 werden nach Ablauf einer Frist von sechs Monaten anwendbar. Erst in einem Jahr sind dann General Purpose AI Systeme dran. Die meisten Vorschriften werden erst in 2 Jahren anwendbar und manche sogar erst nach 36 Monaten.

ACHTUNG: Umsetzungsschritte bedürfen in manchen Fällen Zeit und Vorbereitung. Es gilt daher bereits in der Übergangsfrist zu schauen, welche Systeme des Startups in eine Risikoklasse fallen könnten.

Das Spannungsfeld der KI-Verordnung

„Der risikobasierter Ansatz bedeutet, dass nicht alle KI-Systeme oder alle algorithmischen Systeme, die wir haben, gleichermaßen reguliert werden. Weil damit würden wir auch die Innovation hemmen, damit würden wir die KI-Entwicklung in Europa hemmen“, erklärt Wendehorst die Vorteile der Risikopyramide.

Die KI-Verordnung reguliert in einem Bereich, der sich im Spannungsfeld zwischen Sicherheitsbedürfnis und Innovationspotenzial befindet. Genau deshalb wäre der risikobasierte Ansatz angebracht, weil er Verhältnismäßigkeit in den Vordergrund stelle, meint die Rechtswissenschafterin. „Es muss eben strikt nach dem Verhältnismäßigkeitsprinzip vorgegangen werden“, sagt sie. Im brutkasten-Talk beschreibt sie das Potenzial der Verordnung sowohl Risiko von KI einzudämmen, als auch Innovation zu erlauben.

Startup-Innovationen waren Streitpunkt bis zum Schluss

Den Gesetzesentwurf hat die Kommission im April 2021 vorgelegt. Dann kam die Veröffentlichung von ChatGPT und daraufhin die weltweite Verbreitung von Künstlicher Intelligenz im Hausgebrauch. Das änderte natürlich auch die Anforderungen an die Verordnung. So wurde der Vorschlag an KI-Modelle mit allgemeinem Verwendungszweck angepasst und überarbeitet.

Dieser Aspekt der Verordnung war nicht unumstritten, denn genau in diesem Punkt hat man Innovationshemmnisse gesehen. Christiane Wendehorst weiß über die schwierigen Verhandlungspunkte und sagt, dass „einige Mitgliedstaaten plötzlich große Bedenken hatten, dass ihre eigenen Startups, sozusagen die Risingstars am KI-Markt, hier möglicherweise zu stark eingeschränkt würden“.

Diese Bedenken hätte man aber in den Verhandlungen lösen könnn. „Man hat bestimmte Dinge abgeschwächt, Kompromisse gefunden und vor allem muss man sagen: Am Ende hat dann der gemeinsame Wille überwogen, diese KI-Verordnung auf den Weg zu bringen“, resümiert die Rechtswissenschafterin.

Der EU AI Act will globale Standards setzen

“Unser KI-Gesetz wird auch einen erheblichen Beitrag zur Entwicklung globaler Leitplanken für vertrauenswürdige KI leisten”, kündigte Ursula von der Leyen den Anspruch der EU an, mit der KI-Verordnung globale Vorbildwirkung für sichere KI-Entwicklungen zu haben. Mit der KI-Verordnung ist Europa nicht nur die erste Region der Welt, die den Einsatz künstlicher Intelligenz umfassend reguliert, sie will damit auch weltweit Standards in der KI-Sicherheit setzen.

Dass das eine gute Entscheidung der Europäischen Union war und am Ende den Startups in der Region zu Gute kommt, davon ist Christiane Wendehorst überzeugt. Hätte sich die EU auf diese Verordnung nicht einige können, „wäre das ein enormer Gesichtsverlust für Europa gewesen“, sagt sie.

Sie sieht den unternehmerischen Vorteil in der KI-Verordnung darin: „Wenn die EU nicht reguliert hätte, hätten die Mitgliedstaaten im Prinzip regulieren können, wie sie das für richtig halten. Dann hätten wir einen Flickenteppich in der EU gehabt, wir hätten vielleicht einige Mitgliedstaaten gehabt, die ein sehr innovationsfeindliches Regime etabliert hätten und das wäre für die Unternehmen nicht gut gewesen. Unternehmen brauchen Planungssicherheit und deswegen wollten am Ende im Grunde alle diese KI-Verordnung haben.“, sagt die Professorin der Universität Wien im brutkasten-Talk.

Deine ungelesenen Artikel:
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
22.06.2026

Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität

Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
/artikel/wenn-der-verbuendete-den-stecker-zieht-europas-digitale-souveraenitaet
Schulterschluss in Paris: Macron und Modi warben auf der VivaTech 2026 gemeinsam für eine „verantwortungsvolle KI" als Wertegemeinschaft. | (c) VivaTech

Am 12. Juni erreicht Anthropic ein Brief des US-Handelsministeriums. Drei Tage zuvor war Claude Fable 5 erschienen, das leistungsfähigste allgemein verfügbare Modell des Hauses. Nun ist es für jede Person ohne US-Staatsbürgerschaft zu sperren, im In- wie im Ausland. Weil sich Staatsangehörigkeit nicht in Echtzeit prüfen lässt, schaltet Anthropic beide Modelle weltweit ab, auch für die eigenen US-Kund:innen. Betroffen sind nicht nur einzelne Nutzer:innen: Anwendungen, die das Modell direkt einbinden, stehen über Nacht still, und der Fall führt vor Augen, wie viele Produkte und ganze Geschäftsmodelle auf einem einzigen, von außen abschaltbaren Modell ruhen. Der „kill switch“, über den Europa seit Jahren theoretisch debattiert, ist plötzlich real, und er trifft die fortgeschrittenste KI ihrer Generation. Anthropic kündigte an, den Zugang so rasch wie möglich wiederherzustellen, zum Redaktionsschluss war die Sperre weiter in Kraft.

Fünf Tage später öffnet in Paris die VivaTech, Europas größte Tech-Messe, zum zehnten Mal. 15.000 Startups, Jeff Bezos als Stargast, und doch reibt sich die KI-Euphorie an der Angst vor der eigenen technologischen Abhängigkeit. Schon auf der Eröffnungsbühne nimmt Frankreichs Wirtschaftsminister Roland Lescure direkt Bezug auf die Anthropic-Sperre: Es gehe nicht länger um eine Zugangsdebatte, Regeln könnten sich über Nacht ändern, und Souveränität heiße, dann noch handlungsfähig zu sein. Tags zuvor hatte Premier Lecornu verkündet, der französische Inlandsgeheimdienst trenne sich vom US-Konzern Palantir zugunsten des heimischen Anbieters ChapsVision. Die Kulisse ist gesetzt.

Souveränität, messbar gemacht

Ausnahmsweise lässt sich Souveränität hier auch messen. Nvidia hatte auf der VivaTech 2025 mehr als 20 KI-Fabriken für Europa versprochen und Mistral zum souveränen Compute-Champion erklärt. Und anders als im Vorjahr liefert die Messe Konkretes: Mistral Compute geht als europäische GPU-Cloud teilweise in Betrieb, Foxconn und Bull kündigen eine Serverfertigung im französischen Angers an. Aus Ankündigung wird Auslieferung. Nur ist selbst das Souveräne es nur halb: Mistral Compute läuft auf 18.000 Nvidia-Chips. Die ganze europäische KI ruht auf einem nicht-europäischen Silizium-Sockel. Doch genau hier liegt Europas einziger echter Trumpf: Ohne die EUV-Lithografie des niederländischen Konzerns ASML, dessen Chef Christophe Fouquet ebenfalls in Paris war und der inzwischen Europas wertvollstes Unternehmen ist, kann weltweit niemand Spitzenchips fertigen. Abhängig auf der einen Ebene, unverzichtbar auf der anderen. Souveränität als Baustelle, nicht als Zustand.

„Tech for humanity“: Narendra Modi positionierte Indien auf der VivaTech 2026 als KI-Länderpartner Frankreichs. (c) VivaTech

Und Österreich?

Und Österreich? Steht in dieser Debatte überraschend weit vorn. Die „Declaration on European Digital Sovereignty“, die inzwischen alle 27 EU-Staaten mittragen, geht auf eine österreichische Initiative rund um Digitalisierungs-Staatssekretär Alexander Pröll zurück. Wien als Anstoßgeber dessen, worüber Paris nun diskutiert. Und das Bundesheer hat seine 2020 begonnene Migration von rund 16.000 Arbeitsplätzen auf LibreOffice 2025 abgeschlossen, bewusst ohne Cloud, also ohne fremden Schalter. Die unbequeme Frage für die heimische Szene lautet, ob aus solchen Verwaltungsentscheidungen auch ein Markt für österreichische Anbieter wird, oder ob Souveränität Behördensache bleibt.

Verhandeln aus der Schwäche

Den wahren Lackmustest liefert nicht die Bühne, sondern eine Frage am Rande. Auf die Fable-5-Sperre angesprochen, fordert Emmanuel Macron keine Unabhängigkeit. Er appelliert an die USA, ihre Spitzentechnologie zu teilen, und kündigt zugleich mehr Geld für die französische KI-Industrie an. Zuerst die Bitte um Zugang, dann, hilfsweise, die eigene Souveränität. Das kann man als Schwäche lesen. Man kann es auch als nüchterne Arbeitsteilung verstehen: das Beste nutzen, das es gibt, und parallel absichern, falls es wegbricht. Dass Macron sich die politische Bühne mit Indiens Premier Narendra Modi teilte, der für eine menschenzentrierte KI jenseits von Washington und Peking wirbt, unterstreicht denselben Reflex: Souveränität wird als Wertegemeinschaft inszeniert, die offene Frage nach Compute, Kapital und Chips bleibt.

Joe Tsai Chairman at Alibaba Group bei der VivaTech | (c) brutkasten / Martin Pacher

„Souveränität ist keine Isolation, sie ist Offenheit aus einer Position der Stärke“, sagt Deutschlands Digitalminister Karsten Wildberger. Schön gesagt, nur verhandelte Europa diese Woche aus Abhängigkeit, nicht aus Stärke. Alibabas Joe Tsai formulierte es zynisch ehrlicher: Europa solle seine Eier in zwei Körbe legen. Ein zweiter Lieferant ist keine Unabhängigkeit. Und doch, hier wird es unbequem, ist Diversifizierung für eine Region, die den ganzen Stack realistisch nie allein bauen wird, womöglich nicht die feige, sondern die rationale Antwort. Die ehrliche Variante von Souveränität wäre dann nicht Autarkie, sondern die Fähigkeit, den Lieferanten zu wechseln, wenn einer den Schalter umlegt, ohne dass das eigene Geschäft mit ihm stillsteht.

Der Preis der Autonomie

Bleibt die Frage, die diese Ausgabe aufwirft. Dass Europa Souveränität will, bestreitet niemand. Die eigentliche Frage ist der Preis: höhere Kosten, langsamere Verfügbarkeit, weniger Zugriff auf das jeweils beste Modell. Und ob das Geld dafür da ist. Auf die USA entfallen rund 50 Prozent des globalen Risikokapitals, auf China 40, auf Europa fünf. Solange sich daran nichts ändert, bleibt Souveränität das würdevollere Wort für eine gut gemanagte Abhängigkeit. Die Fable-5-Woche hat Europa beides gegeben, den Schreck und die Ausrede. Welche Lehre hängen bleibt, entscheidet sich nicht in den Hallen von Porte de Versailles, sondern in den Beschaffungsabteilungen, die nächsten Monat wieder eine Lizenz verlängern müssen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin