Abgeordnete des Europäischen Parlaments stimmen am Mittwoch über ihr Position zu einem lang diskutierten Gesetzespaket ab, welches die Nutzung von Künstlicher Intelligenz reglementieren soll. Es gibt jedoch Kritik an dem neuen Rechtsrahmen.
Allerspätestens seit ChatGPT in unseren Schulklassen eingesetzt wird oder in praktisch jedem Medium thematisiert wurde, ist Künstliche Intelligenz (KI) im Mainstream gelandet. Nun kommt es in der Europäischen Union (EU) zu weiteren Schritten, um auch die gesetzlichen Rahmenbedingungen zu schaffen. Am Mittwoch entscheidet das Europäische Parlament über seine Verhandlugnsposition zum AI Act. Das Gesetzespaket soll ein Regelwerk für KI-Anwendungen festlegen. Somit sollen die Pflichten von Anbieter:innen und Nutzer:innen juristisch verankert werden.
KI-Risikos erkennen und minimieren
So groß das Potenzial von Künstlicher Intelligenz ist, so groß sind auch die Befürchtungen vor dem Missbrauch der Technologie. Im AI Act werden vier unterschiedliche Risikoklassen kategorisiert. So gibt es etwa inakzeptable Risiken, die verboten werden. Darunter fallen Systeme, die Menschen ausnutzen, die Menschen aufgrund ihrer Aussagen oder Taten bewerten (Social Scoring), die biometrische Daten in Echtzeit erfassen oder auch KI-gestützte Spielwaren, die Kinder negativ beeinflussen könnten.
Zwar nicht verboten, aber unter strengen Bestimmungen reguliert werden Programme mit einem hohen Risiko, die im Bildungsbereich, Arbeitsmarkt, Grenzkontrollen oder bei kritischer Infrastruktur zum Einsatz kommen. Hier muss beispielsweise auf die Qualität der Datenfütterung geachtet werden und Transparenz gegeben sein. Anwendungen mit einem begrenztem Risiko müssen gekennzeichnet werden – dazu zählt etwa Chatbots wie ChatGPT. Jene, die laut dem Entwurf ein geringes Risiko beherbergen, also z. B. KI in Videospielen, sind frei nutzbar.
Kritik und Zeit zur Nachjustierung
Skeptiker:Innen bezweifeln, dass eine Technologie, die sich so rasant entwickelt, in dieser Form und auf diesem Wege reglementiert werden kann. Zudem wird kritisiert, dass das neue Regelwerk, die Europäische Union und seine Mitgliedsstaaten im internationalen Wettbewerb limitiert, während in den Vereinigten Staaten noch keine ernstzunehmenden juristischen Schritte in Gang gekommen sind. Andere fordern hingegen mehr Regeln und fordern weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede.
Bis der AI Act in Kraft tritt, dürfte es wohl noch zwei bis drei Jahre dauern. Nach der Abstimmung am Mittwoch starten die Verhandlungen zwischen EU-Rat, -Parlament und Kommission. Im Trilog werden Details ausgehandelt und eventuell auch etwaige Verbesserungen vorgenommen. Was der AI Act für Startups bedeuten könnte, lest ihr hier.
Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität
Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
Wenn der Verbündete den Stecker zieht: Europas digitale Souveränität
Die VivaTech in Paris ist Europas größte Startup- und Technologiekonferenz. Bei der zehnten Ausgabe war digitale Souveränität das bestimmende Thema. brutkasten war vier Tage vor Ort. Eine Einordnung.
Schulterschluss in Paris: Macron und Modi warben auf der VivaTech 2026 gemeinsam für eine „verantwortungsvolle KI" als Wertegemeinschaft. | (c) VivaTech
Am 12. Juni erreicht Anthropic ein Brief des US-Handelsministeriums. Drei Tage zuvor war Claude Fable 5 erschienen, das leistungsfähigste allgemein verfügbare Modell des Hauses. Nun ist es für jede Person ohne US-Staatsbürgerschaft zu sperren, im In- wie im Ausland. Weil sich Staatsangehörigkeit nicht in Echtzeit prüfen lässt, schaltet Anthropic beide Modelle weltweit ab, auch für die eigenen US-Kund:innen. Betroffen sind nicht nur einzelne Nutzer:innen: Anwendungen, die das Modell direkt einbinden, stehen über Nacht still, und der Fall führt vor Augen, wie viele Produkte und ganze Geschäftsmodelle auf einem einzigen, von außen abschaltbaren Modell ruhen. Der „kill switch“, über den Europa seit Jahren theoretisch debattiert, ist plötzlich real, und er trifft die fortgeschrittenste KI ihrer Generation. Anthropic kündigte an, den Zugang so rasch wie möglich wiederherzustellen, zum Redaktionsschluss war die Sperre weiter in Kraft.
Fünf Tage später öffnet in Paris die VivaTech, Europas größte Tech-Messe, zum zehnten Mal. 15.000 Startups, Jeff Bezos als Stargast, und doch reibt sich die KI-Euphorie an der Angst vor der eigenen technologischen Abhängigkeit. Schon auf der Eröffnungsbühne nimmt Frankreichs Wirtschaftsminister Roland Lescure direkt Bezug auf die Anthropic-Sperre: Es gehe nicht länger um eine Zugangsdebatte, Regeln könnten sich über Nacht ändern, und Souveränität heiße, dann noch handlungsfähig zu sein. Tags zuvor hatte Premier Lecornu verkündet, der französische Inlandsgeheimdienst trenne sich vom US-Konzern Palantir zugunsten des heimischen Anbieters ChapsVision. Die Kulisse ist gesetzt.
Souveränität, messbar gemacht
Ausnahmsweise lässt sich Souveränität hier auch messen. Nvidia hatte auf der VivaTech 2025 mehr als 20 KI-Fabriken für Europa versprochen und Mistral zum souveränen Compute-Champion erklärt. Und anders als im Vorjahr liefert die Messe Konkretes: Mistral Compute geht als europäische GPU-Cloud teilweise in Betrieb, Foxconn und Bull kündigen eine Serverfertigung im französischen Angers an. Aus Ankündigung wird Auslieferung. Nur ist selbst das Souveräne es nur halb: Mistral Compute läuft auf 18.000 Nvidia-Chips. Die ganze europäische KI ruht auf einem nicht-europäischen Silizium-Sockel. Doch genau hier liegt Europas einziger echter Trumpf: Ohne die EUV-Lithografie des niederländischen Konzerns ASML, dessen Chef Christophe Fouquet ebenfalls in Paris war und der inzwischen Europas wertvollstes Unternehmen ist, kann weltweit niemand Spitzenchips fertigen. Abhängig auf der einen Ebene, unverzichtbar auf der anderen. Souveränität als Baustelle, nicht als Zustand.
„Tech for humanity“: Narendra Modi positionierte Indien auf der VivaTech 2026 als KI-Länderpartner Frankreichs. (c) VivaTech
Und Österreich?
Und Österreich? Steht in dieser Debatte überraschend weit vorn. Die „Declaration on European Digital Sovereignty“, die inzwischen alle 27 EU-Staaten mittragen, geht auf eine österreichische Initiative rund um Digitalisierungs-Staatssekretär Alexander Pröll zurück. Wien als Anstoßgeber dessen, worüber Paris nun diskutiert. Und das Bundesheer hat seine 2020 begonnene Migration von rund 16.000 Arbeitsplätzen auf LibreOffice 2025 abgeschlossen, bewusst ohne Cloud, also ohne fremden Schalter. Die unbequeme Frage für die heimische Szene lautet, ob aus solchen Verwaltungsentscheidungen auch ein Markt für österreichische Anbieter wird, oder ob Souveränität Behördensache bleibt.
Verhandeln aus der Schwäche
Den wahren Lackmustest liefert nicht die Bühne, sondern eine Frage am Rande. Auf die Fable-5-Sperre angesprochen, fordert Emmanuel Macron keine Unabhängigkeit. Er appelliert an die USA, ihre Spitzentechnologie zu teilen, und kündigt zugleich mehr Geld für die französische KI-Industrie an. Zuerst die Bitte um Zugang, dann, hilfsweise, die eigene Souveränität. Das kann man als Schwäche lesen. Man kann es auch als nüchterne Arbeitsteilung verstehen: das Beste nutzen, das es gibt, und parallel absichern, falls es wegbricht. Dass Macron sich die politische Bühne mit Indiens Premier Narendra Modi teilte, der für eine menschenzentrierte KI jenseits von Washington und Peking wirbt, unterstreicht denselben Reflex: Souveränität wird als Wertegemeinschaft inszeniert, die offene Frage nach Compute, Kapital und Chips bleibt.
Joe Tsai Chairman at Alibaba Group bei der VivaTech | (c) brutkasten / Martin Pacher
„Souveränität ist keine Isolation, sie ist Offenheit aus einer Position der Stärke“, sagt Deutschlands Digitalminister Karsten Wildberger. Schön gesagt, nur verhandelte Europa diese Woche aus Abhängigkeit, nicht aus Stärke. Alibabas Joe Tsai formulierte es zynisch ehrlicher: Europa solle seine Eier in zwei Körbe legen. Ein zweiter Lieferant ist keine Unabhängigkeit. Und doch, hier wird es unbequem, ist Diversifizierung für eine Region, die den ganzen Stack realistisch nie allein bauen wird, womöglich nicht die feige, sondern die rationale Antwort. Die ehrliche Variante von Souveränität wäre dann nicht Autarkie, sondern die Fähigkeit, den Lieferanten zu wechseln, wenn einer den Schalter umlegt, ohne dass das eigene Geschäft mit ihm stillsteht.
Der Preis der Autonomie
Bleibt die Frage, die diese Ausgabe aufwirft. Dass Europa Souveränität will, bestreitet niemand. Die eigentliche Frage ist der Preis: höhere Kosten, langsamere Verfügbarkeit, weniger Zugriff auf das jeweils beste Modell. Und ob das Geld dafür da ist. Auf die USA entfallen rund 50 Prozent des globalen Risikokapitals, auf China 40, auf Europa fünf. Solange sich daran nichts ändert, bleibt Souveränität das würdevollere Wort für eine gut gemanagte Abhängigkeit. Die Fable-5-Woche hat Europa beides gegeben, den Schreck und die Ausrede. Welche Lehre hängen bleibt, entscheidet sich nicht in den Hallen von Porte de Versailles, sondern in den Beschaffungsabteilungen, die nächsten Monat wieder eine Lizenz verlängern müssen.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?
Der Inhalt des Artikels betrifft die gesetzlichen Rahmenbedingungen für die Anwendung von künstlicher Intelligenz in der Europäischen Union. Durch die Kategorisierung von KI-Risiken und die Festlegung von Pflichten für Anbieter und Nutzer soll ein Regelwerk geschaffen werden, um den Missbrauch der Technologie zu vermeiden. Die Einführung des AI Act könnte somit zu mehr Transparenz und Sicherheit im Umgang mit KI beitragen und mögliche negative gesellschaftliche Auswirkungen minimieren. Allerdings gibt es auch Kritik an dem Regelwerk und Fragen bezüglich seiner Umsetzbarkeit und Folgen im internationalen Wettbewerb.
Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?
Der AI Act der Europäischen Union könnte bedeutende wirtschaftliche Auswirkungen auf Unternehmen haben, die KI-Anwendungen entwickeln und nutzen. Das Regelwerk soll Pflichten für Anbieter und Nutzer von KI-Anwendungen juristisch verankern und KI-Risiken erkennen und minimieren. Unternehmen, die KI-Systeme entwickeln und verwenden, müssen sich auf strengere Regulierungen einstellen und möglicherweise ihre Geschäftsmodelle anpassen. Startups könnten von dem AI Act ebenfalls betroffen sein.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?
Dieser Artikel hat als Innovationsmanager:in eine wichtige Relevanz, da er sich mit der gesetzlichen Regelung von Künstlicher Intelligenz-Anwendungen in der Europäischen Union beschäftigt. Dies könnte mögliche Innovationen und Anwendungen beeinflussen, einschränken oder auch fördern und somit Auswirkungen auf die Entwicklungen im eigenen Unternehmen haben. Es ist daher wichtig, über die geplanten Regelungen informiert zu sein und gegebenenfalls Anpassungen vorzunehmen.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?
Als Investor:in sollten Sie sich über die möglichen Auswirkungen des AI Act auf Unternehmen, die auf KI-Technologie setzen oder davon betroffen sein könnten, informieren. Insbesondere sollten Sie die Kategorisierung von KI-Anwendungen mit hohem Risiko prüfen und die regulatorischen Anforderungen im Auge behalten, um mögliche Risiken für Ihre Investitionen frühzeitig zu erkennen.
Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?
Als Politiker:in ist es wichtig das Thema Künstliche Intelligenz im Auge zu behalten, da es eine immer größer werdende Rolle in unserer Gesellschaft und Wirtschaft spielt. Der AI Act der Europäischen Union soll dabei helfen, gesetzliche Rahmenbedingungen für KI-Anwendungen zu schaffen und die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Somit wird es auch für Politiker:innen von Bedeutung sein, sich mit den rechtlichen Rahmenbedingungen von Künstlicher Intelligenz vertraut zu machen und diese gegebenenfalls mitzugestalten.
Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?
Der AI Act ist ein Gesetzespaket, das ein Regelwerk für KI-Anwendungen festlegen soll, um die Pflichten von Anbieter:innen und Nutzer:innen juristisch zu verankern. Dabei werden verschiedene Risikoklassen kategorisiert, um die Wahl der Anwendungen mit Videoüberwachung, biometrischen Daten und Social Scoring zu regulieren. Während einige Skeptiker:innen die Regulierung kritisieren, fordern andere weitreichendere Schritte gegen KI-generierte Desinformation und Hassrede. Die Abstimmung am Mittwoch ist ein wichtiger Schritt, und es wird einige Jahre dauern, bis der AI Act in Kraft tritt.