09.12.2023

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

Nach 36 Stunden intensiver Verhandlungen erzielten EU-Parlament, EU-Kommission und Mitgliedsstaaten eine Einigung beim AI Act. Die technischen Details der ersten umfassenden Regulierung von künstlicher Intelligenz in der EU müssen aber noch geklärt werden.
/artikel/ai-act-beschluss
Fahnen der Europäischen Union
Fahnen der Europäischen Union | Foto: Adobe Stock

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

„Deal“, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei „historisch“, schreib er in einer weiteren Nachricht. Der AI Act sei „viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.“

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. „Es könnte Wochen dauern, um den Text zu konsolidieren“, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

„Foundation Models“ wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit „Foundation Models“ ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die „Foundation Models“ hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die „systemische Risiken“ aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter „Praxis-Stresstest“ zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. „Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen“, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Deine ungelesenen Artikel:
06.10.2026

Toto Wolff: „Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden“

Interview: Toto Wolff hat mit dem Mercedes-AMG-Petronas-Formula-One-Team eine lange Phase großer Erfolge verantwortet, danach vier Saisonen ohne Titelkampf erlebt und das Team in dieser Zeit umgebaut. Im Interview spricht er über psychologische Sicherheit als Voraussetzung für Fehlerkultur, über Entscheidungen unter Unsicherheit, über die Grenzen von KI im Rennsport – und über seine Beteiligungen an Nuki und Instahelp.
/artikel/toto-wolff-niemand-wird-bei-der-fehlersuche-die-hand-heben-wenn-er-angst-hat-gefeuert-zu-werden
06.10.2026

Toto Wolff: „Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden“

Interview: Toto Wolff hat mit dem Mercedes-AMG-Petronas-Formula-One-Team eine lange Phase großer Erfolge verantwortet, danach vier Saisonen ohne Titelkampf erlebt und das Team in dieser Zeit umgebaut. Im Interview spricht er über psychologische Sicherheit als Voraussetzung für Fehlerkultur, über Entscheidungen unter Unsicherheit, über die Grenzen von KI im Rennsport – und über seine Beteiligungen an Nuki und Instahelp.
/artikel/toto-wolff-niemand-wird-bei-der-fehlersuche-die-hand-heben-wenn-er-angst-hat-gefeuert-zu-werden
Toto Wolff
© Sulay Kelly for Mercedes-Benz Grand Prix Ltd. - Toto Wolff.

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


brutkasten: Sie haben Mercedes durch eine lange Phase großer Erfolge geführt, dann kamen schwierige Jahre. Was war Ihr wichtigstes Learning darüber, wie Organisationen nach Rückschlägen wieder in die Spur finden?

Toto Wolff: Die Formel 1 ist eine Welt der ständigen Evolution, nichts steht je still. Zum Beispiel haben die Regeländerungen 2022 schonungslos Schwächen in unseren Entwicklungsfähigkeiten und unserem Verständnis offenbart. Wir haben diese Ära klar hinter unseren Wettbewerbern gestartet und es über vier Saisonen hinweg nicht wirklich geschafft, diese Defizite auszubügeln.

Der eine oder andere Rennsieg waren die Highlights, wir haben es geschafft, zweimal in vier Jahren den zweiten Platz in der Konstrukteursmeisterschaft zu erringen; aber wir haben nie um den Titel gekämpft. Wir haben im Hintergrund größere Änderungen in unserer technischen Ausstattung, beim Personal und den Strukturen vorgenommen, um das Team stärker und wettbewerbsfähiger zu machen. Wir haben auch die Führungskultur adaptiert, weil wir das Team motivieren mussten, das begann, sich nach so vielen Jahren des Erfolgs selbst infrage zu stellen. Es war jedenfalls eine wichtige und wertvolle Phase für uns.

Sie sprechen in diesem Sinne wiederholt von einer „No Blame Culture“. Wie baut man eine Kultur auf, in der Fehler nicht versteckt oder angeprangert, sondern als Lernchance genutzt werden?

Es geht hier fast ausschließlich um psychologische Sicherheit. Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden. Wir müssen aber zu unseren Fehlern stehen können. Und das fängt bei den Führungskräften an. Nur so können auch andere zu ihren Fehlern stehen. Eine „No Blame Culture“ funktioniert jedoch nur im Zusammenspiel mit einem hohen Verantwortungsbewusstsein. Man braucht Teammitglieder, die Verantwortung übernehmen, auch wenn es um Fehler geht.

In der Formel 1 hat jeder Fahrer eigene Ingenieure und Mechaniker. Wie verhindert man, dass interne Konkurrenz gegen die gemeinsame Strategie arbeitet?

Das ganze Team hat das gleiche Ziel: Die Meisterschaft für Mercedes zu gewinnen. Nicht mit dem einen oder anderen Fahrer, sondern für die Marke und das Team. Alle Mitarbeiter sind gleich incentiviert: Ausschlaggebend ist der Gewinn der Konstrukteursmeisterschaft, nicht der Fahrerwertung. Das ist die Grundlage unserer Entscheidungsfindung. Auch die Ingenieure und Mechaniker, die einem der Fahrer zugeteilt sind, arbeiten zuallererst für das Team. Beide Seiten der Garage machen jeden Boxenstopp gemeinsam. Alle technischen Daten werden zwischen den Ingenieuren der Fahrer geteilt, damit wir so wettbewerbsfähig wie möglich sein können. Das Motto ist klar: Das beste Team gewinnt, der beste Fahrer gewinnt; und zwar in dieser Reihenfolge.

Viele Gründerinnen und Gründer kämpfen damit, schnell zu wachsen und dabei die Kultur zu bewahren. Lassen sich Prinzipien aus der Formel 1 auf Startups und Scaleups übertragen?

Wir haben seit dem Cost Cap 2021 starkes Wachstum in der Formel 1 gesehen. Wir mussten uns überlegen, ob wir die Geschäftsfelder erweitern wollen, wie wir es etwa mit unserem Engagement im America’s Cup beim Segeln gemacht haben. Der Headcount ist gewachsen, vor allem in den Support-Bereichen außerhalb der technischen und operationellen Hauptbereiche. Aber dann haben wir uns wieder auf unser Kerngeschäft fokussiert, mit einem klaren Ziel: die Formel-1-Weltmeisterschaft zu gewinnen. Und bei jedem neuen Projekt stellen wir uns die Frage: Bringt uns das Projekt diesem Ziel näher, hilft es uns, Rennen und Meisterschaften zu gewinnen?

Wenn die Antwort Ja ist, dann investieren wir in das Projekt; wenn nicht, dann nicht. Ich denke, es geht vor allem darum, das Hauptziel nicht aus den Augen zu verlieren, da mit dem Unternehmenswachstum viele Elemente komplexer werden. Wenn man in einem so kompetitiven Umfeld wie der Formel 1 tätig ist, dann ist das Hauptziel relativ klar. Aber jedes Startup muss sich ein Ziel geben können und dann genau wie wir darauf fokussieren.

Wie treffen Sie strategische Entscheidungen, wenn nicht alle Informationen vorliegen? Gibt es ein Erfolgsgehmeinis?

Mein Freund und Geschäftspartner Niki Lauda hat immer auf die rasche Entscheidungsfindung gepocht – es ist besser, eine mangelhafte Entscheidung jetzt zu treffen, als darauf zu warten, alle Informationen zusammengetragen zu haben, wenn es dann zu spät ist. Man kann Entwicklungen immer noch korrigieren, wenn eine Entscheidung nicht ganz richtig war. Persönlich versuche ich die Upside und Downside bei den großen Entscheidungen zu erkennen: Wenn ich mit der Downside, dem Worst Case, leben kann, dann gibt es keinen Grund, vor der Entscheidung zurückzuschrecken.

Welche Leadership-Lektion hätten Sie gerne früher gelernt?

Meine wichtigste Erfahrung ist wohl, in Konfliktsituationen neugierig zu bleiben, zu versuchen, die Perspektive der anderen Seite zu verstehen, und auch manchmal zu akzeptieren, dass man nicht einer Meinung ist oder unterschiedliche Interessen hat; ein „agree to disagree“ als Ergebnis zu akzeptieren. Bei Leadership geht es ja vor allem darum, andere Menschen zu verstehen, sich auf eine gemeinsame Linie zu einigen, sie mit etwas zu incentivieren, das für sie auch wirklich relevant ist. Nur wer motiviert ist und sich wohlfühlt, kann 100 Prozent geben. Ziele klar formulieren, Mitarbeitern Verantwortung übertragen, ihnen dabei helfen, Herausforderungen zu meistern, und Ergebnisse offen analysieren – das ist meine Arbeitsweise.

Gibt es Ihrer Ansicht nach die eine Eigenschaft, die erfolgreiche Unternehmerinnen und Unternehmer brauchen? Und welche Fähigkeiten werden durch den zunehmenden Einsatz von KI wichtiger?

Das eigene Geschäft verstehen und die Leute kennen und verstehen, mit denen man arbeitet. Ein großes Ziel verfolgen und das Auge fürs Detail, das Gleichgewicht in allen relevanten Bereichen nicht verlieren. KI wird viel in unserer Welt verändern. Aber sie wird hoffentlich vor allem ein Instrument sein, das den Menschen dabei helfen wird, bessere Entscheidungen zu treffen. Die fähigsten Leute werden das Beste aus AI herausholen, die Stärken nutzen und sich von den Gefahren und Schwächen nicht beeinträchtigen lassen. Wir stehen sicher am Anfang einer rasanten Entwicklung, deren Ergebnis kaum vorhersehbar ist.

Und im Rennsport selbst: Kann KI helfen, die Ideallinie, die optimalen Bremspunkte oder das perfekte Setup zu entschlüsseln?

Wo die richtigen Bremspunkte sind, sollten wir eigentlich schon wissen; auch, dass, wenn es regnet, ein Reifen ohne Profil nicht so toll funktioniert. Aber im Ernst: Wir müssen AI zur Entscheidungsfindung einsetzen, wo hochkomplexe Datenmodelle es verlangen. Aber AI wird in keinem Bereich eigenständig entscheiden. Sie wird immer eine Unterstützung für unsere Ingenieure bleiben; zumindest in absehbarer Zeit.

Welche Innovationen aus dem Motorsport könnten in den kommenden Jahren für andere Industrien relevant werden?

Es gibt in der Geschichte viele Beispiele für Technologietransfer, und das geht auch heute weiter. Wir als Industrie lernen gerade viel über Batteriesysteme, über Steuerungselektronik und elektrische Motoren, aber auch über nachhaltige Treibstoffe und innovative Composite-Materialien; alles wichtige Entwicklungsbereiche für die Automobil- und Transportindustrie.

Es gibt aber auch ganz andere Bereiche, die mit dem Fahrzeug an sich nichts zu tun haben. So haben wir etwa vor ein paar Jahren Pionierarbeit beim Einsatz von 5G-Technologie an der Rennstrecke geleistet. Die Formel 1 ist in ihrer Grundcharakteristik interessant für Entwicklungen unterschiedlicher Technologien, weil sie ein sehr kompetitives Umfeld mit einer enorm hohen Entwicklungsgeschwindigkeit bietet. Das ist für Innovation und Entwicklung wertvoll.

Sie sind ja an mehreren Unternehmen beteiligt. Was sind Ihre Kriterien dabei?

Nuki und Instahelp sind ja nicht mehr Startups im eigentlichen Sinn, beide sind profitabel. Nuki macht über 50 Millionen Euro Umsatz und ist Marktführer in Europa; Instahelp hat seit zwei Jahren einen zweistelligen Millionenumsatz und verdient Geld. Unsere Kriterien waren damals, als wir die beiden Firmen mit unseren Partnern in der Up to Eleven, den Brüdern Martin und Jürgen Pansy und René Berger, gegründet haben, dass wir unsere bestehende Kompetenz bei mobiler Kommunikation, die wir mit sms.at und ucp über Jahre aufgebaut hatten, für innovative Geschäftsmodelle einsetzen wollen.

Dass wir direkt in Startups investiert haben, die wir nicht selbst gegründet haben, ist ja schon lang her; das war zu Zeiten von Marchfifteen beziehungsweise ganz vereinzelt vor über 15 Jahren. Das wichtigste Kriterium war jedenfalls immer, dass die Gründer gute Leute waren, denen man vertrauen kann. Einer davon war übrigens Oliver Holle. Auch heute vertrauen wir ihm, und zwar indem wir bei Speedinvest und damit auch weiterhin indirekt in Startups investieren.

Abschließend: Wie sieht bei Ihnen eigentlich ein Sonntag aus, an dem kein Rennen stattfindet?

Meistens bin ich in Italien, an einer Kartstrecke. Da sind Susie und ich dann die größten Fans unseres jungen Sohns. Der Apfel ist nicht weit vom Stamm gefallen.


Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz