09.12.2023

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

Nach 36 Stunden intensiver Verhandlungen erzielten EU-Parlament, EU-Kommission und Mitgliedsstaaten eine Einigung beim AI Act. Die technischen Details der ersten umfassenden Regulierung von künstlicher Intelligenz in der EU müssen aber noch geklärt werden.
/artikel/ai-act-beschluss
Fahnen der Europäischen Union
Fahnen der Europäischen Union | Foto: Adobe Stock

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

“Deal”, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei “historisch”, schreib er in einer weiteren Nachricht. Der AI Act sei “viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.”

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. “Es könnte Wochen dauern, um den Text zu konsolidieren”, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

“Foundation Models” wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit “Foundation Models” ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die “Foundation Models” hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die “systemische Risiken” aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter “Praxis-Stresstest” zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. “Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen”, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Deine ungelesenen Artikel:
20.12.2024

Lukas Püspök: “Der Megatrend Climate-Tech bleibt intakt”

Interview. Im geopolitischen Spannungsfeld zwischen den USA und China stehen europäische Climate-Tech-Startups vor großen Herausforderungen und Chancen. Die Founding Partner von Push Lukas Püspök und Laurenz Simbruner erklären, wie sich die Investmentlandschaft verändert und was es braucht, um Europas Technologiesouveränität zu stärken.
/artikel/zwischen-trump-und-china-die-perspektiven-europaeischer-climate-tech-startups
20.12.2024

Lukas Püspök: “Der Megatrend Climate-Tech bleibt intakt”

Interview. Im geopolitischen Spannungsfeld zwischen den USA und China stehen europäische Climate-Tech-Startups vor großen Herausforderungen und Chancen. Die Founding Partner von Push Lukas Püspök und Laurenz Simbruner erklären, wie sich die Investmentlandschaft verändert und was es braucht, um Europas Technologiesouveränität zu stärken.
/artikel/zwischen-trump-und-china-die-perspektiven-europaeischer-climate-tech-startups
v.l. Die beiden Founding Partner Laurenz Sim- bruner und Lukas Püspök | (c) Tina Herzl

Dieser Artikel erschien zuerst in der Jubiläumsausgabe unseres Printmagazins. Ein Link zum Download findet sich am Ende des Artikels.

Spätestens mit dem Sieg von Donald Trump bei den US-Wahlen und der angekündigten Rückkehr seiner „America First“-Politik ist die Debatte über die Technologiesouveränität in Europa neu entfacht. Unter dem Motto „Drill, baby, drill!“ hat Trump zudem angekündigt, die Förderung fossiler Energieträger wie Öl und Gas massiv ankurbeln zu wollen. Gleichzeitig ist Europa in zentralen Industrien wie der Solar- und Batterietechnologie stark von China abhängig. Angesichts dieser Herausforderungen stellt sich die Frage, welche Marktchancen europäische Climate-Tech-Startups im geopolitischen Spannungsfeld zwischen den USA und China künftig haben.

Diese Frage beleuchten wir aus Investorensicht im Gespräch mit Lukas Püspök und Laurenz Simbruner – sie sind Founding Partner des Wiener Venture-Capital-Fonds Push, der gezielt in Health-Tech- und Climate-Tech-Startups investiert. Püspök leitet zudem das gleichnamige Familienunternehmen, das einer der größten Windkraftbetreiber Österreichs ist.


Wie schätzt ihr die aktuelle Finanzierungslage für Startups aus Investorensicht ein?

Laurenz Simbruner: Die erwartete deutliche Verbesserung bei Dealchancen blieb 2024 aus. Viele hatten die Hoffnung, dass der Markt wieder stärker anzieht, aber das war eher eine vorsichtige Prognose als Realität. Stattdessen erlebten wir ein Jahr, das stark im Zeichen selektiver Investments stand – Flight to Quality und ein klarer Fokus auf Unit Economics und den Weg zur Rentabilität. Besonders Top-Teams und Serial Entrepreneurs hatten es beim Fundraising leichter. Im Bereich Climate-Tech war weiterhin Finanzierung da, vor allem von neueren Fonds, die bereits 2021 und 2022 geraist wurden. Doch auch hier gab es erste Anzeichen von Ernüchterung.

Wie äußern sich diese Anzeichen der Ernüchterung im Climate-Tech-Sektor?

Lukas Püspök: Noch vor zwei Jahren waren die Erwartungen hoch – viele Pitch Decks gingen von extremen Energiepreisen aus, und selbst kleine Einsparungen durch Softwarelösungen wurden als äußerst wertvoll angesehen. Heute sind die Energiepreise in Europa zwar leicht erhöht, aber weitgehend normalisiert. Das führt zu einer gewissen Normalisierung der Nachfrage nach spezifischen Lösungen. Doch der Megatrend Climate-Tech bleibt intakt: Lösungen im Kampf gegen die Klimakrise sind weiterhin dringend notwendig, und das Potenzial für neue Technologien ist groß. Besonders Boom-Technologien wie Batterien bleiben gefragt. Allerdings erschweren die wirtschaftliche Situation in Europa und der geopolitische Druck zwischen China und den Vereinigten Staaten die Entwicklungen in der Clean-Tech- und Climate-Tech-Branche.

Der Megatrend Climate-Tech bleibt intakt.

Laurenz Simbruner: Interessant ist auch die Entwicklung bei den Investitionsvolumina: Nach einem Anstieg über drei Quartale gab es zuletzt wieder einen Rückgang. Besonders Deals im Bereich künstliche Intelligenz ziehen hier Aufmerksamkeit auf sich, da viele Mega-Rounds ein Drittel des Investitionsvolumens in Anspruch nehmen. Unsere beiden Bereiche Klima und Gesundheit bleiben jedoch noch immer unter den Top-Verticals. Der Fokus im Climate-Tech-Bereich verschiebt sich hin zu echten Herausforderungen der Energiewende und Industrie. ESG-Monitoring oder reine Energiemonitoring-Lösungen reichen nicht mehr aus – es geht darum, die großen Probleme anzugehen. Beispielsweise spielt die Steuerung zwischen Energieproduzenten, Speichern und Abnehmern eine zentrale Rolle, und hier kann Software Effekte erzielen.

Lukas Püspök: Die Komplexität im Energiebereich steigt enorm, die neue Energiewelt ist wesentlich vielschichtiger und dynamischer als früher. Das schafft ein ideales Umfeld für neue Technologieunternehmen, die mit ihrer Agilität und Innovationskraft Lösungen bieten können, die traditionelle Akteure oft nicht schnell genug umsetzen. In diesem Feld ergeben sich fast zwangsläufig große Wachstumschancen für neue Technologieunternehmen. Die Herausforderungen und Möglichkeiten sind so groß, dass es fast nicht anders kommen kann.

Welche Chancen bestehen für Startups im Energiebereich angesichts der dominanten Marktposition Chinas im Hardwarebereich?

Lukas Püspök: Ja, tatsächlich sind die meisten wesentlichen Technologien mittlerweile fest in chinesischer Hand. Bei Wärmepumpen könnte Europa noch eine kleine Chance haben, aber auch hier zeigt sich ein ähnliches Bild wie bei den Wechselrichtern: Vor einigen Jahren hatten auch die europäischen Hersteller noch eine gewisse Relevanz am Weltmarkt, heute spricht jedoch fast jeder nur noch über Huawei und ein paar andere, die ihre Dominanz klar ausbauen konnten.

Diese Entwicklung wird sich in den nächsten Jahren nicht einfach aufhalten lassen. China hat ein enormes Production-Know-how aufgebaut. Die Unternehmen dort sind in Forschung und Entwicklung sowie im Bau großer Produktionsanlagen extrem stark geworden. In Europa wird es sehr schwierig, dieses Niveau schnell zu erreichen.

Die USA gehen einen anderen Weg: Mit dem Inflation Reduction Act fließt viel Kapital in den Aufbau von Produktionskapazitäten, was den USA möglicherweise Vorteile verschafft. In Europa fehlen vergleichbar starke Investitionsanreize und langfristige Strategien, wie sie in China und den Vereinigten Staaten umgesetzt werden.

Historisch gesehen sind industrielle Erfolge eng an günstige Energiepreise gebunden.

Das bedeutet jedoch nicht, dass es für europäische Startups im Energy-Tech-Bereich keine Chancen gibt. Es gibt zahlreiche Felder, in denen sie erfolgreich sein können – von der Ausgleichsenergie über das Energiekostenmanagement bis zur Batterieoptimierung und Implementierung, um nur ein paar zu nennen. Hier bieten sich viele Möglichkeiten zur Wertschöpfung.

Wenn jedoch jemand in Europa eine neue Solarzelle entwickeln möchte, ist Skepsis angebracht, ob eine solche Entwicklung hier wirklich konkurrenzfähig in die Massenproduktion gehen kann. Deshalb liegt unser Fokus ohnehin nicht auf Hardware. Sie kann zwar eine Rolle spielen, aber der Hauptwert sollte immer aus der Softwarekomponente kommen – auch wenn das im Energy-Tech-Bereich manchmal herausfordernd ist.

Welchen Investitionsfokus verfolgt Push im Energiebereich?

Lukas Püspök: Unser Fokus liegt immer auf Asset-Light-Ansätzen, selbst bei Projekten mit Hardwarekomponenten. Wir sind offen, auch Hardware anzusehen, aber der wesentliche Wert wird in Europa öfter durch Software geschaffen, seltener durch herausragende Hardwareentwicklung und Produktion.

Laurenz Simbruner: Das liegt auch daran, dass wir als Tech-Investoren darauf achten, wie leicht Folgefinanzierungen gesichert werden können. Bei reinen Hardware-Investments stoßen wir auf Widerstände: Rund drei Viertel der potenziellen Investoren sagen bei „Hardware only“ Nein. Das erhöht das Risiko, dass eine Anschlussfinanzierung scheitert oder man alternative Finanzierungsquellen wie strategische Investoren oder Family Offices anstreben muss.

Was muss Europa tun, um im Energiebereich Technologiesouveränität zu erlangen?

Lukas Püspök: Europa kann nur wettbewerbsfähig bleiben, wenn es langfristige, klare Policies ähnlich wie die anderen großen Wirtschaftsräume umsetzt. China hat mit seinen Fünfjahresplänen schon vor Langem begonnen, grüne Technologien und Batterien strategisch zu fördern, und unterstützt seine Unternehmen auf vielen Ebenen. Die USA setzen auf den Inflation Reduction Act, der klare Impulse für die Industrie bietet. Im Vergleich dazu wirkt Europa mit seinen Initiativen wie dem Green Industrial Deal fast zurückhaltend und politisch fragmentiert, was große Schritte erschwert.

Wir brauchen diese Klarheit in der europäischen Politik, um unsere Industrie zu halten und wettbewerbsfähige, günstige Energie zu sichern. Historisch gesehen sind industrielle Erfolge eng an günstige Energiepreise gebunden, und auch für Europa ist der massive Ausbau erneuerbarer Energien alternativlos. Manche Stimmen sprechen sich zwar für mehr Kernenergie aus, aber der gänzlich fossilfreie Ausbau bleibt das Ziel; besonders, da Europa keine großen natürlichen Ressourcen besitzt. Wir müssen so viel wie möglich selbst in Europa erneuerbar produzieren.

Der Fokus im Climate-Tech-Bereich verschiebt sich hin zu echten Herausforderungen der Energiewende und Industrie

Donald Trump hat die US-Wahlen gewonnen und setzt sich für fossile Energieträger ein. Inwiefern ist das eine Gefahr für den europäischen Climate-Tech-Sektor?

Lukas Püspök: Die aktuellen Entwicklungen in den USA stellen für den europäischen Climate-Tech-Sektor aus meiner Sicht keine allzu große Gefahr dar. Wenn die USA erneut aus dem Klimaabkommen austreten und die Schiefergas- und Schieferölproduktion steigern, wird dies zwar Auswirkungen haben, doch Europa wird weiterhin konsequent auf Zukunftstechnologien setzen. Diese klare Haltung stärkt das europäische Ökosystem und zeigt eine gewisse Unabhängigkeit gegenüber globalen politischen Veränderungen. Insgesamt halte ich den Wahlausgang für die Klimabemühungen für sehr bedauerlich – für die Chancen der europäischen Climate-Tech-Unternehmen aber nicht für eine fundamentale Gefährdung.

Laurenz Simbruner: Viele Climate-Tech-Lösungen dienen primär der Kostenreduktion und der Produktivitätssteigerung. Der Kundennutzen steht dabei im Vordergrund, z. B. durch geringeren Verbrauch oder höhere Effizienz. Die Entscheidung für solche Innovationen ist oft wirtschaftlich motiviert und nicht rein ideologisch. So spielt auch in den USA der wirtschaftliche Nutzen eine entscheidende Rolle – und erneuerbare Technologien wie Photovoltaik setzen sich langfristig durch, wenn sie wirtschaftlich sinnvoll sind.

Lukas Püspök: Letztlich zeigt sich: Technologien setzen sich dauerhaft nur dann durch, wenn sie einen entsprechenden Kundennutzen bringen. In vielen Fällen sind aber Anschubfinanzierungen notwendig, um Technologien wie Photovoltaik zu etablieren und günstige, nachhaltige Lösungen weltweit zu fördern. Der große Photovoltaikboom auf österreichischen Dächern begann weniger aus Umweltgründen oder weil plötzlich jeder grünen Strom wollte; vielmehr wollen wir uns im Lichte der hohen Kosten und der Abhängigkeit von Importen wirtschaftlich absichern. Dieses Prinzip zeigt sich auch in den USA: Zwar könnte man mehr Öl und Gas fördern, und in gewissem Umfang wird das leider auch passieren, aber in vielen Fällen ergeben andere Energieformen wirtschaftlich mehr Sinn. Auch die USA werden PV, Windkraft und Batterien weiter stark ausbauen, hauptsächlich, weil sie in der Stromproduktion zu fast konkurrenzlos günstigen Technologien geworden sind.


Sichere dir das brutkasten-Magazin in digitaler Form!
Trag dich hier ein und du bekommst das aktuelle brutkasten-Magazin als PDF zugeschickt und kannst sofort alle Artikel lesen! Du erhältst mit der Anmeldung künftig auch Zugang für unseren Startup-Newsletter, den wir drei Mal pro Woche verschicken. Du kannst dich jederzeit unkompliziert wieder abmelden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz