09.12.2023

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

Nach 36 Stunden intensiver Verhandlungen erzielten EU-Parlament, EU-Kommission und Mitgliedsstaaten eine Einigung beim AI Act. Die technischen Details der ersten umfassenden Regulierung von künstlicher Intelligenz in der EU müssen aber noch geklärt werden.
/artikel/ai-act-beschluss
Fahnen der Europäischen Union
Fahnen der Europäischen Union | Foto: Adobe Stock

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

„Deal“, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei „historisch“, schreib er in einer weiteren Nachricht. Der AI Act sei „viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.“

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. „Es könnte Wochen dauern, um den Text zu konsolidieren“, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

„Foundation Models“ wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit „Foundation Models“ ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die „Foundation Models“ hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die „systemische Risiken“ aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter „Praxis-Stresstest“ zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. „Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen“, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Deine ungelesenen Artikel:
12.11.2026

Pepper: Thinkubator-Team entwickelt Software für Förderabrechnungen

Das Wiener Startup Pepper will die Verwaltung öffentlich geförderter Projekte vereinfachen. Die Idee entstand nach einer aufwendigen Förderprüfung beim Think Tank Thinkubator. Nun bringt das dreiköpfige Gründungsteam eine Software auf den Markt. Erste zahlende Kunden und drei Business Angels sind bereits an Bord.
/artikel/pepper-thinkubator-team-entwickelt-software-fuer-foerderabrechnungen
12.11.2026

Pepper: Thinkubator-Team entwickelt Software für Förderabrechnungen

Das Wiener Startup Pepper will die Verwaltung öffentlich geförderter Projekte vereinfachen. Die Idee entstand nach einer aufwendigen Förderprüfung beim Think Tank Thinkubator. Nun bringt das dreiköpfige Gründungsteam eine Software auf den Markt. Erste zahlende Kunden und drei Business Angels sind bereits an Bord.
/artikel/pepper-thinkubator-team-entwickelt-software-fuer-foerderabrechnungen
Das Gründerteam von Pepper: Bastien Huber, Felix Ambros, Alexandra Kick (v.l.) | (c) Matt Banton

Wochenlang Belege zusammensuchen, Stundenlisten kontrollieren und Unterlagen aufbereiten: Als beim Wiener Think Tank Thinkubator im Sommer 2025 eine größere Prüfung durch die Österreichische Forschungsförderungsgesellschaft (FFG) anstand, wurde die Förderabrechnung zur Belastungsprobe. Bei solchen Projekten sind Arbeitsstunden und Ausgaben oft auf verschiedene Excel-Tabellen und Dokumente verteilt, die für Prüfungen erst zusammengeführt werden müssen.

„Das hat uns extrem viel Zeit, Ressourcen und Nerven gekostet“, erzählt Alexandra Kick, Co-Founderin von Pepper. Auch andere Organisationen stünden vor ähnlichen Problemen. Eine passende Software, um diesen Prozess einfacher zu gestalten, habe das Team nicht gefunden.

Vom Think Tank zum Software-Startup

Gemeinsam mit Felix Ambros gründete Kick 2021 den Wiener Think Tank Thinkubator, der Bildungs- und Forschungsprojekte rund um Kreislaufwirtschaft umsetzt (brutkasten berichtete). Ein Jahr später kam Bastien Huber dazu. Aus den eigenen Erfahrungen entwickelte das Trio Pepper, hinter dem die neu gegründete P&S Digital Solutions FlexCo steht.

Die Fortschritte bei KI-gestützter Programmierung machten die Umsetzung leichter. „Wir haben am Anfang etwas mit Lovable gebaut und sehr schnell gesehen, wie viel Potenzial darin liegt“, sagt Kick.

Ursprünglich wollten die drei einen Chief Technology Officer (CTO) als viertes Gründungsmitglied gewinnen. Mehrere Entwickler halfen bei der Verbesserung des Codes, zu einer gemeinsamen Gründung kam es jedoch nicht. „Für die Personen, mit denen wir gesprochen haben, war es zu diesem Zeitpunkt einfach nicht die richtige Lebensphase, um mit uns zu gründen“, erklärt Kick. Stattdessen eignete sich das Trio selbst technisches Wissen an – ein „neunmonatiger Crashkurs in How to Build Code“.

Mittlerweile wird Pepper unabhängig von Lovable betrieben. Für das Auslesen von Belegen nutzt die Software ein KI-Modell des französischen Anbieters Mistral. Die Daten liegen nach Unternehmensangaben auf Servern in der EU.

Der Name spielt auf Pepper Potts aus den Iron-Man-Filmen an. „Die ist ein Superbrain und hat alles im Blick“, sagt Kick. Eine ähnliche Rolle soll die Software für Förderprojekte übernehmen.

Förderprojekte auf einer Plattform verwalten

Pepper richtet sich an Forschungseinrichtungen, Universitäten, Unternehmen und NGOs. Nach einer Förderzusage können sie Budgets und Arbeitspakete hinterlegen, Arbeitsstunden zuordnen und Belege hochladen. Die Software soll Belege automatisch zuordnen, Soll-Ist-Vergleiche ermöglichen und Nachweise für Prüfungen exportieren.

„Pepper Project“ ist für einzelne Projekte gedacht, auch mit mehreren Konsortialpartnern. Mit „Pepper OS“ können Organisationen mehrere Projekte parallel verwalten. Zusätzliche KI-Funktionen, etwa ein Chatbot für Projektfragen und ein Assistent zur Vorbereitung wiederkehrender Aufgaben, sollen Anfang 2027 folgen.

Zu den ersten zahlenden Kunden zählen BioBASE, das Institut für Industrielle Ökologie und DeltaDrai. „Mit mehreren parallelen Förderprojekten habe ich früher erst beim Zwischenbericht gesehen, ob ein Arbeitspaket über dem Budget liegt. Jetzt sehe ich den Soll-Ist-Stand jederzeit und kann gegensteuern, solange noch Zeit dazu ist“, sagt BioBASE-Geschäftsführer Thomas Timmel.

Das Team sammelt bei den ersten Kunden Feedback und will die tatsächliche Zeitersparnis messen. Bei Thinkubator fielen 2025 für Zwischenberichte und Audit-Vorbereitung rund 120 Stunden an. Pepper soll diesen Aufwand laut Startup etwa halbieren.

Drei Investoren an Bord

Unterstützung erhält das Wiener Startup von Enzo Duit, Joseph Kap-herr und Helmut Fink-Neuböck. Alle drei kennen das Team von Thinkubator. Duit, Mitgründer von warrify, bringt KI-Expertise ein, Fink-Neuböck einen SAP-Hintergrund und Vertriebserfahrung. Kap-herr, Gründer von Finders & Company und Mitgründer von Sindbad, verfügt über Kontakte, die für eine spätere Zusammenarbeit mit Fördergebern relevant sein könnten.

„Wir wollten das mit einer Bootstrapped-Mentality angehen und nur kleine strategische Angels reinholen“, erklärt Kick. Diese sollen neben Kapital auch strategisches Know-how einbringen. Das Investment deckt insbesondere anfängliche Infrastruktur-, Rechts- und Compliance-Kosten. Die Höhe wird nicht kommuniziert.

Bis Ende 2027 will Pepper 100 Kunden gewinnen und Förderprojekte mit einem Gesamtvolumen von mehr als zehn Millionen Euro über die Plattform verwalten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz