AI Act: EU einigt sich auf Regulierung für künstliche Intelligenz

✨ AI Kontextualisierung

Sie haben sich ordentlich dahingezogen, die Verhandlungen zwischen EU-Parlament, EU-Kommission und den Mitgliedsstaaten. Der vermeintlich letzte Verhandlungstag begann am Mittwoch um 16 Uhr. Nach einer durchverhandelten Nacht wurden die Gespäche aber am frühen Donnerstagnachmittag unterbrochen. Am Freitag in der Früh ging es weiter – und nach einem weiteren Tag mit intensiven Verhandlungen kam man gegen Mitternach schließlich zu einer vorläufigen Einigung.

“Deal”, schrieb Digitalkommissar Thierry Breton um 23.37 Uhr auf der Plattform X (vormals Twitter) und postete dabei eine Grafik, die die EU als einzigen Kontinent mit KI-Regulierung auswies. Die Einigung sei “historisch”, schreib er in einer weiteren Nachricht. Der AI Act sei “viel mehr als ein Regelwerk – er ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen.”

Die Verhandler:innen standen schon unter Zeitdruck: Denn im kommenden Jahr stehen Wahlen zum EU-Parlament an. Und ohne Einigung hätte sich ein Beschluss bis in die nächste Legislaturperiode des Parlaments verzögert.

Nun gibt es eine vorläufige politische Einigung, die die Eckpunkte absteckt. Viele technische Details müssen erst noch ausgearbeitet werden. “Es könnte Wochen dauern, um den Text zu konsolidieren”, erwartet der Journalist Luca Bertuzzi, der die Verhandlungen für das Portal Euractiv intensiv verfolgte. Wirksam werden soll der AI Act in rund zwei Jahren, bestimmte Teile der Regulierung sollen bereits früher schlagend werden.

“Foundation Models” wie GPT-4 nicht vom AI Act ausgenommen

Die konkrete Ausgestaltung des AI Acts ist schon länger äußerst umstritten. Kontroverse Punkte gab es dabei einige. In den vergangenen Wochen war etwa der Umgang mit “Foundation Models” ein Streitpunkt. Dabei handelt es sich um KI-Modelle, die die Grundlage für andere Anwendungen liefern, wie etwa die GPT-Modelle von OpenAI. Die Sprachmodelle GPT-3.5 und GPT-4 sind die “Foundation Models” hinter ChatGPT.

Deutschland, Frankreich und Italien hatten hier vorgeschlagen, solche Basismodelle aus dem AI Act auszunehmen. Stattdessen sollte eine Selbstverpflichtung der Anbeiter umgesetzt werden. Das EU-Parlament war strikt dagegen – und setzte sich weitgehend durch. Bestimmte Transparenzvorschriften werden für alle KI-Modelle gelten. Große KI-Modelle, die “systemische Risiken” aufweisen, bekommen zusätzliche Verpflichtungen.

Neue KI-Behörde in Kommission geplant

Für Open-Source-Modelle wiederum sind Ausnahmen vorgesehen: Werden sie nicht als Modelle mit systemtischen Risiko eingestuft, beschränken sich die verpflichtenden Angaben auf Informationen zu Trainingsdaten und Testverfahren.

Zur Regulierung dieser Basismodelle wird innerhalb der Europäischen Kommission eine KI-Behörde etabliert. Grundsätzlich werden KI-Modelle von den zuständigen Behörden auf Ebene der Mitgliedsstaaten überwacht. Diese stimmen sich dazu im Europäischen Ausschuss für künstliche Intelligenz ab.

Der AI Act ermöglicht Strafen von bis 6,5 Prozent des globalen Umsatzes eines Unternehmen oder bis zu 35 Mio. Euro – dies gilt für die schwersten Vergehen bei verbotenen Anwendungsfällen. System- und Modellanbietern können Strafen von 3 Prozent des Umsatzes oder 15 Mio. Euro drohen, wenn sie ihren Verpflichtungen nicht nachkommen. Strafen von 1,5 Prozent des Umsatzes oder 500.000 Euro können fällig werden, wenn falsche Informationen angegeben werden.

Biometrische Identifizierung von Personen nicht vollständig verboten

Intensiv diskutiert wurden auch bestimmte Anwendungsfälle von KI – etwa im Bereich biometrischer Anwendungen. Das EU-Parlament wollte biometrische Identifizierung von Personen im öffentlichen Raum völlig verbieten. Damit konnte es sich nicht durchsetzen. Die biometrische Identifizierung von Personen ist nach dem AI unter bestimmten Voraussetzungen zulässig – und zwar bei der gezielten Suche nach konkreten Personen, wenn es um die Gefahr eines Terroranschlags oder um andere schwere Straftaten geht.

Lange kontroverse Diskussionen über AI Act

Über die konkrete Ausgestaltung des AI Acts war inbesondere in den vegangenen Monaten kontrovers diskutiert worden – auch Startups befürchteten Nachteile. Im Oktober hatte beispielsweise das französische KI-Jungunternehmen Mistral AI gewarnt, dass der AI Act, so wie er geplant sei, den weiteren Betrieb des Startups verunmöglichen könnte (brutkasten berichtete). Der AI Act klassifiziert KI-Anwendungen in unterschiedliche Risikokategorieren – mit denen dann verschiedene Pflichten und Haftungen einhergehen.

Auch ein im Sommer an der Hochschule St. Gallen durchgeführter “Praxis-Stresstest” zum AI lieferte mehrere kritische Punkte (brutkasten berichtete). Bei der von Europarechts-Professor Thomas Burri durchgeführten Challenge wurden reale KI-Anwendungen von Unternehmen, wie der Deutschen Telekom oder Mercedes Benz, auf ihre Kompatibilität mit dem AI Act abgeklopft. “Mit dem AI Act sähen wir Unsicherheit bei genau den Leuten, auf die wir unsere Zukunft bauen wollen”, schlussfolgerte Burri damals.

Die EU beschäftigt sich seit über zwei Jahren mit einem Rahmenwerk für künstliche Intelligenz. Seither hat sich in dem Bereich allerdings auch einiges verändert – man denke nur an das Erscheinen von ChatGTP Ende November 2022, das die Fortschritte bei künstlicher Intelligenz ins Bewusstsein der Öffentlichkeit holte. “Die schnellen Entwicklungen im AI-Bereich haben die Aufgabe nicht leichter gemacht”, sagte der italienische EU-Parlamentarier Brando Benifel bei einem Pressebriefing zum AI Act im Juni, an dem brutkasten teilgenommen hatte.

Vor vier Jahren startete StartUp Burgenland mit dem Ziel, das wirtschaftliche Potenzial der Region zu fördern und zu erweitern. Mittlerweile hat StartUp Burgenland mit seinem Inkubator- und Accelerator-Programm auch über die Grenzen des Bundeslandes hinaus einen wesentlichen Impact erzielt und zahlreiche junge Menschen im Aufbau ihres Unternehmens gefördert.

In vier Durchgängen haben bislang 30 Startups am StartUp Burgenland Accelerator und Inkubator teilgenommen. “Es ist wunderbar auf die letzten vier Jahre zurückzublicken und zu sehen, mit welcher Bandbreite an Gründerinnen und Gründern wir zusammengearbeitet haben”, eröffnete Martin Trink, Leiter von StartUp Burgenland, die StartUp Lounge am vergangenen Donnerstag, den 13. November 2024.

Im Rahmen der StartUp Lounge lud die Wirtschaftsagentur Burgenland in das Wiener Filmquartier im fünften Wiener Gemeindebezirk, um den Abschluss des vierten Batches des Inkubator- und Accelerator-Programms mit sieben der teilnehmenden Startups und zahlreichen Stakeholdern der heimischen Innovationsszene zu feiern.

Moderatorin Elisabeth Gamauf (li.), Michael Gerbavsits (Mitte), Geschäftsführer der Wirtschaftsagentur Burgenland, und Martin Trink (rechts), Leiter StartUp Burgenland (c) Maze&Friends

“StartUp Burgenland ist ein Ort, an dem Gemeinschaft wächst”

Den Impact, den der StartUp Burgenland Accelerator bei den jungen Menschen vor Ort erzielt, ist unverkennbar: Know How, Kunden und Kapital sind nur drei der vielen Benefits, die Teilnehmende rund um das Coaching, Mentoring und Networking in den letzten acht Monaten mitnehmen konnten. Die Unterstützung geht weit über den Rahmen des Programms hinaus.

Michael Gerbavsits, Geschäftsführer der Wirtschaftsagentur Burgenland, hob die essenzielle Rolle von StartUp Burgenland hervor: “StartUp Burgenland ist mehr als nur ein Programm für Geschäftsideen – es ist ein Ort, an dem eine Gemeinschaft wächst, die innovatives Unternehmertum als essenzieller Bestandteil der regionalen Wirtschaftsförderung begreift. Mit umfassender Unterstützung von der Ideenentwicklung bis zur Markteinführung hat sich das Projekt als unverzichtbar etabliert.”

Die StartUp Lounge diente nicht nur als offizielles Abschlussevent, um jungen Talenten eine Bühne zu geben, auf der sie den Fortschritt der letzten Monate präsentieren durften. Neben Networking in einer familiären Atmosphäre durfte das Publikum im Rahmen des Abendprogramms der Erfolgsgeschichte des Brüder- und Gründerpaares Patrick und Markus Reinfeld zuhören, die schon in Batch 1 des StartUp Burgenland Accelerators ihr Business “Pflegenavi” gestartet haben.

“Wir unterstützen nicht nur Geschäftsmodelle, sondern vor allem auch junge Menschen. Wir begleiten sie über ein paar Monate und manchmal auch noch länger”, begrüßte Geschäftsführer Gerbavsits die beiden Founder.

Im Rahmen der StartUp Lounge fanden Founder:innen, Mentor:innen und Stakeholder:innen aus dem Ökosystem zusammen. (c) Maze&Friends

“Es gibt keinen Hard Cut, das Team ist immer proaktiv dabei”

“Wir sind heute als Vorzeigeprojekt da. Um zu zeigen, wie wir uns seit Batch 1 weiterentwickeln konnten und uns nun auf dem Markt etabliert haben”, so Patrick Reinfeld. Das Brüderpaar sprach von laufender Unterstützung vonseiten des StartUp Burgenland Teams. Und vor allem von Authentizität und Menschlichkeit:

“Es gibt hier keinen Hard Cut, das gesamte Team von StartUp Burgenland bietet uns seither laufende Unterstützung – lange über das Programm hinaus. Das Team war und ist immer proaktiv dabei, heben immer ab, wenn wir etwas brauchen. Und gerade jetzt, wo wir dabei sind, unser Produkt so richtig im Markt auszurollen, haben sie uns hier zur StartUp Lounge eingeladen und uns die Chance gegeben, uns hier vor Stakeholdern nochmals zu positionieren und zu zeigen, wo unsere Reise hingeht. Das ist etwas ganz Besonderes.”

Pflegenavi entwickelt e-Wallets für Heimbewohner:innen

Im Rahmen des Accelerator-Programms 2021 gründeten die Brüder ihr Startup Pflegenavi. Drei Jahre später verzeichnete das Startup schon mehrere tausend User:innen. Darunter namhafte Organisationen wie die Caritas und der Samariterbund.

Pflegenavi fokussiert sich auf die Verwaltung von Bewohnergeldern – also Drittgeldern – in Pflegeheimen. “Wir haben uns die Frage gestellt: Was sind die Herausforderungen bei Leiter:innen von Pflegeeinrichtungen? Hier geht es klassisch um die Verwaltung von Bewohnergeldern, um die Verwaltung von Rechten und Risiken. Und auch um Haftungsthemen. Hier setzt Pflegenavi an: Wir haben eine digitale Allround-Lösung entwickelt, mit der wir Pflegeeinrichtungen eine transparente Verwaltung dieser Bewohnergelder ermöglichen.”

Das FinTech entwickelte eine cloudbasierte Softwarelösung, um eine digitale, auf e-Wallets basierende Depotverwaltung zu ermöglichen, die Bewohnergelder sicher und klar abgrenzt. E-Wallets, also elektronische Geldbörsen, können Bewohner:innen und Besucher:innen der Pflegeeinrichtungen eine einfache, digitale Abwicklung ihrer Zahlungen garantieren. Damit lassen sich alltägliche Zahlungen für Bewohner:innen oder Angehörige einfach und sicher abwickeln.

“Wir haben unseren Co-Founder gefunden”

Das Gründerteam pries indes den Mehrwert des StartUp Burgenland Accelerators im Laufe seiner Geschäftsentwicklung an. Essenzielle Vorteile seien neben zielgerichteten Coaching- und Workshop-Sessions vor allem die zahlreichen Möglichkeiten zum Networking:

Dank des Accelerators habe das Team gemerkt, dass ihm die IT-Komponenten gefehlt hat: “Der größte Mehrwert war hier die Vernetzung mit unserem jetzigen Co-Founder Rainer Schuster, der uns genau diese Lücke optimal füllen konnte. Mittlerweile haben wir einen Product-Market-Fit gefunden, der gut performt und bereits weitere Geschäftsfelder erreicht. Aktuell wollen wir den Rollout in Österreich vorantreiben, 2025 geht es in Richtung Deutschland.”

Vertrauenswürdige KI im Fokus

Nach den Eindrücken des Startups Pflegenavi bereicherte Verena Krawarik, Head of Innovation der APA, den Abend mit einem Panel zu den Herausforderungen des EU AI Acts. Krawarik sprach über den Stellenwert von “Trustworthy AI” rund um den bevorstehenden EU AI Act und berief sich auf heimische Informationsstellen zum Thema AI – darunter die KI-Servicestelle, TÜV-Ratgeber sowie die RTR. Außerdem zur Sprache kamen Rahmenbedingungen zu Künstlicher Intelligenz im Innovationsmanagement.

Verena Krawarik, Head of Innovation der APA (c) Maze&Friends

“Februar ist Schlüsseltermin, ab dann sind verbotene KI-Praktiken auch wirklich verboten. Dann dürfen sie keine Praktiken anwenden, die in China vielleicht Gang und Gebe sind”, so die Innovationsexpertin. Sie gewährte außerdem Einblicke in die im AI Act vorgesehenen Risikoklassifizierungen sowie zur bevorstehenden Transparenzpflicht.

Abschließend appellierte Krawarik, frühzeitig mit AI-spezifischer Grundausbildung und einschlägigen Schulungsprogrammen zu beginnen, um Wissenslücken in Unternehmen zu vermeiden und die Affinität gegenüber neuester technologischer Entwicklungen zu intensivieren.

Über die StartUp Lounge äußerte sich die Innovationsexpertin: “Ich finde es ganz toll, dass hier zu Themen Lösungen entstehen, die gar nicht leicht zu lösen sind. Das zeigt die Kompetenz der jungen Leute hier, und das begeistert mich sehr.”

StartUp Walk durch sieben aufstrebende Accelerator-Projekte

Als krönenden Abschluss begab sich das Publikum auf den “StartUp Walk” im Filmquartier: Sieben der acht teilnehmenden Startups aus Batch 4 des Accelerators durften ihr Unternehmen in 90 Sekunden vor den anwesenden Stakeholdern pitchen. Jedes Team erzählte auf äußerst authentische Art und Weise von seiner persönlichen Reise im StartUp Burgenland Accelerator.

Unter den sieben anwesenden Startups fanden sich: Friends in Flats, KOMO, teamchallenge.at, Bimexperts, FireFighter Rescue App, Reefmaster und Trumpet Star. Kurze Einblicke in die Pitches der Teams finden sich am Ende des Artikels.

Nach Alumnus-Talk, AI-Panel und StartUp Walk tauschten sich die pitchenden Startups mit den anwesenden Key Playern des Ökosystems aus – und feierten ihre Fortschritte der letzten Monate im Rampenlicht des Abends.

“Die jungen Menschen brennen für ihr Unternehmen”

Auch teilnehmende Stakeholder aus der Innovationsszene zeigten sich begeistert von der Menschlichkeit, Kompetenz und der Hingabe, die von den Jungunternehmen vermittelt wurde. Einer davon ist Alexander Raffeiner. Der Coach und PR-Stratege durfte “die Teams im Bereich PR und Kommunikation coachen und sie auf die Pressekonferenzen vorbereiten. Für mich war es heute eine echte Belohnung, zu sehen, wie gut alle Startups ihre Ideen gepitched haben.”

Über die Begeisterung der Teams ließ sich nicht hinweg sehen: “Die jungen Menschen brennen für ihr Unternehmen. Da gibt es schon die ein oder anderen Hürden zu überwinden. Aber wenn du siehst, wie weit diese jungen Menschen es in kurzer Zeit bringen, bin ich als Coach richtig stolz”, so Raffeiner.

Niki Futter: “Das Burgenland versucht, im eigenen Umfeld Startups aufzubauen und zum Erfolg zu führen”

Auch Niki Futter, Business Angel und Vorstandsvorsitzender der invest.austria, war bei der StartUp Lounge vor Ort: “StartUp Burgenland ist ein Incubator für ein Bundesland, das versucht, im eigenen Umfeld Startups aufzubauen und zum Erfolg zu führen. Wir haben heute sieben Startups gesehen, die durch das Programm gelaufen sind. Das ist heute ihr Abschlussabend. Und man kann ihnen nur alles Gute wünschen.”

Auch die Atmosphäre des Abends ließ den Business Angel nicht unberührt: “Es war eine wunderbare Veranstaltung. Insbesondere hat es mich gefreut, Verena Krawarik von der APA wieder zu sehen, die zu den Top-Expert:innen im AI-Bereich in Österreich zählt und die hier einen doch substantiell breiten und vernünftigen Einblick in die Problematik der AI-Regulierung gegeben hat”, meint Niki Futter zu Programm und Atmosphäre des Abends.

“Ein ganz großes Danke”

Schließlich schloss StartUp-Burgenland-Leiter Martin Trink den offiziellen Teil der Veranstaltung mit den Worten: “Das ist keine One-Man-Show. Das funktioniert nur deshalb, weil wir ein großartiges Team sind. Ein ganz großes Danke an alle!”

Allen, denen es mit einer neuen Geschäftsidee nun in den Fingern juckt, bietet sich bis Ende November noch die Möglichkeit, sich zur Aufnahme in den kommenden Batch 5 des StartUp Burgenland Incubators und Accelerators zu bewerben. Im Jänner geht der neue Durchlauf an den Start – mit einer Besonderheit, wie Leiter Martin Trink verkündete:

“StartUp Burgenland – als jüngstes AplusB Mitglied – veranstaltet gemeinsam mit der aws den Business Angel Day 2025 am 23.Oktober 2025 im Schloss Esterhazy – eine ideale Gelegenheit, um Investoren und Gründer zusammenzubringen, den Austausch zu intensivieren und neue Partnerschaften zu fördern.“

LinktippHier geht’s zum Incubator LinktippHier geht’s zum Accelerator

Diese Startups pitchten im StartUp Walk

Friends in Flats

Den ersten Pitch startete das Startup Friends in Flats, das die Vermietung von Wohnungen als Wohngemeinschaften digitalisiert und den Prozess für Wohnungseigentümer und Mieter:innen damit effizienter gestaltet. Vom StartUp Burgenland Accelerator profitierte das Team vor allem dank der “vielen Connections und hochklassigen Workshops”.

KOMO

Weiter ging es mit dem Startup KOMO rund um Gründer Sebastian Kolbe – er selbst ist Inhaber eines Küchenstudios. Kolbe entwickelte eine ERP-Softwarelösung für Küchenstudios – aus eigener Frustration rund um papierreiche Auftragsabwicklung und -verwaltung heraus. Das Ziel der Software ist es, Arbeitsabläufe in Küchenstudios zu digitalisieren und effizienter zu gestalten.

teamchallenge.at

Die dritte Station des StartUp Walks war das Jungunternehmen teamchallenge.at. Mit seiner “Outdoor-Challenge” für Firmen, Vereine, Freunde oder Familien versucht das Startup, Team-Building unkompliziert und per Smartphone im Freien zu ermöglichen. Das Gründerteam besteht aus ehemaligen Leistungssportlern im Orientierungslauf. Dementsprechend ähneln die vom Startup konzipierten Challenges einer Kombination aus Schnitzeljagd, Escape-Room und Orientierungsparcours. Mittels QR-Code lassen sich Aufgaben am Handy abrufen und interaktiv in Teams lösen.

Bimexperts

Weiter ging es mit dem Startup Bimexperts, das sich der Emissionsreduktion in der Gebäude- und Baubranche verschrieben hat. Mit ihrem Softwaretool TGA Concept will die Bimexperts GmbH in Kombination mit KI Planungsfehler, Energiekosten sowie Materialverschwendung reduzieren und damit Kosten sparen sowie die Bauqualität fördern. Somit sollen mehr Zeit und Ressourcen zur Konzeption von nachhaltigen Lösungen für Bauprojekte geschaffen werden.

FireFighter Rescue App

An fünfter Stelle pitchte das Startup FireFighter Rescue App. Um bei Feuerwehreinsätzen den Zugriff auf benötigte Informationen zu beschleunigen und den Informationsfluss effizient zu gestalten, hat der freiwillige Feuerwehrmann und Softwareentwickler Lukas Thurner eine App entwickelt, die digitale Vernetzung von Feuerwehren ermöglicht: Dazu wird jedes teilnehmende Einsatzfahrzeug mit einem Tablet ausgestattet, das über die FireFighter-Rescue-App Zugang zu spezifischen Informationen zum Einsatz liefert. Und damit eine sichere und effiziente Bewältigung ermöglichen soll.

Reefmaster

Das sechste pitchende Startup hat sich der Mission der Heim-Aquarien-Reinigung verschrieben. “Ein Aquarium ist zu viel Arbeit” soll ab sofort keine Ausrede für dessen Anschaffung mehr sein. Denn die Idee des Gründers und CEOs Stefan Kofler ist es, Meeres-Aquarien mittels nutzerfreundlicher Technologien vom “Reefmaster Piper” selbst reinigen zu lassen. Dabei handelt es sich um ein vollautomatisches Wasseranalyse-System, das bis zu 26 Arbeitstage im Jahr sparen soll. Der Reefmaster Piper übernimmt Reinigung, Wartung und Messung der Wasserqualität.

Trumpet Star

Zu guter Letzt überraschte ein Pitch mit musikalischer Untermalung das Publikum auf seinem StartUp Walk: Trumpet Star verbindet digitale und analoge Lernmethoden für das Instrument Trompete. Die multimediale Technologie soll es Schüler:innen jeglichen Alters ermöglichen, per App auf Smartphone, Tablet oder im Lernheft Trompete zu lernen. Mit der Lernplattform sollen Schüler:innen auch außerhalb des Klassenzimmers beim Üben motiviert und unterstützt werden.