02.08.2024
AI ACT

Der AI Act: Tipps von der Expertin

Die Europäische Union gilt als erste Region der Welt, die den Einsatz Künstlicher Intelligenz umfassend regelt. Was der AI Act für Startups bedeutet und welche Maßnahmen sie jetzt setzen sollten.
/artikel/der-ai-act-tipps-von-der-expertin
Eine Frau vor braunem, pinken Hintergrund.
Prof. Dr. Christiane Wendehorst (c) brutkasten

Der AI Act ist seit heute Mitternacht in Kraft. Er betrifft Startups, die KI-Anwendungen entwickeln und auch solche, die sie verwenden. Die EU will damit KI regulieren und sicherstellen, dass die Technologie nicht zur Gefahr für Grund- und Menschenrechte wird.

Die Vorarbeiten zur KI-Verordnung sind bereits seit mehr als fünf Jahren im Gange. Darin verwoben sind auch Vorschläge der Wiener Rechtswissenschafterin und Expertin für Digitalisierung und Innovation im Recht Christiane Wendehorst. “Ganz viel von dem, was wir jetzt auch in der KI-Verordnung sehen, wurde im Prinzip 2018 entwickelt”, erzählt sie im brutkasten-Talk.

AI Act: Risikopyramide als Herzstück

Die Struktur der KI-Verordnung ist jene eines Produktsicherheitsgesetzes. Das heißt, sie klassifiziert KI-Anwendungen nach ihrem Risikopotenzial und definiert, wie diese Gefahren von KI-Herstellern als auch KI-Usern einzuschätzen und einzudämmen sind. Als „Herzstück“ der KI-Verordnung gilt die Risikopyramide. Die für KI-Systeme geltenden Regeln sind gestaffelt nach deren Risiko und dabei folgen sie dem Prinzip: Je größer das Risiko, desto größer die Pflichten.

zeigt eine Pyramide
eigene Darstellung I Die Risikopyramide der KI-Verordnung

Für Startups bedeutet diese Risikopyramide zunächst, dass sie selbst Einschätzungen ihrer KI-Anwendungen vornehmen müssen. Der Gesetzgeber hat eine Einteilung für KI-Systeme erstellt und sogenannte Hochrisiko-KI-Systeme definiert, die in Artikel 6 der KI-Verordnung sowie im Anhang III festgelegt sind. Startups, die ein KI-System entwickeln oder verwenden, müssen nun also überprüfen, ob ihr System unter diese Risikostufe fällt. Wenn dem so ist, müssen sie die genauen Anforderungen in dieser Risikoklasse beachten.

ACHTUNG: Der Anhang III zu Hochrisiko-KI-Systemen kann von der Kommission laufend ergänzt werden, daher sollten Startups diesen Anhang im Blick behalten.

Fristen: keine Panik, aber auch kein Müßiggang

Für alle, die ob des Inkrafttretens nervös werden, gilt: Keine Panik. Die KI-Verordnung geht mit großzügigen Übergangsfristen einher. Wer sich mit der KI-Verordnung beschäftigen sollte, sind Startups, die KI-Anwendungen entwickeln oder diese für ihr Unternehmen verwenden. Für sie gilt es sich in der nächsten Zeit anzuschauen, in welche Risikoklasse die KI eingestuft wird. Die Rechtswissenschafterin rät Startups, diese Risikoeinschätzung bald vorzunehmen. „Nicht kalkulieren: Ich lasse mir jetzt erst einmal Zeit und es wird schon nicht so arg sein und dann warte ich bis zum letzten Tag“, so Wendehorst.

eigene Darstellung I Daten: RTR-Servicestelle

Nach dem Inkrafttreten gilt erst einmal eine Übergangsfrist von sechs Monaten. Viele der Vorschriften betreffen Startups, wenn sie Hochrisiko-KI-Systeme verwenden. Die Vorschriften von Kapitel 1 und 2 werden nach Ablauf einer Frist von sechs Monaten anwendbar. Erst in einem Jahr sind dann General Purpose AI Systeme dran. Die meisten Vorschriften werden erst in 2 Jahren anwendbar und manche sogar erst nach 36 Monaten.

ACHTUNG: Umsetzungsschritte bedürfen in manchen Fällen Zeit und Vorbereitung. Es gilt daher bereits in der Übergangsfrist zu schauen, welche Systeme des Startups in eine Risikoklasse fallen könnten.

Das Spannungsfeld der KI-Verordnung

„Der risikobasierter Ansatz bedeutet, dass nicht alle KI-Systeme oder alle algorithmischen Systeme, die wir haben, gleichermaßen reguliert werden. Weil damit würden wir auch die Innovation hemmen, damit würden wir die KI-Entwicklung in Europa hemmen“, erklärt Wendehorst die Vorteile der Risikopyramide.

Die KI-Verordnung reguliert in einem Bereich, der sich im Spannungsfeld zwischen Sicherheitsbedürfnis und Innovationspotenzial befindet. Genau deshalb wäre der risikobasierte Ansatz angebracht, weil er Verhältnismäßigkeit in den Vordergrund stelle, meint die Rechtswissenschafterin. „Es muss eben strikt nach dem Verhältnismäßigkeitsprinzip vorgegangen werden“, sagt sie. Im brutkasten-Talk beschreibt sie das Potenzial der Verordnung sowohl Risiko von KI einzudämmen, als auch Innovation zu erlauben.

Startup-Innovationen waren Streitpunkt bis zum Schluss

Den Gesetzesentwurf hat die Kommission im April 2021 vorgelegt. Dann kam die Veröffentlichung von ChatGPT und daraufhin die weltweite Verbreitung von Künstlicher Intelligenz im Hausgebrauch. Das änderte natürlich auch die Anforderungen an die Verordnung. So wurde der Vorschlag an KI-Modelle mit allgemeinem Verwendungszweck angepasst und überarbeitet.

Dieser Aspekt der Verordnung war nicht unumstritten, denn genau in diesem Punkt hat man Innovationshemmnisse gesehen. Christiane Wendehorst weiß über die schwierigen Verhandlungspunkte und sagt, dass „einige Mitgliedstaaten plötzlich große Bedenken hatten, dass ihre eigenen Startups, sozusagen die Risingstars am KI-Markt, hier möglicherweise zu stark eingeschränkt würden“.

Diese Bedenken hätte man aber in den Verhandlungen lösen könnn. „Man hat bestimmte Dinge abgeschwächt, Kompromisse gefunden und vor allem muss man sagen: Am Ende hat dann der gemeinsame Wille überwogen, diese KI-Verordnung auf den Weg zu bringen“, resümiert die Rechtswissenschafterin.

Der EU AI Act will globale Standards setzen

“Unser KI-Gesetz wird auch einen erheblichen Beitrag zur Entwicklung globaler Leitplanken für vertrauenswürdige KI leisten”, kündigte Ursula von der Leyen den Anspruch der EU an, mit der KI-Verordnung globale Vorbildwirkung für sichere KI-Entwicklungen zu haben. Mit der KI-Verordnung ist Europa nicht nur die erste Region der Welt, die den Einsatz künstlicher Intelligenz umfassend reguliert, sie will damit auch weltweit Standards in der KI-Sicherheit setzen.

Dass das eine gute Entscheidung der Europäischen Union war und am Ende den Startups in der Region zu Gute kommt, davon ist Christiane Wendehorst überzeugt. Hätte sich die EU auf diese Verordnung nicht einige können, „wäre das ein enormer Gesichtsverlust für Europa gewesen“, sagt sie.

Sie sieht den unternehmerischen Vorteil in der KI-Verordnung darin: „Wenn die EU nicht reguliert hätte, hätten die Mitgliedstaaten im Prinzip regulieren können, wie sie das für richtig halten. Dann hätten wir einen Flickenteppich in der EU gehabt, wir hätten vielleicht einige Mitgliedstaaten gehabt, die ein sehr innovationsfeindliches Regime etabliert hätten und das wäre für die Unternehmen nicht gut gewesen. Unternehmen brauchen Planungssicherheit und deswegen wollten am Ende im Grunde alle diese KI-Verordnung haben.“, sagt die Professorin der Universität Wien im brutkasten-Talk.

Deine ungelesenen Artikel:
vor 8 Stunden

Andreas Klinger: „Wir brauchen paneuropäische Lösungen für paneuropäische Probleme“

Investor und EU-Inc.-Initiator Andreas Klinger im Interview über seine Beweggründe, seine Strategie und seine Innenperspektive auf die EU-Politik.
/artikel/andreas-klinger-wir-brauchen-paneuropaeische-loesungen-fuer-paneuropaeische-probleme
vor 8 Stunden

Andreas Klinger: „Wir brauchen paneuropäische Lösungen für paneuropäische Probleme“

Investor und EU-Inc.-Initiator Andreas Klinger im Interview über seine Beweggründe, seine Strategie und seine Innenperspektive auf die EU-Politik.
/artikel/andreas-klinger-wir-brauchen-paneuropaeische-loesungen-fuer-paneuropaeische-probleme
Andreas Klinger ist einer der Initiatoren von EU Inc | (c) brutkasten / Dervisevic
Andreas Klinger ist einer der Initiatoren von EU Inc | (c) brutkasten / Dervisevic

Dieser Text ist zuerst im brutkasten-Printmagazin von Mai 2026 „Die nächste Stufe“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


Nach mehreren Karrierestationen bei großen Tech-Unternehmen kehrte der Österreicher Andreas Klinger während der Coronakrise aus dem Silicon Valley nach Europa zurück. Mittlerweile zählt er mit seinem Fonds Prototype zu den einflussreichsten Deeptech-Investoren des Kontinents und kämpft mit der Initiative „EU Inc.“ für einen geeinten europäischen Markt. Im Interview spricht er darüber, worauf er bei Investments schaut, über Robotics als Europas Chance, die Schwächen des EU-Inc.-Entwurfs – und darüber, warum die EU für ihn nur ein „Debattierklub“ ist.


brutkasten: Dein Fonds Prototype wurde kürzlich von 20VC als zweitbester Microfund Europas genannt. Du selbst wurdest von Dealroom unter die Top 30 der „Most Influential People in Deeptech in Europe“ gelistet. Was ist dein Erfolgsrezept?

Andreas Klinger: Glück. Glück in der Karriere zu haben würde ich auch jedem empfehlen.

Du sprichst deine Karriere an: Du warst beispielsweise CTO von Product Hunt. Wie hilft dir das, was du zuvor gemacht hast, jetzt als Investor?

Fast alle Stationen in meiner Karriere – egal ob als Founder, bei Product Hunt, AngelList oder On Deck – haben mir eine sehr gute Metaperspektive auf Startups gegeben. Also nicht nur auf eine spezifische Branche, sondern auf Startups als eigene Gesamtmechanik, oder wie man in der Ökonomie sagen würde: wie man Hochrisiko-Investments in der Innovation Economy macht. Diese Metaperspektive gibt mir einen gewissen Vorteil, den der typische Investor nicht hat. Wobei ich der starken Überzeugung bin, dass der typische Investor keine Benchmark sein sollte. VC folgt dem Power Law, genauso wie Startups. Du konkurrierst nicht mit dem Durchschnitt, sondern mit den oberen zehn, fünf oder einem Prozent und das auf globaler Ebene.

Du bist mittlerweile zu einer sehr starken Stimme für Europa geworden. Bevor wir über dein Engagement für die „EU Inc.“ sprechen: Wie ist der Beschluss gefallen, es in Europa mit einem eigenen Micro-VC zu versuchen?

Ich bin aktiv geworden, weil ich mitbekommen habe, wie immer mehr meiner amerikanischen Kollegen und Freunde sehr abfällig über Tech in Europa und generell über Europa geredet haben. Das Problem dabei war: Die Hälfte der Dinge, die sie gesagt haben, schwankte irgendwo zwischen Propaganda, Misinformation oder absolut schwachsinniger Simplifizierung. Die andere Hälfte hat aber leider ziemlich gestimmt. In Europa hast du durch den kleineren Markt echte Nachteile. Viele denken, Europa sei ein Riesenmarkt, aber das stimmt nicht, weil alles in Silos fragmentiert ist. Du agierst nicht auf europäischer Ebene, sondern auf österreichischer oder slowenischer Ebene. Die einzelnen Märkte können nicht mit Amerika oder vor allem mit China konkurrieren.

Skalierung ist hier ein reales Problem. Wenn du in deinem eigenen Land viele große Kunden hast, ist es leichter, groß zu werden. Ob wir das in Europa mit den verschiedenen Sprachen jemals lösen können, ist eine Frage, aber das Problem besteht eben auch auf Investorenseite. Wenn du als Startup von Tag eins an mit China und Amerika konkurrierst, summiert sich jeder kleine lokale Nachteil.

Aus der Grundidee heraus, dass wir paneuropäische Lösungen für paneuropäische Probleme brauchen, ist mein Engagement entstanden. Bei EU Inc. geht es zum Beispiel darum, wie man Corporate Investments und Stock Options auf paneuropäischer Ebene in einen Standard gießen kann, der groß genug ist, sodass jeder Investor auf der Welt mit drei Klicks mitmachen kann, ohne erst herausfinden zu müssen, wie das Rechtssystem in Slowenien funktioniert und ob der lokale Anwalt überhaupt Ahnung von Startups hat. In der Praxis macht das sonst niemand, weniger als 18 Prozent der Frühphasen-Investments sind paneuropäisch.

Vor einiger Zeit wurde der EU-Inc.-Verordnungsentwurf der EU-Kommission veröffentlicht. Du warst nicht ganz zufrieden damit. Was ist gut gelungen und wo muss man nachbessern?

Sehr spannend ist, dass die Kommission den Ansatz nach unserem Projekt benannt hat. Das Proposal selbst ist aber nicht wirklich das, was wir vorgeschlagen haben, sondern eine typische EU-Lösung. Das Hauptproblem: Weil die EU Angst vor einem einstimmigen Votum hat – das leider für alle großen Dinge in Europa nötig ist –, haben sie eine Art Workaround entwickelt. Sie sagen: Es bleibt alles national, aber es wird alles genau gleich aufgebaut. In der Praxis heißt das: Du hast zwar dieselbe rechtliche Entität in jedem Land, aber die Gerichtshöfe und Firmenbücher bleiben lokal. Es ist zwar toll als administrative Harmonisierung, aber wenn ich wirklich schnell 100 Millionen in eine Company investieren will, brauche ich absolute rechtliche Klarheit.

Der Gesetzgebungsprozess passiert erst jetzt. Was ist in den nächsten Schritten noch möglich, um Verbesserungen zu erzielen, und was ist der Plan B?

Grundsätzlich gibt es zwei Pfade. Der eine: Man repariert den jetzigen Vorschlag, indem man ein zentralisiertes Firmenbuch und einen zentralisierten Gerichtshof einführt. Das könnte man theoretisch sogar komplett optional gestalten, ähnlich wie beim Patentrecht. Plan zwei ist ein Neustart: Man versucht es noch einmal als echtes 28th Regime mit den korrekten EU-Artikeln, aber nicht über ein einstimmiges Votum, sondern über die sogenannte Enhanced Cooperation – ein Opt-in-Verfahren für einzelne Länder, das über die EU moderiert wird. Mindestens neun Länder müssen dafür an Bord sein.

Wir wissen, dass in einigen Ländern ein sehr starkes Interesse besteht. Das eigentliche Problem ist jedoch, dass die EU keine Regierung im klassischen Sinne ist, sondern eher eine Art Debattierklub. Die Länder müssen sich nun entscheiden: Wollen wir mehr Europa oder nicht? Die Spieltheorie macht das für die einzelnen Staaten sehr schwierig, weil zwar alle sagen, sie wollen mehr Europa, in Wahrheit aber niemand Kompetenzen abgeben möchte. Das ist die Grundfrage unserer Generation: Werden wir ein starker, vereinter Block wie die USA oder bleiben wir einzelne Länder mit ein paar Handelsbeziehungen wie in Lateinamerika? Letzteres wird von größeren Akteuren wie China und den USA sehr stark gegeneinander ausgespielt.

Du hast nun auch Erfahrungen als eine Art Insider in der EU-Politik gesammelt. Wie war das für dich persönlich?

Ich nehme daraus vier Learnings mit. Das erste: Die Kommission wird von den Mitgliedsstaaten gerne als „Shadow Government“ dargestellt – „die Bösen in Brüssel, die uns Dinge aufzwingen“. In Wahrheit liegt die gesamte Entscheidungsmacht bei den Mitgliedsstaaten. Alle Erfolge werden gerne national verbucht, alles Furchtbare ist europäisch.

Das zweite Learning: Der Job eines Politikers ist nicht so, wie man ihn sich vorstellt. Man denkt oft, man müsse nur die richtige Information zur richtigen Entscheidungsperson bringen und dann wird das Problem gelöst. Aber das Problem ist nicht, dass Politiker nicht zuhören. Sie hören Tausende Dinge, die sich widersprechen, von Leuten mit völlig verschiedenen Incentives. Der Job in der Policy-Arbeit besteht nicht darin, den Leuten zu sagen, was sie tun sollen, sondern Signal versus Noise zu filtern und komplexe Probleme zu simplifizieren. Drittens besteht die Aufgabe von Politikern darin, Momentum wahrzunehmen und abzugleichen, wo wirklich Bewegung herrscht.

Und mein letztes Learning: Wenn du aus einem Meeting mit einem Politiker gehst und das Gefühl hast, du wurdest gehört, war es oft ein schlechtes Meeting. Ein guter Politiker gibt dir nämlich immer das Gefühl, gehört worden zu sein. Produktiv war das Meeting erst, wenn du wirklich die internen Probleme der anderen Seite verstanden hast. Wenn man in einem Startup arbeitet und überlegt, in die Politik zu gehen, ist mein Haupttipp ohnehin: Lass es. Du hast wahrscheinlich mehr politischen Einfluss, wenn du eine Company baust, die Millionen oder Milliarden an Umsatz macht.

Um auf deinen Fonds Prototype zurückzukommen: Bei all den Herausforderungen investierst du dennoch in europäische Startups…

Wir investieren aus zwei Gründen in Europa. Erstens, weil Europa die nächsten großen BIP-treibenden Unternehmen hervorbringen muss, sonst sind wir weg vom Fenster. Zweitens, weil der Markt extrem unterschätzt wird. Wir sind in Europa Weltmeister in Hardware, Maschinenbau und Robotics, verkaufen uns aber ständig unter Wert. Wenn du den besten Roboter für eine Industrie baust, is es dem Kunden völlig egal, ob er aus China, den USA oder Europa kommt – solange es wirklich der beste Roboter der Welt ist.

Wir investieren daher sehr aggressiv in Themen, in denen Europa stark ist und die wir auch strategisch behalten müssen. Robotics erlebt gerade eine unglaubliche Entwicklung, eine Art „ChatGPT-Moment“, wo auf einmal Dinge möglich werden, die vorher unvorstenbar waren. Gerade in der CEE-Region, von Slowenien über Österreich bis in die Schweiz und nach Süddeutschland, haben wir wahrscheinlich eines der besten Machinery- und Manufacturing-Netzwerke der Welt.

Was sind die Schlüsselmerkmale, auf die du bei Gründer:innen schaust, wenn du dich für ein Investment entscheidest?

Da ich sehr früh investiere, ist die Entscheidung stark auf die Founder fokussiert. Es gibt für mich zwei zwingende Dinge, die überraschend selten vorkommen. Das erste ist Obsession. Ich empfehle technischen Foundern oft, anfangs gar nicht so sehr über das Business-Modell nachzudenken, sondern sich wirklich obsessiv in ein Thema reinzutigern und darin zu den besten zwei Prozent in einer Region zu gehören.

Das zweite ist „Bias to Action“, also ein starker Drang zur Umsetzung. Wir haben leider eine Gründerkultur, die extrem auf Pitch-Decks, Competitions, Acceleratoren und Startup-Programme fokussiert ist. Das ist alles Bullshit. Was du als Gründer brauchst, ist die Fähigkeit, in kürzester Zeit möglichst weit voranzukommen. Wir neigen zu einer Intellektualisierung des Ganzen – man sucht nach der perfekten Idee, anstatt einfach Traction aufzubauen. Es bringt nichts, ein Pitch-Deck zu schreiben, bevor man mit Kunden geredet hat. Sprich mit 50 Kunden, hol dir die Aufträge: und wenn du nicht mehr nachkommst, such dir das Investment für diese große Opportunity.

Eine klassische Abschlussfrage: Wie optimistisch blickst du in die Zukunft – als Investor, aber auch bezogen auf Europa?

Ich glaube, Europa steht jetzt an einem Scheideweg. Wir müssen uns in einer Welt von Giganten entscheiden: Sind wir ein Gigant oder nur ein Netzwerk von guten Ländern? In Industrien, die dem Power Law folgen, bedeutet Marktdominanz alles – der Unterschied zwischen gut und großartig kann ein Faktor von eins zu hundert sein.

Es ist erschreckend, wie viele Zukunftsindustrien in Europa aktuell schon abgeschrieben werden. Wenn man in Brüssel redet, sagen viele, bei KI könnten wir ohnehin nicht mehr mithalten. Meiner Meinung nach ist das Blödsinn. Aber im aktuellen Setup, wenn wir als Europa nicht geeint auftreten, können wir tatsächlich nicht mithalten. Das Problem ist, dass diese Industrien die Zukunft sind. Aus Software wurde Cloud, aus Cloud wurde AI, aus AI wird nun Physical AI beziehungsweise Robotics. Mittlerweile zahlt jede Firma eine Art „ChatGPT-Steuer“. Wir können aber nicht ewig nur reine Kunden bleiben. Früher oder später müssen wir selbst Premium-Unternehmen haben, die Marktrelevanz besitzen, sonst sind wir geostrategisch einfach weg vom Fenster. Tech-Strategie und Geopolitik wachsen heute sehr stark zusammen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin