02.08.2024
AI ACT

Der AI Act: Tipps von der Expertin

Die Europäische Union gilt als erste Region der Welt, die den Einsatz Künstlicher Intelligenz umfassend regelt. Was der AI Act für Startups bedeutet und welche Maßnahmen sie jetzt setzen sollten.
/artikel/der-ai-act-tipps-von-der-expertin
Eine Frau vor braunem, pinken Hintergrund.
Prof. Dr. Christiane Wendehorst (c) brutkasten

Der AI Act ist seit heute Mitternacht in Kraft. Er betrifft Startups, die KI-Anwendungen entwickeln und auch solche, die sie verwenden. Die EU will damit KI regulieren und sicherstellen, dass die Technologie nicht zur Gefahr für Grund- und Menschenrechte wird.

Die Vorarbeiten zur KI-Verordnung sind bereits seit mehr als fünf Jahren im Gange. Darin verwoben sind auch Vorschläge der Wiener Rechtswissenschafterin und Expertin für Digitalisierung und Innovation im Recht Christiane Wendehorst. “Ganz viel von dem, was wir jetzt auch in der KI-Verordnung sehen, wurde im Prinzip 2018 entwickelt”, erzählt sie im brutkasten-Talk.

AI Act: Risikopyramide als Herzstück

Die Struktur der KI-Verordnung ist jene eines Produktsicherheitsgesetzes. Das heißt, sie klassifiziert KI-Anwendungen nach ihrem Risikopotenzial und definiert, wie diese Gefahren von KI-Herstellern als auch KI-Usern einzuschätzen und einzudämmen sind. Als „Herzstück“ der KI-Verordnung gilt die Risikopyramide. Die für KI-Systeme geltenden Regeln sind gestaffelt nach deren Risiko und dabei folgen sie dem Prinzip: Je größer das Risiko, desto größer die Pflichten.

zeigt eine Pyramide
eigene Darstellung I Die Risikopyramide der KI-Verordnung

Für Startups bedeutet diese Risikopyramide zunächst, dass sie selbst Einschätzungen ihrer KI-Anwendungen vornehmen müssen. Der Gesetzgeber hat eine Einteilung für KI-Systeme erstellt und sogenannte Hochrisiko-KI-Systeme definiert, die in Artikel 6 der KI-Verordnung sowie im Anhang III festgelegt sind. Startups, die ein KI-System entwickeln oder verwenden, müssen nun also überprüfen, ob ihr System unter diese Risikostufe fällt. Wenn dem so ist, müssen sie die genauen Anforderungen in dieser Risikoklasse beachten.

ACHTUNG: Der Anhang III zu Hochrisiko-KI-Systemen kann von der Kommission laufend ergänzt werden, daher sollten Startups diesen Anhang im Blick behalten.

Fristen: keine Panik, aber auch kein Müßiggang

Für alle, die ob des Inkrafttretens nervös werden, gilt: Keine Panik. Die KI-Verordnung geht mit großzügigen Übergangsfristen einher. Wer sich mit der KI-Verordnung beschäftigen sollte, sind Startups, die KI-Anwendungen entwickeln oder diese für ihr Unternehmen verwenden. Für sie gilt es sich in der nächsten Zeit anzuschauen, in welche Risikoklasse die KI eingestuft wird. Die Rechtswissenschafterin rät Startups, diese Risikoeinschätzung bald vorzunehmen. „Nicht kalkulieren: Ich lasse mir jetzt erst einmal Zeit und es wird schon nicht so arg sein und dann warte ich bis zum letzten Tag“, so Wendehorst.

eigene Darstellung I Daten: RTR-Servicestelle

Nach dem Inkrafttreten gilt erst einmal eine Übergangsfrist von sechs Monaten. Viele der Vorschriften betreffen Startups, wenn sie Hochrisiko-KI-Systeme verwenden. Die Vorschriften von Kapitel 1 und 2 werden nach Ablauf einer Frist von sechs Monaten anwendbar. Erst in einem Jahr sind dann General Purpose AI Systeme dran. Die meisten Vorschriften werden erst in 2 Jahren anwendbar und manche sogar erst nach 36 Monaten.

ACHTUNG: Umsetzungsschritte bedürfen in manchen Fällen Zeit und Vorbereitung. Es gilt daher bereits in der Übergangsfrist zu schauen, welche Systeme des Startups in eine Risikoklasse fallen könnten.

Das Spannungsfeld der KI-Verordnung

„Der risikobasierter Ansatz bedeutet, dass nicht alle KI-Systeme oder alle algorithmischen Systeme, die wir haben, gleichermaßen reguliert werden. Weil damit würden wir auch die Innovation hemmen, damit würden wir die KI-Entwicklung in Europa hemmen“, erklärt Wendehorst die Vorteile der Risikopyramide.

Die KI-Verordnung reguliert in einem Bereich, der sich im Spannungsfeld zwischen Sicherheitsbedürfnis und Innovationspotenzial befindet. Genau deshalb wäre der risikobasierte Ansatz angebracht, weil er Verhältnismäßigkeit in den Vordergrund stelle, meint die Rechtswissenschafterin. „Es muss eben strikt nach dem Verhältnismäßigkeitsprinzip vorgegangen werden“, sagt sie. Im brutkasten-Talk beschreibt sie das Potenzial der Verordnung sowohl Risiko von KI einzudämmen, als auch Innovation zu erlauben.

Startup-Innovationen waren Streitpunkt bis zum Schluss

Den Gesetzesentwurf hat die Kommission im April 2021 vorgelegt. Dann kam die Veröffentlichung von ChatGPT und daraufhin die weltweite Verbreitung von Künstlicher Intelligenz im Hausgebrauch. Das änderte natürlich auch die Anforderungen an die Verordnung. So wurde der Vorschlag an KI-Modelle mit allgemeinem Verwendungszweck angepasst und überarbeitet.

Dieser Aspekt der Verordnung war nicht unumstritten, denn genau in diesem Punkt hat man Innovationshemmnisse gesehen. Christiane Wendehorst weiß über die schwierigen Verhandlungspunkte und sagt, dass „einige Mitgliedstaaten plötzlich große Bedenken hatten, dass ihre eigenen Startups, sozusagen die Risingstars am KI-Markt, hier möglicherweise zu stark eingeschränkt würden“.

Diese Bedenken hätte man aber in den Verhandlungen lösen könnn. „Man hat bestimmte Dinge abgeschwächt, Kompromisse gefunden und vor allem muss man sagen: Am Ende hat dann der gemeinsame Wille überwogen, diese KI-Verordnung auf den Weg zu bringen“, resümiert die Rechtswissenschafterin.

Der EU AI Act will globale Standards setzen

“Unser KI-Gesetz wird auch einen erheblichen Beitrag zur Entwicklung globaler Leitplanken für vertrauenswürdige KI leisten”, kündigte Ursula von der Leyen den Anspruch der EU an, mit der KI-Verordnung globale Vorbildwirkung für sichere KI-Entwicklungen zu haben. Mit der KI-Verordnung ist Europa nicht nur die erste Region der Welt, die den Einsatz künstlicher Intelligenz umfassend reguliert, sie will damit auch weltweit Standards in der KI-Sicherheit setzen.

Dass das eine gute Entscheidung der Europäischen Union war und am Ende den Startups in der Region zu Gute kommt, davon ist Christiane Wendehorst überzeugt. Hätte sich die EU auf diese Verordnung nicht einige können, „wäre das ein enormer Gesichtsverlust für Europa gewesen“, sagt sie.

Sie sieht den unternehmerischen Vorteil in der KI-Verordnung darin: „Wenn die EU nicht reguliert hätte, hätten die Mitgliedstaaten im Prinzip regulieren können, wie sie das für richtig halten. Dann hätten wir einen Flickenteppich in der EU gehabt, wir hätten vielleicht einige Mitgliedstaaten gehabt, die ein sehr innovationsfeindliches Regime etabliert hätten und das wäre für die Unternehmen nicht gut gewesen. Unternehmen brauchen Planungssicherheit und deswegen wollten am Ende im Grunde alle diese KI-Verordnung haben.“, sagt die Professorin der Universität Wien im brutkasten-Talk.

Deine ungelesenen Artikel:
25.09.2026

Dreifacher Wiener Schulabbrecher forscht in Harvard an virtuellen KI-Fischen

Drei Mal brach Raphael Suchomel die Schule ab, bevor sich sein Weg plötzlich in eine ganz andere Richtung entwickelte. Heute sitzt der 27-jährige Wiener in Harvard und lässt virtuelle Fische lernen – auf der Suche nach Antworten darauf, was Künstliche Intelligenz von der Natur erfassen kann.
/artikel/dreifacher-wiener-schulabbrecher-forscht-in-harvard-an-virtuellen-ki-fischen
25.09.2026

Dreifacher Wiener Schulabbrecher forscht in Harvard an virtuellen KI-Fischen

Drei Mal brach Raphael Suchomel die Schule ab, bevor sich sein Weg plötzlich in eine ganz andere Richtung entwickelte. Heute sitzt der 27-jährige Wiener in Harvard und lässt virtuelle Fische lernen – auf der Suche nach Antworten darauf, was Künstliche Intelligenz von der Natur erfassen kann.
/artikel/dreifacher-wiener-schulabbrecher-forscht-in-harvard-an-virtuellen-ki-fischen
© zVg - Raphael Suchomel in Harvard.

Manche Wege sind direkt und vorgezeichnet – Schule, Bildung, Ausbildung und ein Job in dem Bereich, den man beherrscht. Andere sind von Umwegen gezeichnet, Mühsal und Zeiten, in denen man nicht weiß, wie es genau weitergehen soll. Raphael Suchomels Vita ist eine von den nicht-linearen.

„Plötzlich Mitternacht“

Er hat mit 18 die Schule zum ersten Mal abgebrochen und sich eine Vollzeitstelle gesucht. Der gebürtige Wiener schrieb sich fortan in eine Abendschule ein, brach jene aber – ein mal mit 19 und einmal mit 21 Jahren – wiederholt ab. Doch der Gedanke des endgültigen Aufgebens war keiner und im jungen Mann schlicht nicht vorhanden. So war es dann mit 22 soweit: der vierte Versuch, die Matura nachzuholen, gelang.

„Ich war in einer Abendschule im 21. Bezirk“, erinnert sich der 27-Jährige. „Von neun bis 17 Uhr Vollzeitjob, dann Unterricht bis halb zehn und anschließend noch Training. Und plötzlich war es Mitternacht.“

Zwei Jahre lang bestimmte dieser straffe Rhythmus seinen Alltag. Trotz der Doppelbelastung hielt der heutige Wahl-Hagenberger durch – und schloss die Abendschule schließlich mit ausgezeichnetem Erfolg ab.

Studium in Hagenberg

Es folgte ein Umzug von Wien nach Oberösterreich und der Start des ersten Jahrgangs des damals neu geschaffenen Bachelorstudiums „Artificial Intelligence Solutions“ an der University of Applied Sciences Upper Austria in Hagenberg.

Suchomel gehörte zudem zu den Mitgründern der Young AI Leaders Linz, einer lokalen Community innerhalb der AI-for-Good-Initiative der International Telecommunication Union der Vereinten Nationen. Die Gruppe bringt junge Menschen aus Forschung und Technologie zusammen und organisiert unter anderem Hackathons und Diskussionsveranstaltungen rund um Künstliche Intelligenz.

© Harvard/zVg – Eine 3D-Simulation eines schwach elektrischen Fisches.

Nach rund 100 verschickten Mails – die meisten davon blieben unbeantwortet – gelang es Suchomel schließlich, einen Forschungsaufenthalt als Praktikant an der Harvard Medical School zu ergattern. Dort befindet er sich auch heute und forscht an der Schnittstelle von Künstlicher Intelligenz und Neurowissenschaften.

Im Mittelpunkt seiner Arbeit stehen biologisch fundierte künstliche Agenten. Vereinfacht gesagt, bauen die Forschenden in Harvard virtuelle Tiere im Computer. Diese Tiere bekommen künstliche neuronale Netze und bestimmte Sinneswahrnehmungen und Bewegungsmöglichkeiten, die sich an echten Tieren orientieren. Anschließend lernen sie mit einer Methode namens „Reinforcement Learning“. Dabei wird ihnen nicht jede Handlung vorgegeben. Sie probieren unterschiedliche Verhaltensweisen aus und lernen über Belohnungen und Nachteile selbst, welche Strategien erfolgreich sind.

„Schauen wie sich Agent verhält“

„Wir kennen aus der Biologie die körperlichen Einschränkungen von Fischen“, erklärt Suchomel. „Wir wissen, wie sich Augen im Winkel bewegen, wie schnell sie sind und welche anderen biologischen Einschränkungen es gibt. Und wir statten einen ‚Reinforcement-Learning‘-Agenten mit diesem Wissen aus: Wir simulieren den Körper eines Fisches, sodass er über diesen Körper mit der Umwelt und mit anderen Fischen kommuniziert. Das schicken wir durch eine ‚Reinforcement-Learning‘-Umgebung, simulieren Trajektorien und schauen, wie sich der Agent verhält.“

Die Simulation funktioniert wie ein virtuelles Labor. Forscher können einzelne Sinneskanäle ausschalten, Kommunikationssignale verändern oder die Umwelt der Agenten manipulieren und beobachten, wie sich ihr Verhalten verändert. Damit sollen Hypothesen darüber entwickelt werden, warum bestimmte Verhaltensweisen entstehen und welche Mechanismen dahinterstecken. Solche Hypothesen sollen anschließend gezielter in Experimenten mit echten Tieren überprüft werden können.

Der Vorteil hierbei sei, dass man nicht jedes Verhalten explizit programmieren müsse, sondern durch die Kombination aus Körper, biologischen Einschränkungen, Umwelt und „Reinforcement Learning“ Verhalten entstehen lassen könne, das möglicherweise dem Verhalten echter Fische ähnelt. So soll — und das ist das Ziel — Forschung günstiger und schneller werden, sagt Suchomel. Man könne zudem Variablen besser isolieren und kontrollieren und neuronale Netze viel genauer analysieren. Das wäre bei echten Fischen teilweise sogar viel schwieriger, vor allem wenn man ihr Zusammenspiel mit anderen Fischen untersuchen möchte.

Künstliche und natürliche Intelligenz

Die Harvard Medical School und andere Institute verfolgen seit Längerem das Ziel, KI zu nutzen, um natürliche Intelligenz besser zu verstehen – und umgekehrt auch natürliche Intelligenz für die Entwicklung von KI zu nutzen.

„Dafür gibt es im KI-Bereich viele verschiedene Methoden und Ansätze, die sich an Beobachtungen aus der Natur orientieren. Gleichzeitig gibt es immer mehr Forschung an der Schnittstelle von KI und Biologie, bei der KI-Forscher und Biologen zusammenarbeiten“, sagt Suchomel. „Wenn man beispielsweise genau weiß, wie die Umgebung aussieht, und gleichzeitig die Kommunikation eines Fisches beobachtet, könnte man künftig elektrische Signale interpretieren. So lässt sich etwa erkennen, dass ein bestimmtes Signal ausgesendet wird, weil sich der Fisch bedroht fühlt. Dadurch könnte man nicht nur einzelne Fische, sondern auch die Gruppendynamik analysieren – und besser verstehen, wie sich die Tiere untereinander und in ihrer Umwelt verhalten.“

Suchomels Praktikum in Harvard reicht noch bis Februar, danach führt ihn den Weg nach Belgien an die KU Leuven – eine, wie er sagt „der besten Unis in Europa wenn es um KI geht“. Anschließend möchte er in einen „starken Master“ reinkommen und weiter an KI forschen. Wo das sein wird, sei erstmal zweitrangig: „Hauptsache starke Labs.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Der AI Act: Tipps von der Expertin