07.12.2022

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
/artikel/ai-act-der-eu-ki-regulierung-im-anmarsch
In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala

Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.

Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.

Achtung bei Erstellung & Verwendung von General Purpose AI

Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.

AI Act sieht hohe Risiken bei Hochrisiko-KI

Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.

Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung

Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.


Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.

Deine ungelesenen Artikel:
19.06.2026

Wie ein Popstar: Peter Steinberger und sein VivaTech-Moment zwischen Bezos und Modi

Am zweiten Tag der VivaTech, Europas größtem Tech-Event im Paris Convention Center bei der Porte de Versailles, drängt sich das Who-is-Who der Branche über drei Stockwerke. Mittendrin, gefeiert wie ein Popstar: der Österreicher Peter Steinberger. Eine Reportage über Fans in OpenClaw-Shirts, einen leisen Bühnenauftritt und die Frage, die über der ganzen Messe schwebt.
/artikel/wie-ein-popstar-peter-steinberger-und-sein-vivatech-moment-zwischen-bezos-und-modi
19.06.2026

Wie ein Popstar: Peter Steinberger und sein VivaTech-Moment zwischen Bezos und Modi

Am zweiten Tag der VivaTech, Europas größtem Tech-Event im Paris Convention Center bei der Porte de Versailles, drängt sich das Who-is-Who der Branche über drei Stockwerke. Mittendrin, gefeiert wie ein Popstar: der Österreicher Peter Steinberger. Eine Reportage über Fans in OpenClaw-Shirts, einen leisen Bühnenauftritt und die Frage, die über der ganzen Messe schwebt.
/artikel/wie-ein-popstar-peter-steinberger-und-sein-vivatech-moment-zwischen-bezos-und-modi
Peter Steinberger auf der Bühne des VivaTech Theater in Paris | Foto: Martin Pacher

Es ist der zweite Tag der VivaTech und Paris führt der Tech-Welt vor, wie groß ein Heimspiel sein kann. Seit 2016 lädt die Messe, gegründet von Publicis-Veteran Maurice Lévy und der Les-Echos-Gruppe, einmal im Jahr an die Porte de Versailles. Zur zehnten, der Jubiläumsausgabe, ist sie noch eine Spur größer: Europas wichtigstes Startup- und Tech-Event erwartet rund 180.000 Besucher:innen, 15.000 Startups, 4.000 Investor:innen und mehr als 450 Speaker:innen auf vier Bühnen. Das Leitthema klingt programmatisch: „Artificial Intelligence: impact, not illusion.“ Deutschland ist „Country of the Year“ und schickt die größte Delegation der VivaTech-Geschichte.

Über drei Stockwerke der neuen Halle 7 verteilt sich das Who-is-Who der Branche. Tags zuvor füllte Amazon- und Blue-Origin-Gründer Jeff Bezos, inzwischen auch Co-CEO der KI-Industrieschmiede Prometheus, das große VivaTech Theater. An diesem Donnerstag teilen sich Frankreichs Präsident Emmanuel Macron und Indiens Premierminister Narendra Modi die politische Bühne, Modi frisch vom G7-Gipfel im französischen Evian, wo er mit Donald Trump unter anderem über Künstliche Intelligenz beraten hatte. Dazwischen Konzernlenker:innen von LVMH bis Alibaba, EU-Kommissarin Henna Virkkunen und Deutschlands Digitalminister Karsten Wildberger.

Ein Österreicher unter den „Top Voices“

Wer auf die Website der VivaTech schaut, findet ihn unter den „Top Voices“: Gleich neben Jeff Bezos ist dort Peter Steinberger gelistet. Zwischen all den globalen Namen sticht der gebürtige Oberösterreicher ins Auge. In der Entwickler:innen-Szene seit Jahren als „steipete“ bekannt, hat er mit dem viralen Open-Source-Agenten OpenClaw internationale Bekanntheit erlangt und wird hier auf der VivaTech wie ein Popstar gefeiert. Vom Wiener Startup PSPDFKit, das er mehr als ein Jahrzehnt aufgebaut hatte, ist er längst weitergezogen: Seit Februar gehört er bei OpenAI zum Team rund um den Coding-Agenten Codex.

Peter Steinberger (links) und OpenAI-Manager Thibault Sottiaux beim Panel „The Agentic Enterprise“ auf der VivaTech 2026 in Paris | Foto(c) Martin Pacher | brutkasten

Sein Panel findet im VivaTech Theater statt, dem größten Saal des Geländes. Wer einen Platz will, muss sich lange anstellen. Unter den Wartenden auch Fans, die in OpenClaw-Shirts extra aus Wien angereist sind, um ihr Idol zu sehen.

„Das ist nicht spezifisch fürs Coding“

Auf der Bühne dann ein Mann, der so gar nicht nach Rummel klingt. Steinberger spricht ruhig, zurückhaltend, bescheiden. Neben der technologischen Souveränität ist Agentic AI eines der großen Themen dieser Jubiläumsausgabe, und genau darum dreht sich sein Panel „The Agentic Enterprise: From Software Development to Everyday Work“, gemeinsam mit Thibault Sottiaux, der bei OpenAI Produkt und Plattform verantwortet.

Sottiaux‘ Kernthese: Was einen Coding-Agenten gut mache, sei nicht das Programmieren selbst, sondern die Fähigkeit, breiten Kontext zu erfassen und über lange Zeit präzise auf ein Ziel hinzuarbeiten. „Das ist nicht spezifisch fürs Coding“, sagt er. So solle aus dem Entwickler:innen-Werkzeug Codex ein Agent für Finanz-, Marketing- und Büroarbeit werden. Die Nutzung wachse nach seinen Worten derzeit schneller in Europa als in den USA.

Volles Haus: Peter Steinberger und Thibault Sottiaux (OpenAI) auf dem VivaTech Theater, der größten Bühne der Messe. Hier hatten zuvor auch Jeff Bezos und später Indiens Premierminister Narendra Modi gesprochen, der Saal war bis zum letzten Platz gefüllt | (c) Martin Pacher / brutkasten

Ein Agent für das Haus in Wien

Dann ist Steinberger an der Reihe, und er macht das Abstrakte greifbar, indem er von sich selbst erzählt. Er trenne bewusst mehrere Agenten-Kontexte: einen privaten, der alles über ihn wisse, einen für sein Haus in Wien, mit dem er etwa die Kameras kontrolliere und „manchmal meiner Putzfrau einen Streich spiele“, und einen für die Arbeit. Mit der heutigen Technik liefere ein spezialisierter Agent noch deutlich bessere und vorhersehbarere Ergebnisse als ein einzelner Alleskönner. Je mehr Kontext man dem Modell gebe, desto verlässlicher werde es.

„Das größte Hindernis ist die Vorstellungskraft“

Das größte Hindernis sei ohnehin nicht die Technik, sondern die Vorstellungskraft, „imagination“, wie er sagt. Die Lücke zwischen dem, was die Modelle könnten, und dem, was Menschen tatsächlich mit ihnen anstellten, sei so groß wie nie. Selbst ein Werkzeug wie OpenClaw hätte Monate früher entstehen können, sei aber schlicht niemandem eingefallen. Er verweist auf seinen eigenen, anfangs belächelten Blogpost vom Jahresende, in dem er beschrieb, Code zu schreiben, ohne ihn überhaupt zu lesen. Für das Jahr 2030 entwirft er daraus ein radikales Bild: eine Milliarde Programmierer:innen, die nicht wüssten, dass sie programmieren, weil sie ihre Agenten nur noch um Lösungen bäten.

Peter Steinberger unter seinen Fans bei der VivaTech 2026 in Paris. Fotos: brutkasten / Martin Pacher

Die Europa-Pointe zum Schluss

Und dann, fast beiläufig, die Pointe, die über der ganzen Messe schwebt. Auf Europa angesprochen, sagt ausgerechnet jener Mann, der zuletzt mit Verweis auf zu viel Regulierung in die USA gezogen ist, er liebe es, „dass wir Mistral haben“. In europäischen Startups stecke etwas „zutiefst Menschliches“, sie seien „in etwas Realem verwurzelt“. Als die Moderatorin fragt, ob er eines Tages zurückkehre, weicht Steinberger aus: „Vielleicht. Ich bin ohnehin ständig hier.“

Am Ende steigt er von der Bühne und wird sofort von Fans umzingelt, die Handys gezückt, Selfie um Selfie, bis das Sicherheitspersonal dazwischengeht. Peter lächelt und lässt den Rummel um seine Person über sich ergehen. Hinaus geht es schließlich über einen Seitenausgang.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch