07.12.2022

AI Act der EU: KI-Regulierung im Anmarsch

Was hat sich seit dem ersten AI-Act-Entwurf geändert? Welche Auswirkungen hat das auf Startups? Jeannette Gorzala, Rechtsanwältin und Mitglied von AI Austria sowie dem European AI Forum, klärt diese Fragen in ihrem Gastbeitrag auf.
/artikel/ai-act-der-eu-ki-regulierung-im-anmarsch
In ihrem Gastbeitrag erklärt Gorzala, was der AI Act für Startups bedeutet. (c) (c) AdobeStock & Jeannette Gorzala

Seit der Veröffentlichung des ersten Entwurfs des Artificial Intelligence Act (AI Act) durch die Europäischen Kommission im April 2021 läuft das europäische Gesetzgebungsverfahren auf Hochtouren. Am 6. Dezember 2022, etwas mehr als eineinhalb Jahre nach der Erstveröffentlichung, wurde der gemeinsame Standpunkt im Rat der Europäischen Union (Rat) zum AI Act verabschiedet.

Die Definition des KI-Systems bestimmt, welche Technologien vom AI Act überhaupt betroffen sind, und damit die Pflichten von Herstellern und Nutzern. Im Vergleich zur ursprünglich umstrittenen, sehr weiten Definition, wirkt die neue stark eingegrenzt, da sie sich nunmehr nur auf Software bezieht, die machine learning oder Logik- sowie wissensbasierte Ansätze verwendet. Statistische Ansätze, Such-, Schätz- und Optimierungsmethoden wurden als KI-Technologien gestrichen. Dies darf jedoch nicht darüber hinwegtäuschen, dass das Verständnis von machine learning und Logik- und wissensbasierten Ansätzen sehr umfangreich ist.

Achtung bei Erstellung & Verwendung von General Purpose AI

Neu ist, dass auch general purpose AI systeme (auch wenn sie Open Source sind), die entweder Hochrisiko-Systeme sind oder als Komponenten für diese verwendet werden, die Compliance für Hochrisiko-Systeme erfüllen müssen. General purpose AI sind Systeme, die allgemeine Funktionen, wie beispielsweise Bild-, Sprach-, Texterkennung, Video- und Audioproduktion, Mustererkennung, Fragenbeantwortung oder Übersetzung ausführen können. Diese Bestimmung kann eine breite Palette von Entwicklern entlang der Software-Lieferkette betreffen, weshalb bereits jetzt auf good governance geachtet werden sollte. Die konkreten Pflichten stehen noch nicht fest und sollen durch weitere Rechtsakte konkretisiert werden.

AI Act sieht hohe Risiken bei Hochrisiko-KI

Für die Klassifizierung, ob ein Hochrisiko KI-System vorliegt, wird eine horizontale Ebene eingezogen. Diese soll dazu dienen, KI-Systeme, die wahrscheinlich zu keinen fundamentalen Risiken für Gesundheit, Sicherheit oder Grundrechte führen, weil ihr Output nur als Zusatz zu einer Aktion oder Entscheidung dient, von der Hochrisiko-Kategorie auszunehmen. Schwierig ist, dass hier erst spätestens einem Jahr nach Inkrafttreten des AI Acts genaue Vorgaben ergehen sollen. Startups müssen daher für die Einordnung ihres Geschäftsmodells ein zusätzliches Kriterium berücksichtigen, dass mit einer unklaren Abwägungsentscheidung behaftet ist. Startups mit Lösungen im Bereich Gesundheitsversicherung oder digitale Infrastruktur sollten im Auge behalten, dass diese Bereiche nunmehr ebenfalls der Hochrisiko-Kategorie hinzugefügt wurden.

Spielen im neuen KI-Sandkasten unter realen Konditionen, mit Haftung

Mit KI-Sandboxes soll ein kontrolliertes Umfeld geschaffen werden, in dem innovative KI-Systeme entwickelt, getestet und validiert werden können, dies unter der direkten Aufsicht und Anleitung der national zuständigen Behörden. Mit dem Ziel den AI Act innovationsfreundlich zu gestalten wurde klargestellt, dass AI Sandboxes auch das testen von KI-Systemen im Echtbetrieb erlauben sollen. Unter bestimmten Voraussetzungen soll auch das Testen von KI-Systemen außerhalb behördlicher Aufsicht zulässig sein. Klargestellt wird aber auch, die Teilnahme in der KI-Sandbox ist kein Freischein. Teilnehmer haften für jegliche verursachen Schäden.


Welcher Haftungsrahmen für KI geplant ist und was auf Softwareentwickler:innen zukommt, wird im zweiten Teil des Startup-Updates behandelt.

Deine ungelesenen Artikel:
vor 14 Stunden

„Immobilien sollen sich künftig weitgehend von selbst verwalten können“ – Flatwise will Immobilienmarkt aufmischen

Das Linzer Startup Flatwise will zeitaufwändige Tätigkeiten in der Immobilienverwaltung wie Mietanpassungen, Abrechnungen und Steuerunterlagen mit KI automatisieren. Schon vor dem offiziellen Marktstart setzen Vermieter:innen mit über 3.000 Wohnungen auf die Plattform, wie Mitgründer Johannes Reichl im Interview mit brutkasten erklärt.
/artikel/flatwise-linzer-startup-will-immobilienverwaltung-mit-ki-automatisieren
vor 14 Stunden

„Immobilien sollen sich künftig weitgehend von selbst verwalten können“ – Flatwise will Immobilienmarkt aufmischen

Das Linzer Startup Flatwise will zeitaufwändige Tätigkeiten in der Immobilienverwaltung wie Mietanpassungen, Abrechnungen und Steuerunterlagen mit KI automatisieren. Schon vor dem offiziellen Marktstart setzen Vermieter:innen mit über 3.000 Wohnungen auf die Plattform, wie Mitgründer Johannes Reichl im Interview mit brutkasten erklärt.
/artikel/flatwise-linzer-startup-will-immobilienverwaltung-mit-ki-automatisieren
Das Flatwise-Gründertrio (v.l.) Marc Lindorfer, Edwin Schneider und Johannes Reichl © Flatwise

Wenn es nach Johannes Reichl, Edwin Schneider und Marc Lindorfer geht, ist Immobilienverwaltung bis heute vor allem eines: kleinteilig, zeitintensiv und von manuellen Abläufen geprägt. Genau hier wollen die drei Linzer mit ihrem Startup Flatwise ansetzen. Das Gründerteam entwickelt eine Software, die zentrale Aufgaben von Vermieter:innen, von Mietanpassungen über Betriebskostenabrechnungen bis zur Vorbereitung von Steuerunterlagen, mithilfe von KI-Agenten automatisieren soll. Bereits vor dem offiziellen Marktstart setzen laut Angaben des Startups Vermieter:innen mit insgesamt mehr als 3.000 Wohnungen auf die Plattform.

Von der Pilot- zur Marktphase

Das Team, das erst im August 2026 eine GmbH gegründet hat, hat sein Produkt in den vergangenen Monaten eng mit den ersten 100 Pilotnutzer:innen weiterentwickelt, mit Feedback, Interviews und echten Kund:innendaten, wie Mitgründer Johannes Reichl im Interview erklärt. Der Ansatz unterscheide sich damit von klassischen Proptech-Lösungen, die bestehende Prozesse lediglich digitalisieren: „Wir wollen Immobilienverwaltung nicht nur digitalisieren, sondern grundlegend neu denken. Immobilien sollen sich künftig weitgehend von selbst verwalten können. Vermieter:innen können durch die Software von Flatwise professionell vermieten, ohne dabei selbst Fachexpert:innen sein zu müssen“, so Reichl.

KI-Agenten im Einsatz

Konkret möchte Flatwise KI dort einsetzen, wo Verwaltungsprozesse sinnvoll automatisiert oder unterstützt werden können. Dazu zählen für das Team unter anderem die Vorbereitung und Berechnung von Mietanpassungen, die Unterstützung bei Betriebskostenabrechnungen sowie die strukturierte Aufbereitung von Finanz- und Steuerinformationen. Der KI-Agent verbindet dabei unterschiedliche Daten und Prozessschritte innerhalb der Software, bereitet relevante Informationen auf und unterstützt Vermieter:innen bei der weiteren Bearbeitung.

Der Weg zum Ökosystem

Im Schnitt verwaltet ein:e Flatwise-Nutzer:in laut Unternehmen aktuell rund zehn Wohnungen. Für Reichl zeigt sich dabei ein klares Bild der Branche: „Der Markt ist extrem fragmentiert, es gibt viele Anbieter, die eigentlich zusammenhängen müssten, aber kaum vernetzt sind.“

Dieses Nebeneinander will Flatwise auflösen und sich schrittweise zu einem Ökosystem entwickeln, das Vermieter:innen, Mieter:innen und Dienstleister:innen auf einer Plattform zusammenbringt. „Wir glauben daran, dass gute Vermieter:innen das Wohnen für alle besser machen. Flatwise soll es einfacher machen, gut zu vermieten“, heißt es dazu vom Gründungsteam.

Enterprise-Lösung in Arbeit

Flatwise richtet sich an Vermieter:innen mit Beständen zwischen einer und hundert Immobilien. Mittlerweile hätten sich aber auch Hausverwaltungen und Bestandshalter:innen mit deutlich größeren Portfolios gemeldet. Deshalb entwickelt Flatwise momentan ein Enterprise-Modell, das künftig gezielt auf die Anforderungen größerer Bestandshalter:innen und Hausverwaltungen eingehen soll, wie der Mitgründer im Interview erklärt.

Wachstum vorerst ohne Angels oder VCs

Trotz bestehender Investmentangebote will das Team bei der Finanzierung vorerst auf Förderungen und den eigenen Cashflow setzen. Rund 20 Angebote von Angels und Venture-Capital-Geber:innen sind laut Reichl bereits eingegangen. Aufgegriffen werden sollen sie frühestens, wenn erste Umsätze stehen. Für eine geplante Wachstumsphase ist jedoch in der ersten Jahreshälfte 2027 eine Finanzierungsrunde angedacht. Unterstützung erhält das Gründerteam zudem im Inkubatorprogramm von tech2b durch ein Advisory Board aus Immobilienexpert:innen und erfahrenen Unternehmer:innen.

Wissen als Türöffner

Um neue Kund:innen zu erreichen, setzt Flatwise zusätzlich auf einen eigenen Immobilienratgeber mit aktuell rund 160 Artikeln, der komplexe Themen rund um Immobilien und Wohnen laienverständlich aufbereitet. Bereits mehrere tausend Personen sollen die Inhalte monatlich lesen. Für Reichl ist das ein wichtiger Kanal, um Vertrauen aufzubauen und so langfristig neue Nutzer:innen für die Plattform zu gewinnen.

Im kommenden Jahr will Flatwise nach eigenen Angaben marktführend in Österreich werden. Mittelfristig ist auch eine internationale Expansion, etwa nach Deutschland, angedacht. Ein konkreter Zeitpunkt steht laut Reichl aber noch nicht fest.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act der EU: KI-Regulierung im Anmarsch