12.12.2022

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

Im zweiten Teil ihres Startup-Updates klärt Rechtsanwältin und AI Austria- und European AI-Mitglied Jeannette Gorzala über den Haftungsrahmen auf, der sich in den KI-Regulierungen der EU abzeichnet.
/artikel/diesen-haftungsrahmen-muessen-startups-beim-ai-act-beachten
Jeannette Gorzala gibt Überblick über den Haftungsrahmen für Startups mit Blick auf den AI Act der EU © fotomek/AdobeStock & Jeannette Gorzala
Jeannette Gorzala gibt Überblick über den Haftungsrahmen für Startups mit Blick auf den AI Act der EU © fotomek/AdobeStock & Jeannette Gorzala

Ein großes Hindernis für Startups ist die Haftungsfrage. Wer haftet für Verletzungen, die Pflegeroboter ihren Patient:innen aufgrund von Softwarefehlern zufügen? Wer haftet für ein psychisches Trauma, wenn das Smart Home seine Bewohner:innen aus ‚Rache‘ für ein Update eine Woche im Keller in der Dunkelheit einschließt? Wer haftet, wenn KI-basierte HR-Systeme zur Unterstützung weiblicher Kandidatinnen überfeministische Tendenzen entwickeln und radikal alle anderen Bewerber* aussortieren?

Offene Fragen und Lücken im Haftungssystem sollen durch die Richtlinie zur Anpassung von Bestimmungen über die außervertragliche zivilrechtliche Haftung zur künstlichen Intelligenz (AI Liability Directive, AILD) und den Entwurf einer neuen Produkthaftungsrichtlinie (Product Liability Directive, PLD) gelöst werden. Dieser Beitrag gibt einen Kurzüberblick.

Software ist ein Produkt!

Die Produkthaftungsrichtlinie aus 1985 soll durch die PLD auf Stand gebracht werden und neue Entwicklungen, wie KI und IoT (Internet of Things) berücksichtigen. Daher soll Software künftig explizit auch als Produkt gelten. Geschädigte sollen auf Basis der Produkthaftung verschuldensunabhängig Ersatz für Schäden durch KI-Systeme fordern können.

Ersatzfähig sollen neben Schäden aus dem fehlerhaften Produkt inklusive Personenschäden auch Sachschäden, Datenverluste und medizinisch anerkannte psychische Schädigungen sein. Grundrechtsverstöße fallen nicht in den Anwendungsbereich der PLD, jedoch soll die AILD bei der Geltendmachung unterstützen. Die aktuelle Schwelle, dass nur Schäden über EUR 500 ersatzfähig sind, entfällt und die Dauer für eine Geltendmachung soll allgemein 10 Jahre, im Ausnahmefall 15 Jahre, betragen.

Fehlerhaftigkeit – woran hat’s gelegen?

Der Bewertungskatalog, wann Software fehlerhaft ist, wird ausgeweitet. In die Beurteilung sollen unter anderem auch folgende Umstände miteinfließen:

  1. Fähigkeit der Software, weiter zu lernen
  2. Vorhersehbare Verwendung und missbräuchliche Verwendung
  3. Anforderungen an Produkt und Cybersicherheit

Damit wirken PLD und der AI Act insbesondere bei Hochrisiko KI-Systemen (z.B. HR, Bildung, Banken, Versicherungen, Justizwesen, Sicherheitskomponenten bei bestimmten Maschinen, etc.) zusammen.

Show me the evidence!

Neu ist eine Verpflichtung, dass Unternehmer:innen verpflichtet sind, Beweismittel offenzulegen, die ein Kläger oder eine Klägerin zum Nachweis von Ansprüchen benötigt. Der Wissensvorsprung von Hersteller:innen gegenüber Verbraucher:innen soll dadurch abgebaut werden. In der Praxis kritisch wird hier die Balance von Informationsrechten und dem Schutz von Betriebs- und Geschäftsgeheimnissen sein sowie die Verhinderung von Missbrauch dieses Instruments.

Achtung vor den Vermutungen der PLD und AILD!

Die Beweispflicht für Fehlerhaftigkeit des Produkts, Schaden und Kausalität zwischen Fehlerhaftigkeit und Schaden trägt grundsätzlich der Kläger. Die PLD führt jedoch eine Reihe von Vermutungen für das Vorliegen einer Fehlerhaftigkeit sowie das Bestehen eines Kausalitätszusammenhangs ein, die vom Beklagten selbstverständlich widerlegt werden können.

Ebenso führt die AILD für die verschuldensabhängige Haftung drei unterschiedliche Kategorien von widerlegbaren Vermutungen des Kausalzusammenhangs ein, nämlich allgemein, speziell für Hochrisiko KI-Systeme und in Ausnahmefällen für KI-Systeme in der persönlichen Verwendung. Die Vermutungen in der PLD und AILD sind jeweils komplex mit einer Vielzahl an Voraussetzungen und Abhängigkeiten gestaltet, weshalb hier auf die nähere Behandlung verzichtet wird – außer bei Interesse.

What’s next?

Die Konsultationen und der Gesetzesprozess laufen noch. Unabhängig in welcher konkreten Form das neue Haftungsregime kommt ist es wichtig, für alle Programmierer:innen, Softwareentwickler:innen, Startups und Unternehmer:innen, die Komponenten oder ganze Systeme selbst erstellen, liefern oder anbieten, ihre eigene Position und die Position ihrer Produkte und Dienstleistungen in dem geplanten Haftungsregime zu finden. Darauf aufbauend können Haftungsrisiken im Unternehmen identifiziert, abgefedert und gezielt gesteuert und gemanaged werden.

Deine ungelesenen Artikel:
23.09.2026

25 Jahre Riz up Genius Ideen- und Gründerpreis: Das sind die Sieger:innen des Jubiläumsjahrgangs

Der Riz up Genius Ideen- und Gründerpreis wurde zum 25. Mal vergeben. Landeshauptfrau Johanna Mikl-Leitner brachte bei der Verleihung einen "Tag der Fehlerkultur" nach finnischem Vorbild ins Spiel.
/artikel/25-jahre-riz-up-genius-ideen-und-gruenderpreis-das-sind-die-siegerinnen-des-jubilaeumsjahrgangs
23.09.2026

25 Jahre Riz up Genius Ideen- und Gründerpreis: Das sind die Sieger:innen des Jubiläumsjahrgangs

Der Riz up Genius Ideen- und Gründerpreis wurde zum 25. Mal vergeben. Landeshauptfrau Johanna Mikl-Leitner brachte bei der Verleihung einen "Tag der Fehlerkultur" nach finnischem Vorbild ins Spiel.
/artikel/25-jahre-riz-up-genius-ideen-und-gruenderpreis-das-sind-die-siegerinnen-des-jubilaeumsjahrgangs
Die Preisverleihung des 25. Riz up Genius Ideen- und Gründerpreises im Congress Center Baden. © NLK Khittl

25 Jahre Riz up Genius: Niederösterreichs Gründeragentur riz up hat am Montagabend im Congress Center Baden das Jubiläum ihres Ideen- und Gründerpreises gefeiert, brutkasten war vor Ort. Heuer wurden über 230 Geschäftsideen eingereicht, so viele wie nie zuvor, von der Bahnstrom-Versorgung bis zur „Smartwatch“ für Pferde. In den vier Kategorien innovativ genial, regional genial, digital genial und ökologisch genial waren jeweils sieben Projekte für das Finale nominiert. Die bestplatzierten Ideen erhielten zwischen 2.000 und 6.000 Euro Preisgeld, gesponsert von Industriellenvereinigung Niederösterreich, ecoplus, Niederösterreichs Wirtschaftsagentur, Wirtschaftskammer Niederösterreich, Raiffeisen Niederösterreich-Wien, Land Niederösterreich, Flughafen Wien, EVN, Novomatic, Wiener Städtische, accent, dem RIZ Förderverein Süd sowie riz up selbst.

„25 Jahre Riz up Genius-Preis, einfach eine Sensation, wo viele Erfolgsgeschichten bereits geschrieben worden sind und wo wir jetzt neue Erfolgsgeschichten schreiben“, so Mikl-Leitner im Rahmen der Preisverleihung. „Und ich bin unglaublich stolz auf so viel Innovationsgeist.“

Die Gewinner

Kategorie: innovativ genial

In der Kategorie innovativ genial ging der erste Platz an Cybershell Technologies aus Mödling. Das von Mario Curvelo Carvalho eingereichte Projekt ist eine modulare physische Safety-Architektur für industrielle humanoide Roboter. Während Plattformhersteller KI und Antrieb optimieren, setzt Cybershell bei mechanischer Robustheit, CE-Operationalisierung und Versicherbarkeit an und will so eine standardisierbare Schutzschicht für den europäischen Markt schaffen (5.000 Euro, Industriellenvereinigung Niederösterreich).

Platz zwei belegte ein Team aus Neunkirchen um Gerald Höllinger, Alexandra Bernegger und Sebastian Nowak, das BNCT-Anlagen zur Krebstherapie entwickeln will. Ein Linearbeschleuniger ersetzt dabei den Kernreaktor, die Behandlungszeiten sollen unter zehn Minuten liegen (4.000 Euro, Wiener Städtische). Den dritten Platz holte sich EquiShape aus Baden (Janine Rybin), eine Art „Smartwatch für Pferde“: Sensor-Gamaschen, eine App mit Dashboards und ein KI-Trainingsassistent sollen das Training fairer, gesünder und transparenter machen (2.000 Euro, riz up).

Cybershell Technologies aus Mödling holte mit einer modularen Safety-Architektur für industrielle humanoide Roboter den ersten Platz in der Kategorie innovativ genial. © NLK Khittl

Kategorie: regional genial

In der Kategorie regional genial gewann die Norphluchs GmbH aus Mödling mit ihrer Plattform für DSGVO-konforme Backgroundchecks. Das Unternehmen von Stephanie und Christoph Böhm bündelt Personenrecherchen aus offenen Quellen und offiziellen Registern für HR- und Sicherheitsabteilungen. Dafür gab es 6.000 Euro von der Wirtschaftskammer Niederösterreich.

Platz zwei ging an die electrify smart energy GmbH aus Mistelbach (Dominik Kohl), die auf KI-gesteuerte Schwarmspeicher für die Energiewende setzt (4.000 Euro, EVN). Den dritten Platz teilen sich zwei Projekte. neuSTADTPILZE aus Wiener Neustadt (Joachim Hintenberger) lässt Frischpilze in einem vormals leerstehenden Kellergewölbe aus dem Mittelalter wachsen, ohne Befeuchtung und Klimatisierung. MoveOn aus Wiener Neustadt Land (Carina Polly, Dominik Lerch, Laurin Levai) bietet Eltern von Kindern und Jugendlichen, die vom Schulbesuch befreit oder dauerhaft krankgeschrieben sind, mobilen Unterricht zu Hause, psychosoziale Begleitung und die Koordination von Hilfskräften. Ziel ist, Schulabbrüche zu vermeiden. Beide erhielten je 2.000 Euro vom RIZ Förderverein Süd.

Die Norphluchs GmbH aus Mödling gewann mit ihrer Plattform für DSGVO-konforme Backgroundchecks die Kategorie regional genial. © NLK Khittl

Kategorie: digital genial

In der Kategorie digital genial siegte die METUSAN FUTURE GmbH aus Mistelbach (Michael Fischer, Sascha Hassa, Günther Unger) mit WOLTRONIC SNM. Das Sensor-Netzwerkmodul überwacht die Bahnstromversorgung und zentrale Teile der Bahninfrastruktur in Echtzeit, Störungen sollen sich damit punktgenau erkennen lassen (6.000 Euro, ecoplus).

Zwei Projekte landeten auf Platz zwei: Legal Rankings AI von Law Business aus St. Pölten (Alexander und Sophie Dillinger) automatisiert die aufwendigen Einreichungen von Anwaltskanzleien bei Kanzlei-Rankings. Laut den Einreicher:innen sind 98 Prozent der Kanzleien weltweit bisher nicht gerankt (4.000 Euro, accent). Die Soxware Interactive GmbH aus Amstetten (Peter Soxberger) entwickelt eine schweißbeständige VR-Brille für den professionellen Dauerbetrieb, die Mehrspieler-Tracking auf bis zu 1.200 Quadratmetern Spielfläche ermöglichen soll (4.000 Euro, Novomatic).

Die METUSAN FUTURE GmbH aus Mistelbach siegte mit dem Sensor-Netzwerkmodul WOLTRONIC SNM in der Kategorie digital genial. © NLK Khittl

Kategorie: ökologisch genial

In der Kategorie ökologisch genial wurden gleich zwei Projekte mit einem ersten Platz und je 6.000 Euro ausgezeichnet. Roadeye von Christoph Pasching aus Melk ist nach eigenen Angaben der weltweit erste serienreife, patentierte Straßenleitpflock, der als energieautarker, KI-gestützter Sensor Straßen- und Umweltzustände erfasst und die Daten in Echtzeit nutzbar macht. Der Sensor ersetzt die schwarze Kappe auf den bestehenden weißen Leitpflöcken und lässt sich per Plug and Play nachrüsten (Sponsor: Land Niederösterreich).

Christoph Pasching aus Melk wurde mit Roadeye, dem smarten Straßenleitpflock, in der Kategorie ökologisch genial mit einem ersten Platz ausgezeichnet. © NLK Khittl

Die Zellhofer Engineering GmbH aus Gänserndorf (Sebastian und Tobias Zellhofer) gewann mit Solarpellet, einer mobilen, automatisierten Anlage, die überschüssigen Photovoltaik-Strom vor Ort in Holzpellets umwandelt und Solarenergie damit biologisch speichert (Sponsor: Raiffeisen).

Platz zwei ging an die IceEx GmbH aus Amstetten (Johannes Üblacker) mit einer mobilen Solemischanlage für den Winterdienst, mit der sich Salzsole mit einem Gefrierpunkt von minus 19 Grad herstellen lässt (4.000 Euro, Flughafen Wien).

Die Zellhofer Engineering GmbH aus Gänserndorf erhielt für Solarpellet ebenfalls einen ersten Platz in der Kategorie ökologisch genial. © NLK Khittl

Mikl-Leitner: „Ab heute arbeiten wir am Tag der Fehlerkultur“

Auf die Frage, was die Entbürokratisierung konkret für Gründer:innen bedeutet, antwortet die Landeshauptfrau gegenüber brutkasten zunächst grundsätzlich: „Gerade in so herausfordernden Zeiten sollten wir daran denken, was uns stark gemacht hat in diesem Land. Und das ist eben Leistung, vor allem auch Eigenverantwortung und Hausverstand.“ Gepaart mit Innovationsgeist und dem Abbau von Regulatorik bringe das Niederösterreich weiter. Man habe im Rahmen der groß angelegten Verwaltungsreform bereits jedes sechste Landesgesetz entbürokratisiert und vor allem die Bauordnung vereinfacht. „Das heißt, Bauen und Sanieren wird effizienter und vor allem auch billiger“, so Mikl-Leitner. Mit der neuen Initiative Taskforce Wirtschaft soll es zudem eine eigene Plattform geben: „Unternehmerinnen und Unternehmer, wenn sie mit Bürokratie ein Problem haben, als auch mit Genehmigungen, dann ist dort die richtige Stelle, um eben komplexe Dinge auch ordentlich und anständig bearbeiten zu können.“

Bei der Verleihung hatte Mikl-Leitner zudem die Idee eines „Tag der Fehlerkultur“ ins Spiel gebracht. In Finnland werde ein solcher Tag groß gefeiert, sagt sie gegenüber brutkasten. „Aus Fehlern kann man lernen. Fehler sind nicht zu verurteilen.“ Vielmehr solle man sie als Motivation für den Weg nach vorne nehmen. Wenn es nach ihr geht, soll der Tag schon 2027 starten: „Das heißt, ab heute arbeiten wir am Tag der Fehlerkultur.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten