Diesen Haftungsrahmen müssen Startups beim AI Act beachten
Im zweiten Teil ihres Startup-Updates klärt Rechtsanwältin und AI Austria- und European AI-Mitglied Jeannette Gorzala über den Haftungsrahmen auf, der sich in den KI-Regulierungen der EU abzeichnet.
Ein großes Hindernis für Startups ist die Haftungsfrage. Wer haftet für Verletzungen, die Pflegeroboter ihren Patient:innen aufgrund von Softwarefehlern zufügen? Wer haftet für ein psychisches Trauma, wenn das Smart Home seine Bewohner:innen aus ‚Rache‘ für ein Update eine Woche im Keller in der Dunkelheit einschließt? Wer haftet, wenn KI-basierte HR-Systeme zur Unterstützung weiblicher Kandidatinnen überfeministische Tendenzen entwickeln und radikal alle anderen Bewerber* aussortieren?
Offene Fragen und Lücken im Haftungssystem sollen durch die Richtlinie zur Anpassung von Bestimmungen über die außervertragliche zivilrechtliche Haftung zur künstlichen Intelligenz (AI Liability Directive, AILD) und den Entwurf einer neuen Produkthaftungsrichtlinie (Product Liability Directive, PLD) gelöst werden. Dieser Beitrag gibt einen Kurzüberblick.
Software ist ein Produkt!
Die Produkthaftungsrichtlinie aus 1985 soll durch die PLD auf Stand gebracht werden und neue Entwicklungen, wie KI und IoT (Internet of Things) berücksichtigen. Daher soll Software künftig explizit auch als Produkt gelten. Geschädigte sollen auf Basis der Produkthaftung verschuldensunabhängig Ersatz für Schäden durch KI-Systeme fordern können.
Ersatzfähig sollen neben Schäden aus dem fehlerhaften Produkt inklusive Personenschäden auch Sachschäden, Datenverluste und medizinisch anerkannte psychische Schädigungen sein. Grundrechtsverstöße fallen nicht in den Anwendungsbereich der PLD, jedoch soll die AILD bei der Geltendmachung unterstützen. Die aktuelle Schwelle, dass nur Schäden über EUR 500 ersatzfähig sind, entfällt und die Dauer für eine Geltendmachung soll allgemein 10 Jahre, im Ausnahmefall 15 Jahre, betragen.
Fehlerhaftigkeit – woran hat’s gelegen?
Der Bewertungskatalog, wann Software fehlerhaft ist, wird ausgeweitet. In die Beurteilung sollen unter anderem auch folgende Umstände miteinfließen:
Fähigkeit der Software, weiter zu lernen
Vorhersehbare Verwendung und missbräuchliche Verwendung
Anforderungen an Produkt und Cybersicherheit
Damit wirken PLD und der AI Act insbesondere bei Hochrisiko KI-Systemen (z.B. HR, Bildung, Banken, Versicherungen, Justizwesen, Sicherheitskomponenten bei bestimmten Maschinen, etc.) zusammen.
Show me the evidence!
Neu ist eine Verpflichtung, dass Unternehmer:innen verpflichtet sind, Beweismittel offenzulegen, die ein Kläger oder eine Klägerin zum Nachweis von Ansprüchen benötigt. Der Wissensvorsprung von Hersteller:innen gegenüber Verbraucher:innen soll dadurch abgebaut werden. In der Praxis kritisch wird hier die Balance von Informationsrechten und dem Schutz von Betriebs- und Geschäftsgeheimnissen sein sowie die Verhinderung von Missbrauch dieses Instruments.
Achtung vor den Vermutungen der PLD und AILD!
Die Beweispflicht für Fehlerhaftigkeit des Produkts, Schaden und Kausalität zwischen Fehlerhaftigkeit und Schaden trägt grundsätzlich der Kläger. Die PLD führt jedoch eine Reihe von Vermutungen für das Vorliegen einer Fehlerhaftigkeit sowie das Bestehen eines Kausalitätszusammenhangs ein, die vom Beklagten selbstverständlich widerlegt werden können.
Ebenso führt die AILD für die verschuldensabhängige Haftung drei unterschiedliche Kategorien von widerlegbaren Vermutungen des Kausalzusammenhangs ein, nämlich allgemein, speziell für Hochrisiko KI-Systeme und in Ausnahmefällen für KI-Systeme in der persönlichen Verwendung. Die Vermutungen in der PLD und AILD sind jeweils komplex mit einer Vielzahl an Voraussetzungen und Abhängigkeiten gestaltet, weshalb hier auf die nähere Behandlung verzichtet wird – außer bei Interesse.
What’s next?
Die Konsultationen und der Gesetzesprozess laufen noch. Unabhängig in welcher konkreten Form das neue Haftungsregime kommt ist es wichtig, für alle Programmierer:innen, Softwareentwickler:innen, Startups und Unternehmer:innen, die Komponenten oder ganze Systeme selbst erstellen, liefern oder anbieten, ihre eigene Position und die Position ihrer Produkte und Dienstleistungen in dem geplanten Haftungsregime zu finden. Darauf aufbauend können Haftungsrisiken im Unternehmen identifiziert, abgefedert und gezielt gesteuert und gemanaged werden.
Gründen in 15 Minuten: Was Europa vom estnischen Startup-Wunder lernen kann
Noch immer kehren vielversprechende Startups Europa den Rücken, um in den USA zu skalieren. Um diese Abwanderung zu stoppen, fordert die Szene eine neue, grenzübergreifende Gesellschaftsform: die EU Inc. Während Brüssel noch über die Umsetzung debattiert, macht Estland seit über einem Jahrzehnt vor, wie es gehen kann: Ein Besuch in der Hauptstadt Tallinn liefert Antworten.
Gründen in 15 Minuten: Was Europa vom estnischen Startup-Wunder lernen kann
Noch immer kehren vielversprechende Startups Europa den Rücken, um in den USA zu skalieren. Um diese Abwanderung zu stoppen, fordert die Szene eine neue, grenzübergreifende Gesellschaftsform: die EU Inc. Während Brüssel noch über die Umsetzung debattiert, macht Estland seit über einem Jahrzehnt vor, wie es gehen kann: Ein Besuch in der Hauptstadt Tallinn liefert Antworten.
Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.
Um vom Flughafen in Tallinn in die Innenstadt zu kommen, bietet sich eine Fahrt mit dem Fahrdienst Bolt an. Die Autos, E-Scooter und Leihräder des estnischen Unicorns prägen hier das Straßenbild. 2013 gegründet macht das Unternehmen mittlerweile mehr als zwei Milliarden Euro Umsatz. Die Erfolgsgeschichte von Bolt ist in Estland kein Einzelfall: Bei 1,3 Millionen Einwohner hat der baltische Staat bereits zehn Unicorns hervorgebracht – eine der höchsten Konzentrationen pro Kopf weltweit. Das Auto wird per App bestellt, keine zwei Minuten später ist es da. Der Fahrer scherzt über die durchaus kühlen 16 Grad Mitte Juli: „Estonian summer!“, sagt er schmunzelnd, mit russischem Akzent. Ungewöhnlich ist das in Estland nicht, war man hier vor knapp 40 Jahren doch noch Teil der Sowjetunion.
„Das Land hatte es natürlich nicht einfach. Als es 1991 unabhängig wurde, standen die Esten erst mal vor dem Nichts. Aber sie hatten auch die Chance, von null anzufangen – und haben dann aufs richtige Pferd gesetzt: die Digitalisierung“, sagt Tim Schnöckelborg, ein Deutscher, der seit eineinhalb Jahren in Estland lebt und hier bereits mehrere Unternehmen gegründet hat.
Der digitale Staat
An diesem sonnigen Tag tummeln sich auf dem Rathausplatz in der Mitte Tallinns viele Menschen. Schnöckelborg ist einer von ihnen. Vom digitalen Staat hat er vor allem bei der Gründung seiner Unternehmen profitiert. Bei einem Kaffee erklärt er, was den Kern des Systems ausmacht:
„Der große Vorteil kommt dadurch zustande, dass hier die gesamte Administration des Landes digitalisiert ist. Du kannst also mit der elektronischen Unterschrift alles nutzen, was ein Staat an Dienstleistungen bietet.“
Wer sich einen Überblick verschaffen will, kann das e-Estonia Briefing Centre aufsuchen, ein eigenes Besucherzentrum, das über den digitalen Staat informiert. Ein Besuch zeigt: Die digitale Gesellschaft basiert zunächst auf Wissen. Durch landesweite Schulungsprogramme und Initiativen für Senior wurde die gesamte Bevölkerung mitgenommen.
Ein weiterer wichtiger Punkt ist die Transparenz: „Die Behörden können auf sehr viel zugreifen, theoretisch auch auf mein Bankkonto. Wichtig ist aber: Niemand kann deine Daten geheim abrufen. Ich kann online einsehen, wer wann mit welcher Begründung welche Daten von mir von einer Behörde in die andere transferiert hat. Das schafft Vertrauen“, beschreibt Schnöckelborg seine Erfahrung.
Unternehmensgründung aus der Ferne
Schnöckelborg hat in Estland schon mehrere Unternehmen gegründet, er ist ein sogenannter „e-Resident“. Das estnische e-Residency-Programm ermöglicht ausländischen Staatsangehörigen einen sicheren Zugang zu den elektronischen Behördendiensten Estlands. So lässt sich aus fast allen Ländern der Welt in rund 15 Minuten ein estnisches Unternehmen gründen.
„Anfangs dachten wir, es wäre vor allem für Menschen außerhalb der EU attraktiv, da ein estnisches Unternehmen ihnen den EU-Binnenmarkt öffnen würde. Nach etwa der Hälfte der Zeit stellten wir fest, dass es aufgrund der geringen Bürokratie auch für EU-Bürger sehr attraktiv ist“, erzählt Liina Vahtras, Managing Director von e-Residency. Seit dem Start des Programms 2014 haben mehr als 133.000 Personen aus 185 Ländern den e-Residency-Status erhalten und zusammen etwa 39.000 Firmen gegründet. So auch Tim Schnöckelborg:
„Ich habe mein erstes Unternehmen als e-Resident an einem Freitagabend gestartet, und am Samstagmorgen war die Firma da“, blickt er nach wie vor verblüfft zurück.
Was Gründer zusätzlich nach Estland zieht, ist das Steuersystem. „Wir besteuern Unternehmen nicht, solange sie das Geld im Unternehmen belassen. Es gibt also keine Körperschaftsteuer auf einbehaltene Gewinne. Steuern fallen erst an, wenn man Geld aus dem Unternehmen entnimmt, und davon profitieren auch wir: Im vergangenen Jahr zahlten e-Residency-Unternehmen Steuern in Höhe von über 125 Millionen Euro in Estland“, so Vahtras. Im „International Tax Competitiveness Index“ der US-Denkfabrik Tax Foundation, der die OECD-Länder vergleicht, liegt Estland seit zwölf Jahren auf Platz eins.
Europa, der zersplitterte Markt
In den Gesprächen, die von Euphorie über das estnische System geprägt sind, schleicht sich immer wieder Frustration ein. Denn so gut das System hier funktioniert: Im europaweiten Markt stoßen die Gründer dennoch auf Blockaden. Hedi Mardisoo, Board Member der Estonian Founders Society, kennt die Probleme.
Mardisoo ist Gründerin des Insurtechs Cachet, das sie von Estland aus in elf Länder skalierte. Heute setzt sie sich in der Society für die nächste Generation von Gründer:innen ein und versucht, Blockaden europaweit abzubauen. „Wenn ich mit meinem Unternehmen in Europa expandieren will, begegne ich 27 verschiedenen Arten der Unternehmensregistrierung, 27 verschiedenen Notar- und Gerichtssystemen. Wenn du als kleines Startup ein globales Unternehmen aufbauen willst, bist du oft besser dran, woanders hinzugehen, meist in die USA. Das tun viele Startups – und das ist nicht gut für Europa“, so Mardisoo.
Auf die Frage, warum die EU für Unternehmensgründungen so unattraktiv sei, antwortet Mardisoo ohne Zögern: „Zu 100 Prozent das Geld. Die Hauptprobleme sind das Geld, die Investor:innen und die Investitionen.“
Vahtras von e-Residency ergänzt: „Investoren sagen sehr oft: ‚Gründe eine Firma in Delaware, weil das für mich einfacher ist‘“ – einfacher, als sich mit den unterschiedlichen Rechtsordnungen der EU-Mitgliedstaaten auseinanderzusetzen. Um diesen Kapital- und Talentabfluss zu stoppen, ruht die Hoffnung nun auf einem Konzept aus Brüssel: der EU Inc.
Das „28. Regime“
Hinter der EU Inc. steht die Forderung nach einer einheitlichen europäischen Gesellschaftsform, dem sogenannten „28. Regime“: Neben 27 nationale Rechtsformen soll eine 28. treten, die eine schnelle, vollständig digitale Gründung ohne Mindeststammkapital ermöglicht.
Nachdem die Forderung nach der EU Inc. über die Jahre von Tausenden europäischen Gründer getragen wurde, verkündete EU-Kommissionspräsidentin Ursula von der Leyen am 20. Jänner 2026 beim Weltwirtschaftsforum in Davos das Vorhaben. Ziel sei eine wahrhaft europäische Unternehmensstruktur mit einheitlichen Kapitalregeln in der gesamten EU: „Unsere Unternehmer, die innovativen Firmen, werden ein Unternehmen binnen 48 Stunden in jedem Mitgliedstaat anmelden können, komplett online. Letzten Endes brauchen wir ein System, in dem Unternehmen nahtlos in ganz Europa Geschäfte machen und Finanzmittel beschaffen können, genauso einfach wie auf einheitlichen Märkten wie den USA oder China.“
Am 18. März 2026 legte die Kommission den Verordnungsentwurf erstmals vor. In der europäischen Startup-Szene stieß er auf heftige Kritik, weil zentrale Forderungen wie die freie Wahl des Registrierungssitzes von Unternehmen nicht erfüllt wurden. Eine Überarbeitung fordern europaweit Vertreter der Szene mit der Initiative „EU-INC“.
Estland als Weg zur EU Inc.?
Zurück im baltischen Staat: Was mit dem 28. Regime gefordert wird – also der Digital-first-Ansatz, geringes Startkapital sowie eine schnelle und grenzüberschreitende Unternehmensgründung –, setzt Estland mit e-Residency bereits seit mehr als zehn Jahren um. Warum das Konzept also nicht einfach kopieren?
„Wir haben zur Kommission gesagt: ‚Schaut euch unser Programm an, schaut, wie wir das gelöst haben; vielleicht könnt ihr es wiederverwenden‘“, sagt Vahtras, und weiter: „Unser System ist nicht zu 100 Prozent das, was die EU Inc. sein soll, aber auch, wenn wir nur 50 Prozent der Lösungen bereits umsetzen, sind wir bereit, das zu teilen. Ich hoffe, dass die EU Inc. funktionieren wird – und dass sie die estnische e-Residency als eine Art Blaupause in Betracht ziehen; einfach, um zu sehen, was für uns funktioniert.“
Starken Gegenwind bekommt die EU Inc. von lokalen Akteuren wie Gewerkschaften und Notariatskammern. „Ich glaube nicht, dass irgendjemand Angst vor der EU Inc. haben sollte“, erklärt Hedi Mardisoo. „Einige große Länder blockieren die Umsetzung immer noch und versuchen, viele der wichtigsten Punkte zu verwässern. Man muss sich die Frage stellen: Will man das Alte tatsächlich verändern – oder will man die neue Regulierung einfach so hinbiegen, dass sie zum eigenen System passt? Das kann nicht funktionieren. Wenn man neue Innovationen regulieren will, kann man sie nicht in die alten Rahmenbedingungen quetschen.“
Um mit der EU Inc. erfolgreich zu sein, brauche es einen Mentalitätswandel, sagt Mardisoo: „Was wir aus Estland mitgeben können, ist, alles so einfach wie möglich zu gestalten. Ich war in anderen Ländern tätig, wo die Menschen Angst vor den Behörden hatten. Das zu ändern ist das Erste, was wir anstreben sollten. Dann wird das Umfeld für Unternehmen viel günstiger, die aus der Komfortzone heraustreten und etwas Neues und Innovatives aufbauen wollen.“
Die Währung Vertrauen
„Selbst wenn es eine EU Inc. geben würde, würde ich jedes Mal wieder hier in Estland gründen. Ich sehe den positiven Ansatz der EU-Initiative, aber ich glaube, dass sie in der Realität bei Weitem nicht konkurrenzfähig zu dem Modell ist, das man hier über Jahrzehnte aufgebaut hat“, zieht Tim Schnöckelborg sein Fazit.
Dass Estland heute die Früchte seiner radikalen Digitalisierungsstrategie aus den 90er-Jahren erntet, steht außer Frage. Dennoch ist jede Gesellschaft ein Resultat ihrer Vergangenheit, und in Europa gibt es 27 verschiedene davon. Die Umsetzung einer EU Inc., die den Vorstellungen aller entspricht, bleibt eine Herkulesaufgabe. Estland kann keine Lösung für alle sein, aber der Besuch im baltischen Staat zeigt: Es kann anders gehen, und das mit Erfolg. Das kleine Land profitiert dabei vor allem vom wichtigsten Gut, das man braucht, um Strukturen zu verändern: Vertrauen. Vielleicht ist es genau dieses Vertrauen, das erst geschaffen werden muss, bevor eine EU Inc. für alle und damit eine europaweite Verbesserung der Gründungsbedingungen gelingen kann.
Dieser Beitrag ist im Rahmen von „eurotours 2026“ entstanden, einem Projekt des Bundeskanzleramts, finanziert aus Bundesmitteln.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.