12.12.2022

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

Im zweiten Teil ihres Startup-Updates klärt Rechtsanwältin und AI Austria- und European AI-Mitglied Jeannette Gorzala über den Haftungsrahmen auf, der sich in den KI-Regulierungen der EU abzeichnet.
/artikel/diesen-haftungsrahmen-muessen-startups-beim-ai-act-beachten
Jeannette Gorzala gibt Überblick über den Haftungsrahmen für Startups mit Blick auf den AI Act der EU © fotomek/AdobeStock & Jeannette Gorzala
Jeannette Gorzala gibt Überblick über den Haftungsrahmen für Startups mit Blick auf den AI Act der EU © fotomek/AdobeStock & Jeannette Gorzala

Ein großes Hindernis für Startups ist die Haftungsfrage. Wer haftet für Verletzungen, die Pflegeroboter ihren Patient:innen aufgrund von Softwarefehlern zufügen? Wer haftet für ein psychisches Trauma, wenn das Smart Home seine Bewohner:innen aus ‚Rache‘ für ein Update eine Woche im Keller in der Dunkelheit einschließt? Wer haftet, wenn KI-basierte HR-Systeme zur Unterstützung weiblicher Kandidatinnen überfeministische Tendenzen entwickeln und radikal alle anderen Bewerber* aussortieren?

Offene Fragen und Lücken im Haftungssystem sollen durch die Richtlinie zur Anpassung von Bestimmungen über die außervertragliche zivilrechtliche Haftung zur künstlichen Intelligenz (AI Liability Directive, AILD) und den Entwurf einer neuen Produkthaftungsrichtlinie (Product Liability Directive, PLD) gelöst werden. Dieser Beitrag gibt einen Kurzüberblick.

Software ist ein Produkt!

Die Produkthaftungsrichtlinie aus 1985 soll durch die PLD auf Stand gebracht werden und neue Entwicklungen, wie KI und IoT (Internet of Things) berücksichtigen. Daher soll Software künftig explizit auch als Produkt gelten. Geschädigte sollen auf Basis der Produkthaftung verschuldensunabhängig Ersatz für Schäden durch KI-Systeme fordern können.

Ersatzfähig sollen neben Schäden aus dem fehlerhaften Produkt inklusive Personenschäden auch Sachschäden, Datenverluste und medizinisch anerkannte psychische Schädigungen sein. Grundrechtsverstöße fallen nicht in den Anwendungsbereich der PLD, jedoch soll die AILD bei der Geltendmachung unterstützen. Die aktuelle Schwelle, dass nur Schäden über EUR 500 ersatzfähig sind, entfällt und die Dauer für eine Geltendmachung soll allgemein 10 Jahre, im Ausnahmefall 15 Jahre, betragen.

Fehlerhaftigkeit – woran hat’s gelegen?

Der Bewertungskatalog, wann Software fehlerhaft ist, wird ausgeweitet. In die Beurteilung sollen unter anderem auch folgende Umstände miteinfließen:

  1. Fähigkeit der Software, weiter zu lernen
  2. Vorhersehbare Verwendung und missbräuchliche Verwendung
  3. Anforderungen an Produkt und Cybersicherheit

Damit wirken PLD und der AI Act insbesondere bei Hochrisiko KI-Systemen (z.B. HR, Bildung, Banken, Versicherungen, Justizwesen, Sicherheitskomponenten bei bestimmten Maschinen, etc.) zusammen.

Show me the evidence!

Neu ist eine Verpflichtung, dass Unternehmer:innen verpflichtet sind, Beweismittel offenzulegen, die ein Kläger oder eine Klägerin zum Nachweis von Ansprüchen benötigt. Der Wissensvorsprung von Hersteller:innen gegenüber Verbraucher:innen soll dadurch abgebaut werden. In der Praxis kritisch wird hier die Balance von Informationsrechten und dem Schutz von Betriebs- und Geschäftsgeheimnissen sein sowie die Verhinderung von Missbrauch dieses Instruments.

Achtung vor den Vermutungen der PLD und AILD!

Die Beweispflicht für Fehlerhaftigkeit des Produkts, Schaden und Kausalität zwischen Fehlerhaftigkeit und Schaden trägt grundsätzlich der Kläger. Die PLD führt jedoch eine Reihe von Vermutungen für das Vorliegen einer Fehlerhaftigkeit sowie das Bestehen eines Kausalitätszusammenhangs ein, die vom Beklagten selbstverständlich widerlegt werden können.

Ebenso führt die AILD für die verschuldensabhängige Haftung drei unterschiedliche Kategorien von widerlegbaren Vermutungen des Kausalzusammenhangs ein, nämlich allgemein, speziell für Hochrisiko KI-Systeme und in Ausnahmefällen für KI-Systeme in der persönlichen Verwendung. Die Vermutungen in der PLD und AILD sind jeweils komplex mit einer Vielzahl an Voraussetzungen und Abhängigkeiten gestaltet, weshalb hier auf die nähere Behandlung verzichtet wird – außer bei Interesse.

What’s next?

Die Konsultationen und der Gesetzesprozess laufen noch. Unabhängig in welcher konkreten Form das neue Haftungsregime kommt ist es wichtig, für alle Programmierer:innen, Softwareentwickler:innen, Startups und Unternehmer:innen, die Komponenten oder ganze Systeme selbst erstellen, liefern oder anbieten, ihre eigene Position und die Position ihrer Produkte und Dienstleistungen in dem geplanten Haftungsregime zu finden. Darauf aufbauend können Haftungsrisiken im Unternehmen identifiziert, abgefedert und gezielt gesteuert und gemanaged werden.

Deine ungelesenen Artikel:
06.08.2026

Diese Speaker:innen kommen zur TEDAI 2026

Vom 28. bis 30. Oktober 2026 soll die Wiener Hofburg zum globalen Zentrum für Künstliche Intelligenz werden. Nach ersten Ankündigungen im März stehen nun weitere Speaker:innen für die TEDAI 2026 fest. Von DeepMind bis Anthropic: ein Überblick über das internationale Line-up.
/artikel/diese-speakerinnen-kommen-zur-tedai-2026
06.08.2026

Diese Speaker:innen kommen zur TEDAI 2026

Vom 28. bis 30. Oktober 2026 soll die Wiener Hofburg zum globalen Zentrum für Künstliche Intelligenz werden. Nach ersten Ankündigungen im März stehen nun weitere Speaker:innen für die TEDAI 2026 fest. Von DeepMind bis Anthropic: ein Überblick über das internationale Line-up.
/artikel/diese-speakerinnen-kommen-zur-tedai-2026
Alina Nikolaou, Co-Founder, Director & Curator TEDAI Vienna
Alina Nikolaou, Co-Founder, Director & Curator TEDAI Vienna | Foto: TEDAI

„Es kommt nur selten vor, dass Vertreter:innen der weltweit führenden Frontier-Labs gleichzeitig an einem Ort zusammenkommen“, erklärt Alina Nikolaou, Co-Founder, Director & Curator der TEDAI. Mit der Ankündigung weiterer hochkarätiger Speaker:innen aus Organisationen wie Anthropic und Google DeepMind nimmt die dritte Auflage der TEDAI, die vom 28. bis 30. Oktober 2026 in der Wiener Hofburg stattfindet, nun konkrete Formen an. Rund 1.200 internationale Entscheidungsträger:innen, Pionier:innen und KI-Enthusiast:innen werden in Wien erwartet und sollen dort die Möglichkeiten, Grenzen und offenen Fragen der nächsten KI-Generation diskutieren.

Praktische Umsetzung im Vordergrund

Schon im März berichtete brutkasten über die ersten bekannten Namen im Line-up, darunter Physik-Nobelpreisträger Geoffrey Hinton und OpenClaw-Entwickler Peter Steinberger. Seither hat sich das Programm der weltweit einzigen offiziellen TED-Konferenz zu Künstlicher Intelligenz noch deutlich erweitert und wurde analog zur weiterhin rasanten KI-Entwicklung adaptiert. Während die Konferenz anfangs vor allem breite gesellschaftliche und ethische Themen im Visier hatte, rückt mit den neuesten Speaker:innen-Bestätigungen vom August die praktische Umsetzung in den Vordergrund. „Vom Modell zur Wirkung“ lautet das aktuelle Motto. Es gehe darum, „wie aus leistungsfähigen KI-Modellen verlässliche Anwendungen und KI-Agenten entstehen, die Menschen in Arbeit, Forschung und Wirtschaft konkret unterstützen“.

Zielsetzung der TEDAI im Wandel

Diese Entwicklung spiegelt sich auch in der personellen Auswahl der Veranstalter:innen wider. Erklärte Alina Nikolaou im März noch, dass im Fokus der Konferenz „die ambitioniertesten KI-Trends und Ideen unserer Zeit: konkrete Lösungen, radikale Paradigmenwechsel, augenöffnende Forschungsergebnisse und schwierige, aber dringend notwendige soziale Fragen“ stünden, so sagte Nikolaou im Juni bereits über die gewünschte Perspektivenvielfalt: „Wenn es um KI geht, entstehen die spannendsten Erkenntnisse oft nicht im Konsens, sondern dort, wo Perspektiven und Paradigmen aufeinanderprallen. Genau diese Spannungsfelder wollen wir auf der TEDAI 2026 sichtbar machen.“ Nun, mit den neuesten Ankündigungen von heute, stehe laut den Organisator:innen die Chance im Fokus, „Einblicke in Ideen zu gewinnen, an denen heute gearbeitet wird: von KI-Agenten in der Wirtschaft bis zur Zukunft der Wissensarbeit“.

Die Top-Speaker:innen

Unter den zahlreichen Neuzugängen sind einige besonders klingende Namen:

Geoffrey Hinton: Der britisch-kanadische Wissenschaftler gilt als einer der „Godfathers of AI“ und ist ein Pionier im Bereich neuronaler Netze und Deep Learning. Für seine grundlegenden Beiträge wurde er 2018 mit dem Turing Award und 2024 mit dem Nobelpreis für Physik ausgezeichnet.

Peter Steinberger: Der gebürtige Österreicher sorgte mit seiner Open-Source-Anwendung OpenClaw für einen internationalen Hype. Inzwischen arbeitet er für das US-Schwergewicht OpenAI an Produkten für eine „Agent-first“-Welt, mit dem Ziel, jedem Menschen einen eigenen KI-Assistenten zur Verfügung zu stellen.

Felix Rieseberg: Er kommt neu ins Line-up und arbeitet bei Anthropic direkt an der Schnittstelle zwischen Modellen und praktischer Anwendung. Dort entwickelte er unter anderem Claude Cowork und verantwortete Engineering-Teams für Claude.ai sowie Claude Code auf dem Desktop.

Nenad Tomašev: Als Senior Staff Research Scientist bei Google DeepMind forscht er zu Multi-Agenten-Systemen, Agentic Economies sowie KI-Sicherheit. Seine Arbeit fokussiert darauf, wie komplexe KI-Agenten wirksam durch Menschen kontrolliert und an menschlichen Interessen ausgerichtet werden können.

Valeria Pettorino: Die Physikerin ist Project Scientist der Euclid-Weltraummission bei der Europäischen Weltraumorganisation ESA. Sie bringt eine astrophysikalische Perspektive ein und zeigt, wie KI-Technologie unser Verständnis des Universums, insbesondere im Bereich Kosmologie und Dunkler Energie, erweitert.

Die weiteren Speaker:innen: breites Spektrum von Kosmologie bis Plattformkritik

Um den Anspruch zu erfüllen, die „gesamte Bandbreite der KI-Debatte abbilden“ zu können, bringen die weiteren Speaker:innen höchst diverse Perspektiven nach Wien. Die wissenschaftliche und technologische Grundlagenforschung wird durch die Forscherinnen Anna Goldie und Azalia Mirhoseini, Gründerinnen von Recursive Intelligence und ehemalige Leiterinnen des AlphaChip-Projekts bei Google, beleuchtet. Mahmoud „Mido“ Assran forscht an sogenannten World Models und Self-Supervised Learning, um effiziente und sichere KI-Agenten zu ermöglichen. Gehirnaktivitäten mittels KI entschlüsselt wiederum der japanische Neurowissenschaftler Yukiyasu Kamitani, dessen Arbeit bis zur Rekonstruktion von Träumen reicht.

Demgegenüber stehen kritische Stimmen aus Medien, Ethik und Gesellschaft: Nicholas Thompson, CEO von The Atlantic, und der bekannte Autor und Aktivist Cory Doctorow ordnen die gesellschaftlichen und politischen Folgen von KI ein. Um Datenschutz und Ethik dreht sich die Arbeit von Carissa Véliz (Associate Professor in Oxford), während der Rechtswissenschaftler César Rodríguez-Garavito (NYU) zu KI-Governance und Klima- sowie indigenen Rechten forscht. Die nigerianische klinische Psychologin Kauna Ibrahim Malgwi bringt zudem ihre Forschung zu algorithmischem Trauma und mentaler Gesundheit in prekären digitalen Arbeitsbedingungen ein.

Praxisnahe Anwendungen bringen schließlich Kateryna Lopatiuk (räumliche Datenanalyse für den Wiederaufbau), Dr. Layla Hosseini-Gerami (Ignota Labs, Chief Data Science Officer für KI-gestützte Medikamentenentwicklung) und Gabriella Di Laccio (Donne, Women in Music) mit Datenanalysen zur Sichtbarkeit von Komponistinnen ein.

Neben den rund 20 TED-Talks am abschließenden Konferenztag will die TEDAI 2026 den Besucher:innen ein umfassendes „Gesamterlebnis“ bieten. Dazu gehören ein festlicher Eröffnungsball, der Wiener Tradition mit moderner Innovation verbinde, sowie der sogenannte „Discovery Day“ mit interaktiven Workshops.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Diesen Haftungsrahmen müssen Startups beim AI Act beachten