27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten “GPT-4o” ist die KI “Jarvis” aus dem Film “Iron Man” mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf “reine Software”, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
15.11.2024

WhatAVenture startet Partnerschaft mit CERN

Der Wiener Corporate Venture Builder WhatAVenture kooperiert mit dem Forschungszentrum im Rahmen des Entrepreneurship-Programms CERN Venture Connect.
/artikel/whataventure-startet-partnerschaft-mit-cern
15.11.2024

WhatAVenture startet Partnerschaft mit CERN

Der Wiener Corporate Venture Builder WhatAVenture kooperiert mit dem Forschungszentrum im Rahmen des Entrepreneurship-Programms CERN Venture Connect.
/artikel/whataventure-startet-partnerschaft-mit-cern
WhatAVenture wird Partner - Eines der Gebäude am CERN | (c) Torbjorn Toby Jorgensen via Wikimedia Commons
Eines der Gebäude am CERN | (c) Torbjorn Toby Jorgensen via Wikimedia Commons

Startups einen schnellen, unkomplizierten und maßgeschneiderten Zugang zu CERN-Ressourcen bieten – so lautet die Zielsetzung des Programms CERN Venture Connect (CVC). Das renommierte internationale Forschungszentrum mit Sitz in der Schweiz ist für seine Teilchenbeschleuniger bekannt und bringt mit der Grundlagenforschung im Bereich Teilchenphysik Ergebnisse in Feldern wie Lasertechnologie und Chips hervor, die etwa in der Robotik und im Energie-Bereich Anwendung finden können. Mit WhatAVenture wird nun ein heimischer Corporate Venture Builder ab 2025 CVC-Partner.

“Ansatz kombiniert ingenieurwissenschaftliches Denken und Forschung mit schnellem, marktorientiertem Handeln”

Das Wiener Unternehmen, das unter anderem heimische Konzerne wie Verbund, Strabag und ÖBB und große internationale Unternehmen wie Miele oder EnBW bei ihren Corporate-Venturing-Aktivitäten betreut, will die Übernahme der Technologien durch Startups und Unternehmensgründungen beschleunigen. “Unser Ansatz kombiniert ingenieurwissenschaftliches Denken und Forschung mit schnellem, marktorientiertem Handeln. Auf diese Weise helfen wir Startups und Unternehmen, innovative Produkte schneller zu validieren und auf den Markt zu bringen”, sagt Georg Horn, Lead Venture Architect bei WhatAVenture.

WhatAVenture mit Erfahrung in der Zusammenarbeit mit Forschungsprogrammen

Mit dem WhatAVenture-Framework führe man eine “360-Grad-Validierung” durch, um Machbarkeit und Wirtschaftlichkeit zu überprüfen und technologischen Fortschritt in marktfähige Geschäftsmodelle zu übersetzen. “Wir kennen und verstehen die Denkweise von Ingenieuren und ergänzen diese mit unserem Expertennetzwerk und Marktverständnis”, so Horn. Man habe in der Vergangenheit bereits erfolgreich mit akademischen Forschungs- und Startup-Programmen zusammengearbeitet.

CERN: “Idealer Partner für diese Kooperation”

CERN habe WhatAVenture aufgrund dieser umfassenden Erfahrung als CVC-Partner ausgewählt, heißt es in einer Aussendung. “Wir erkennen das enorme Potenzial unserer Technologien in Deep-Tech-Bereichen wie Energie oder Robotik, und unsere Partnerschaft mit WhatAVenture wird uns dabei helfen, dieses Potenzial zu verwirklichen. Mit ihrer umfassenden Erfahrung in der Frühphasenvalidierung und im Bereich von Startups in der Frühphase haben wir in WhatAVenture den idealen Partner für diese Kooperation gefunden”, sagt dazu Linn Kretzschmar vom CERN.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln