27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten “GPT-4o” ist die KI “Jarvis” aus dem Film “Iron Man” mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf “reine Software”, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
vor 3 Stunden

Neoh-Founder Zeller: “Snickers ist seit jeher mein Lieblingsriegel”

Er habe Snickers früher verschlungen. Nun bringt er eine Alternative auf den Markt: Der neue Riegel des Startups Neoh rund um Manuel Zeller gewann als Nasch-Ersatz erst kürzlich einen Award.
/artikel/neoh-founder-zeller-snickers-ist-seit-jeher-mein-lieblingsriegel
vor 3 Stunden

Neoh-Founder Zeller: “Snickers ist seit jeher mein Lieblingsriegel”

Er habe Snickers früher verschlungen. Nun bringt er eine Alternative auf den Markt: Der neue Riegel des Startups Neoh rund um Manuel Zeller gewann als Nasch-Ersatz erst kürzlich einen Award.
/artikel/neoh-founder-zeller-snickers-ist-seit-jeher-mein-lieblingsriegel
NEOH, Prokop, Riegel,
Gründer und Geschäftsführer Manuel Zeller (c) NEOH

Das FoodTech Neoh will bekanntlich gegen zu hohen Zuckerkonsum vorgehen. Dafür erntete das Wiener Jungunternehmen seit seiner Gründung 2017 Lob wie Kritik – so unter anderem Vorwürfe der Intransparenz vonseiten der Initiative Oekoreich im vergangenen Februar.

Nach rechtlichen Schritten und klärenden Gesprächen entpuppte sich das FoodTech auch in den Augen des Vorwurfs-Initiators Sebastian Bohrn-Mena als “nachhaltiger Vorreiter”. Brutkasten verfolgte den Sachverhalt.

Zuckerersatz und neue Sorten

Abseits von Transparenz rund um Zutaten und Co sieht sich Neoh als Produzent und Vermarkter alternativer Süßwaren: Ursprünglich schmückte sich das FoodTech mit einem Sortiment aus ausgewählten Schokoriegel-Alternativen ohne zugesetzten Zucker – namentlich in den Sorten Himbeere, Schoko und Kokos.

Nach und nach kam es zur Sortimentserweiterung: So erschienen etwa im Oktober 2023 Waffeln im Kleinformat in den Süßwarenregalen heimischer Lebensmittelhändler. Gesüßt wird mit der eigens entwickelten Zuckerersatz-Formel ENSO.

Seit April gibt es diese auch über den Online-Shop des FoodTechs zu erwerben. Der Marktfokus liege im B2B-Geschäft: Der Zuckerersatz soll primär an Unternehmen verkauft werden. So kam zuletzt ein Neoh-Donut bei der Traditionsbäckerei Anker auf den Markt. Auch auf Endverbraucher:innen-Seite sehe man mit der 250-Gramm-Packung des Zuckerersatzstoffes Potenzial.

Snickers-Alternative gewann Auszeichnung

Die Newskurve rund um das in Wien sitzende FoodTech-Startup flachte über die Jahre nicht ab. Erst kürzlich brachte Neoh einen neuen Riegel auf den Markt – in der Geschmacksrichtung Peanut (Erdnuss). Der Riegel sei nach Angaben des Startups vegan, palmölfrei und ohne zugesetzten Zucker hergestellt – und mittlerweile österreichweit bei Billa und im Onlineshop des Startups verfügbar.

Neoh feierte allerdings nicht nur den Markteintritt seines neuen Produktes: Die eigens betitelte Snickers-Alternative des Startups gewann erst kürzlich im Rahmen des Sweetie Awards 2024 in der Kategorie Riegel – und wurde von einer Fachjury zum “Top-Snack des Jahres 2024” gekürt.

Zeller: Snickers “früher geradezu verschlungen”

Der gezielte Vergleich mit dem Traditionsriegel Snickers fiel indes von Neoh-Founder und -Geschäftsführer Manuel Zeller: “Snickers ist seit jeher mein Lieblingsriegel, den ich früher geradezu verschlungen habe.”

Mit seinem Peanut-Riegel, der den Zuckerersatz ZERO+ enthält, und damit weniger Auswirkungen auf die Blutzuckerkurve als mit Industriezucker gesüsste Riegel haben soll, wollte man eine Alternative zum Traditionssnack schaffen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln