27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten „GPT-4o“ ist die KI „Jarvis“ aus dem Film „Iron Man“ mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf „reine Software“, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
vor 16 Stunden

Ein Jahrzehnt TheVentury und die leise Korrektur der Innovation

Vor zehn Jahren galt Corporate Innovation als Antwort auf fast jede Zukunftsfrage im Unternehmen. Heute steht weniger die Frage im Raum, wie viel Innovation stattfindet, sondern welchen konkreten Beitrag sie zum Geschäft leistet. Auch TheVentury hat diese Verschiebung in den vergangenen zehn Jahren begleitet. Partner & CEO Maximilian Spieth mit einem Blick in die Vergangenheit und Gegenwart.
/artikel/ein-jahrzehnt-theventury-und-die-leise-korrektur-der-innovation
vor 16 Stunden

Ein Jahrzehnt TheVentury und die leise Korrektur der Innovation

Vor zehn Jahren galt Corporate Innovation als Antwort auf fast jede Zukunftsfrage im Unternehmen. Heute steht weniger die Frage im Raum, wie viel Innovation stattfindet, sondern welchen konkreten Beitrag sie zum Geschäft leistet. Auch TheVentury hat diese Verschiebung in den vergangenen zehn Jahren begleitet. Partner & CEO Maximilian Spieth mit einem Blick in die Vergangenheit und Gegenwart.
/artikel/ein-jahrzehnt-theventury-und-die-leise-korrektur-der-innovation
TheVentury
© Victoria Posch - Das TheVentury-Team.

Vor zehn Jahren war Corporate Innovation für viele Unternehmen vor allem eines: ein Schlagwort. Innovationslabore entstanden, Accelerator-Programme wurden aufgesetzt, Startup-Kooperationen galten als universelle Antwort auf alles, was mit Zukunft zu tun hatte. Heute ist die Stimmung eine andere. Wer Innovation verantwortet, muss deutlich klarer zeigen, welchen Beitrag sie tatsächlich zum Geschäft leistet.

TheVentury und der rote Faden

Diese Entwicklung hat auch The Ventury hautnah miterlebt. Das Wiener Venture-Building-Unternehmen feiert heuer sein zehnjähriges Bestehen. Für CEO Maximilian Spieth zieht sich ein roter Faden durch die gesamte Geschichte: „Unser Anspruch war nie, Unternehmen nur zu beraten. Wir wollten operativ mitarbeiten – fast wie ein zusätzlicher Co-Founder mit digitaler Kompetenz.“

Die Idee entstand bereits vor der offiziellen Gründung 2016. Die Gründer kannten sich aus dem Startup-Umfeld und beobachteten dort ein wiederkehrendes Muster: Nicht fehlendes Kapital war oft das Problem, sondern die falschen Entscheidungen in der frühen Phase.

© zVg – Das Team bei der Gründung 2016.

„Wir haben überall gesehen, dass viele Teams zu wenig marktzentriert arbeiten“, sagt Spieth. „Man entwickelt etwas, das am Markt vorbeigeht.“

Genau daraus entstand der Ansatz von TheVentury: nicht klassisch beraten, sondern operativ mitarbeiten, um zu helfen, digitale Geschäftsmodelle zu entwickeln.

KI bereits 2017 Thema

Schon in den Anfangsjahren beschäftigte sich das Team intensiv mit KI- und Chatbot-Technologien – lange bevor generative Modelle zum Mainstream wurden. 2017 entwickelte TheVentury etwa für Austrian Airlines einen Chatbot zur Automatisierung des First-Level-Kundenservice.

„Die Systeme wurden damals noch manuell darauf trainiert, welche Kundenanfragen auftreten könnten. Der Use Case funktionierte gut und wurde später innerhalb der Lufthansa Group weiter ausgerollt“, sagt Spieth.

Parallel dazu entstand ein Startup-Accelerator, der zwischen 2017 und 2021 sechs Batches durchlief. Anfangs kamen die Teams aus Österreich und Deutschland, später auch aus Indien, Südamerika oder San Francisco nach Wien.

„Wir haben unglaublich viel gelernt, vor allem durch das Tempo und die Arbeitsweise mit Gründerinnen und Gründern. Mit ihnen zu arbeiten, ist etwas völlig anderes als im Corporate-Kontext“, sagt Spieth. „Der Hunger ist ein anderer. Ressourcen sind knapper, der Druck höher.“

Geschäftsmodelle aus eigenen Stärken

Aus dieser Phase entwickelte sich schrittweise das heutige Geschäftsmodell: Venture Building für Unternehmen. Statt Startups mit Corporates zu vernetzen, baut TheVentury gemeinsam mit Organisationen neue Geschäftsmodelle aus deren eigenen Stärken heraus und schafft Intrapreneurship-Strukturen.

„Der Kern ist immer noch derselbe Gedanke“, sagt Spieth. „Neue Standbeine müssen aus den bestehenden Kompetenzen eines Unternehmens entstehen. Innovation kann nicht losgelöst von der Kernorganisation funktionieren.“

Gleichzeitig habe sich die Erwartungshaltung stark verändert. Vor zehn Jahren reichte es oft, Innovation sichtbar zu machen. Heute zähle Wirkung: „Innovation muss beweisen, dass sie Einfluss auf das Gesamtunternehmen hat“, so Spieth weiter. „Heute ist sie stark an Impact und Messbarkeit gekoppelt.“

TheVentury und alte Hürden

In der letzten Dekade haben bei TheVentury jedoch nicht alle Projekte funktioniert. Besonders prägend war die Entwicklung eines eigenen Chatbot-Produkts, das unter dem Namen Botbase als Plattform gedacht war. Die Idee: ein eigenes „WordPress für Chatbots“. Die Nachfrage war da, die Rückmeldungen positiv – doch das Produkt entwickelte sich in eine andere Richtung als geplant.

„Wir sind zu lange in einem Feature-Loop geblieben, in dem wir sehr stark auf Feature Requests reagiert haben“, erinnert sich Spieth. „Aber wir haben zu wenig konsequent am Markt validiert, ob das wirklich ein tragfähiges SaaS-Modell wird. Im Nachhinein hätten wir es früher beenden sollen. Heute sehen wir das nicht als Scheitern, sondern als saubere Entscheidung. Es spart am Ende Zeit und Ressourcen.“

Zwischen 2019 und 2022 durchlief TheVentury auch eine der schwierigsten Phasen. Das Unternehmen wuchs zeitweise auf über 50 Mitarbeitende, gleichzeitig trafen externe Krisen die Kundenlandschaft hart. „Wir waren eigentlich im Growth-Modus, aber Corona und später der Ukraine-Krieg haben viele unserer Kunden massiv getroffen“, sagt der Co-Founder. „Die Auftragslage ist dadurch zweimal stark eingebrochen.“ Das Ergebnis: Umsatzrückgänge und eine deutliche Verkleinerung des Teams.

Künstliche Intelligenz und Venture Building

Heute verändert Künstliche Intelligenz die Arbeit im Venture Building erneut. Vor allem die Geschwindigkeit, mit der Prototypen entstehen können, habe sich drastisch erhöht. „Die technischen Kosten sind massiv gesunken. Einen ersten Prototypen auf den Markt zu bringen, geht heute viel schneller als früher“, sagt Spieth. Gleichzeitig warnt er vor einem überhitzten Technologieverständnis. „KI ist selten die Antwort, aber oft ein gutes Werkzeug. Wenn die Dateninfrastruktur nicht stimmt, beschleunigt KI im schlimmsten Fall nur das Chaos.“

Für die kommenden Jahre will TheVentury den Fokus stärker auf den Mittelstand und familiengeführte Unternehmen im DACH-Raum legen. Gleichzeitig rückt ein Gedanke wieder stärker in den Vordergrund, der schon am Anfang stand: der Mitgründer-Ansatz: „Wir arbeiten immer öfter wieder wie Co-Founder mit. Und das heißt auch: Wir gehen teilweise mit ins Risiko.“ Statt klassischer Projektlogik könnten künftig stärker Beteiligungs- oder erfolgsabhängige Modelle entstehen. Gerade in Zeiten, in denen Unternehmenszukäufe schwieriger werden, müsse Wachstum aus bestehenden Strukturen heraus entstehen. „Unser Ziel“, so Spieth, „ist es, der Partner zu sein, an den Unternehmen denken, wenn sie aus ihren Assets neue Geschäftsmodelle bauen wollen. Am Ende geht es darum, echte Wirkung zu erzeugen. Und nicht nur Innovation zu demonstrieren.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln