27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten „GPT-4o“ ist die KI „Jarvis“ aus dem Film „Iron Man“ mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf „reine Software“, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
30.06.2026

„Ohne die Hilfe wären wir nicht da, wo wir heute stehen“

Das Burgenland sticht unter den heimischen Startup-Standorten durch großes Wachstum hervor. Großen Anteil daran hat StartUp Burgenland mit seinen Inkubator- und Accelerator-Programmen. Wir sprachen mit zwei Teilnehmer:innen.
/artikel/ohne-die-hilfe-waeren-wir-nicht-da-wo-wir-heute-stehen
(c) StartUp Burgenland
(c) StartUp Burgenland

Die Gründungszahlen gingen in den meisten österreichischen Bundesländern laut aktuellem Austrian Startup Monitor zuletzt zurück oder stagnierten. Große Ausnahme ist ausgerechnet das Bundesland mit der geringsten Bevölkerungszahl: Gerade in den vergangenen Krisenjahren stieg die Zahl der Neugründungen im Burgenland um nicht weniger als 65 Prozent.

Heute sind es insgesamt rund 90 Startups – und diese weisen laut Monitor noch eine weitere Besonderheit auf: Das Burgenland ist auch österreichweiter Spitzenreiter bei Profitabilität. Mehr als 60 Prozent der Startups im östlichsten Bundesland sind demnach bereits profitabel oder haben den Break-even erreicht.

StartUp Burgenland: 50 Startups seit dem Start 2021

Doch wie kommt es zu dieser Dynamik entgegen des österreichweiten Trends? Der Gründergeist hat sich in den vergangenen Jahren nicht zufällig im Burgenland etabliert. „Es gab früher keine Anlaufstelle, kein strukturiertes Programm. Wer hier gründen wollte, ist nach Wien oder Graz ausgewichen – oder hat es alleine versucht“, sagt Michael Sedlak. Er ist Leiter von StartUp Burgenland, das genau diesen Umstand in den vergangenen Jahren geändert hat.

Die Zahlen sprechen dabei für sich. Seit dem Start 2021 gingen durch die Inkubator- und Accelerator-Programme mehr als 50 Startups. 70 Prozent davon schafften den Markteintritt und schufen damit 129 Arbeitsplätze. Sie kommen auf eine Gesamtkapitalisierung von 10,7 Millionen Euro. Und dieser Impact zeigt sich auch in der Zufriedenheit der Teilnehmer:innen: 95 Prozent der Alumni empfehlen die Programme von StartUp Burgenland weiter.

CRANii: über Ärtztepraxen zu den Patient:innen

Eine der aktuellen Teilnehmer:innen ist Christiane Hofer-Marbet. Sie hat mit ihrer Schwester Katharina Koller-Hofer das Startup CRANii gegründet. Das app-gestützte Therapiekonzept für Kopf- und Kieferbeschwerden, vor allem die kraniomandibuläre Dysfunktion (CMD), bietet Patient:innen strukturierte Kieferphysiotherapie für zuhause. „Für die Patienten ist es oftmals schwierig, Therapieplätze zu finden, weil es zu wenige Spezialisten in dem Bereich gibt und es natürlich auch eine Kostenfrage ist. Wir haben eine Software entwickelt, bei der die Patienten an die Hand genommen werden, um zu Hause die Übungen gemeinsam mit uns zu machen“, erklärt Hofer-Marbet gegenüber brutkasten.

(v.l.) Die Therapeutinnen und Schwestern Christiane Hofer-Marbet und Katharina Koller-Hofer haben CRANii gegründet | (c) CRANii

Gerade erst vor wenigen Wochen gelauncht, führt der Weg zu den Patient:innen für CRANii über einen B2B2C-Ansatz, konkret über die Kooperation mit Ärztepraxen und Reha-Kliniken. „Momentan bedienen wir Reha-Kliniken, Zahnarztpraxen und HNO-Praxen österreichweit und weiten nun auf die Orthopädie und Neurologie aus.“ Dabei strecke man schon jetzt in der Launch-Phase die Fühler im gesamten DACH-Raum aus und führe etwa bereits Gespräche in der Schweiz.

„Wir sind Therapeutinnen und hatten von BWL am Anfang null Ahnung“

Nicht nur bei der Entwicklung dieser Go-to-Market-Strategie holte sich CRANii Unterstützung von StartUp Burgenland. „Ich glaube, ohne die Hilfe wären wir nicht da, wo wir heute stehen“, sagt Hofer-Marbet. „Wir kommen eigentlich nicht von der unternehmerischen Seite. Wir sind Physiotherapeutinnen und hatten von BWL am Anfang null Ahnung“, so die Gründerin. „Seit wir dabei sind, ist es krass: Unser Coach Felix Lenhard geht den Business-Plan Schritt für Schritt mit uns durch, wir sind in Coachings mit Silicon-Valley-Investoren und haben es jetzt drauf, auf Deutsch und auf Englisch aus dem Stegreif zu pitchen.“

Man habe angetrieben durch den zweiten Coach, Michael Sedlak, auch an Messen und Kongressen teilgenommen, man schätze die Struktur des Programms und: „Das Netzwerk, das uns an die Hand gegeben wird, ist einfach gigantisch“, so Hofer-Marbet.

„Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln.“

Diesen Aspekt betont auch Edris Paknehad: „Felix [Anm. Lenhard], Michael [Anm. Sedlak] und Raphaela [Anm. Graf] haben mir in Eins-zu-Eins-Betreuung überall geholfen, wo ich nicht weitergekommen bin, und wenn sie es selbst nicht wussten, haben sie immer Leute gefunden, die mir helfen konnten. Die meisten Leute wollen etwas von dir, wenn sie dir so ein Netzwerk vermitteln. Sie nicht.“

Edris Paknehad | (c) PAK Immo

Mit seinem E-Learning-Startup PAK Immo hat Paknehad bereits das Accelerator-Programm von StartUp Burgenland durchlaufen. Das Unternehmen hat mit seiner E-Learning-Plattform für die Befähigungsprüfung zum Baumeister eine Nische gefunden, die es erfolgreich besetzt. „Die Baubranche in Österreich ist extrem altmodisch. Man redet die ganze Zeit von Digitalisierung, etwa mit BIM [Anm. Building Information Modeling], aber was die Bildung angeht, ist alles sehr veraltet“, erklärt der Gründer.

PAK Immo: effizient genutzte Fahrzeit

So habe man für besagte Befähigungsprüfung bislang einen Kurs in Präsenz belegen müssen, der zwischen 15.000 und 18.000 Euro kostet. „Dabei ist man in dem Beruf zeitlich extrem eingeschränkt. Wenn man auch noch eine Familie hat, kann man sich unmöglich drei- oder viermal in der Woche in einen Kurs setzen. Das war auch bei mir damals der Fall. Ich habe viel Geld bezahlt und 70, 80 Prozent des Vorbereitungskurses verpasst. Ich dachte mir: Das muss besser gehen!“ PAK Immo biete mit seinen Kursen nicht nur einen um mehrere Tausend Euro günstigeren Preis. „Bei uns kann man die Inhalte anhören, wie einen Podcast. Ich sitze etwa auch heute vier Stunden im Auto, weil die Baustelle zwei Stunden Autofahrt entfernt ist. Das ist bezahlte Arbeitszeit und man kann sie gleichzeitig nutzen, um zu lernen“, so Paknehad.

Auch er bekam von StartUp Burgenland nicht nur Coachings, Netzwerk und Sichtbarkeit, sondern auch Unterstützung bei sehr konkreten Tasks, erzählt der Gründer: „Was mir besonders geholfen hat: Ich hatte am Anfang kein eigenes CRM-System. Hier wurde mir geholfen, eines aufzubauen – davor war das eher ein Chaos.“

„Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem.“

Auch Paknehad betont die Struktur des Programms, die besonders am Anfang geholfen hat. Seitens StartUp Burgenland hat man diese zuletzt übrigens noch stärker individualisiert. Seit diesem Jahr gibt es keinen Batch-Betrieb und keinen fixen Zeitrahmen mehr, dafür zu 100 Prozent individuelle Begleitung. „Dein Fahrplan, dein Tempo“, fasst Michael Sedlak zusammen. Und er verrät das Erfolgsrezept des Programms: „Du brauchst kein Silicon Valley. Du brauchst ein funktionierendes Ökosystem. Und das gibt es im Burgenland.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln