27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten „GPT-4o“ ist die KI „Jarvis“ aus dem Film „Iron Man“ mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf „reine Software“, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
27.07.2026

Haben wir uns kaputt studiert?

Gastkommentar. Warum Amerikas Tech-Riesen plötzlich die Lehrlingsausbildung kopieren, während Europa im akademischen Leerlauf versinkt, erklärt Mario Derntl, Ausbildungsexperte und CEO von Talents&Company, in einem Gastkommentar.
/artikel/haben-wir-uns-kaputt-studiert
27.07.2026

Haben wir uns kaputt studiert?

Gastkommentar. Warum Amerikas Tech-Riesen plötzlich die Lehrlingsausbildung kopieren, während Europa im akademischen Leerlauf versinkt, erklärt Mario Derntl, Ausbildungsexperte und CEO von Talents&Company, in einem Gastkommentar.
/artikel/haben-wir-uns-kaputt-studiert
Mario Derntl, Ausbildungsexperte und CEO Talents&Company © Athenas

Es war ein seltener Moment der Unverblümtheit, als mich Lukas Zitz, der stellvertretende österreichische Wirtschaftsdelegierte in New York, vor einigen Monaten kontaktierte: „Mario, we have to talk.“ Seine Botschaft aus dem Epizentrum der globalen Wirtschaft: In den USA geht gerade richtig die Post ab, und zwar bei einem Thema, das man dort bis vor kurzem kaum buchstabieren konnte: Apprenticeships. Der klassischen, praxisnahen Berufsausbildung nach europäischem Vorbild.

Während wir in Österreich und Europa seit Jahrzehnten ein Narrativ pflegen, das möglichst jeden Jugendlichen in die Hörsäle der Universitäten treibt, vollzieht die größte Wirtschaftsmacht der Welt eine radikale Kehrtwende. Im April 2025 unterzeichnete US-Präsident Trump eine weitreichende Executive Order mit dem vielsagenden Titel „Preparing Americans for High-Paying Skilled Trade Jobs of the Future“. Das Ziel ist brutal ambitioniert: Die Zahl der registrierten Lehrlinge soll auf eine Million hochgeschraubt werden. Angetrieben von einer Reindustrialisierungsstrategie, die Fabriken aus Asien zurückholt, und getragen von den größten Playern der Tech- und Finanzwelt. Weniger „College for All“, heißt das neue Motto in Washington.

Der Irrtum der akademischen Elite

Wir haben uns in Europa schlichtweg kaputt studiert. Wir haben Generationen eingeredet, dass Wohlstand und gesellschaftlicher Status nur über einen akademischen Titel führen. Das Ergebnis? Ein dramatischer Überschuss an Absolventen in Fächern, die der Markt in dieser Dichte schlicht nicht braucht, während uns an allen Ecken und Enden die Praktiker fehlen.

Die Quittung liefert der heimische Arbeitsmarkt unmissverständlich. Auswertungen der Agenda Austria auf Basis von AMS-Daten zeigen: Die Arbeitslosigkeit unter Akademikern steigt zuletzt deutlich an, während Menschen mit einer klassischen Lehrausbildung zu den krisenfestesten Gruppen auf dem Arbeitsmarkt zählen. Mehr noch: Das alte Vorurteil, dass sich nur ein Studium finanziell lohnt, gerät zunehmend ins Wanken. In Deutschland etwa verdienen Beschäftigte mit Meister-, Techniker- oder Fachschulabschluss laut Statistischem Bundesamt (Verdiensterhebung, April 2025) im Schnitt 5.405 Euro brutto im Monat und damit mehr als Bachelor-Absolventen mit 5.289 Euro.

Gleichzeitig offenbart eine großangelegte Unternehmensbefragung des Instituts für Bildungsforschung der Wirtschaft (ibw) aus dem Jahr 2023 das ganze Dilemma unserer Wirtschaft: Satte 60,9 Prozent aller Betriebe klagen über massive Schwierigkeiten, Stellen mit Lehrabschluss zu besetzen. Universitätsabsolventen werden dagegen nur noch von mageren 8,1 Prozent der Unternehmen dringend gesucht. Wir bilden am Bedarf vorbei. Dabei ist die Lehre die beste Medizin gegen soziale Krisen: Daten des ibw („Lehrlingsausbildung im Überblick“, 2023) belegen, dass jene Bundesländer mit einer hohen Lehranfängerquote wie Oberösterreich, Salzburg oder Tirol die niedrigste Jugendarbeitslosigkeit aufweisen, während das akademisierte Wien mit fast 12 Prozent Jugendarbeitslosigkeit das Schlusslicht bildet.

Die USA bauen die „neue Elite“ mit unserem Modell

Ein Blick nach Übersee zeigt, wie blind Europa für die eigenen Stärken geworden ist. Bei einer Delegationsreise von Advantage Austria durch Chicago und Atlanta konnte ich mit österreichischen Vorzeigebetrieben wie Palfinger, KNAPP, Inteco oder STIWA sprechen, die vor Ort produzieren. Sie alle stehen vor derselben Herkulesaufgabe: Workforce Development.

Doch die Dynamik in den USA hat sich komplett verändert. Für den aktuellen KI-Boom, für den Bau und Betrieb gigantischer Rechenzentren und hochautomatisierter Logistikzentren braucht es keine Menschen, die auf niedrigstem Niveau stupide Handgriffe wiederholen. Und es braucht dafür überraschenderweise auch keine Master-Absolventen, die komplexe Systeme nur aus dem Lehrbuch kennen. Für moderne Wartung (Maintenance), Automation und Mechatronik braucht es Fachkräfte, die in der Lage sind, hochkomplexe, reale Probleme direkt an der Maschine zu lösen. Köpfe, die mit den Händen denken.

Bisher hinken die USA beim Fachpersonal im internationalen Vergleich zwar hinterher: rund 700.000 Apprentices auf 340 Millionen Einwohner, verglichen mit 1,2 Millionen Azubis im deutlich kleineren Deutschland. Genau dieser Unterschied erklärt, warum amerikanische Unternehmen derzeit so intensiv nach Vorbildern aus Österreich, Deutschland oder der Schweiz suchen. Das Problem für uns: Die Amerikaner holen im Eiltempo auf. Seit Beginn der aktuellen US-Administration wurden laut US-Arbeitsministerium bereits über 386.000 neue Apprentices registriert. Das entspricht einem gewaltigen Zwischenspurt.

Ein Weckruf für Europa: Es ist eins vor zwölf

Österreich hat rund 100.000 Lehrlinge, ein historisches Pfund, um das uns die Amerikaner beneiden. Doch während die USA die bürokratischen Hürden für Betriebe radikal abbauen, Qualifikationen wie Micro-Credentials anerkennen und das System mit Milliarden professionalisieren, verwalten wir in Europa den Mangel und klammern uns an den kollektiven Titel-Wahn.

Wir müssen aufhören, die Lehrlingsausbildung als gesellschaftliche „Notlösung“ abzutun. Es ist für Europa nicht mehr fünf vor zwölf, es ist eins vor zwölf. Während wir uns in endlosen Debatten über Vier-Tage-Wochen und akademische Befindlichkeiten verlieren, zieht die größte Wirtschaftsmacht der Welt mit unserem eigenen Modell im Sprint an uns vorbei.

Wo bleibt unser großer Aufbruch? Wo bleibt das laute, stolze Begehren für das Handwerk? Wir müssen uns in Europa endlich zusammenreißen, den akademischen Hochmut ablegen und die Macher wieder zu den echten Helden unserer Wirtschaft machen. Wenn wir das System jetzt nicht radikal modernisieren und aufwerten, stehen wir bald mit einer Million theoretischer Master-Arbeiten da, aber ohne eine einzige Hand, die die Welt von morgen überhaupt noch bauen oder warten kann.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln