27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten „GPT-4o“ ist die KI „Jarvis“ aus dem Film „Iron Man“ mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf „reine Software“, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
06.10.2026

Toto Wolff: „Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden“

Interview: Toto Wolff hat mit dem Mercedes-AMG-Petronas-Formula-One-Team eine lange Phase großer Erfolge verantwortet, danach vier Saisonen ohne Titelkampf erlebt und das Team in dieser Zeit umgebaut. Im Interview spricht er über psychologische Sicherheit als Voraussetzung für Fehlerkultur, über Entscheidungen unter Unsicherheit, über die Grenzen von KI im Rennsport – und über seine Beteiligungen an Nuki und Instahelp.
/artikel/toto-wolff-niemand-wird-bei-der-fehlersuche-die-hand-heben-wenn-er-angst-hat-gefeuert-zu-werden
06.10.2026

Toto Wolff: „Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden“

Interview: Toto Wolff hat mit dem Mercedes-AMG-Petronas-Formula-One-Team eine lange Phase großer Erfolge verantwortet, danach vier Saisonen ohne Titelkampf erlebt und das Team in dieser Zeit umgebaut. Im Interview spricht er über psychologische Sicherheit als Voraussetzung für Fehlerkultur, über Entscheidungen unter Unsicherheit, über die Grenzen von KI im Rennsport – und über seine Beteiligungen an Nuki und Instahelp.
/artikel/toto-wolff-niemand-wird-bei-der-fehlersuche-die-hand-heben-wenn-er-angst-hat-gefeuert-zu-werden
Toto Wolff
© Sulay Kelly for Mercedes-Benz Grand Prix Ltd. - Toto Wolff.

Dieser Text ist zuerst im brutkasten-Printmagazin von August 2026 „Aufbrechen“ erschienen. Eine Download-Möglichkeit des gesamten Magazins findet sich am Ende dieses Artikels.


brutkasten: Sie haben Mercedes durch eine lange Phase großer Erfolge geführt, dann kamen schwierige Jahre. Was war Ihr wichtigstes Learning darüber, wie Organisationen nach Rückschlägen wieder in die Spur finden?

Toto Wolff: Die Formel 1 ist eine Welt der ständigen Evolution, nichts steht je still. Zum Beispiel haben die Regeländerungen 2022 schonungslos Schwächen in unseren Entwicklungsfähigkeiten und unserem Verständnis offenbart. Wir haben diese Ära klar hinter unseren Wettbewerbern gestartet und es über vier Saisonen hinweg nicht wirklich geschafft, diese Defizite auszubügeln.

Der eine oder andere Rennsieg waren die Highlights, wir haben es geschafft, zweimal in vier Jahren den zweiten Platz in der Konstrukteursmeisterschaft zu erringen; aber wir haben nie um den Titel gekämpft. Wir haben im Hintergrund größere Änderungen in unserer technischen Ausstattung, beim Personal und den Strukturen vorgenommen, um das Team stärker und wettbewerbsfähiger zu machen. Wir haben auch die Führungskultur adaptiert, weil wir das Team motivieren mussten, das begann, sich nach so vielen Jahren des Erfolgs selbst infrage zu stellen. Es war jedenfalls eine wichtige und wertvolle Phase für uns.

Sie sprechen in diesem Sinne wiederholt von einer „No Blame Culture“. Wie baut man eine Kultur auf, in der Fehler nicht versteckt oder angeprangert, sondern als Lernchance genutzt werden?

Es geht hier fast ausschließlich um psychologische Sicherheit. Niemand wird bei der Fehlersuche die Hand heben, wenn er Angst hat, gefeuert zu werden. Wir müssen aber zu unseren Fehlern stehen können. Und das fängt bei den Führungskräften an. Nur so können auch andere zu ihren Fehlern stehen. Eine „No Blame Culture“ funktioniert jedoch nur im Zusammenspiel mit einem hohen Verantwortungsbewusstsein. Man braucht Teammitglieder, die Verantwortung übernehmen, auch wenn es um Fehler geht.

In der Formel 1 hat jeder Fahrer eigene Ingenieure und Mechaniker. Wie verhindert man, dass interne Konkurrenz gegen die gemeinsame Strategie arbeitet?

Das ganze Team hat das gleiche Ziel: Die Meisterschaft für Mercedes zu gewinnen. Nicht mit dem einen oder anderen Fahrer, sondern für die Marke und das Team. Alle Mitarbeiter sind gleich incentiviert: Ausschlaggebend ist der Gewinn der Konstrukteursmeisterschaft, nicht der Fahrerwertung. Das ist die Grundlage unserer Entscheidungsfindung. Auch die Ingenieure und Mechaniker, die einem der Fahrer zugeteilt sind, arbeiten zuallererst für das Team. Beide Seiten der Garage machen jeden Boxenstopp gemeinsam. Alle technischen Daten werden zwischen den Ingenieuren der Fahrer geteilt, damit wir so wettbewerbsfähig wie möglich sein können. Das Motto ist klar: Das beste Team gewinnt, der beste Fahrer gewinnt; und zwar in dieser Reihenfolge.

Viele Gründerinnen und Gründer kämpfen damit, schnell zu wachsen und dabei die Kultur zu bewahren. Lassen sich Prinzipien aus der Formel 1 auf Startups und Scaleups übertragen?

Wir haben seit dem Cost Cap 2021 starkes Wachstum in der Formel 1 gesehen. Wir mussten uns überlegen, ob wir die Geschäftsfelder erweitern wollen, wie wir es etwa mit unserem Engagement im America’s Cup beim Segeln gemacht haben. Der Headcount ist gewachsen, vor allem in den Support-Bereichen außerhalb der technischen und operationellen Hauptbereiche. Aber dann haben wir uns wieder auf unser Kerngeschäft fokussiert, mit einem klaren Ziel: die Formel-1-Weltmeisterschaft zu gewinnen. Und bei jedem neuen Projekt stellen wir uns die Frage: Bringt uns das Projekt diesem Ziel näher, hilft es uns, Rennen und Meisterschaften zu gewinnen?

Wenn die Antwort Ja ist, dann investieren wir in das Projekt; wenn nicht, dann nicht. Ich denke, es geht vor allem darum, das Hauptziel nicht aus den Augen zu verlieren, da mit dem Unternehmenswachstum viele Elemente komplexer werden. Wenn man in einem so kompetitiven Umfeld wie der Formel 1 tätig ist, dann ist das Hauptziel relativ klar. Aber jedes Startup muss sich ein Ziel geben können und dann genau wie wir darauf fokussieren.

Wie treffen Sie strategische Entscheidungen, wenn nicht alle Informationen vorliegen? Gibt es ein Erfolgsgehmeinis?

Mein Freund und Geschäftspartner Niki Lauda hat immer auf die rasche Entscheidungsfindung gepocht – es ist besser, eine mangelhafte Entscheidung jetzt zu treffen, als darauf zu warten, alle Informationen zusammengetragen zu haben, wenn es dann zu spät ist. Man kann Entwicklungen immer noch korrigieren, wenn eine Entscheidung nicht ganz richtig war. Persönlich versuche ich die Upside und Downside bei den großen Entscheidungen zu erkennen: Wenn ich mit der Downside, dem Worst Case, leben kann, dann gibt es keinen Grund, vor der Entscheidung zurückzuschrecken.

Welche Leadership-Lektion hätten Sie gerne früher gelernt?

Meine wichtigste Erfahrung ist wohl, in Konfliktsituationen neugierig zu bleiben, zu versuchen, die Perspektive der anderen Seite zu verstehen, und auch manchmal zu akzeptieren, dass man nicht einer Meinung ist oder unterschiedliche Interessen hat; ein „agree to disagree“ als Ergebnis zu akzeptieren. Bei Leadership geht es ja vor allem darum, andere Menschen zu verstehen, sich auf eine gemeinsame Linie zu einigen, sie mit etwas zu incentivieren, das für sie auch wirklich relevant ist. Nur wer motiviert ist und sich wohlfühlt, kann 100 Prozent geben. Ziele klar formulieren, Mitarbeitern Verantwortung übertragen, ihnen dabei helfen, Herausforderungen zu meistern, und Ergebnisse offen analysieren – das ist meine Arbeitsweise.

Gibt es Ihrer Ansicht nach die eine Eigenschaft, die erfolgreiche Unternehmerinnen und Unternehmer brauchen? Und welche Fähigkeiten werden durch den zunehmenden Einsatz von KI wichtiger?

Das eigene Geschäft verstehen und die Leute kennen und verstehen, mit denen man arbeitet. Ein großes Ziel verfolgen und das Auge fürs Detail, das Gleichgewicht in allen relevanten Bereichen nicht verlieren. KI wird viel in unserer Welt verändern. Aber sie wird hoffentlich vor allem ein Instrument sein, das den Menschen dabei helfen wird, bessere Entscheidungen zu treffen. Die fähigsten Leute werden das Beste aus AI herausholen, die Stärken nutzen und sich von den Gefahren und Schwächen nicht beeinträchtigen lassen. Wir stehen sicher am Anfang einer rasanten Entwicklung, deren Ergebnis kaum vorhersehbar ist.

Und im Rennsport selbst: Kann KI helfen, die Ideallinie, die optimalen Bremspunkte oder das perfekte Setup zu entschlüsseln?

Wo die richtigen Bremspunkte sind, sollten wir eigentlich schon wissen; auch, dass, wenn es regnet, ein Reifen ohne Profil nicht so toll funktioniert. Aber im Ernst: Wir müssen AI zur Entscheidungsfindung einsetzen, wo hochkomplexe Datenmodelle es verlangen. Aber AI wird in keinem Bereich eigenständig entscheiden. Sie wird immer eine Unterstützung für unsere Ingenieure bleiben; zumindest in absehbarer Zeit.

Welche Innovationen aus dem Motorsport könnten in den kommenden Jahren für andere Industrien relevant werden?

Es gibt in der Geschichte viele Beispiele für Technologietransfer, und das geht auch heute weiter. Wir als Industrie lernen gerade viel über Batteriesysteme, über Steuerungselektronik und elektrische Motoren, aber auch über nachhaltige Treibstoffe und innovative Composite-Materialien; alles wichtige Entwicklungsbereiche für die Automobil- und Transportindustrie.

Es gibt aber auch ganz andere Bereiche, die mit dem Fahrzeug an sich nichts zu tun haben. So haben wir etwa vor ein paar Jahren Pionierarbeit beim Einsatz von 5G-Technologie an der Rennstrecke geleistet. Die Formel 1 ist in ihrer Grundcharakteristik interessant für Entwicklungen unterschiedlicher Technologien, weil sie ein sehr kompetitives Umfeld mit einer enorm hohen Entwicklungsgeschwindigkeit bietet. Das ist für Innovation und Entwicklung wertvoll.

Sie sind ja an mehreren Unternehmen beteiligt. Was sind Ihre Kriterien dabei?

Nuki und Instahelp sind ja nicht mehr Startups im eigentlichen Sinn, beide sind profitabel. Nuki macht über 50 Millionen Euro Umsatz und ist Marktführer in Europa; Instahelp hat seit zwei Jahren einen zweistelligen Millionenumsatz und verdient Geld. Unsere Kriterien waren damals, als wir die beiden Firmen mit unseren Partnern in der Up to Eleven, den Brüdern Martin und Jürgen Pansy und René Berger, gegründet haben, dass wir unsere bestehende Kompetenz bei mobiler Kommunikation, die wir mit sms.at und ucp über Jahre aufgebaut hatten, für innovative Geschäftsmodelle einsetzen wollen.

Dass wir direkt in Startups investiert haben, die wir nicht selbst gegründet haben, ist ja schon lang her; das war zu Zeiten von Marchfifteen beziehungsweise ganz vereinzelt vor über 15 Jahren. Das wichtigste Kriterium war jedenfalls immer, dass die Gründer gute Leute waren, denen man vertrauen kann. Einer davon war übrigens Oliver Holle. Auch heute vertrauen wir ihm, und zwar indem wir bei Speedinvest und damit auch weiterhin indirekt in Startups investieren.

Abschließend: Wie sieht bei Ihnen eigentlich ein Sonntag aus, an dem kein Rennen stattfindet?

Meistens bin ich in Italien, an einer Kartstrecke. Da sind Susie und ich dann die größten Fans unseres jungen Sohns. Der Apfel ist nicht weit vom Stamm gefallen.


Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln