27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten „GPT-4o“ ist die KI „Jarvis“ aus dem Film „Iron Man“ mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf „reine Software“, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
06.10.2026

Founder Institute Austria: Der Sprung vom Accelerator zum Company Builder

Seit Herbst 2024 baut das Founder Institute in Wien ein Chapter auf. Inzwischen versteht es sich nicht mehr als Accelerator, sondern als Company Builder. Wir waren beim Vibecoding-Hackathon in der AI Factory Austria AI:AT und haben mit Stephan Kreiger und Kasia Sadowska über die Bilanz und Ziele gesprochen.
/artikel/founder-institute-austria-reportage
06.10.2026

Founder Institute Austria: Der Sprung vom Accelerator zum Company Builder

Seit Herbst 2024 baut das Founder Institute in Wien ein Chapter auf. Inzwischen versteht es sich nicht mehr als Accelerator, sondern als Company Builder. Wir waren beim Vibecoding-Hackathon in der AI Factory Austria AI:AT und haben mit Stephan Kreiger und Kasia Sadowska über die Bilanz und Ziele gesprochen.
/artikel/founder-institute-austria-reportage
Kasia Sadowska und Stephan Kreiger vom Founder Institute Austria beim Vibecoding-Hackathon in der AI Factory Austria AI:AT. (c) brutkasten

Rund 30 Leute sitzen an einem Abend Ende September vor ihren Laptops und arbeiten konzentriert. Der Schauplatz ist die AI Factory Austria AI:AT im sechsten Stock in der Karl-Farkas-Gasse, von hier blickt man auf eine Skyline, die in den vergangenen Jahren rundherum entstanden ist. Hier findet an diesem Abend der Vibecoding-Hackathon des Founder Institute Austria statt. Das Publikum ist bunt gemischt, nach Alter wie nach Background. Die Jüngsten seien Studierende um die 19 Jahre, sagt Kasia Sadowska, die das Austria-Chapter gemeinsam mit Stephan Kreiger leitet. Daneben sitzen erfahrene Berufstätige. Sie alle haben 60 Minuten Zeit, um aus einer Idee eine funktionierende App zu bauen.

„Wir überzeugen die Leute davon, dass es sehr einfach ist, alles zu bauen, was sie wollen, eine App oder eine Website, indem sie einfach in Worten beschreiben, was sie bauen möchten“, sagt Sadowska. Gebaut wird mit dem KI-Tool Lovable, danach pitchen alle ihr Ergebnis. Laut Eventbeschreibung winkt der besten Idee ein Platz im Bootcamp des Founder Institute.

Für Kreiger, Director des Founder Institute Austria, zeigt dieser Abend, warum sich sein Programm neu erfinden musste. „Klassische Accelerator-Programme funktionieren eigentlich nicht mehr wirklich gut“, sagt er. Bis vor Kurzem war das Founder Institute selbst noch einer. Genau aus diesem Grund hat es sich weiterentwickelt, zu einem Company Builder, wie es sich inzwischen auch offiziell nennt.

Ein erstes Produkt zu bauen, sei für ein Startup „jetzt nicht mehr die große Hürde“, erklärt Kreiger. Teilnehmer:innen kämen heute mit einer Idee ins Programm und hätten nach kurzer Zeit einen Prototyp, ein MVP und oft schon erste zahlende Kund:innen.

Rund 30 Teilnehmer:innen bauten in der AI Factory Austria AI:AT in Wien ihre Prototypen mit dem KI-Tool Lovable. | (c) Founder Institute Austria

Was bleibt, ist Branchenwissen

Was verkauft ein Programm wie das Founder Institute also noch, wenn das Bauen so einfach geworden ist? Kreigers Antwort: Erfahrung. „Man kann relativ viel jetzt an einem Nachmittag bauen. Was aber bleibt, ist wirklich tiefe Expertise in einem gewissen Bereich.“

Deshalb richtet sich das Programm in erster Linie an erfahrene Berufstätige mit zehn bis 15 Jahren im Job. Wer lange in einer Branche gearbeitet und dort immer wieder dieselben Probleme gesehen hat, soll nun selbst die Lösung bauen. Das Programm läuft online und berufsbegleitend.

KI unterstützt dabei in vielen Bereichen, etwa bei Produktentwicklung, Marktrecherche und Businessplan. Für die Pitch-Vorbereitung gibt es ein eigenes KI-Tool: Man wählt, ob man vor Business Angels, VCs oder Freunden und Familie pitcht. Das Tool unterbricht, stellt Zwischenfragen und bewertet am Ende die Idee.

Dazu kommen Mentor:innen, in erster Linie selbst Gründer:innen oder Investor:innen. Kreiger nennt etwa Ferdinand Dietrich, Mitgründer von Storebox, und Annu Gmeiner von xista Science Ventures. Auch Gregor Zehetner gehört dazu. Der Tapkey-Mitgründer baut sein neues Startup Fractionista allein mit Claude Code, laut Founder Institute sind es inzwischen über 70.000 Zeilen Code.

Der Preis: Gebühr, Equity und eine hohe Hürde

Umsonst ist das nicht. Teilnehmer:innen zahlen eine Eintrittsgebühr, laut Founder Institute derzeit 1.149 US-Dollar. Damit werden die laufenden Programmkosten gedeckt. „Wir haben nämlich keinen großen Sponsor im Hintergrund oder eine andere Organisation“, sagt Kreiger. Wer abschließt und tatsächlich gründet, gibt außerdem 2,5 Prozent Equity ab. Daran sind die Direktor:innen und die Mentor:innen beteiligt.

Beim Vibecoding-Hackathon des Founder Institute Austria hatten die Teilnehmer:innen 60 Minuten Zeit, um aus einer Idee eine App zu bauen. (c) brutkasten / Martin Pacher

Eine österreichische Gesellschaft gibt es nicht. Rechtlich ist das Founder Institute im Silicon Valley angesiedelt, Kreiger vergleicht das Modell mit einem Franchise. Abschließen ist dabei keine Formsache: Nach Angaben des Founder Institute schaffen weniger als 40 Prozent der Gründer:innen das Programm.

Auch der Hackathon gehört zu dieser Rechnung. Er ist kostenlos und offen für alle. Vor allem soll er zeigen, wie schnell man heute von der Idee zum MVP kommt. Kreiger sagt aber auch ganz offen, dass er für das Founder Institute ein Marketing- und Recruiting-Event ist.

Die Bilanz nach zwei Jahren

Das Founder Institute gibt es seit 2009, das Austria-Chapter startete im Herbst 2024. Seither hat das Wiener Team 27 Startups gelauncht, das jüngste erst eine Woche vor dem Hackathon. Viele davon kommen allerdings nicht aus Österreich, sondern etwa aus Frankreich, Benelux oder der Schweiz. Denn das Team betreut auch Frankreich und Benelux, wo es kein eigenes Chapter gibt. Das Headquarter habe ihnen diese Länder übertragen, „nachdem wir anscheinend eh einen gut genug Job machen“, so Kreiger.

Fünf der 27 Startups haben laut Kreiger österreichische Gründer:innen, eines davon ist als Delaware C-Corp in den USA gegründet. Sie arbeiten in MedTech, AdTech, EdTech und im Projektmanagement für Softwareentwicklung. Kennt man sie schon? „Nein, die sind noch nicht so groß“, sagt Kreiger. Die ältesten seien eineinhalb Jahre alt.

Auch das Chapter selbst ist nicht der erste Versuch. Laut Kreiger war das Founder Institute rund um 2020 schon einmal in Österreich aktiv, aber nur kurz. Für den Neustart ging das Headquarter auf Sadowska zu, die als Executive in mehreren Tech-Startups gearbeitet hat. Sie holte Kreiger für das operative Geschäft dazu. Er hatte zuvor am i²c der TU Wien sein erstes Startup gebaut. Und warum Wien? Ganz pragmatisch: Beide leben hier.

Die Hürde hat sich verschoben

Für das Ende des Abends rechnet Sadowska mit rund 20 Pitches. Bei der ersten Auflage im Juni in der ÖBB Open Innovation Factory waren es nach 60 Minuten 16. Abgestimmt wird über ein Voting-Tool, das ebenfalls mit Lovable gebaut wurde.

Ob aus den Prototypen des Abends Startups werden, entscheidet sich woanders. Das Founder Institute setzt darauf, dass sich die Hürde verschoben hat: weg vom Bauen, hin zur Frage, ob jemand ein Problem löst, für das Kund:innen zahlen. Ob diese These trägt, müssen die nächsten Batches zeigen.


Info:

Bewerbungsschluss für den Herbst-Batch des Founder Institute Austria ist der 6. Oktober, Programmstart der 21. Oktober. Bewerbung über fi.co/apply/austria.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln