Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
Mit dem neuen sprechenden KI-Assistenten “GPT-4o” ist die KI “Jarvis” aus dem Film “Iron Man” mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:
Legal Compliance: Deine KI beginnt mit dem Design
Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.
Kenne Deine KI-Risikostufe
Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:
Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.
Du als KI-Betreiber trägst die größte Last
Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.
Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden
Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.
Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.
Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf “reine Software”, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.
KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”
Macht Künstliche Intelligenz Unternehmen nur effizienter – oder verändert sie sogar ganze Geschäftsmodelle? In der vierten Folge von „No Hype KI“ diskutieren Ana Simic (Propeller), Nikolaus Marek (IBM), Saskya Lipp (CANCOM Austria) und Mic Hirschbrich (Apollo.ai) über Chancen, Herausforderungen und die Rolle des Menschen in einer KI-getriebenen Zukunft.
KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”
Macht Künstliche Intelligenz Unternehmen nur effizienter – oder verändert sie sogar ganze Geschäftsmodelle? In der vierten Folge von „No Hype KI“ diskutieren Ana Simic (Propeller), Nikolaus Marek (IBM), Saskya Lipp (CANCOM Austria) und Mic Hirschbrich (Apollo.ai) über Chancen, Herausforderungen und die Rolle des Menschen in einer KI-getriebenen Zukunft.
Macht künstliche Intelligenz Unternehmen nur effizienter? Oder ist die Technologie transformativ und verändert auch Geschäftsmodelle? Welche Rolle spielen menschliche Faktoren? Was Antworten auf diese Fragen sind und ob es sich dabei möglicherweise um gar keine Gegensätze handelt, dem geht die vierte Folge von “No Hype KI” nach. Zu Gast waren Ana Simic (Propeller | Gründerin), Nikolaus Marek (IBM | Tech Sales Leader), Saskya Lipp (CANCOM Austria | Portfolio & Product Manager Business Innovation) und Mic Hirschbrich (Apollo.ai | Co-Founder).
Effizienz und Disruption
In der österreichischen Wirtschaft wird KI bis dato oft als Mittel zur Effizienzsteigerung eingesetzt. Doch wie groß ist das Potenzial darüber hinaus, um ganze Geschäftsmodelle zu transformieren? „Das glaube ich jedenfalls“, sagt Mic Hirschbrich, Co-Founder von Apollo.ai. “Ich glaube, dass sich jetzt in den kommenden Jahren die Spreu vom Weizen trennen wird.” Es reiche nicht, beliebig generative Modelle einzusetzen: “Wer glaubt, er kann das ohne Vorarbeit und Sicherheitsmaßnahmen großflächig ausrollen, wird ein böses Erwachen erleben.“
Saskya Lipp, Portfolio & Product Manager Business Innovation bei CANCOM Austria, beobachtet bereits Veränderungen: „Ich finde, man sieht es jetzt schon recht stark, dass sich bestehende Geschäftsmodelle durch Effizienzsteigerungen transformiert haben.” Als Beispiel führt sie die Automatisierung in der Produktion oder die Personalisierung im Customer-Bereich an. Sie geht davon aus, dass neue Geschäftsmodelle entstehen – insbesondere durch Agentic AI. Als Beispiel führt sie Voice-Bot-as-a-Service-Anwendungen an.
Agentic AI bezeichnet KI-Systeme, die nicht nur auf Eingaben reagieren, sondern auch eigenständig Aktionen ausführen und Entscheidungen treffen können. Während klassische Chatbots meist bloß antworten und Informationen bereitstellen, agiert eine Agentic AI eher wie ein digitaler Assistent, der Proaktivität zeigt und Aufgaben eigenverantwortlich übernimmt.
Mehr als nur Chatbots
Für viele Unternehmen bleibt die Frage, ob sie KI bloß als Support-System nutzen oder ihre Prozesse tatsächlich umfassend umkrempeln. Tech Sales Leader Nikolaus Marek von IBM sagt dazu: „Sehr viele Unternehmen beginnen erst einmal mit KI-Projekten zur reinen Effizienzsteigerung, um überhaupt in die Lernphase einzusteigen. Das heißt, sie setzen sich mit der Technologie auseinander, machen erste Schritte, aber sie verwenden sie noch nicht wirklich disruptiv.“
Dennoch können auch Maßnahmen zur Effizienzsteigerung führen. Gerade im Patentmanagement habe IBM ein Projekt mit ABP Patent Network umgesetzt, bei dem KI nicht nur Zeit und Ressourcen spart, sondern ein ganz neues Angebot ermöglicht: “Da haben wir ein Modell mit 160 Millionen verfügbaren Patenten trainiert, um Patentanwälten ein Tool zu geben, um Patente schneller anzumelden” Das würde gleichzeitig disruptiv, sowie effizienzsteigerend sein.
Ana Simic, Gründerin von Propeller, plädiert dafür: “Die KI verändert nicht nur Geschäftsmodelle, sie verändert uns Menschen. KI werde langfristig mehr sein als nur ein weiterer Automatisierungshebel zur Effizienzsteigerung. Simic verweist auf den neuen World Job Report des World Economic Forum, wonach 60 Prozent aller Geschäftsmodelle KI-bedingt verändern werden und sich der globale KI-Markt in den nächsten acht Jahren von derzeit 300 Milliarden Dollar auf drei Billionen Dollar verzehnfachen werde.
Mic Hirschbrich hebt in Bezug auf Effizienz und Disruption hervor, dass KI in der Unternehmensführung nicht zwangsläufig „alles auf den Kopf stellen“ muss. “Wenn ich KI zur Entscheidungsunterstützung in Unternehmen einsetze, möchte ich eine verlässliche Basis schaffen, die Führungskräften bei ihrer Haftung und bei ihrer Entscheidungsqualität hilft.” Hier würde man keine radikale Disruption brauchen, sondern vielmehr eine sichere und nachvollziehbare KI. Zudem müsse man bei Use-Cases bewusst zwischen Assistenz und Substitution unterscheiden.
Agentic AI, Akzeptanz und die Zukunft der Interaktion
Wo KI heute bereits oft ansetzt, sind Chat- und Voicebots. Doch wie hoch ist die Akzeptanz? “Ich glaube, die Kundinnen und Kunden werden sich daran gewöhnen“, sagt Marek. “Wir hatten am Anfang regelbasierte Chatbots, die rasch an ihre Grenzen gestoßen sind. Jetzt erkennen Transformer-Modelle natürliche Sprache deutlich besser, was die Akzeptanz steigert.“ Entscheidend sei, wie Unternehmen damit umgehen: “Show me, tell me and do it for me. Das heißt, mir die richtige Information zu liefern, mir meinen nächsten Schritt zu erklären und im Idealfall auch gleich in den Systemen dafür zu sorgen, dass er ausgeführt wird.”
Für Saskya Lipp liegt der nächste Schritt schon in Reichweite: “Agentic AI heißt, dass sich Prozesse automatisieren.” Unter anderem führt sie autonome Produkte ins Spiel, wie eine Heizung, die selbst entscheidet, ob sie sich höher oder niedriger einstellt. Im Bereich von Agentic AI wird man künftig auch vermehrt neue Ertragsmodelle sehen.
Von großen und kleinen Modellen: Was tun mit Daten?
Die Entwicklung der Basistechnologien stellt Unternehmen vor die Wahl, große vortrainierte Modelle zu nutzen oder eigene KI-Modelle zu bauen. Bei IBM verfolgt man den Ansatz, verschiedene Modelle auf einer Plattform bereitzustellen. Dazu gehöre auch, die nötige Governance zu bedenken, damit Verantwortliche bei gesetzlichen Vorgaben und Haftungsfragen sicher seien. “Gerade in regulierten Branchen wie dem Finanzwesen ist das essenziell. Wer sein Geschäftsmodell auf KI stützt, muss sichergehen, dass Datenbasis und Governance passen.” Auch CANCOM Austria berät dazu, ergänzt Lipp. “Bei KMU sehen wir, dass es effizienter ist, auf vorhandene Modelle aufzusetzen und dann ein Fine-Tuning zu machen.”
Regulatorik als Stolperstein – oder als Chance?
Regulierung kann Innovation hemmen, wie Hirschbrich aus eigener Erfahrung weiß. “Wir haben damals versucht, ein Produkt im Medienbereich aufzubauen, sind aber an europäischen Datenschutzvorgaben gescheitert, während in den USA ganz andere Freiheiten herrschen. Da sehe ich die Gefahr, dass internationale Player den Markt überschwemmen und europäische Anbieter gar nicht zum Zug kommen.”
Allerdings, so Nikolaus Marek von IBM, sei Governance und Compliance im Geschäftsbereich unabdingbar. Er betonte, dass man Regulatorik entweder als Hürde betrachten oder KI nutzen könne, um diese Hürde zu überwinden. Governance-Tools ermöglichten es dabei, nachvollziehbar zu machen, welche Daten auf welche Weise verwendet worden seien. Dies sei unverzichtbar, wenn ein Geschäftsmodell auf KI aufgebaut werde. IBM verfolgt im Bereich Governance einen ganzheitlichen Ansatz, der die gesamte KI-Wertschöpfungskette abdeckt – von der Datenaufbereitung über das Training bis zum laufenden Monitoring der Modelle. Dabei setzt IBM auf watsonx.governance, um die fortlaufend zu prüfen, ob ein Modell Abweichungen, Halluzinationen oder Biases aufweist.
Simic will sich weder vom Thema Regulierung noch von anderen Fragen bremsen lassen: “In Europa ist jetzt schon vieles möglich. Wir nutzen nur einen Bruchteil dessen, was schon möglich ist”. Es gilt jetzt für Unternehmen herauszufinden, welche Use-Case möglich sind. Wichtig sei dabei jedoch die menschliche Komponente nicht zu unterschätzen.
Wohin führt die Reise in den nächsten zwölf Monaten?
Am Ende des Talks richteten die Expert:innen ihren Blick auf die Entwicklungen der nächsten zwölf Monate, um zu diskutieren, welche konkreten Auswirkungen die rasant fortschreitende KI auf künftige Geschäftsmodelle haben könnte.
“Die Entwicklung ist rasant“, sagt Hirschbrich. „Ich glaube, dass wir uns weiter entfernen von einzelnen Modellen, die alles machen, und mehr zu einem Mix an KI-Tools kommen.“ Zudem werden die Grenzkosten für Sprachmodelle weiter sinken. Lipp rechnet damit, dass Agentic AI schon bald stärker Fuß fassen wird.
Marek erwartet eine Kombination aus Mut und Vorbereitung und gibt Unternehmen mit auf den Weg: “Bringt eure Daten in Ordnung”. Und auch Ana Simic meint: „Softwareentwicklung und Marketing waren die ersten Bereiche, in denen KI schon große Fortschritte gemacht hat.” In einer nächsten Phase erwartet die Expertin Fortschritte im Gesundheitsbereich bei R&D-Aktivitäten. Auch für die heimische Industrie sieht sie große Chancen.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
