27.05.2024
GASTBEITRAG

KI im Unternehmen: Die wichtigsten vier EU-Regeln

Alexandra Ciarnau, Rechtsanwältin im IT-, IP- und Datenschutzrecht sowie Co-Head der Digital Industries Group bei Dorda und Axel Anderl, Managing Partner, Leiter des IT/IP- und Datenschutzteams sowie der Digital Industries Group bei Dorda haben für Unternehmen die wichtigsten Regeln aus dem EU-AI-Act herausgearbeitet.
/artikel/ki-im-unternehmen-die-wichtigsten-vier-eu-regeln
KI, KI Regeln, EU-Act, EU-KI-Act, Künstlichen Intelligenz, KI für Unternehmen, KI-Regeln für Unternehmen
(c) Dorda - Alexandra Ciarnau und Axel Anderl von Dorda.

Mit dem neuen sprechenden KI-Assistenten “GPT-4o” ist die KI “Jarvis” aus dem Film “Iron Man” mit Robert Downey Jr. quasi in der Realität angekommen. Die österreichischen Unternehmen sind aber noch nicht so weit. Die meisten von ihnen befinden sich derzeit in der Konzeptionsphase ihrer KI-Projekte. Dabei müssen sie diese vier wichtigsten Regeln vom EU-AI-Act beachten:

Unternehmen müssen bereits bei der Konzeption, der Entwicklung und dem Testen von KI-Systemen Legal Compliance beachten und nicht erst bei der Markteinführung. Künstliche Intelligenz muss nicht nur die rechtlichen Rahmenbedingungen erfüllen, sondern technisch dokumentiert sowie nachvollziehbar sein und menschlich kontrolliert werden.

Kenne Deine KI-Risikostufe

Nachdem das grobe Konzept vorliegt, ist die Risikostufe zu hinterfragen. Denn der Kernpunkt des AI-Act ist die Einteilung von KI-Anwendungen in vier Risikoklassen:

  • Verbotene AI-Systeme, die in der EU nicht genutzt werden dürfen. Das umfasst beispielsweise Emotionserkennung am Arbeitsplatz, die Analyse von Video-Calls von Mitarbeiter:innen in Callcentern anhand von biometrischen Daten, um deren Gefühlszustände während der Interaktion mit Kund:innen zu analysieren.
  • Hochrisiko-KI, die nur unter Einhaltung strenger Auflagen betrieben werden darf. Dazu zählen selbstfahrende Autos, medizinische Anwendungen oder die biometrische Identifizierung, aber auch automatisierte Kreditvergabe außerhalb der Finanzbetrugserkennung.
  • General Purpose AI und viertens bestimmte KI-Systeme, die primär Transparenzvorgaben genügen müssen. Sie werden aktuell primär zur Interaktion mit Personen eingesetzt.

Du als KI-Betreiber trägst die größte Last

Angenommen, ein Unternehmen hat die Konzeptionsphase abgeschlossen. Es verfügt nun über eine selbst programmierte oder zugekaufte KI, die beispielsweise mit wenigen Worten Musik komponieren kann. Die Begeisterung ist groß – das Produkt wird released. Doch wenig später flattert überraschend ein Abmahnschreiben oder gar eine Klage ins Haus. Die Künstliche Intelligenzhat nichts selbst komponiert, sondern glatt Texte und Lieder anderer Musiker kopiert. Wer ist nun für die Urheberrechtsverletzung verantwortlich? Der Programmierer oder Provider hat zwar das Tool bereitgestellt, die Urheberrechtsverletzung wurde jedoch vom Betreiber getriggert. Er haftet dafür verschuldensunabhängig. Dass er nichts davon wusste, schließt seine Verantwortung nicht aus. Da KI vielfach noch eine Blackbox ist – insbesondere für einen Käufer – sollte sich jedes Unternehmen in der IT-Beschaffung absichern, um sich beim Hersteller bzw. Händler zu regressieren. IT-Vertragsgestaltung ist das Um und Auf, um das Risiko allfälliger Verletzungen einer anderen Sphäre zuzuordnen.

Deine Künstliche Intelligenz schert aus: Zähme sie, achte auf Betriebsgeheimnisse und vermeide Schäden

Wenn die Künstliche Intelligenz einen Schritt weitergeht und Schäden verursacht, dann wird es ernst(er). KI-Roboter, die bei der Ausübung der Tätigkeiten Menschen verletzen oder Algorithmen, die finanzielle Schäden verursachen – die möglichen Szenarien sind vielseitig. Das Unternehmen wird nun in die Pflicht genommen. Aber wie kann ein Kläger überhaupt nachweisen, dass Künstliche Intelligenz den Schaden verursacht hat, hat er doch meist keinen Einblick in das KI-System? Das soll sich zukünftig ändern.

Hersteller, Importeure, Händler und Anbieter bzw. Betreiber sollen künftig in Schadenersatzprozessen unter bestimmten Voraussetzungen verpflichtet sein, Nachweise über ihre Künstliche Intelligenz offenzulegen. Das sehen die geplante KI-Haftungsrichtlinie und die Produkthaftungsnovelle vor.

Zudem wird die Produkthaftung durch die Erweiterung des Produktbegriffs auf “reine Software”, zu der auch KI zählt, ausgeweitet. Dies erhöht die Haftungsrisiken beim Einsatz von Künstlicher Intelligenz. Hinzu kommen die Risiken aus anderen Regulierungen, die beim Einsatz von KI eine Rolle spielen. Diese reichen von Geldbußen nach der Datenschutzgrundverordnung bis hin zu Ansprüchen bei Urheberrechtsverletzungen.

Deine ungelesenen Artikel:
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
20.09.2024

Callcenter vor dem Aus? – Wie Salesforce mit KI die Kundeninteraktion neu definieren möchte

Interview. Mit Agentforce möchte Salesforce eine neue Ära in der Kundeninteraktion einläuten. brutkasten hat auf der Dreamforce-Konferenz in San Francisco mit David Hable, Salesforce-Co-Country Leader in Österreich, über die neuen Einsatzmöglichkeiten der Technologie und deren Auswirkungen auf die Arbeitswelt gesprochen.
/artikel/salesforce-dreamforce-interview-david-hable
David Hable, Salesforce Co-Country Leader für Österreich | (c) Martin Pacher

Auf der Dreamforce-Konferenz in San Francisco dreht sich dieses Jahr alles um die neue Plattform Agentforce. Salesforce-Gründer Marc Benioff stellte in seiner Keynote am Dienstag die dahinterliegende Technologie und konkrete Use Cases vor, die die “dritte Welle der KI” einläuten soll. Agentforce ermöglicht es Unternehmen, die Kundeninteraktion durch autonome digitale Agents zu automatisieren. Sie sollen eine nahezu menschliche Interaktion ermöglichen. (brutkasten berichtete). Doch welche Vorteile bieten die digitalen Agents konkret, und wie werden sie die Kundeninteraktion und Arbeitswelt verändern? Darüber haben wir auf der Dreamforce mit David Hable gesprochen. Er ist Co-Country Leader von Salesforce in Österreich.


brutkasten: Im Zuge der Dreamforce-Konferenz wurde Agentforce vorgestellt. Die Plattform soll eine neue Ära in der Kundeninteraktion einläuten. Welche Vorteile bieten Agents?

David Hable: Wir stehen definitiv vor einer neuen Ära. Agents werden eine Menge leisten können, denn sie haben über unsere Datacloud und die Plattform direkten Zugriff auf die benötigten Informationen im Hintergrund. Sie müssen diese Daten nicht wie ein Mensch erst lesen oder aufwändig durchsuchen, sondern haben diese sofort zur Verfügung. In vielen Fällen können Agents Informationen sogar schneller und präziser bereitstellen, als es ein Mensch tun könnte. Und mittlerweile geschieht das auf eine Art und Weise, die fast menschenähnlich wirkt.

Diese Entwicklung vereint das Beste aus beiden Welten. Chatbots waren schon immer gut darin, digitale Informationen abzufragen, aber die Interaktion wirkte oft etwas unbeholfen. Es waren vorgefertigte Antworten, die sich nie wirklich natürlich anfühlten. Jetzt gelingt es uns, das Beste aus beiden Welten zu verbinden – die Effizienz und Schnelligkeit digitaler Systeme mit einer natürlichen, menschlichen Interaktion.

Welche Use Cases für Agents wird es künftig geben? 

Wir haben im Zuge der Dreamforce verschiedene Bereiche präsentiert: Sales, Service, Handel und Marketing. Unsere Plattform macht es darüber hinaus sehr einfach, neue Agents zu bauen. Im Sales zum Beispiel geht es um die Schulung von Sales-Leuten. Anstatt neue Vertriebsmitarbeiter sofort mit Kunden in Kontakt zu bringen, können sie zunächst einige Male mit unseren digitalen Agenten interagieren. Ein weiteres Beispiel im Vertriebsumfeld ist Cold Calling. Auch hier haben wir Lösungen vorgestellt, bei denen Agenten diese Aufgabe künftig übernehmen können. Hier gibt es verschiedene Anwendungsfälle im Kundenkontakt.

Man muss sich das so vorstellen: Wenn Sie Informationen zu Kunden in Ihren Systemen haben, können wir die Interaktion mit Agenten automatisieren. Und es müssen nicht nur Salesforce-Systeme sein. Mit Datacloud können wir externe Daten in unser System anbinden. Wenn ein Kunde Informationen wie Rechnungen, Lieferzeiten, Preise oder andere datenbasierte Anfragen stellt, können wir diese Interaktionen automatisieren und die gewünschten Informationen effizient über Agentsforce an den Kunden übermitteln.

Mit 45.000 Teilnehmer:innen zählt die Dreamforce zu den größten Veranstaltungen in der Tech-Welt | (c) martin pacher / brutkasten

Welche Auswirkungen wird dies auf die Arbeitswelt haben. Werden Call-Center-Mitarbeiter:innen in Zukunft überflüssig werden?

Ich glaube nicht, dass sie vollständig verschwinden werden. Es wird immer Anwendungsfälle geben, in denen menschliche Interaktion unverzichtbar ist. Unser Fokus liegt darauf, dem Kunden bei der Interaktion zwischen KI und Menschen das bestmögliche Erlebnis zu bieten. Die Technologie ermöglicht den Mitarbeitern, sich auf die wirklich wesentlichen Aufgaben zu konzentrieren, anstatt sich mit administrativen Aufgaben rumschlagen zu müssen. 

Im Zuge der Dreamforce-Konferenz wurde viel von Trustworthy AI gesprochen. Wie wird ein sicherer Umgang mit Daten sichergestellt? 

Wir haben 1999 begonnen und waren der erste echte öffentliche Cloud-Anbieter. Salesforce hat die SaaS-Lösungen quasi erfunden. Vor uns gab es das noch nicht. Doch schon damals, und auch noch vor fünf bis zehn Jahren, herrschte oft eine gewisse Skepsis gegenüber Cloud-Anwendungen. Es gab Ängste, die Kontrolle über die eigenen Daten an andere Anbieter abzugeben. Von Anfang an sind wir dieser Herausforderung damit begegnet, Vertrauen als Grundwert in Salesforce und in der Interaktion mit unseren Kunden zu etablieren.

Dasselbe Prinzip gilt heute im Bereich der KI. Wir beschäftigen uns seit über zehn Jahren mit KI, und all unsere Entwicklungen basieren auf diesem Vertrauensgrundsatz. In der KI sprechen wir von dem sogenannten Trust-Layer. Dieser stellt sicher, dass die Daten, die in der KI verarbeitet werden, nicht unbefugt genutzt werden. Personenbezogene Daten werden verschlüsselt, bevor sie überhaupt in das Large Language Model (LLM) gelangen. 

David Hable auf der Dreamforce | (c) martin pacehr | brutkasten

Durch diese Sicherheitsmaßnahmen können unsere Kunden sicher sein, dass sie vertrauensvoll mit unserer KI arbeiten und dennoch ihre unternehmensspezifischen Daten nutzen können. Denn ohne diese Daten funktioniert es nicht. Ein LLM allein, das nur allgemeine Informationen aus Quellen wie Wikipedia enthält, reicht nicht aus, um wertvolle Kundeninteraktionen zu ermöglichen. Die KI muss die relevanten Kundendaten kennen, um sinnvolle und wertvolle Interaktionen mit Kunden führen zu können.

Marc Benioff hat bereits im Vorfeld der Dreamforce von einem “Hard Pivot” gesprochen, den Salesforce mit dem Schritt zu Agents macht. Wie wirkt sich dieser Kurswechsel auf Salesforce aus?

Ich sehe darin eine klare Weiterentwicklung, nicht unbedingt als Kurswechsel. Wenn man sich die Keynotes von Marc vor einem Jahr ansehen, war dieser Weg bereits erkennbar – es stand schon auf den Folien. Zunächst haben wir mit prädiktiver KI begonnen, dann sind wir zur generativen KI übergegangen, und der nächste Schritt war schon damals die autonome KI. Jetzt befinden wir uns genau an diesem Punkt.

Wie hebt sich Salesforce von Mitbewerbern wie Microsoft ab?

Wenn man sinnvoll mit KI arbeiten möchte, braucht man kontinuierliche Unternehmensinformationen und Prozesse. Genau das können wir mit unserer Plattform sicherstellen. Unsere Plattform ermöglicht den Zugang zu Informationen aus Bereichen wie Sales, Service, Marketing, Handel und vielen weiteren. Dadurch sind wir in der Lage, diese Prozesse effizient zu steuern und optimal auszubalancieren. Das ist es, was uns vom Wettbewerb unterscheidet – wir sind die Einzigen, die diese umfassende Integration von Informationen und Prozessen so bieten können. 

Wie sieht das Pricing des neuen Agentforce-Modells aus? 

Die Preisgestaltung erfolgt grundsätzlich verbrauchsabhängig, also abhängig davon, wie viel man konsumiert. Ein Gespräch mit einem Agenten wird ab zwei US-Dollar kosten.

Wie sieht es mit der Verfügbarkeit von Agentforce in Österreich aus?

Agentforce wird ab Oktober global ausgerollt – darunter auch in Österreich. Zudem werden wir die Technologie auch bei unserem Innovation Day am 12. November in Wien vorstellen. Dort kann man selbst ausprobieren, wie einfach es ist, einen Agenten zu bauen. Man muss dafür kein Programmier oder Techniker sein.


*Disclaimer: Die Reisekosten wurden von Salesforce übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI im Unternehmen: Die wichtigsten vier EU-Regeln