25.09.2023

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

Interview. Wie wird künstliche Intelligenz die Finanzbranche verändern? Was hat die Raiffeisen Bank International (RBI) in diesem Bereich geplant und wie unterscheidet die Bank bei neuen Technologien zwischen Hype und Substanz? Diese und noch weitere Fragen beantwortet Christian Wolf, Head of Strategic Partnerships & Ecosystems, im brutkasten-Gespräch.
/artikel/rbi-100-ki-use-cases
Christian Wolf: Warum Open API, Blockchain und Elevator Lab für die RBI zusammen gehören
(c) RBI: Christian Wolf, Head of Strategic Partnerships & Ecosystems
sponsored

Die Veröffentlichung von ChatGPT im vergangenen November hat die starken technologischen Fortschritte bei künstlicher Intelligenz (KI) schlagartig ins Bewusstsein der Öffentlichkeit geholt. Und auch für viele Unternehmen stellten sich rasch Fragen: Welche Folgen wird KI für die eigene Branche und möglicherweise auch das eigene Geschäftsmodell haben? Auch in der Finanzbranche gibt es Fragestellungen wie diese.

Die Raiffeisen Bank International (RBI) beschäftigt sich seit vielen Jahren systematisch mit technologischen Innovationen – beispielsweise mit Blockchain, aber eben auch mit künstlicher Intelligenz. Christian Wolf ist Head of Strategic Partnerships & Ecosystems bei der RBI. Wir haben mit ihm über die Auswirkungen von KI auf die Finanzbranche gesprochen.


brutkasten: Seit dem Erscheinen von ChatGPT erleben wir eine neuerliche KI-Euphorie. Wie lange beschäftigt sich die RBI schon mit dem Thema?

Christian Wolf: Das Thema KI ist an und für sich nichts Neues. Es begleitet uns in unterschiedlichen Ausprägungen sicherlich schon eine Dekade. Die Technologie hat sich inkrementell entwickelt, ihr wurde vor allem durch den Launch von ChatGTP nun zu großer Sichtbarkeit und einer exponentiellen Adoption verholfen. 

Wir hatten KI-Ansätze zu unterschiedlichen Zwecken bereits länger im Einsatz, zum Beispiel im sichtbarsten Element von Chatbots, die die Interaktion mit Kunden teilweise automatisieren. Anhand von Chatbots kann man auch schön die Entwicklung von KI beschreiben, von Rule-based Chatbots, die zwar eine hinterlegte Logik hatten, die ich aber noch nicht zur KI zählen würde, bis hin zu Chatbots, die sich der Large Language Models (LLMs) bedienen und dadurch  mehr Autonomie zeigen.

Es gibt aber gerade für Banken generell sehr viele Anwendungsfälle von KI, die für den Standard-User vielleicht gar nicht so ersichtlich sind und die hinter den Kulissen laufen. KI bedient wichtige Anwendungsfälle quer durch die Bank: vom Daten- und Wissensmanagement, der Risikomodellierung bis hin zur Softwareentwicklung und auch Cybersecurity sind gute Anwendungsfälle bekannt und beschrieben.

KI hat auch grossen Einfluss auf Automatisierungen und somit Effizienzsteigerungen, wo ich persönlich auch nach wie vor das größte Potenzial sehe – beispielsweise wenn es darum geht, Prozesse zu automatisieren oder große Datenmengen zu verarbeiten und strukturieren und daraus Empfehlungen abzuleiten.

Was hat ChatGPT deiner Meinung nach verändert?

Ich glaube, der große Verdienst von ChatGPT ist, dass man einen demokratischen Zugang zur Technologie geschaffen hat. Bis ChatGPT ist das Thema sehr technisch diskutiert und implementiert worden. ChatGPT hat gezeigt, dass es jetzt nicht mehr zwangsläufig notwendig ist, Techniker:in, Programmierer:in oder Informatiker:in zu sein um ein KI-Modell zu bedienen.

Man kann KI nun auch als gewöhnliche:r User:in bedienen – ohne die Technologie dahinter unbedingt verstehen zu müssen. Man kann mit ihr in sehr natürlicher Sprache kommunizieren und bekommt auch ebensolche Antworten – die Einstiegshürden sind damit so niedrig geworden, dass auch die breite Masse von Anwendern davon profitieren kann.

Wenn eine neue Technologie auftaucht oder eine bestehende Technologie starke Sprünge macht – wie evaluiert ihr in der RBI, ob das strategisch für euch eine Bedeutung hat oder nicht?

Wir gehen da agnostisch vor und machen es mit jeder Technologie so: Wir beginnen sehr frühphasig – beispielsweise beim Thema Blockchain, das ein Disruptionsversprechen in sich trägt. Bei KI wiederum hat es den Trigger-Point ChatGPT gegeben, an dem wir gesagt haben, dass wir uns das noch einmal ansehen müssen.

Aber wir durchlaufen immer denselben Prozess. Auf der einen Seite unterscheiden wir sehr bewusst zwischen Hype und Trend. Ein Hype hat großes Aufmerksamkeitspotenzial, das eventuell auch berechtigt ist, wird aber vermutlich im nächsten halben Jahr oder Jahr wieder verschwinden oder abebben. Der Trend erweist sich dagegen als nachhaltiger.

Wie ist dann euer Prozess, wenn ihr einen Trend identifiziert habt?

Bei Trends schauen wir grundsätzlich, wie die Entwicklungen technologischer Natur sind – aber auch, wie sich die zugehörigen Anwendungsfälle entwickeln. Damit haben wir einen Realitätscheck, ob die Versprechungen auch eingehalten werden.

Dann sehen wir uns an, ob diese Use Cases auf unser Kerngeschäft Einfluss haben werden – entweder, weil sie disruptiv sind oder weil sie das Geschäftsmodell einer Bank erweitern können. Ist das der Fall, fragen wir uns, ob es auch uns auch als RBI konkret beeinflussen wird. Als Universalbank haben wir ein anderes Geschäftmodell als eine Investmentbank wie zum Beispiel JP Morgan. Nicht alles, was für JP Morgan relevant ist, ist es auch für uns und umgekehrt.

Wenn wir die Fragen in dieser Abfolge aber mit Ja beantworten, gehen wir in die interne Diskussion mit unseren Fachbereichen. Da diskutieren wir die Potenziale und versuchen, gemeinsam Anwendungsfälle für uns zu definieren. Wenn man eine Liste an Use Cases hat, kann man allerdings auch zum Schluss kommen, dass manche Dinge zwar tatsächlich Problemfelder sind, aber dass man dafür nicht zwangsläufig KI braucht.

Daher prüfen wir auch, ob wir bereits Technologie im Haus haben, die das genauso gut lösen kann. Und wenn dies der Fall ist, ob wir signifikante Effizienzgewinne durch einen Technologiewechsel hätten. Denn nur dann zahlt es sich aus. 

Wenn wir aber feststellen, dass wir tatsächlich ein Problem lösen können, das wir bislang nicht lösen konnten, dann wird es interessant. In diesem Fall sehen uns die Gemeinsamkeiten dieser definierten Use Cases an und leiten Grundanwendungsfälle ab. Im KI-Bereich läuft es aktuell auf Data Extraction, Data Aggregation und Content Generation hinaus. Hinter 99 Prozent der Use Cases stecken diese Grundanwendungsfälle.

Was sind eure künftigen Pläne im Bereich KI?

Mich freut, dass wir schon seit Jahren mehrere etablierte Stellen im Haus haben, die sich mit den Aspekten der KI-Thematik auseinandersetzen. Allerdings gibt es jetzt einen gestiegenen Bedarf an einer weiterführenden Diskussion – auch durch einen gewissen Druck vom Markt her.

Daher stellen wir uns nun die Frage, wie wir das Thema noch strukturierter und systematischer angehen können. Wir sehen uns an, wie wir unsere Ressourcen noch stärker fokussieren können, um Dinge auf Schiene zu bringen. Es freut mich, dass unsere Fachbereiche schon mehr als über 100 Use Cases aus allen Bereichen erarbeitet und priorisiert haben.

Derzeit befinden wir uns in der ersten Phase der Umsetzung und Abarbeitung dieser Use Cases. Da sind einige dabei, die nach innen gerichtet sind, zumeist Effizienztreiber, es sind aber auch einige dabei, die gegenüber den Kund:innen Wirkung entfalten werden.

Wenn es um den Einsatz von KI im Finanzbereich geht – siehst du persönlich hier Unterschiede zu anderen Branchen?

Es gibt im Finanzbereich durchaus Besonderheiten, die hauptsächlich auf regulatorische Bedürfnisse zurückzuführen sind. Und wir sehen uns nach wie vor einer grundsätzlich heterogenen Rechtsprechung beispielsweise im Vergleich der EU mit den USA konfrontiert. Im hypothetischen Anwendungsfall einer KI-getriebenen Bonitätseinstufung des Kunden, stellen uns viele derzeitige Standard-KI-Modelle vor eine Herausforderung.

Wir müssen sicherstellen, dass die Bonität jede:r Kund:in, der/die zum Beispiel einen Kredit bei uns möchte, nach den gleichen Bedingungen und Regeln beurteilt wird. Da darf niemand benachteiligt oder bevorzugt werden. Wir müssen dies auch transparent gegenüber dem Regulator nachweisen können, wie wir zu einer Einschätzung kommen. Das muss also von vorne bis hinten dokumentiert werden. Und wir wollen es auch gegenüber der/dem Kund:in beschreiben können.

Es gibt zwar mittlerweile am Markt einzelne LLM-Modelle, die durchaus einen solchen notwendigen Audit-Trail abbilden können, aber bei den meisten großen Standardmodellen funktioniert es simplifiziert so: Man gibt Daten ein, die durchlaufen eine große Blackbox und am Schluss kommt dann ein Ergebnis heraus. Der Prozess der Ergebnisfindung ist jedoch nicht oder nur teilweise nachvollziehbar und daher weder dokumentier- noch erklärbar. Das genügt aber dem geschilderten Anspruch nicht. Das sehe ich schon eine Herausforderung.

In dem von dir geschilderten Fall stehen regulatorische Vorgaben dem Einsatz von KI entgegen. Siehst du – ganz generell – mögliche Anwendungsfälle, die durchaus sinnvoll wären, aber regulatorisch nicht möglich sind?

Das ist nur meine persönliche Meinung, aber mir fällt da schon ein Anwendungsfall ein: das Thema Robo Advisory, also im Veranlagungsgeschäft. Da könnte man KI durchaus heranziehen und auf Basis eines bestehenden Kunden-Portfolios Anlageempfehlungen generieren. Das ist aktuell zwar rechtlich nicht gänzlich unmöglich, hat aber seine Limitationen, weil wir uns hier im Beratungsgeschäft bewegen und damit Vorschriften wie beispielweise der MiFID (Markets in Financial Instruments Directive, EU-Richtlinie, Anm. d. Red.) unterliegen.

Damit sind wir wieder beim selben Thema: Als Bank müssen wir nachweisen, wie wir zu einer Empfehlung kommen, weil wir letztlich auch dafür haften. Das ist für mich ein Beispiel für etwas, das großes Potenzial hätte, wo aber vor der Anwendung noch einiges zu überlegen ist.

Werden Banken deiner Einschätzung nach auch eigene KI-Modelle trainieren? Oder ist es eher so, dass die LLMs von OpenAI oder Google eben so gut und umfangreich sind, dass dies keinen Sinn ergibt?

Ich glaube, dass gerade im Bankbereich durchaus Eigenentwicklungen entstehen werden. Das liegt hauptsächlich in der Datenverarbeitung begründet. Einerseits kann es rechtliche Vorschriften geben, die es etwa nicht erlauben, dass Daten ein Land verlassen. Andererseits haben beispielsweise auch wir als Bank sehr wohl viele Daten, die nicht in ein öffentliches Modell einspeisen wollen – etwa im Bereich von Risikomodellen oder im Vertragswesen. Da gibt es ein grundeigenes Interesse, dass die Kontrolle über das Modell und die Daten innerhalb der Bank bleiben.

Das heißt aber nicht zwangsweise, dass man alles selbst von Grund auf entwickeln muss. Bei Microsoft Office kann ich ja auch wählen, ob ich etwas in der „public“ Microsoft Cloud verwenden möchte oder es beispielsweise on Premise in einer eigenen von mir kontrollierten Cloudumgebung laufen lasse. Ähnliches werden wir wohl auch bei KI-Modellen sehen.

Kommen wir von der allgemeinen Ebene noch einmal zurück zur RBI. Wir haben schon über eure geplanten Projekte im KI-Bereich gesprochen. Seid ihr hier grundsätzlich auch für Kooperationen mit Startups offen?

Ja, wir laden alle ein, sich mit uns in Verbindung zu setzen – sowohl größere Unternehmen als auch Startups, die sich mit dem Thema auseinandersetzen. Wir sind laufend auf der Suche nach Kooperationspartnern. Unser Ansatz ist dabei, dass wir, wenn es bereits eine funktionierende Lösung am Markt gibt, sie uns ansehen und eher integrieren, als selbst zu bauen.


Aus dem Archiv:

Deine ungelesenen Artikel:
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
Rechtsanwalt Manuel Mofidian © Armin Hubner

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.


Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.


Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RBI zu KI: „Haben mehr als 100 Use Cases aus allen Bereichen“