Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

06.05.2026

Generali CEO: „Nachhaltigkeit ist kein Nice-to-have – sie ist Teil unseres Geschäftsmodells“

Generali Österreich CEO Gregor Pilgram über verschärfte Klimaziele gegen den Branchentrend, den europaweiten SME EnterPRIZE für nachhaltige KMU und Startups – und warum die Versicherung von außen so anders aussieht als von innen.

/artikel/generali-oesterreich-ceo-interview

✨ AI Kontextualisierung

Während viele europäische Konzerne 2024 und 2025 ihre ESG-Agenda zurückgefahren haben, hat die Generali ihre Klimaziele in Teilen sogar verschärft. Der Ansatz des Versicherers ruht auf drei Ebenen, die sich gegenseitig verstärken: nachhaltige Maßnahmen im eigenen Haus, die aktive Einbindung der Belegschaft – zuletzt etwa über eine „Climate Hour“ in Kooperation mit dem Klima-Bildungsanbieter Glacier am 28. April – und das Engagement über die Unternehmensgrenzen hinaus, allen voran der europaweite SME EnterPRIZE für nachhaltige KMU und Startups.

Im brutkasten-Interview erklärt CEO Gregor Pilgram, warum eine Versicherung Nachhaltigkeit als Kerngeschäft begreifen muss, was der SME EnterPRIZE für Gründer:innen konkret bringt – und welche Rolle Agentic AI in den nächsten Monaten spielen wird.

Nachhaltigkeit gegen den Trend

brutkasten: 2024 und 2025 haben viele Unternehmen ihre Nachhaltigkeitsambitionen zurückgefahren – öffentlich und strategisch. Die Generali hat in derselben Zeit an ihren Zielen festgehalten und sie weiterentwickelt. Was steckt hinter dieser Entscheidung?

Gregor Pilgram: Nachhaltigkeit ist für die Generali kein Nice-to-have. Sie hat Impact auf unser Geschäftsmodell, sie ist Teil unserer Strategie. Das Geschäftsmodell einer Versicherung hat extrem viele Verbindungen zur Umwelt – zu Umweltschutz, zu Naturkatastrophen, eigentlich zu allem, was mit der Umwelt zu tun hat. Deshalb ist Nachhaltigkeit für uns ein echter Bestandteil des Geschäftsmodells und sollte in jedem Teil des Geschäfts mitgedacht werden. Wir sind jetzt in einer zweiten Phase: Die ersten Quick Wins sind gemacht – welche Investitionen wir tätigen, welche Industrien wir versichern, was wir an unseren Standorten tun. Jetzt geht es Schritt für Schritt weiter, in die Produkte, in die Services, in die Prävention, in die Marktpositionierung. Das ist eine andere Art, Nachhaltigkeit zu managen – weniger Marketingthema, dafür wirksamer.

brutkasten: Welche Ziele haben Sie konkret weiterverfolgt, während andere zurückgerudert sind?

Gregor Pilgram: Wir messen unsere Ziele und sind gut auf dem Weg. Wir liegen aktuell bei rund 900 Millionen an grünen Investments im Portfolio. Wir sind bei rund minus 16 Prozent CO₂-Emissionen, und wir sind auf einem guten Weg zu mehr als minus 30 Prozent bei diesen Emissionen, die durch unser Kfz-Portfolio verursacht werden. Unser Fuhrpark ist bereits vollelektrisch. Das sind messbare, positive Effekte unserer Strategie – und genau deshalb sage ich: Es ist nicht nice to have, es ist unsere Pflicht.

„Nachhaltigkeit ist unser Geschäftsmodell“ – was heißt das konkret?

brutkasten: Sie positionieren Nachhaltigkeit nicht als CSR-Thema, sondern als Kern Ihres Geschäftsmodells. Wo ist der Beweis – welche konkreten Produkt- oder Investmententscheidungen gäbe es ohne diese Überzeugung heute nicht?

Gregor Pilgram: Eine Versicherung hat einige Hebel, mit denen sie wirklich Impact erzeugen kann. Erstens unsere Standorte – wie sie aussehen, welche Energie eingekauft wird, wie der Fuhrpark gestaltet ist. Das ist das Leichteste, da sind wir schon weit. Zweitens, wo wir investieren – die rund 900 Millionen Euro an grünen Investments sind dafür ein Beleg. Und drittens, das spannendste Thema: was wir mit unserem eigenen Produktportfolio machen. Wie helfen wir Kundinnen und Kunden, nachhaltiger zu sein? Wie schaffen wir neue Angebote in Richtung Prävention? Welche Technologien brauchen wir, um besser versichern zu können? Konkret reicht das von unserem Assistance-Angebot mit dem wir Kundinnen und Kunden Informationen zum Thema Nachhaltigkeit geben – vom Energielabel beim Kühlschrank bis zur Batterieentsorgung – über spezialisierte Kfz-Produkte für E-Autos bis zu Präventionsberatung im KMU-Bereich: Welche Daten brauchen Unternehmen, wo liegen die Gefahren der nächsten Jahre, wie entwickelt sich das Risiko von Naturkatastrophen? 2024 war kein leichtes Jahr für die Versicherungswirtschaft, 2025 etwas besser – aber der Trend geht klar in eine Richtung, und ohne Präventionsdenken wird das eine Riesengeschichte, die wir managen müssen.

Mitarbeiterengagement mit langem Atem

brutkasten: Die Generali arbeitet seit Jahren konsequent daran, Nachhaltigkeit über Lehrlingsformate, eine Sustainability Community und breite Belegschaftsinitiativen in der Organisation zu verankern – zuletzt etwa mit einer „Climate Hour“ in Kooperation mit Glacier für die gesamte Belegschaft. Was unterscheidet einen Ansatz, der wirklich trägt, von einem, der nach zwei Jahren im Sand verläuft?

Gregor Pilgram: Wir versuchen seit Jahren, Nachhaltigkeit im gesamten Unternehmen zu verankern, und das beginnt bei den Mitarbeiterinnen und Mitarbeitern. Es gibt Lehrlingsprojekte, eine eigene Nachhaltigkeits-Community, Schulungen für unsere Sustainability Rangers, und einmal im Jahr eine Nachhaltigkeitswoche, in der wir zeigen, was im Haus gemacht wurde – von Mini-Geschichten bis zu großen Projekten – und gemeinsam die nächsten Schritte planen. Der Unterschied liegt darin: Es darf nicht etwas Besonderes bleiben, das man als Sonderprojekt fährt. Es muss ein Teil von dem werden, was wir jeden Tag tun. Genau das haben wir, glaube ich, geschafft. Und wenn man die interne Kommunikation mit dem verbindet, was extern passiert, dann passiert die Magic – dann kann man das Unternehmen wirklich in die richtige Richtung drehen.

SME EnterPRIZE: Warum die Generali nachhaltige Unternehmen aktiv fördert

brutkasten: Der SME EnterPRIZE prämiert jedes Jahr nachhaltige KMU mit bis zu 10.000 Euro – inklusive eines eigenen Sonderpreises für Startups. Die Generali zählt jährlich über 100 Einreichungen. Was ist der Business Case hinter dieser Initiative – abseits von Reputation? Und was bekommen die teilnehmenden Unternehmen über das Preisgeld hinaus?

Gregor Pilgram: Der SME EnterPRIZE ist eines unserer Flagship-Projekte beim Thema Nachhaltigkeit, wir sind inzwischen bei der sechsten Edition, europaweit in elf Ländern, mit einem Finale in Brüssel. Es geht uns nicht primär darum, einen Preis zu vergeben – es geht darum, den besten nachhaltigen KMU und Tech-Unternehmen eine Bühne zu geben und sie europaweit sichtbar zu machen. Über die finanzielle Komponente hinaus bekommen die teilnehmenden Unternehmen vor allem zwei Dinge: erstens internationale Sichtbarkeit, auch in Richtung Europäische Kommission und Brüsseler Agenda. Und zweitens den Zugang zu Real Business – also zu uns als Versicherer, mit dem sie Lösungen weiterentwickeln können. Mit einigen der Teilnehmer arbeiten wir mittlerweile direkt zusammen, mit anderen tauschen wir Erfahrungen aus. Der Business Case ist die gemeinsame Entwicklung – wir lernen voneinander.

brutkasten: Sie sehen jedes Jahr über 100 Bewerbungen nachhaltiger Unternehmen. Welche Muster fallen Ihnen auf?

Gregor Pilgram: Was uns immer wieder selbst überrascht: die Breite der Lösungen. Das reicht von ganz simplen Geschichten wie Reparaturcafés bis zu hochskalierenden Unternehmen wie unserem letztjährigen Gewinner O.K. Energie Haus, der Holzhäuser produziert. Im ersten Jahr war der Lachs aus dem 3D-Drucker von Revo Foods dabei. Es gibt extrem technologische Themen wie die Optimierung von Energieverbrauch und Anlagensteuerung, und es gibt eine starke soziale Komponente, also wie Unternehmen ihre Leute fördern, wie sie HR-Themen einbinden. Diese Vielfalt sieht die breite Öffentlichkeit nicht – und genau deshalb braucht es eine Bühne. In fünf Jahren mit jeweils mehr als 100 Einreichungen ist mein Eindruck: Im kleinen Unternehmensbereich steckt extrem viel Wissen und Einsatz. Wenn man das stützt, entsteht der Push von unten, der für eine echte Veränderung im Konzept Nachhaltigkeit nötig ist.

Das Zusammenspiel: Warum keine der drei Ebenen alleine reicht

brutkasten: Die Generali betreibt interne Maßnahmen, Mitarbeiterengagement und externes Engagement parallel. Wäre eines davon alleine wirkungslos – und was passiert, wenn sich diese drei Ebenen gegenseitig verstärken?

Gregor Pilgram: Wenn man die interne Kommunikation mit allem verbindet, was man extern tut, passiert die Magic. Erst dann kann man das Unternehmen wirklich in die richtige Richtung drehen. Eine Versicherung hat einige Hebel, mit denen sie Impact erzeugen kann: Standorte, Investitionen, das eigene Produktportfolio. Aber genauso wichtig ist das andere Mindset, das Cross-Silo-Denken, das daraus entsteht. Nachhaltigkeit ist gleichzeitig etwas extrem Wichtiges für unser Geschäftsmodell und für Employer Branding – und sie bringt die Innovationen, die Nutzung von Daten und neuen Technologien mit. Genau dieses Zusammenspiel ist der Punkt: Es ist jetzt nicht mehr ein Sonderthema, sondern ein Teil von dem, was wir jeden Tag tun.

Versicherung neu denken

brutkasten: Sie haben den Anspruch formuliert, die Versicherungsbranche moderner und attraktiver zu machen. Was ist das veraltete Bild, mit dem Sie brechen wollen – und wo sehen Sie ungelöste Probleme, an denen innovative Unternehmen und Startups ansetzen sollten?

Gregor Pilgram: Die Versicherungsbranche ist eine der wenigen Branchen, in der die Sicht von außen eine komplett andere ist, als die Sicht von innen. Von außen gilt sie als verstaubt. In Wirklichkeit ist sie eine Branche, in der extrem viel Technologie mitspielt, in der das Entscheidungsspektrum extrem breit ist – vom Vertrieb bis zu hochtechnischen IT-Themen –, und in der das Thema Künstliche Intelligenz gerade massiv hochläuft. Daten waren bei uns immer schon Core: Wir arbeiten seit jeher mit Statistik- und Zukunftsmodellen. Je mehr Daten heute zur Verfügung stehen, desto besser können wir Entwicklungen antizipieren – auch in Richtung ESG. Für Startups ist das spannend, weil sich die Realität verschoben hat: Insurtechs werden, glaube ich, nicht das gesamte Geschäftsmodell der Branche umkrempeln. Aber bei Customer Touchpoints, bei Prozessbeschleunigung, bei neuen Vertriebswegen entsteht enormer Wert in der Co-Entwicklung. Wir scannen den Markt laufend, die Generali als Group hat eigene Innovationsfonds. Und wenn wir mit Startups arbeiten, geht es nicht darum, eine Lösung zu kaufen – es geht um gemeinsames Entwickeln. Wir bringen das technische Know-how ein, Startups bringen eine andere Customer Experience und eine andere Geschwindigkeit. Da spielt die Musik.

brutkasten: Stichwort KI: Wie konkret verändert die rasante Entwicklung – Stichwort Agentic AI – die Versicherungsbranche aktuell?

Gregor Pilgram: Das Thema steht extrem hoch auf unserer Agenda. Vor allem die Entwicklungen der letzten Monate rund um Agentic AI bringen schneller mehr Veränderung, als wir früher erwartet haben – weil die Qualität der Modelle rasant steigt. Es bringt aber auch neue Komplexität: Cyber-Themen, und auch ein Nachhaltigkeitsthema, weil KI-Lösungen erheblich Energie verbrauchen. Unser Core-Geschäftsmodell wird sich kurzfristig nicht ändern. Aber Teile unserer Prozesse und unseres Angebots werden sich in den nächsten drei bis vier Jahren ordentlich beschleunigen, näher an die Konsumentinnen und Konsumenten rücken – und gleichzeitig komplexer werden. Wo wir vor zwei Jahren mit klassischer generativer KI noch keine besonders gute Fehlerquote hatten, werden Agentic AI und neue LLMs in den nächsten sechs bis zwölf Monaten ein anderes Niveau erreichen. Wir verfolgen das sehr genau und arbeiten viel mit externen Anbietern zusammen, um Wissen auszutauschen. Es wird in der Zukunft extrem interessant.

Info zum SME EnterPRIZE

Mit dem SME EnterPRIZE zeichnet die Generali europaweit nachhaltige KMU aus. Die Prämierung beträgt bis zu 10.000 Euro, eine eigene Kategorie richtet sich an Startups. Mehr Infos: generali.at/sme-enterprize

Deine ungelesenen Artikel:

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.

Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.

Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag