Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

24.12.2023

Carina Roth: „Ich kann nicht warten, bis die Gesellschaft bereit ist für mein Scheitern“

Gründer:innen sprechen nur selten über das Scheitern des eigenen Startups – Carina Roth ist eine Ausnahme. Nach dem Zusammenbruch ihres Unternehmens WisR spricht sie offen über den steinigen Weg in ihrer persönlichen Karriere, der sie schlussendlich in die Welt der Investor:innen führte.

/artikel/carina-roth

✨ AI Kontextualisierung

In der Startup-Welt herrscht oft ein überwältigender Glanz: Wir hören von den Visionär:innen, die Millionen verdienen, von disruptiven Technologien, die unser Leben verändern, und von jungen Unternehmer:innen, die die Welt erobern. Doch hinter diesen Erfolgsgeschichten verbirgt sich eine Realität, die oft übersehen wird – die des Scheiterns. In der Regel sprechen Gründer:innen lieber über ihre Erfolge als über ihre Misserfolge.

Das Schweigen über das eigene Scheitern hat verschiedene Gründe, die oft tief in unserer Kultur und unserer Psyche verwurzelt sind: In vielen Gesellschaften und Kulturen wird Erfolg hoch geschätzt, Misserfolg oder Scheitern werden dagegen stigmatisiert. Dieser soziale Druck kann dazu führen, dass Menschen aus Angst vor Urteilen oder Ablehnung ihr Scheitern verbergen. Scheitern kann mit Schamgefühlen verbunden sein – Menschen können sich schämen, weil sie die Erwartungen, die sie an sich selbst oder die andere an sie gestellt haben, nicht erfüllt haben. Ein weiterer Aspekt: Das Fehlen von Vorbildern und positiven Beispielen von Menschen, die offen über ihr Scheitern sprechen.

Carina Roth ist eine Ausnahme. Ihr Startup WisR wurde im Oktober 2021 liquidiert – und sie spricht offen über den wohl schwierigsten Schritt in ihrer Karriere. WisR war auf die Arbeit mit Senior Talents in Unternehmen spezialisiert. Über seine Recruiting-Plattform vermittelte WisR zunächst Menschen in Pension. Damit gewann das Startup große Kund:innen wie die ÖBB, Hornbach oder Ritz-Carlton – und überzeugte Investor:innen. Doch nach vier Jahren musste das Startup seinen Betrieb einstellen.

Die Coronakrise und die damit einsetzenden Veränderungen am Arbeitsmarkt zwangen das Unternehmen zu einem Richtungswechsel. Zu diesem Zeitpunkt bereitete das Startup eine große Finanzierungsrunde mit einem Investor aus Deutschland vor. Kurz vor dem Closing der Runde dann der Super-GAU: Der Investor ließ die geplante Finanzierung mit den ersten Corona Lockdowns kurzfristig platzen. Gemeinsam mit ihrer Co-Founderin Klaudia Bachinger launchte Roth noch im Herbst 2020 zusätzlich zur Recruiting-Plattform ein Senior-Experten:innen Netzwerk. Die Idee dahinter: Unternehmen konnten so mit Mitarbeiter:innen, die bereits im Ruhestand sind, in Kontakt bleiben. „Nachdem die Finanzierungsrunde geplatzt ist, haben wir uns dann nur mehr auf die Enterprise-SaaS-Lösung bzw. das Netzwerk konzentriert und keine Ressourcen mehr in die Recruiting-Plattform gesteckt“, erzählt Roth.

Der Schlussstrich und die Öffentlichkeit

„Wir hatten viele Ideen, aber irgendwann bist du dann an einem Punkt angelangt, wo du merkst, dass der Runway immer kürzer wird“, sagt Roth. Dazu kam die damalige Marktlage: Diese war laut Roth von „Hiring Freezes“ gekennzeichnet. So fiel die Entscheidung: Roth und Bachinger machten den Laden sprichwörtlich dicht. Vor dieser Entscheidung erstellten die Gründerinnen zunächst eine Prioritäten- und Szenarienliste. Diese arbeiteten sie bis zum letzten Punkt – der Schließung des Startups – ab. Beide Gründerinnen wollten keine verbrannte Erde zurücklassen. Sie wollten WisR in geordneten Bahnen liquidieren: Mitarbeiter:innen sollten ausbezahlt, mit Bestandsinvestor:innen sollte offen kommuniziert werden. Das Abarbeiten der Prioritätenliste bis dahin beschreibt Roth auch als eine Art „Mental-Fading-out“. „Irgendwie hat es sich dann auch gut angefühlt, weil ich wusste, dass ich alles gegeben habe“, beschreibt Roth das Ende.

An die Vorbereitung des LinkedIn-Postings kann ich mich noch gut erinnern. Es war schon sehr aufregend, als wir den Send-Button gedrückt haben.
Carina Roth

Der schwierigste Schritt stand den Gründerinnen jedoch noch bevor: Sie mussten das Ende ihres Unternehmens auch der Öffentlichkeit kommunizieren. „An die Vorbereitung des LinkedIn-Postings kann ich mich noch gut erinnern. Es war schon sehr aufregend, den Send-Button zu drücken“, erinnert sich Roth. Und sie merkt an: „Ich hatte dabei allerdings keine Angst. Ganz ehrlich, als Gründerin stehst du nun mal in der Öffentlichkeit und wirst ständig beobachtet. Irgendwann legst du diese Angst ab. Es war eher so ein Gefühl des Excitements: Was kommt als Nächstes auf uns zu?“

Ein Plan danach?

Einen konkreten Plan, was als Nächstes kommt, hatte Roth in dem Moment noch nicht: „Früher war das vielleicht so, dass man einen Job erst kündigt, wenn man etwas Neues hat. Als Founderin bist du jedoch bis zum Schluss so eingebunden, dass du gar keine Zeit und keinen Kopf dafür hast, dir zu überlegen, was danach kommt.“

Lange still sitzen musste die Gründerin allerdings nicht. Bereits kurz nach dem Bekanntwerden der Schließung von WisR erhielten Roth und auch ihre Mitgründerin zahlreiche Anfragen von Menschen, die gemeinsam neue Projekte umsetzen wollten. Roth: „Dadurch, dass wir sehr laut gegangen sind, haben wir kurz nach dem Posting bereits die ersten Angebote bekommen.“ Rückblickend betrachtet ging ihr das vielleicht doch eine Spur zu schnell: „Vielleicht hätte ich gerne einfach zwei Monate gar nichts gemacht. Ursprünglich hatte ich den Wunsch, nach Japan zu reisen, was aber aufgrund der damaligen Corona-Bestimmungen nicht möglich war.

Neuorientierung mit Höhen und Tiefen

Das Sondieren von möglichen neuen Projekten hatte jedoch auch seine Höhen und Tiefen: „Es gab natürlich auch Momente, die superfrustrierend waren. Wenn nach dem 15. Gespräch noch immer nichts dabei ist, das einen so richtig begeistert, dann ist das natürlich auch immer ein kleiner Failure. Im Prinzip kann man es vielleicht auch ein Stück weit mit Dating vergleichen.“ Natürlich spielten auch die finanziellen Mittel in der Phase der Neuorientierung eine Rolle. „Zum Glück musste ich keinen Kredit abbezahlen und war nur für mich selbst verantwortlich – und hatte so ausreichend Zeit und Ressourcen, mir jedes Angebot anzuhören“, so Roth. Ihre persönliche Situation in der Übergangsphase sei somit durchaus privilegiert gewesen.

Vor meinem Scheitern kannte ich nur die Fuckup-Nights und viel- leicht zwei, drei Fälle, in denen Gründer:innen in der Öffentlichkeit of- fen darüber gesprochen haben. Ich wusste daher selbst nicht, wie sich das anfühlen wird.
Carina Roth

Erster Kontakt zu Calm/Storm Ventures

Der perfekte Match sollte jedoch nicht lange auf sich warten lassen: Rund sechs Monate nach der Ankündigung, die Pforten von WisR endgültig zu schließen, meldete sich Lucanus Polagnoli, Gründer und Co-Founder der Wiener Venture-Capital-Gesellschaft Calm/Storm Ventures, bei Roth. Der Wagniskapitalfonds ist aktuell in mehr als 70 Startups investiert; der Fokus liegt auf digitalen Produkten für unterschiedliche Gesundheitsthemen – angefangen von Hormontracking über digitale Medikamentensuche bis hin zur Analyse der Zahngesundheit mit dem Smartphone.

Als Polagnoli die ehemalige Gründerin kontaktierte, arbeitete sie bereits an einem neuen Beratungsprojekt, unter anderem mit ihrer Co-Founderin Bachinger. „Ich habe zu Lucanus gesagt, dass ich aktuell noch sehr busy bin und mir noch ein paar andere Sachen ansehen möchte. Er hat das damals als Absage verstanden. Ich wollte halt ausloten, ob aus anderen Projekten noch was wird“, so Roth. Aus den besagten Projekten sollte schlussendlich nichts werden – „für mich war dann sehr schnell klar, dass es Calm/ Storm Ventures und Investing wird.“

Carina Roth im Büro ihres neuen Arbeitgebers Calm/Storm Ventures | (c) Studio Koekart

Die Vorbereitung auf ihre neue Rolle

In der Phase der Neuorientierung streckte Roth im Sommer 2022 die Fühler zu den Investor:innen in ihrem Netzwerk aus. Sie wollte mehr über das Leben als Investor:in erfahren. Im Dezember 2022 war es dann beschlossen: Sie wechselte von der Seite der Founder:innen auf die Seite der Ivestor:innen. Trotz des Rollentauschs in ihrer Karriere hält sie fest: „Meine Karriere habe ich nicht gepivotet. Ich arbeite noch immer im Startup-Umfeld mit den gleichen Leuten. Der rote Faden wurde somit nicht zerrissen.“ Roth sieht aber auch Unterschiede zwischen der Arbeitsweise einer Startup-Founderin und jener einer Investorin: „Als Gründerin bist du sehr stark in einem Thema drinnen und blendest vielleicht andere Bereiche gänzlich aus. Als Investorin arbeitet man hingegen sehr branchen- und technologieübergreifend – und trifft noch viel mehr Menschen als Gründerin“, erläutert sie.

Einer der wichtigsten Aspekte in der Neuorientierung sei für sie das Thema Impact gewesen. Roth: „Mir war schon sehr früh klar, dass ich nicht des Gründens wegen gründen möchte. Auch als Investorin kannst du Impact haben, indem du Geld richtig einsetzt und somit die passenden Hebel in Bewegung setzt. Bei Calm/Storm Ventures wusste ich, dass endlich wieder eine Flamme in mir brennt.“ Einer der größten Unterschiede zwischen den beiden Welten, jener der Gründer:innen und jener der Investor:innen, sei jedoch der Aspekt, wann Erfolg sichtbar wird. „Als VC kannst du in der Regel erst nach zehn Jahren sagen, ob dein Investment erfolgreich war, hier sind die Feedbackzyklen natürlich viel länger“, sagt Roth. Seit ihrem Start bei Calm/Storm Ventures war sie übrigens bei 14 Investments in Startups involviert.

Carina Roths bisher größter Erfolg

Was war Roths bisher größter Erfolg in ihrer Karriere? Sie antwortet entschlossen: „Obwohl ich mit WisR gescheitert bin, wollen die Leute noch immer mit mir zusammenarbeiten.“ Damit das gelingt, müsse man allerdings zum richtigen Zeitpunkt den Schlussstrich ziehen und bereits dann aufhören, wenn es einem selbst oder den anderen Menschen im Umfeld noch gut gehe. Auch die offene Kommunikation mit den eigenen Gesellschafter:innen sei eine Voraussetzung. „Ich kann wirklich von uns behaupten, dass wir damals keine verbrannte Erde hinterlassen haben. Wir sind heute noch gut mit unseren Investoren, und zwei davon sind jetzt sogar Limited Partner (LPs, Anm.) bei Calm/Storm Ventures geworden.“

Flexibles Mindset und die viel zitierte Kultur des Scheiterns

Was gibt Roth nun Gründer:innen mit, die sich ebenfalls in einer Phase der Neuorientierung befinden? Und warum spricht sie so offen darüber? „Vielleicht ist es eine meiner Aufgaben im Leben, Leuten zu zeigen, dass nichts dramatisch enden muss, sondern es danach genauso weitergehen kann.“ Gründer:innen sollten ein flexibles Mindset mitbringen – „natürlich muss man sich ambitionierte Ziele setzen, allerdings darf man nicht den Kopf in den Sand stecken, sofern man sein Ziel nicht erreicht.

Die Geschichten über das Scheitern in der Startup-Welt werden Roths Meinung nach in der heimischen Medienlandschaft zu selten erzählt. „Vor meinem Scheitern kannte ich nur die Fuckup Nights und vielleicht zwei bis drei Fälle, wo Gründer:innen in der Öffentlichkeit offen darüber gesprochen haben. Ich wusste daher selbst nicht, wie sich das anfühlen wird – und vor allem, wie Menschen auf mein Scheitern reagieren werden.“

Trotz des häufig bemängelten Fehlens einer Kultur des Scheiterns in Österreich habe sie jedoch meist nur positive Reaktionen erfahren. Die Gründe dafür liegen Roths Meinung nach in der offenen Art, wie sie damals mit dem Scheitern von WisR umgegangen sei. Das Vorhandensein einer gewissen Schadenfreude in der Gesellschaft streitet sie jedoch nicht ab: „Das ist tief verwurzelt in unserer Gesellschaft. Es fängt an beim Gossip im eigenen Freundeskreis, reicht aber auch bis hin zur Erziehung der eigenen Kinder“, sagt Roth. Während in den USA das Scheitern als wertvolle Erfahrung angesehen wird, unter anderem auch von Investor:innen, gebe es hierzulande in Bezug auf die Kultur des Scheiterns noch viel Aufholbedarf. Trotz der gesellschaftlichen Stigmatisierung sollten sich Gründer:innen jedoch nicht davor scheuen, über die eigenen Fehler zu sprechen. Roth: „Ich kann jetzt nicht warten, bis die Gesellschaft für mein Scheitern bereit ist.“

Linktippzur Page von Calm/Storm

Der Artikel erschien zuerst in unserem neuen Printmagazin in der Ausgabe Dez/2023. Mehr darüber könnt ihr hier erfahren.

Deine ungelesenen Artikel:

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.

Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.

Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag