11.11.2022

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

Im brutkasten-Interview spricht Startup-Grand-Dame und Keynote-Speakerin, Selma Prodanovic, über ihre Erfahrungen mit Diskriminierung und sexueller Belästigung in ihrer bisherigen Karrierelaufbahn.
/artikel/selma-prodanovic-ueber-diskriminierung-und-sexuelle-belaestigun
Selma Prodanovic spricht im brutkasten-Interview über ihre Erfahrungen mit Diskriminierung und sexueller Belästigung. (c) brutkasten
Auch als Video-Talk verfügbar ?

Startup-Grand-Dame Selma Prodanovic über ihre Erfahrungen mit Diskriminierung und sexueller Belästigung in ihrer Karrierelaufbahn.

Jetzt anschauen

Selma Prodanovic wurde vor einigen Wochen als Vizepräsidentin des European Business Angel Networks (EBAN) wiedergewählt. Als einflussreichste Frau in der gesamten europäischen Business-Angel-Szene führte sie nach ihrer Wiederwahl ein Manifesto for a Gender Balanced Angel Investing Ecosystem ein, welches folgende drei Ziele bis 2030 definiert:

  • Erhöhung der Anzahl an weiblichen Angel-Investorinnen in Europa von zehn auf 30 Prozent
  • Ein Drittel der Investment-Portfolios sollten in frauengeführte Start-ups fließen
  • Mehr Frauen in Aufsichtsräte von Netzwerken und Portfoliounternehmen aufnehmen

„Female-Empowerment ist mir ein Herzensanliegen“, sagt Prodanovic und erklärt im brutkasten-Interview, welche Herausforderungen sie in ihrer bisherigen Karrierelaufbahn als weibliche Business-Angel der ersten Stunde überstehen musste. 

Du hast dich als weibliche Investorin in einer sehr männerdominierten Szene, wo es nur fünf Prozent weibliche Business Angels in Österreich gibt, durchgesetzt. Wie hast du das geschafft?

Selma Prodanovic: Das war eine sehr spannende Erfahrung. Man muss klar sagen, dass das Thema Mann vs. Frau mit einem Machtspiel zu tun hat. Dadurch, dass ich teilweise die ganze Startup- und Business-Angels-Szene in Österreich geshaped habe, war ich selbst in dieser Machtposition – und das von Anfang an. Daher habe ich mich mit der Zeit daran gewöhnt, die einzige Frau im Raum zu sein. Ich habe jede Möglichkeit genutzt, die Quotenfrau zu sein.

Wenn ich die Möglichkeit hatte, bei einem Panel dabei zu sein, habe ich gewusst, dass ich gerufen wurde, weil ich eine Frau bin. Meine Aufgabe war es dann, dort aufzutreten und zu zeigen, dass ich die Qualität auch dazu habe. Das ist mir sehr wichtig. Oft, wenn wir über Quoten und Zahlen sprechen, wird immer wieder behauptet, dass das etwas Schlechtes wäre. Ehrlich gesagt kotzt mich das an, weil ich das als einen absolut falschen Zugang empfinde.

Es geht nur darum, die Möglichkeit und die Gelegenheit zu haben, sein Wissen zu zeigen. Es gibt so viele großartige Expertinnen da draußen, die so vieles machen können. Zu behaupten, dass eine Quote bedeutet, dass man sich für etwas Schlechteres einlässt – sei es die Führungskraft oder ein Startup Investment – ist ein Blödsinn. Es geht nur darum, die Möglichkeit zu haben. Darum bestehen Quoten. Da sist auch der Grund, wieso ich absolut dafür bin, so wie ich das nun mit dem Manifesto erreichen möchte. Natürlich bedeutet das, dass wir ein bisschen mehr daran arbeiten müssen.

Viele Frauen in der Szene wagen den Schritt in die Welt der Business Angels nicht. Mit welchen Herausforderungen werden sie sowohl in dieser Szene als auch generell in der Arbeitswelt, konfrontiert? 

Wenn wir über die Investment-Szene und die Business-Welt sprechen, ist es immer ein Thema der Macht. Insbesondere ältere Männer, die in einer Machtposition sind und Frauen, die eventuell noch nicht so weit sind. Da gibt es sehr viele Situationen, die passieren und nicht sehr angenehm sind. Vor allem sind es immer wieder diese Kleinigkeiten, die passieren. So oft wurde ich in Meetings als diejenige wahrgenommen, die Kaffee bringen oder Notizen machen sollte, nur weil ich eine Frau bin. Niemand wusste, wer ich war oder welche Rolle ich hatte. Es wurde automatisch so angenommen.  

Das war damals so und das ändert sich jetzt. Das tut etwas mit einem. Das tut etwas mit mir, weil ich jedes Mal irgendwie darauf entweder reagiere oder nicht reagiere. Aber ich muss darüber nachdenken und mich meinen Kolleg:innen gegenüber behaupten. Das sind Kleinigkeiten, aber sie wirken etwas aus. Selbstverständlich gibt es aber noch viel Schlimmeres. 

Sexismus-Erfahrungen prägen ja den Alltag von vielen Frauen in der Arbeitswelt. Gibt es Fälle, an die du zurückdenkst und dir bewusst wird, da hätte ich eventuell besser handeln können?

Es gibt immer wieder interessante Situationen, die passieren. Ich hätte mal mit einem Mann arbeiten sollen. Eines Tages kam er zu mir und sagte, dass er nicht mit mir arbeiten kann, weil seine Frau eifersüchtig ist. Eines Tages kam er zu mir und sagte, dass er nicht mit mir arbeiten kann, weil seine Frau eifersüchtig ist. Ich dachte mir, ich möchte doch nicht mit dir schlafen, sondern arbeiten. Das war ein prägender Moment, wo ich mich gefragt habe, was er denkt, was ein Arbeitsverhältnis mit einer Frau bedeutet. Ist das nur eine Ausrede, die er benutzt hat, weil er dachte, dass das akzeptiert wird? Oder ist es tatsächlich so, dass seine Frau ein Problem daraus macht, wenn er mit anderen Frauen zusammenarbeitet? Wo sind wir hier gesellschaftlich? Das löst schon etwas aus in einem aus. Tatsächlich habe ich einen großen Auftrag damit verloren, weil ich eine Frau war und wir andere Geschlechter hatten. Aber ich habe auch Sachen erlebt, insbesondere als ich jünger war. Das ist tatsächlich noch immer das Problem von vielen jungen Frauen, die in ihren 20ern oder 30ern sind und somit am Anfang ihrer Karriere stehen und nicht wissen, wie die Arbeitswelt funktioniert. Sie akzeptieren viel mehr am Anfang. Ich finde das beginnt bei Kommentaren darüber, wie man aussieht, bis hin zu Aussagen, dass man schön ruhig sitzen und Notizen machen soll, bis der Termin fertig ist. Das muss nicht sein und ich hoffe, dass es jüngeren Frauen heute leichter geht. 

Was würdest du Frauen empfehlen, wie sie auf Belästigungs- und Diskriminierungsfälle reagieren sollten? 

Wenn du auf diesen Job angewiesen bist, ist es natürlich schwer, mutig zu sein. Ich denke, dass viele in der Gesellschaft – vor allem viele Männer aber auch Frauen – wissen nicht, dass das nicht okay ist. So wie ich zum Beispiel heute bestimmte Sachen sehe oder lese, weiß ich, dass das zu meiner Zeit normal war oder akzeptiert wurde. Heute ist das nicht mehr der Fall. So sehe ich, dass bestimmte Sachen einfach nicht mehr normal und üblich sind. Ich glaube, dass es Teil unserer Aufgabe ist, zu eduzieren, zu zeigen und das Problem offen anzusprechen, ohne zu sagen. Ich glaube, dass es viele machen, ohne dass es ihnen bewusst ist, was da passiert. Es gibt abhängig davon, welche Kultur du aufgewachsen bist, wer um dich herum ist, wie du dein Leben lebst und welche Position du hast. Die meisten Männer sind nicht so und ich will nicht, dass wir da in einer Situation landen, wo es darum geht, dass jeder Mann böse ist. Manchmal machen wir alle Fehler, so wie Frauen und Männer. Es findet ein Wertewandel statt und es ist wichtig zu wissen, wie wir diesen unterstützen können, die Mehrheit der Männer und Frauen auf einen gemeinsamen Nenner bringen und uns bemühen, den Anteil der Belästigenden zu reduzieren um zu zeigen, dass das nicht okay ist. 

Wie stehst du zu Meinungen von anderen Frauen, die behaupten, dass diese Probleme in der Arbeitswelt nicht existieren oder nur diesen Frauen passiert, die sich potentiell auch flirtend verhalten?

Damit habe ich ein Problem, denn ich glaube, dass sie das teilweise nicht sehen wollen.Ich kann sagen, dass es mir heute kaum mehr passiert, dass ich belästigt werde. Das ist mir in meinen jüngeren Jahren passiert. Aber das bedeutet nicht, dass ich das nicht sehe, wenn das passiert. Es muss mir nicht passieren. Es geht nur darum, was ich da draußen sehe. Und zu behaupten, das passiert mir nicht, ich sehe es nicht bei den anderen und das ist kein Thema, das verstehe ich nicht.  

Ich habe das vor kurzem bei einem großen Kongress erlebt. Ich stand auf der Bühne, als eine der Speaker:innen – ich war die einzige Frau, die auf der Bühne war. Ein anderer Speaker kam auf die Bühne und begrüßte alle Männer und mich nicht. Er hat offensichtlich gar nicht daran gedacht, dass ich jemand war, die auf diese Bühne gehört. In seinem Kopf dachte er wahrscheinlich, dass ich jemand war, die ausgeholfen hat.  Früher hätte ich mich in dieser Situation zurückgezogen und hätte mir gedacht, dass ich etwas falsch gemacht habe. Heute gehe ich dann auf die Person zu, begrüße ihn und stelle mich vor. Damit war sofort klar, dass er das nicht böse gemeint oder nicht absichtlich gemacht hat. Aber das sind die Biases, die wir im Kopf haben. Wenn wir schon darüber reden, darf man nicht die Situation, die Ursula von der Leyen in der Türkei hatte, vergessen. Sie hat keinen Sitzplatz bekommen. Das passiert also auch den bekannteren Frauen. Es ist nicht so, dass das nicht passiert.  

Damit sind wir bei einem anderen Problem angelangt. Es gibt auch Menschen, die so etwas betrachten, aber still bleiben. Was würdest du diesen Menschen raten, die sich nicht sicher sind, ob sie etwas sagen oder tun sollen, da die betroffene Person sich nicht diskriminiert oder belästigt fühlen könnte

Das kann durchaus sein und ist abhängig davon, aus welcher Kultur du kommst und wie du aufgewachsen bist. Aber es kann auch durchaus sein, dass man in den eigenen Gefühlen so stark getroffen wird, dass man nicht die Kraft, darauf zu reagieren. Natürlich kann es auch sein, dass sich bestimmte Menschen nicht dazu äußern möchten, weil sie es nicht als ihr Problem oder ihre Aufgabe verstehen. Das passiert bei Männern genauso wie bei Frauen.  

Wie ist das Verhältnis zwischen Business Angels und weibliche Founder? Hast du mitbekommen, dass da Diskriminierungen und Belästigungen stattfinden?

Genauso wie in jeder anderen Branche. Das ist nicht etwas, was nur der Startup-Welt zuzuschreiben ist. Aber es ist durchaus eine sehr männlich geprägte Welt. Insbesondere, wenn es um das einfache Verhältnis geht – du willst Geld und ich gebe dir Geld, aber wir schauen mal, was wir dafür bekommen. Das kann durchaus vorkommen. Ich weiß von einem konkreten Fall , der vor einigen Jahren passiert ist und wo diese Person tatsächlich aus der gesamten europäischen Szene ausgeschlossen wurde, nachdem es bekannt wurde. Er hatte gesagt „Investment gegen Sex“. Daraufhin hat sich die Frau gewehrt und ihre Erfahrung publik gemacht. Er bestätigte den Fall und entschuldigte sich, aber der Schaden war schon getan. Ich denke nicht, dass es in der Investoren-Szene viel mehr passiert als in anderen Branchen. Ich glaube sogar, dass es vielleicht weniger ist, weil die Grundaufgabe von einem Business Angel ist zu supporten. Und das ist ein bisschen anders. Wenn ich ein Chef bin und eine Angestellte habe, ist da das Verhältnis möglicherweise ein bisschen anders. Aber das, was wir in unserer Szene sehen, ist ein Caring-Prinzip. Andererseits ist es mein Ziel, dass wir mehr Frauen in die Szene bekommen, denn mit mehr Frauen werden sich die Regeln dementsprechend verändern. Das bedeutet nicht, dass nur Frauen in Frauen investieren. Es geht einfach um die Sprache und darum, das Ganze ein bisschen anders zu machen. Letztendlich ist die Szene noch immer sehr männlich dominiert. Ich war letztens in Brüssel, wo über 30 Prozent der Teilnehmerinnen Frauen waren. Das macht schon einen Unterschied und schafft eine andere Atmosphäre.  

Welche Tipps möchtest du abschließend anderen Frauen mitgeben? 

Unsere erste Aufgabe ist Awareness-Building. Wenn wir sowohl über die schlechten, als auch über die guten Erfahrungen sprechen, können wir Menschen diese Themen näher bringen. Unabhängig davon, ob es ein Mann oder eine Frau ist. Das ist ein ganz wesentlicher Punkt. Das zweite ist Capacity Building, wie in diesem Beispiel mit unserem Manifesto. Wie können wir den Gender-Investment-Bias überwinden? Letztendlich ist auch das Thema „Money Talks“ wichtig. Wir brauchen mehr Investorinnen und Role-Models. Es hat sich in den letzten Jahren einiges ins Positive verändert. Wir wünschen uns alle, dass das noch schneller geht, aber möglicherweise müssen wir ein wenig Geduld mit uns selbst und mit unseren Mitmenschen haben. Am Ende des Tages sollen alle ihrem Bauchgefühl vertrauen.  

Oft wird genau das benutzt, um dich klein zu machen und klein zu halten. Es geht gar nicht darum, was getan oder gesagt wird, sondern wie. Dieses Gefühl kann man nicht beschreiben. Wenn jemand die Wahl hat, sollte die Person das Unternehmen verlassen und nach Gerechtigkeit suchen. Niemand möchte in einem Unternehmen arbeiten, das so ein Verhalten begrüßt. Aber wie gesagt, nur wenn das möglich ist. Geht es um einen Business Angel, der nicht der Kultur entspricht, gibt es tausende andere Business Angels.

Deine ungelesenen Artikel:
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.
/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht
Rechtsanwalt Manuel Mofidian © Armin Hubner

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.


Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.


Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

“Ich habe jede Möglichkeit genutzt, Quotenfrau zu sein” – Selma Prodanovic über Diskriminierung