Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

04.03.2024

„Intransparenter als Milka und Co“: Neoh und Prokop zur Kritik von Oekoreich

Die Produkte von Neoh sind mittlerweile fast überall, wo es Riegel gibt, erhältlich. Nun wird das Startup von der Bürgerinitiative Oekoreich öffentlich kritisiert. Was Neoh und Investor Heinrich Prokop zu den Vorwürfen sagen.

/artikel/intransparenter-als-milka-und-co-neoh-und-prokop-zur-kritik-von-oekoreich

✨ AI Kontextualisierung

Kaum Auskünfte, „ominöser Zuckerersatz“ und „intransparenter als Milka und Co“, wenn es um die Herkunft der Inhaltsstoffe gehe. So lauten die aktuellen Vorwürfe der Bürgerinitiative Oekoreich am Wiener FoodTech Startup Neoh. brutkasten liegen der Oekoreich-Bericht, in dem die Kritik am Startup ausgeführt wird, und die noch nicht veröffentlichte medizinische Studie zum Neoh-Ersatzzucker vor. Auch Investor Heinrich Prokop und Neoh-Geschäftsführer Manuel Zeller äußerten sich gegenüber brutkasten zur Kritik. Aber erstmal von vorn.

Neoh und die großen Schoko-Player

Neben altbekannten Nasch-Riesen wie Snickers, Milka oder Rittersport stechen seit längerem auch die Schokoriegel des Startups in den Regalen ins Auge. Seit 2017, ein Jahr nach der Gründung, gibt es die Produkte von Neoh mit Ersatzzucker flächendeckend auf dem österreichischen Markt. Vor einem Jahr folgten den Riegeln Mini-Waffeln in die Supermärkte, seit kurzem liegen vegane Donuts in den Ankerbrot-Theken (brutkasten berichtete). 2022 wurde der vegane Caramel Nuts Bar von Men’s Health mit dem „Good Food Award“ ausgezeichnet. Zudem gab es zahlreiche Finanzierungsrunden in Millionenhöhe, das jüngste Investment schloss das Startup rund um Manuel Zeller, Patrick Kolomaznik, Alexander Gänsdorfer und Adel Hafizovic 2023 im mittleren siebenstelligen Bereich ab, wie man bei brutkasten lesen konnte.

Man könnte also insgesamt sagen: Es läuft gut für Neoh. Doch nun übt die Bürgerinitiative Oekoreich starke Kritik am Startup. Fehlende Gütesiegel zur Nachhaltigkeit und Herstellung der Produkte seien heutzutage als Schokoladenhersteller nicht mehr üblich, sagt der Sprecher der Initiative Sebastian Bohrn Mena.

Aufgefallen sei das Startup dem Aktivisten, der selbst immer wieder öffentlich kritisiert wird, aufgrund seiner Werbung, wo es heißt: „Neoh schmeckt nicht nur gut, sondern ist auch gut zu unserem Planeten und den Lebewesen, die darauf wohnen.“ Belege, wie etwa Zertifikate oder angeführte Informationen auf der Website, würden laut Oekoreich fehlen.

„Absolute Null-Auskunft“

„Was zuerst vor allem fehlte, waren klare Antworten“, sagt Bohrn Mena. Mit der Frage „Was steckt eigentlich in Neoh?“ verfasste Oekoreich einen Bericht dazu. Die „wochenlange Recherche“, wie es im Report heißt, legt neben dem Fehlen von Zertifikaten gleich mehrere Vorwürfe dar. So sei das Startup „nicht sehr auskunftsfreudig“, würde keine Transparenz bezüglich der Inhaltsstoffe bieten und Fragen über die Zusammensetzung des eigens hergestellten Zuckerersatzes offenlassen. „Insgesamt ist das alles eine absolute Null-Auskunft“, betont Bohrn Mena.

Sprecher der Initiative Oekoreich, Sebastian Bohrn Mena, kritisiert Neoh (c) Osaka

Angaben zur Herkunft von Kakao, Nüssen und Milch fehlen

„Und man weiß vor allem überhaupt nichts über die Herkunft von Kakao, wo größtenteils Kinderarbeit drinsteckt, ebenso wie bei der Ernte der Haselnüsse“, heißt es im Oekoreich-Bericht. Korrekt ist, dass das Startup keine Angaben zur Herkunft der Inhaltsstoffe auf seiner Website angibt, auch Gütesiegel werden keine angeführt. Angaben zur Einhaltung der Social-Responsibility-Prinzipien findet man beim Hersteller derzeit lediglich zu den Merchprodukten – hier produziert Continental Clothing. Gütesiegel für die Inhaltsstoffe sowie die Einhaltung von Menschenrechtsstandards, die beispielsweise belegen, dass keine Kinderarbeit vorliegt, fehlen.

Dass Kakao-Gewinnung ein sensibles Thema sei, weiß Manuel Zeller, Mitgründer und Geschäftsführer von Neoh. Auf eine brutkasten-Nachfrage, wie es um die Einhaltung der Social-Responsibility-Prinzipien steht, verweist Zeller darauf, dass Neoh „alles, was machbar ist“ unternehme. Der Kakaolieferant erfülle die Prinzipien und Rechte bei der Arbeit gemäß der Konvention der Internationalen Arbeitsorganisation. Mandeln sowie Kokosflocken sind mit Ecovadis Silber und Gold zertifiziert, der Lieferant der Haselnüsse sei Mitglied bei Sedex, einer Plattform zum Austausch von Informationen über ethisch nachhaltige Produktion in der Lieferkette.

„…arbeiten daran, ein Zertifikat zu erhalten“

Auf konkrete Nachfragen zu gültigen Zertifikaten, bestätigt Zeller, dass es hierzu tatsächlich bislang keine gebe, man aber daran arbeite. „Ein solches zerstreut aber auch nie alle Zweifel. Langfristig könnte eine eigene Plantage eine bessere aber noch lange nicht perfekte Lösung darstellen“, erklärt Zeller. „Bei der Kakaodebatte sagen wir ganz klar: da muss etwas passieren.“

NEOH, Prokop, Riegel, — Gründer und Geschäftsführer Manuel Zeller (c) NEOH

„Weniger Transparenz als Milka und Co“

Bei der bislang nicht publizierten Herkunft der Inhaltsstoffe von Neoh kritisiert Bohrn Mena weiter, dass selbst „milliardenschwere Konzerne“ wie Mondelez, die etwa Milka produzieren, oder Ferrero im Gegensatz zum Startup mittlerweile offenlegen, woher sie ihre Zutaten beziehen. Die Gütesiegel der Konzerne seien laut Oekoreich zwar ebenfalls „hochgradig fragwürdig“, wie es im Bericht heißt, würden aber „Ansatzpunkte“ für Kontrollen bieten.

Bohrn Mena wundert sich in diesem Zusammenhang über die Beteiligung prominenter Persönlichkeiten wie Dominic Thiem oder von Raiffeisen, das „eigentlich die Interessen der heimischen Bauern maßgeblich vertreten sollte“. Er betont die dringende Notwendigkeit für echte Transparenz im Bereich der Lebensmittel. Wichtig hierbei: Die Bestätigung, dass es bei der Herstellung der Produkte weder zu Kinderarbeit noch Tierleid komme.

Um Tierschutz bemüht, regionale Produktion

Die Milchbestandteile der Neoh-Produkte stammen zu 100 Prozent aus der EU und unterliegen somit den Richtlinien der EU-Tierschutz und Hygienegesetze, heißt es vom Unternehmen. „All unsere Zulieferer arbeiten selbst nur mit Lieferanten zusammen, die die Kriterien der Nachhaltigkeit einhalten“, betont Zeller. „Natürlich sind wir bemüht, auch zum Erreichen der restlichen UN-Ziele beizutragen, wo dies im Bereich des Machbaren und des Vertretbaren liegt.“

Außerdem verweist Zeller auf die Regionalität bei der Herstellung: „Wir produzieren ausschließlich regional, hauptsächlich bei der Gutschermühle in Traismauer, die sogar einen Teil der verwendeten Energie aus einem eigenen Wasserkraftwerk bezieht und sehr strenge Prinzipien der Nachhaltigkeit verfolgt.“

Startups und das Lieferkettengesetz: „Ideologie und Umsetzung sind zwei Paar Schuhe.“

„Für manche Themen sind wir aber schlichtweg zu klein“, betont Zeller. „Auch wenn wir von Produzent X gerne den Rohstoff mit einer Nachhaltigkeitszertifizierung einsetzen wollen würden, sind unsere Mengen zu gering, dass dafür extra Lagerplatz und Speicher geschaffen wird.“ Zeller äußert auch Verständnis für die Produzenten: „Für 50 Kunden 50 verschiedene Milchpulver einzusetzen, würde das Endprodukt um ein Vielfaches teurer machen. Und das ist nur einer der benötigten Rohstoffe. Ideologie und Umsetzung sind einfach zwei Paar Schuhe.“

Mittlerweile verzeichnet das Unternehmen fast 500 Investor:innen (über die Neoh AG wurden Aktien ausgegeben), darunter Raiffeisen, FJH Immobilien, Biogena oder auch Rapper Raf Camora sowie „2 Minuten 2 Millionen“- Star Heinrich Prokop. Neben der Kritik am Support der potenten Player kritisiert Oekoreich den Vertrieb der Produkte über die Ankerbrot-Filialen. „Wenn das Gewissen bei Ankerbrot rein wäre, dann würde man wohl auch die Konsumenten darüber informieren, was wirklich in den Produkten steckt.“ Wieso sich Ankerbrot auf die Zusammenarbeit eingelassen habe, die die Öffentlichkeit „im Dunkeln“ lasse, müsse hinterfragt werden.

Prokop: „Startups sind in der Priorität aufgrund ihrer Größe jedoch nicht an erster Stelle und daher auf die Prozesse der Lieferanten angewiesen.“

Einer der wohl prominentesten Investoren des Startups, Heinrich Prokop, der neben Retail-Beratung und Finanzierung als früherer Gutschermühle-Chef auch die regionale Produktionsstätte der Süßigkeiten im Mostviertel stellte, äußert sich nun auch zur Kritik an Neoh und sieht die Verantwortung bei Lieferanten und Politik.

„Als Business Angel und Investor in Lebensmittel-Startups habe ich bereits seit Jahren auf die spezielle Problematik von Startups hingewiesen, nachdem diese fast ausschließlich von Private-Label Produzenten beliefert werden.“ In der Regel seien diese selbst mittelständische Betriebe, die die Lieferkettengesetz-Verpflichtungen umsetzen müssten. Bisher trat das Lieferkettengesetz, das derzeit hauptsächlich von Deutschland, Österreich und Italien blockiert wird, nicht in Kraft. Erste Kritik zum geplanten Gesetz wurde seitens WKÖ geübt: Die Übertragung internationaler Abkommen, auf die sich das Gesetz beziehe, sei für Unternehmung in der Umsetzung „höchst problematisch“, hieß es dazu im Juni, wie brutkasten berichtete.

„Startups sind in der Priorität aufgrund Ihrer Größe jedoch nicht an erster Stelle und daher auf die Prozesse der Lieferanten angewiesen“, so Prokop. Der „2 Minuten 2 Millionen“- Investor sei seit vielen Jahren „großer Befürworter des Gesetzes“. „Der im letzten Moment gestoppte Gesetzesentwurf zeigt aus meiner Sicht, wie komplex das Thema ist, und dass sich viele große Player nicht rechtzeitig auf die Umsetzung vorbereitet haben“, betont Prokop. Das liege auch daran, dass die Auflagen des Lieferketten-Gesetzes, „alle Details zu erfüllen, nicht nur mit hohem organisatorischem Aufwand, aber auch mit signifikanten Kosten verbunden ist, die gerade in der heutigen Zeit am Markt nicht weitergegeben werden können.“

Man sieht Investor Heinrich Prokop — Heinrich Prokop unterstützt das Startup Neoh von Anfang an (c) Gerry Frank, Puls4

„Ominöser Zuckerersatz“ ENSO 16

Sportler, wie Tennisspieler Dominic Thiem oder etwa Jonathan Tah und Para Olympics-Sieger Markus Salcher, die für die Marke werben, hätten laut Zeller erkannt, dass die Neoh-Produkte „einen großen Mehrwert“ für „Gesundheit, Wohlbefinden und Performance“ haben. „Alle glauben an unsere Vision für ein besseres Naschen mit deutlich weniger Zucker“, sagt Zeller.

Aber auch der Zuckerersatz stößt Sebastian Bohrn Mena eher bitter auf. „Und was genau enthält diese Zuckerersatzformel? Keine Auskunft“, schreibt Oekoreich im Bericht. Neoh verweist unterdessen auf eine medizinische Studie, mit der die Naschereien beworben werden. In die Tatsache, dass die Studie, auf die „stolz verwiesen wird“, bislang nicht öffentlich zugänglich sei, interpretiert Bohrn Mena „nicht ganz so großartige Ergebnisse“. Brutkasten liegt die Studie vor.

Die Ergebnisse, die mitsamt Beauftragung für die Untersuchung zugesendet wurden, zeigen weder kritikwürdige Daten noch negative Auffälligkeiten der Produkte. Die Analyse des Blutzuckers von insgesamt 15 Proband:innen stellt fest, „dass nach oraler Konsumation von 30 g ENSO 16, aufgelöst in 200 Milliliter Wasser, der Blutzuckerspiegel der ProbandInnen signifikant geringer bis gar nicht ansteigt im Vergleich zur Konsumation der gleichen Menge an Glucose.“ Übersetzt bedeutet das: ENSO 16 hat im Gegensatz zu herkömmlichem Zucker nur minimale Auswirkungen auf den Blutzuckerspiegel, wie auch Zeller im Gespräch bestätigt.

Kritik an der Studie

Auch brutkasten berichtete bereits über die Zusammensetzung des Süßungsmittels. Alles, was über die Geheimhaltung der Formel hinausgehe, sei zudem unter den FAQs von Neoh zu finden, sagt Zeller. Und das stimmt: Auf der Website befinden sich Antworten zu Fragen der Inhaltsstoffe sowie dazu, warum der Zucker nicht aus Kokosblüten, Datteln oder Honig gewonnen wird. Diese „beeinflussen den Blutzuckerspiegel drastischer als die von uns eingesetzten Süßungsmittel. Aus diesem Grund sind diese drei Zutaten keine Option für uns“, heißt es in den FAQs.

„Grundlegend müssen wir immer alle Inhaltsstoffe auf unserer Packung angeben. Anders dürften wir unsere Produkte gar nicht verkaufen“, sagt Mitgründer und Geschäftsführer Manuel Zeller im Gespräch mit brutkasten zu den Vorwürfen. Die Kritik an der Studie verstehe er nicht, denn obwohl sie aus den eigenen Reihen stammt – eine Mitarbeiterin von Neoh bereitete die Daten, die später von der MedUni Wien ausgewertet wurden, für ihre Diplomarbeit vor – würde sie grundsätzliche Bemühungen zeigen, die es bei anderen Herstellern nicht zu finden gibt.

Dass die Studie, wie von Oekoreich kritisiert, „nicht einsehbar“ sei, liege schlichtweg daran, dass sie noch nicht publiziert wurde, wie Zeller meint. Das Unternehmen sei allerdings „immer gerne bereit die nötigen Daten und die Studie selbst“ zu teilen, betont er.

Neue Statements

Heute, am Montag, veröffentlichte Oekoreich ein weiteres Statement zu Neoh. Bereits jetzt haben sich auch Autor und Betreuer der Studie via Facebook zu Wort gemeldet. Am Donnerstag soll eine offizielle Stellungnahme der Universität folgen.

Deine ungelesenen Artikel:

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

Seit 2. August ist Artikel 50 des EU AI Act verbindlich, die Transparenzstufe der KI-Verordnung. Der Wiener Rechtsanwalt Manuel Mofidian erklärt anhand von drei konkreten Anwendungsbeispielen, was gekennzeichnet werden muss und was nicht.

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Martin Pacher

03.08.2026

KI-Kennzeichnung: Was seit Sonntag gekennzeichnet werden muss, und was nicht

/artikel/ki-kennzeichnung-was-gekennzeichnet-werden-muss-und-was-nicht

Ein Unternehmen erstellt selbst oder unter seiner Weisung und Kontrolle einen kurzen Werbeclip. Kein Dreh, kein Team, kein Budget für Schauspieler:innen: Die Person, die im Video das Produkt vorstellt, ist von einer KI generiert. Sie existiert nicht, sieht aber aus wie ein Mensch.

Seit Sonntag ist dieser Clip kennzeichnungspflichtig, und die Pflicht trifft das Unternehmen, nicht das Tool, mit dem der Clip entstanden ist. Denn ein Deepfake im Sinne des Gesetzes ist nicht nur die manipulierte Aufnahme einer prominenten Person. Nach den neuen Leitlinien der EU-Kommission genügt es, dass das Dargestellte real existieren könnte und der Inhalt so wirkt, als wäre er echt. Ob jemand täuschen wollte, spielt keine Rolle. Ob der Gesetzeswortlaut wirklich so weit reicht, wird in der Fachwelt diskutiert, denn er knüpft an die Ähnlichkeit mit real existierenden Personen an. Für die Praxis ist vorerst die Kommissionslinie maßgeblich, denn an ihr werden sich die Behörden primär orientieren.

Nein, die EU hat das nicht verschoben

In vielen Geschäftsleitungen ist in den vergangenen Wochen eine andere Botschaft angekommen: Brüssel habe zurückgerudert, man habe Zeit. Diese Lesart ist gefährlich verkürzt.

Die Digital-Omnibus-Verordnung zur KI, Verordnung (EU) 2026/1744, wurde am 24. Juli im Amtsblatt veröffentlicht und ist seit 27. Juli in Kraft, wenige Tage vor dem Stichtag. Verschoben hat sie die Pflichten für Hochrisiko-Systeme: eigenständige Anwendungen nach Anhang III auf Dezember 2027, in Produkte eingebettete KI auf August 2028. Die Transparenzpflichten hat sie in ihrer Substanz nicht angetastet. Sie gelten seit Sonntag.

Eine einzige Ausnahme gibt es, und sie betrifft Anbieter, nicht Anwender (in der KI-VO Betreiber genannt): Generative KI-Systeme, die bereits vor dem 2. August auf dem Markt waren, haben für die technische, maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 Zeit. Auf die Pflichten von Unternehmen, die KI einsetzen, hat das keine Auswirkung.

Was es an Orientierung gibt

Anders als beim Start der DSGVO steht der Stichtag nicht im luftleeren Raum. Die EU-Kommission hat am 10. Juni den Verhaltenskodex zur Transparenz KI-generierter Inhalte veröffentlicht. Die dazugehörigen Leitlinien zur Auslegung von Artikel 50 hat sie inhaltlich am 20. Juli freigegeben, die förmliche Annahme steht noch aus, bis alle Sprachfassungen vorliegen. Beides ist rechtlich nicht bindend, in der Praxis aber der Maßstab, an dem sich Behörden orientieren werden.

Der Kodex wurde von Kommission und AI Board als geeignet bewertet. Wer ihm beitritt, kann sich zum Nachweis der Kennzeichnungspflichten darauf berufen. Wer das nicht tut, muss seine Compliance auf anderem Weg belegen und muss laut Kommission mit mehr Auskunftsersuchen rechnen.

Die wichtigste Unterscheidung, die Sie brauchen

Das Gesetz trennt zwei Rollen: Anbieter und Betreiber. „Stark vereinfacht gesagt: Anbieter ist, wer ein KI-System entwickelt und auf den Markt bringt. Betreiber ist derjenige, der ein KI-System in eigener Verantwortung nutzt. Die Definitionen sind aber deutlich länger und komplexer, also muss im Einzelfall wirklich ausgelegt werden, ob die Tatbestände erfüllt sind, auch weil diese mit den Definitionen von KI-Systemen und -Modellen verzahnt sind“, sagt Manuel Mofidian, Wirtschafts- und Tech-Rechtsanwalt mit Spezialisierung auf KI-Recht. „Vielleicht sogar 99 Prozent der Unternehmen und Organisationen, die KI einsetzen, sind Betreiber.“

So sei man bereits Betreiber, wenn ein Unternehmen einen eingekauften Voicebot laufen lässt. Aber auch wenn Mitarbeiter:innen auf Anweisung des Unternehmens ein KI-Tool einsetzen, wird dadurch ihr Unternehmen zum Betreiber, nicht der einzelne Mitarbeiter:innen. Heraus fällt nur die rein persönliche und nicht berufliche Nutzung: „Wenn meine Mutter privat ChatGPT verwendet, ist sie keine Betreiberin.“

Die Grenze verläuft dabei nicht per se zwischen Unternehmen und Einzelpersonen, sondern zwischen privat und erwerbsmäßig. Wer regelmäßig wirtschaftlichen Nutzen aus der Nutzung zieht oder sie im Rahmen einer geschäftlichen, beruflichen oder freiberuflichen Tätigkeit einsetzt, ist Betreiber. Creator, die KI-Inhalte monetarisieren, fallen darunter.

Diese Trennung entscheidet, wer welche Pflicht hat. In den drei folgenden Beispielen fällt die Antwort jeweils anders aus.

Beispiel 1: Der Chatbot im Kundenservice

Wer mit einer KI spricht, muss das erfahren. Diese Pflicht trifft allerdings nicht Sie, sondern den Anbieter, also jenes Unternehmen, das den Assistenten gebaut und verkauft hat. Es muss das Produkt so konzipieren, dass die Information rechtzeitig kommt. „Bei der ersten Interaktion, so früh wie möglich und deutlich“, fasst Mofidian zusammen, in der Praxis also z. B. mit einer Ansage zu Gesprächsbeginn.

Eine Ausnahme gibt es, wenn ohnehin offensichtlich ist, dass eine KI interagiert. Ein erkennbarer virtueller Comic-Avatar dürfte darunterfallen. Eine Stimme, die klingt wie ein Mensch, nicht. Auf diese Ausnahme sollte man sich aber nicht zu bequem verlassen: Die Kommission verlangt in ihren Leitlinien eine enge Auslegung, weil die Ausnahme den Betroffenen Transparenz entzieht.

Für Unternehmen, die einen solchen Assistenten einkaufen, ist dieser legistische Ansatz dennoch eine Entlastung: Sie müssen die Ansage nicht selbst einbauen. Wer allein einen fremden Chatbot in die eigene Website einbindet, bleibt nach den Leitlinien im Regelfall Betreiber. Die Rolle kann aber kippen: Wer in gewissen Konstellationen das System wesentlich verändert, etwa nachtrainiert, wer seine Zweckbestimmung ändert oder es unter eigenem Namen oder eigener Marke in Verkehr bringt, kann selbst zum Anbieter werden und „erbt“ dann die Anbieter-Pflichten.

Beispiel 2: Das „Deepfake“-KI-Video im Marketing

Hier kann die Hauptverantwortung das KI-einsetzende Unternehmen treffen, den Betreiber im Sinne der KI-Verordnung. Wer Inhalte veröffentlicht, die als echt durchgehen könnten, muss offenlegen, dass sie künstlich erzeugt wurden. Der Hinweis darf dabei nicht in den Metadaten vergraben sein, er muss für Menschen wahrnehmbar sein. Auf die maschinenlesbare Markierung, die der Anbieter im Inhalt hinterlässt, können Sie sich zur Erfüllung Ihrer eigenen Pflicht ausdrücklich nicht stützen.

Nicht jedes KI-Bild fällt darunter. „Jedes Deepfake ist künstlich erzeugt, aber nicht jeder künstlich erzeugte Inhalt ist ein Deepfake“, sagt Mofidian. „Ich kann tausend Sachen mit einer KI machen, die nichts mit Deepfake zu tun haben. Ein Bild von einem Einhorn zum Beispiel. Hier besteht keine ausreichende Ähnlichkeit mit realen Lebenssachverhalten, weswegen dies kein Deepfake sein kann.“ Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken kann die Offenlegung in angemessener, nicht die Darstellung beeinträchtigender Form erfolgen. Die Kennzeichnungspflicht entfällt dadurch jedoch nicht vollständig.

Wie eine Kennzeichnung konkret aussehen kann, beschreibt der Verhaltenskodex. Die Kommission stellt dafür einen Satz frei verfügbarer EU-Icons bereit, den Betreiber verwenden können; gleichwertige eigene Labels sind ebenfalls zulässig. Der Kodex macht darüber hinaus Vorgaben zu Gestaltung und Platzierung und sieht Alternativen vor, wo visuelle Labels nicht funktionieren, bei reinen Audioinhalten etwa gesprochene Hinweise.

Beispiel 3: Der automatisch erzeugte Text

Der unauffälligste Teil ist für viele der folgenreichste. Wer KI-erzeugte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss das kennzeichnen. Hier genügt bereits die Erzeugung, eine Verzerrung der Realität ist nicht nötig.

Jedoch greift eine Ausnahme, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Entscheidend ist, was als Überprüfung zählt. Die Kommission verlangt eine bewusste Auseinandersetzung mit der Substanz des Inhalts, durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen. Rein formale oder prozedurale Kontrollen genügen ausdrücklich nicht, Rechtschreib- und Grammatikkorrektur werden als Negativbeispiele genannt. Ein Text muss also nicht verändert, aber inhaltlich geprüft werden. „Es kann reichen, dass du es einmal bewusst inhaltlich substanziell prüfst und durchliest. Keiner verpflichtet dich, einen Beistrich zu ändern“, sagt Mofidian. Entscheidend sei, dass beides zusammenkommt: „Die Prüfung allein genügt nicht. Es muss auch jemand die redaktionelle Verantwortung übernehmen.“

Damit sind klassische Redaktionen weitgehend außen vor. Eng wird es dort, wo der Mensch aus dem Prozess verschwindet. Ein Agent, der Texte generiert und selbst publiziert, ohne dass jemand gegenliest, erfüllt die erste Bedingung nicht. „Wenn das alles autonom abläuft, dann hast du ein Kennzeichnungs-Thema“, sagt Mofidian. Für Unternehmen, die gerade solche Pipelines aufbauen, sei dies eine wichtige Konsequenz des Stichtags.

Was nicht gekennzeichnet werden muss

Rund um den Stichtag kursierte die Warnung, künftig müsse praktisch jeder mit KI erstellte Inhalt ein Label tragen. Das ist so nicht richtig, und die Abgrenzung ist für die Praxis oft entscheidender als die Pflicht selbst.

Nicht erfasst sind KI-erzeugte Texte, die nicht der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Hier braucht es nach Artikel 50 kein Label. Auch der Newsletter über das eigene Sortiment fällt nicht darunter, wohl aber ein Beitrag, der über ein Thema von allgemeinem Interesse informiert.

Nicht erfasst sind erkennbar künstliche Bilder und Videos, vom Fantasiemotiv bis zur sichtbar generierten Illustration.

Nicht erfasst ist KI, die im Hintergrund unterstützt, ohne den Inhalt wesentlich zu verändern, etwa bei Standardbearbeitung oder Berechnung. Ebenso wenig erfasst sind Systeme, die weder mit Menschen interagieren noch Inhalte erzeugen und auch keine Emotionen erkennen oder Menschen biometrisch kategorisieren, also der Großteil klassischer Analyse-Anwendungen in der Produktion.

Nicht erfasst ist schließlich, was vor dem Stichtag erzeugt wurde: Eine rückwirkende Kennzeichnung älterer Inhalte verlangt niemand. Eine Ausnahme sollten Unternehmen mit vorbefülltem Content-Kalender kennen: Bei Text kommt es auf den Zeitpunkt der Veröffentlichung an. Wer einen KI-Text im Juli erzeugt und im September publiziert, muss ihn kennzeichnen, sofern er unter die Pflicht fällt.

Und schließlich ist die maschinenlesbare Kennzeichnung, über die derzeit viel geschrieben wird, eine Pflicht der Anbieter, und sie richtet sich nicht an den Leser. „Für dich muss die Kennzeichnung nicht eindeutig sein, sondern für eine Maschine“, erklärt Mofidian den Unterschied. „Beim Deepfake muss es dagegen so sein, dass ein Mensch es versteht.“ Wer KI-Werkzeuge einkauft, muss also keine Wasserzeichen in seine Dateien bauen.

Wer allerdings dokumentieren kann, wie ein Inhalt entstanden ist und wer ihn freigegeben hat, ist im Streitfall besser aufgestellt. Nachweisbarkeit ist keine Pflicht aus Artikel 50, aber sie entscheidet, wie belastbar man dasteht, wenn jemand nachfragt.

Die Falle: KI-Recht ist mehr als nur die KI-VO

Selbst wer nach dieser Aufteilung zum Schluss kommt, als Betreiber in gewissen Konstellationen wenig tun zu müssen, sollte nicht zu früh aufatmen. Dass der AI Act in gewissen Konstellationen entlasten kann, sagt Mofidian, „heißt für andere, ebenfalls einschlägige Rechtsgebiete noch nichts“. „KI-Recht ist eine Querschnittsmaterie. Das Kennzeichnungs-Regime des AI Acts ist nur eine Schicht. Daneben laufen DSGVO, Urheberrecht, Persönlichkeitsrechte, Lauterkeitsrecht, Vertrags- und Haftungsfragen.“

Für die Praxis besonders relevant: Das Label schützt nicht vor anderen Rechtsfolgen. „Ein gekennzeichnetes Deepfake kann trotzdem rechtswidrig sein, etwa weil es das Bildnis einer realen Person verletzt“, sagt Mofidian. Zudem droht die Durchsetzung nicht nur von Behördenseite: „Eine fehlende Kennzeichnung, aber auch eben z. B. Rechtsverstöße aus anderen Bereichen, holen dich unter Umständen schneller über eine Mitbewerber-Abmahnung ein als über eine Behörde.“ Die Kennzeichnung beantwortet nur die Frage, ob KI im Spiel war, nicht, ob der Inhalt selbst zulässig ist oder Rechte anderer verletzt, etwa Geschäftsgeheimnisse.

Deutlich zeige sich dies z. B. im Datenschutzrecht. Dort kann sich das Verhältnis in gewissen Konstellationen fast schon umdrehen, wobei auch hier jedenfalls im Einzelfall geprüft werden muss: Während nach der KI-Verordnung Pflichten wie der „Chatbot-Hinweis“ oder die maschinenlesbare Markierung beim Anbieter liegen können, kann datenschutzrechtlich das einsetzende Unternehmen der Verantwortliche sein, weil es über Zweck und Mittel der Datenverarbeitung entscheidet. Der KI-Anbieter kann in dieser Konstellation datenschutzrechtlich betrachtet häufig Auftragsverarbeiter sein, wobei denkbar ist, dass KI-Anbieter daneben auch zu eigenen Zwecken verarbeiten und insoweit selbst Verantwortliche sind. Arbeitet der Anbieter nicht DSGVO-konform, kann das auf das einsetzende Unternehmen zurückfallen, das nach der KI-Verordnung „nur“ Betreiber ist, nach der DSGVO aber Verantwortlicher.

Was Verstöße kosten

Verstöße gegen die Transparenzpflichten liegen auf der mittleren Sanktionsstufe: bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Für Unternehmen gilt der höhere der beiden Werte.

Für kleine und mittlere Unternehmen einschließlich Startups dreht die Verordnung diese Regel um. Dort gilt der niedrigere Wert. Ein Startup mit zehn Millionen Euro Umsatz riskiert damit maximal 300.000 Euro, nicht 15 Millionen. Die oft zitierten 35 Millionen Euro betreffen ausschließlich die verbotenen KI-Praktiken und haben mit Kennzeichnung nichts zu tun.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag