25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
04.11.2026

KI-Chatbots können laut EuGH-Generalanwalt Urheberrechte verletzen

KI-Chatbots wie Googles Gemini können unter bestimmten Umständen die Rechte von Presseverlagen verletzen, wenn sie Online-Presseartikel abrufen und für die Beantwortung von Nutzeranfragen verwenden. Zu diesem Schluss kommt Generalanwalt Maciej Szpunar in seinen am Dienstag veröffentlichten Schlussanträgen am Europäischen Gerichtshof (EuGH). Hintergrund ist ein Rechtsstreit zwischen dem ungarischen Unternehmen Like Company und Google.
/artikel/ki-chatbots-koennen-laut-eugh-generalanwalt-urheberrechte-verletzen
04.11.2026

KI-Chatbots können laut EuGH-Generalanwalt Urheberrechte verletzen

KI-Chatbots wie Googles Gemini können unter bestimmten Umständen die Rechte von Presseverlagen verletzen, wenn sie Online-Presseartikel abrufen und für die Beantwortung von Nutzeranfragen verwenden. Zu diesem Schluss kommt Generalanwalt Maciej Szpunar in seinen am Dienstag veröffentlichten Schlussanträgen am Europäischen Gerichtshof (EuGH). Hintergrund ist ein Rechtsstreit zwischen dem ungarischen Unternehmen Like Company und Google.
/artikel/ki-chatbots-koennen-laut-eugh-generalanwalt-urheberrechte-verletzen
Erster Generalanwalt am EuGH: Maciej Szpunar | (c) curia.europa.eu/Screenshot

Die ungarische Like Company betreibt mehrere Webportale und beansprucht Schutz für die dort veröffentlichten Artikel. Das Unternehmen wirft Google vor, seine Artikel zum Training der Gemini-Sprachmodelle verwendet sowie über den KI-Chatbot vervielfältigt und öffentlich zugänglich gemacht zu haben. Ein ungarisches Gericht setzte das Verfahren daraufhin aus und legte dem EuGH vier Fragen zur Vorabentscheidung vor. Es handelt sich um das erste Verfahren zu generativer Künstlicher Intelligenz vor dem EuGH.

Wann KI-Chatbots die Rechte von Verlagen verletzen können

In seinen Schlussanträgen erläutert Generalanwalt Szpunar, unter welchen Umständen die Nutzung von Presseartikeln durch KI-Chatbots eine Rechtsverletzung darstellen kann. Entscheidend sei unter anderem, ob der Chatbot unrechtmäßig auf eine Veröffentlichung zugreift, etwa durch die Umgehung einer Paywall oder anderer technischer Schutzmaßnahmen.

Zudem komme es darauf an, wie die Informationen in den generierten Antworten wiedergegeben werden. Während die bloße Wiedergabe von Tatsachen keine Rechtsverletzung darstelle, könne die erkennbare Übernahme der Ausdrucksform eines Artikels problematisch sein. Das gelte insbesondere dann, wenn die Antwort die Originalveröffentlichung so weit ersetze, dass Nutzer:innen kein Verlangen mehr haben, die Originalveröffentlichung zu öffnen.

Das Recht der Presseverlage auf öffentliche Zugänglichmachung könne laut Szpunar verletzt werden, wenn die Ausdrucksform der Originalartikel systematisch in den Antworten eines Chatbots erkennbar sei. Der Anbieter könne für eine solche Nutzung haften, wenn diese Teil seines Geschäftsmodells sei oder er keine wirksamen Gegenmaßnahmen ergriffen habe.

Fragen zum KI-Training laut Generalanwalt unzulässig

Die Fragen zur Verwendung von Presseartikeln für das Training der Google LLMs empfiehlt Szpunar hingegen, für unzulässig zu erklären. Es gebe keine Beweise dafür, dass die Artikel der ungarischen Like Company tatsächlich zum Training der Gemini-Modelle verwendet worden seien. Die Fragen seien daher hypothetisch. Szpunar hält jedoch fest, dass die Nutzung urheberrechtlich geschützter Inhalte zum Training von Sprachmodellen im Rahmen der im EU-Recht vorgesehenen Ausnahme für Text- und Data-Mining in der Regel „frei zulässig“ sei.

Das Gutachten ist für die Richter:innen nicht bindend, ihr Urteil soll zu einem späteren Zeitpunkt verkündet werden.

Streit um journalistische Inhalte auch in anderen EU-Ländern

Der Rechtsstreit ist kein Einzelfall. Bereits im Februar 2026 reichte die dänische Verwertungsgesellschaft DPCMO, die einen Großteil der Nachrichtenmedien des Landes vertritt, Klage gegen OpenAI ein. Sie wirft dem Unternehmen vor, Presseartikel ohne Genehmigung zum Training seiner KI-Modelle verwendet und Inhalte über ChatGPT wiedergegeben zu haben. Ein Urteil steht bislang aus. Auch in Frankreich wehren sich Presseverlage gegen die Nutzung ihrer Inhalte durch KI-Anbieter. Im August dieses Jahres wandte sich die französische Presseallianz APIG an die Wettbewerbsbehörde, weil sie durch Googles KI-generierte Zusammenfassungen sinkende Besucherzahlen und Einnahmen befürchtet.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline