25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
09.10.2026

Hone: Wiener holt vier Monate nach Gründung 60 Mio. Dollar Seed-Investment im Valley

Das KI-Startup Hone rund um den Wiener Stanford-Absolventen Moritz Stephan bekommt eine Kapitalspritze unter dem Lead der VCs Benchmark und Index Ventures.
/artikel/hone-wiener-holt-vier-monate-nach-gruendung-60-mio-dollar-seed-investment-im-valley
09.10.2026

Hone: Wiener holt vier Monate nach Gründung 60 Mio. Dollar Seed-Investment im Valley

Das KI-Startup Hone rund um den Wiener Stanford-Absolventen Moritz Stephan bekommt eine Kapitalspritze unter dem Lead der VCs Benchmark und Index Ventures.
/artikel/hone-wiener-holt-vier-monate-nach-gruendung-60-mio-dollar-seed-investment-im-valley
Die Hone-Gründer vl.: Carlo Kobe, Moritz Stephan und Oliver Brady | (c) Hone
Die Hone-Gründer vl.: Carlo Kobe, Moritz Stephan und Oliver Brady | (c) Hone

Er war gerade einmal 17 Jahre alt, als brutkasten 2017 erstmals über ihn berichtete. Damals hatte der Wiener Moritz Stephan gemeinsam mit Konstantin Klinger, mittlerweile Co-Founder und CEO des millionenfinanzierten Londoner Startups Seamflow, sein erstes Startup-Projekt gestartet. Mit dem Bücher-Lieferservice Lobu wollten die beiden Schüler der Wiener Hochbegabten-Schule Sir Karl Popper Schule damals Amazon und Co. lokal die Stirn bieten und holten sich wenig später eine kleine Investmentzusage bei 2 Minuten 2 Millionen.

Ein weiteres Mal war von Stephan im Jahr 2020 als Co-Founder des 2016 gegründeten Wiener Neustädter SpaceTech-Startups Tumbleweed zu lesen, das einen windbetriebenen Marsrover bauen wollte. Noch im selben Jahr verließ er aber laut seinem LinkedIn-Profil das Startup. Kein Wunder, war er doch seit 2019 an der Elite-Uni Stanford inskribiert. Eine weitere Gründung, diesmal mit Y-Combinator-Teilnahme, und einige Jobs, unter anderem bei Sarah Buchners Trunk Tools und zuletzt beim AI-Scaleup Cognition, folgten. Im Mai dieses Jahres ging Stephan schließlich gemeinsam mit den Co-Foundern Oliver Brady und Carlo Kobe, mit dem er bereits zuvor gemeinsam gegründet hatte, mit dem KI-Startup Hone an den Start.

„AI Engines“ als nächste Ausbaustufe über KI-Agenten

Das Produktversprechen von Hone: „AI Engines“, die im Unternehmen Ownership für konkrete Resultate übernehmen. „Chatbots geben Antworten. Agenten erledigen Aufgaben. Engines liefern Ergebnisse, und wir geben ihnen die Verantwortung, echten Wert zu schaffen – gemessen in Dollar anstatt in Tokens oder Vibes“, so der Claim des Startups. „Man richtet sie auf eine Geschäftskennzahl aus, und die Engine übernimmt den Rest. Sie arbeitet sich selbst ein, baut die notwendigen Agenten, Fähigkeiten und Wissensspeicher auf, arbeitet mit den richtigen Personen zusammen und wird durch Erfahrung immer besser.“

Von den Unternehmen festgelegte Regeln, an welchen Stellen es menschliche Bestätigung braucht, etwa im Umgang mit sensiblen Daten, sollen dabei für die notwendige Sicherheit sorgen. Man schließe mit „AI Engines“ letztlich eine „große Lücke“ zwischen dem, wozu Frontier-KI fähig ist und dem, was Unternehmen tatsächlich damit herausholen, heißt es von Hone.

„Fünf weitere Moritze“

Das Konzept überzeugte nun auch eine Reihe von Investoren: Mit Benchmark und Index Ventures übernehmen zwei US-VCs den Lead in einer 60 Millionen US-Dollar schweren Finanzierungsrunde nur vier Monate nach der Gründung. Elad Gil, Hanabi, Definition, Diffusion, Lux, SV Angel, and Align komplettieren die Finanzierungsrunde.

In einem Blog-Beitrag von Index Ventures zum Investment heißt es, man habe Stephan bereits in seiner Zeit beim vorigen Arbeitgeber Cognition als Ausnahmetalent kennengelernt. „Weithin als Umsetzungsmaschine angesehen, war er ein Ein-Mann-Entwicklungsteam. Sein Name wurde im Unternehmen zum Synonym für Exzellenz und Produktivität; man sagte nur halbscherzhaft, dass Cognition ‚fünf weitere Moritze‘ bräuchte“, schreiben Shardul Shah und Mark Xu von Index unter anderem.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline