25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
08.07.2026

„Das gebaut, was uns Diabetikern gefehlt hat“: Diabetes-Startup Carbetic weckt Interesse von Medizintechnik-Riesen

Mit 17 Jahren entwickelte Diego Szekely die Diabetes-Lösung Carbetic. Die App nutzt 3D-Bildanalyse, um den Kohlenhydratgehalt von Mahlzeiten präzise zu bestimmen und sichert sich nach drei Monaten 4.000 zahlende User.
/artikel/das-gebaut-was-uns-diabetikern-gefehlt-hat-diabetes-startup-carbetic-weckt-interesse-von-medizintechnik-riesen
08.07.2026

„Das gebaut, was uns Diabetikern gefehlt hat“: Diabetes-Startup Carbetic weckt Interesse von Medizintechnik-Riesen

Mit 17 Jahren entwickelte Diego Szekely die Diabetes-Lösung Carbetic. Die App nutzt 3D-Bildanalyse, um den Kohlenhydratgehalt von Mahlzeiten präzise zu bestimmen und sichert sich nach drei Monaten 4.000 zahlende User.
/artikel/das-gebaut-was-uns-diabetikern-gefehlt-hat-diabetes-startup-carbetic-weckt-interesse-von-medizintechnik-riesen
Diego Szekely programmierte seine Diabetes-App im Alleingang © Hannah Fasching

„Ich war der, der die Waage rausgeholt hat, um meinen Insulinbedarf zu berechnen“, erinnert sich Carbetic-Gründer Diego Szekely an die Zeit nach seiner eigenen Typ-1-Diabetes-Diagnose vor vier Jahren. Bei der Autoimmunerkrankung produziert der Körper überhaupt kein eigenes Insulin mehr, weshalb jede Aufnahme von Kohlenhydraten exakt berechnet und durch externe Insulingaben ausgeglichen werden muss.

Im Austausch mit anderen Betroffenen stellte er jedoch schnell fest, dass die meisten Diabetiker:innen im Alltag ihren Bedarf lediglich abschätzen. Da ungenaue Werte langfristige gesundheitliche Risiken bergen, entwickelte der heute 18-Jährige Carbetic, um eine verlässlichere, unkomplizierte Lösung im Alltag anzubieten. „Ich hab einfach das gebaut, was uns Diabetikern wirklich gefehlt hat“, so der Gründer.

© Carbetic

Räumliche Tiefe als technischer USP

Mittlerweile ist die Anwendung bereits in 41 Sprachen verfügbar, wobei aktuell die USA, dicht gefolgt von Deutschland, den größten Markt darstellen. Das technische Fundament unterscheidet sich laut dem Gründer aus Perchtoldsdorf vor allem in einem Punkt von klassischen Lifestyle-Trackern.

Statt einer simplen 2D-Bildanalyse setzt Carbetic laut eigenen Angaben auf räumliche Tiefe durch drei schnell geschossene Fotos aus unterschiedlichen Winkeln sowie LiDAR-Sensoren moderner Smartphones. „Die drei Fotos sind wahnsinnig wichtig, um die Dimensionen gescheit abzuschätzen“, betont Szekely.

Aus der Kombination dieser Bild- und Raumdaten berechnet ein feinjustiertes KI-Modell schließlich den Kohlenhydratgehalt der einzelnen Komponenten auf dem Teller, der wiederum für die Bestimmung des Insulinbedarfs benötigt wird. Neben der Foto-Analyse wird das Produkt in der Praxis durch eine integrierte Sprachsteuerung sowie die Option ergänzt, Koch-URLs oder abfotografierte, handschriftliche Rezepte automatisch von der KI auslesen zu lassen.

Conversion im SaaS-Modell

Nach nur drei Monaten verzeichnet die App rund 20.000 Downloads. Interessant ist vor allem die Conversion-Rate: „5.000 Nutzer sind aktuell in einem Probeabo oder bezahlten Abo“, erklärt der Gründer. Von den 5.000 „zahlen bereits 4.000“, so Szekely weiter. Das Geschäftsmodell basiert auf einer Software-as-a-Service-Struktur. Das Einstiegs-Abo für bis zu zehn Analysen am Tag kostet 4,49 Euro im Monat, während die unlimitierte Version für 9,99 Euro angeboten wird.

Auf die Frage, wie man ein solches Wachstum erziele, meint der Gründer: „Gute Frage. Und da ich keine gute Antwort habe, ist die Antwort, das Produkt funktioniert.“ Hauptsächlich über Mundpropaganda und Empfehlungen von Ärzt:innen, die Szekely unter anderem auf Ärztekongressen kennenlernte, wachse das Produkt aktuell organisch. „Wenn mir Patient:innen schreiben, dass die App ihnen hilft, den Alltag ein Stück mehr wie ein gesunder Mensch zu leben, macht mich das einfach so stolz“, so der Gründer.

„Mit allen großen Medizintechnik-Firmen in Kontakt“

Einen langfristigen Wettbewerbsvorsprung will sich der Gründer, der für sein Startup Studienplätze am UCL und King’s College in London sausen lässt, künftig über zwei strategische Säulen verschaffen, die über die reine Nutzer:innenbasis hinausgehen. Neben einer umfassenden Datensammlung zur Optimierung der Algorithmen steht ein digitaler Ärztezugang im Fokus. Über diesen können Mediziner:innen nach expliziter Freigabe die Mahlzeiten ihrer Patient:innen analysieren und die Therapie gezielter begleiten.

Während der aktuelle Fokus auf Typ-1-Diabetes-Patient:innen liegt, zeigt sich Szekely zuversichtlich, dass auch Typ-2-Patient:innen über kurz oder lang auf seine Anwendung zugreifen werden: „Alle Apps, die Typ 1 machen, übernehmen irgendwann auch den Typ-2-Markt. Das ist immer so.“ Zudem startet in Kürze eine Genauigkeitsstudie mit der Universität Wien. Auch gegenüber strategischen Partnerschaften und Investments zeigt sich der Solo-Founder offen: „Ich bin mit allen großen Medizintechnik-Firmen im Diabetes-Bereich in Kontakt. Und die sind alle begeistert.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline