25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
15.09.2026

Aitiologic: Wiener Diagnostik-Startup holt 6,4 Mio. Euro in Seed-Runde

Angeführt wird die Runde von den Healthcare-Investoren Heal Capital und Ananda Impact Ventures. Als erste Anwendung will das Startup das Risiko für Präeklampsie in der Schwangerschaft früh einschätzen.
/artikel/aitiologic-seed-runde
15.09.2026

Aitiologic: Wiener Diagnostik-Startup holt 6,4 Mio. Euro in Seed-Runde

Angeführt wird die Runde von den Healthcare-Investoren Heal Capital und Ananda Impact Ventures. Als erste Anwendung will das Startup das Risiko für Präeklampsie in der Schwangerschaft früh einschätzen.
/artikel/aitiologic-seed-runde
Die Aitiologic-Gründer (vlnr.): Andreas Posch, Stephan Beisken und Achim Plum | (c) Aitiologic
Die Aitiologic-Gründer (v.l.n.r.): Andreas Posch, Stephan Beisken und Achim Plum | (c) Aitiologic

Im Oktober 2024 verließ das Wiener Startup Aitiologic den „Stealth Mode“. Damals hatte es 2,5 Millionen Euro an Investments und Förderungen eingesammelt. Jetzt folgt eine Seed-Finanzierung über 6,4 Millionen Euro, wie das Unternehmen am Dienstag bekannt gab.

Angeführt wird die Runde von den Healthcare-Investoren Heal Capital und Ananda Impact Ventures. Die bisherigen Investoren Push VC und Lana Ventures sind wieder dabei. Dazu kommen laut Startup mehrere Biotech-Gründer, die bereits Börsengänge und Exits hinter sich haben.

Ein Bluttest, der zeigt, was im Gewebe passiert

Aitiologic entwickelt die Plattform „Aitios“. Sie untersucht zellfreie DNA im Blut und wertet die Daten mit KI aus. Das Ziel: Aus einer normalen Blutprobe soll sich ablesen lassen, aus welchem Gewebe die DNA stammt und was dort gerade passiert. Die Technologie geht auf Forschung von Gründer und CEO Andreas Posch bei Siemens Healthineers zurück. Aitiologic hat sie exklusiv lizenziert.

2024 sprach das Startup noch allgemein von Krebs- und Pränataldiagnostik. Nun ist die erste Anwendung klar: die Risikoabschätzung für Präeklampsie im ersten Schwangerschaftsdrittel. Die Bluthochdruck-Erkrankung betrifft laut Aussendung geschätzt drei bis acht Prozent aller Schwangerschaften. Sie ist eine der wichtigsten Ursachen für Todesfälle von Müttern und Föten weltweit. Aitiologic will dafür dieselbe Blutprobe nutzen, die ohnehin für den nicht-invasiven Pränataltest (NIPT) abgenommen wird. Eine zusätzliche Blutabnahme wäre also nicht nötig.

Eine erste Studie mit Kypros Nicolaides und dem Fetal Medicine Research Institute habe gezeigt, dass sich damit das Präeklampsie-Risiko einschätzen lässt, so das Startup. Jetzt läuft eine größere Studie mit der Fetal Medicine Foundation, an der mehr als 1.000 Schwangere teilnehmen. „Wir sind von einer Technologie-Hypothese zu publizierten klinischen Daten gekommen“, sagt Posch. Das frische Kapital soll in diese Studie und in die Produktentwicklung fließen.

Oxford-Nanopore-Mitgründer im Beirat, neue Chief Medical Officer

Mit der Finanzierung holt Aitiologic zwei bekannte Namen an Bord. Gordon Sanghera hat Oxford Nanopore Technologies mitgegründet, ein britisches Unternehmen für DNA-Sequenzierung. Er führte es 21 Jahre lang als CEO, vom Spinoff der Universität Oxford bis zum Börsengang in London. In der Aussendung wird er als „Pionier der Molekulardiagnostik“ bezeichnet. Für Aitiologic ist das relevant, weil die eigene Plattform auf der Sequenzierung von DNA aus dem Blut aufbaut: Sanghera bringt also Erfahrung mit dem Aufbau, der Finanzierung und der Skalierung genau dieser Art von Technologie mit. Er investiert in die Runde und wird Mitglied des Beirats. Die ersten klinischen Daten von Aitiologic seien „sehr ermutigend“, sagt Sanghera.

Neue Chief Medical Officer ist Rebecca Ertl. Sie ist Fachärztin für Gynäkologie und Geburtshilfe und hat ein nach eigenen Angaben führendes Zentrum für Pränataldiagnostik in Österreich gegründet. Bei Aitiologic verantwortet sie die medizinische Strategie, zunächst für das Präeklampsie-Programm. Ertl nennt bereits ein mögliches nächstes Thema: Man prüfe, ob der Bluttest auch bei Schwangerschaftsdiabetes früher Hinweise liefern könne.

Neben dem Risikokapital erhält Aitiologic Förderungen von der Österreichischen Forschungsförderungsgesellschaft (FFG), der Austria Wirtschaftsservice (aws) und der Wirtschaftsagentur Wien. Dazu kommt Unterstützung über den Europäischen Investitionsfonds (EIF) im Rahmen von InvestEU. Zugelassen ist die Plattform noch nicht, sie befindet sich weiterhin in der Entwicklung.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline