25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
02.11.2026

Handy raus, Lesen rein: So werden Österreichs Schüler wirklich KI-fit

KI-Kompetenz ist eine Standortfrage. Sie beginnt aber nicht beim Prompt, sondern beim Lesen, Schreiben und Rechnen - das argumentiert GoStudent-Gründer Felix Ohswald im Gastbeitrag und gibt Einblicke in die Zahlen des aktuellen Berichts zur Zukunft der Bildung des Scaleups.
/artikel/handy-raus-lesen-rein-so-werden-oesterreichs-schueler-wirklich-ki-fit
02.11.2026

Handy raus, Lesen rein: So werden Österreichs Schüler wirklich KI-fit

KI-Kompetenz ist eine Standortfrage. Sie beginnt aber nicht beim Prompt, sondern beim Lesen, Schreiben und Rechnen - das argumentiert GoStudent-Gründer Felix Ohswald im Gastbeitrag und gibt Einblicke in die Zahlen des aktuellen Berichts zur Zukunft der Bildung des Scaleups.
/artikel/handy-raus-lesen-rein-so-werden-oesterreichs-schueler-wirklich-ki-fit
GoStudent
© brutkasten - Felix Ohswald, Gründer GoStudent.

Im November 2024 habe ich hier geschrieben, dass wir bei KI in der Bildung an einem Wendepunkt stehen. Die entscheidende Frage war damals, ob wir KI nutzen, um Lernen zu verbessern, oder nur, um es zu beschleunigen. Zwei Jahre später haben wir die Antwort, zumindest für die Schule: Die Kinder beschleunigen. Verbessert wird wenig.

Ich sage es direkt: Die Debatte über KI an Schulen läuft in die falsche Richtung. Wir reden über Tablets, Apps und Prompt-Kurse. Dabei fehlt vielen Jugendlichen die Voraussetzung, um mit KI überhaupt etwas Sinnvolles anzufangen.

Was die Zahlen zeigen

Für den GoStudent Bericht zur Zukunft der Bildung 2026 haben wir in sechs europäischen Ländern 3.001 Eltern, ihre Kinder zwischen 8 und 16 Jahren und 300 Lehrkräfte befragt, in Österreich 500 Familien.

  • 65 Prozent der österreichischen Schülerinnen und Schüler, die KI für die Schule nutzen, haben nach eigenen Angaben schon KI-Inhalte als eigene Arbeit abgegeben.
  • 43 Prozent wurden noch nie im Umgang mit KI unterrichtet. Nur 15 Prozent hatten eine strukturierte Stunde dazu.
  • Nur 24 Prozent der Eltern meinen, die Regierung tue genug für klare KI-Regeln an Schulen. Das ist der niedrigste Wert aller sechs Länder.
  • Nur 36 Prozent sehen ihr Kind gut auf das Leben nach der Schule vorbereitet. Auch das ist der niedrigste Wert.

Die Kinder nutzen KI also längst. Die Schule bringt ihnen nicht bei, wie man es richtig macht. Und sie sichert immer seltener das, was man dafür braucht.

Wer nicht lesen kann, kann keine KI prüfen

Eine KI schreibt in Sekunden einen Aufsatz, löst eine Textaufgabe, fasst ein Buch zusammen. Ob das Ergebnis stimmt, erkennt nur, wer selbst genau lesen kann, ein Ergebnis im Kopf überschlagen kann und einen eigenen Gedanken zu Papier bringt. Der größte Teil von KI-Kompetenz ist schlicht Grundkompetenz.

Genau dort verlieren wir gerade. Bei PISA 2025 liegt Österreich in Lesen und Mathematik auf dem niedrigsten Stand seit Beginn der Erhebung. Die Hälfte der von uns befragten Lehrkräfte sagt, das Leseverständnis ihrer Schülerinnen und Schüler sei in den letzten fünf Jahren schlechter geworden, 42 Prozent sehen einen Rückgang in Mathematik.

Ein Jugendlicher, der einen Text nicht versteht, wird durch KI nicht klüger. Er wird nur schneller darin, Dinge abzugeben, die er nicht versteht. Deshalb ist mein erster Punkt nicht technisch: Lesen, Schreiben und Rechnen zuerst. Jeden Tag, auch in der Oberstufe.

Handys gehören nicht in die Schule

Ich bin persönlich dafür, dass private Smartphones an allen Schulen tabu sind, nicht nur bis zur achten Schulstufe, sondern bis zur Matura. Frankreich hat sein Verbot im September auf die Oberstufe ausgeweitet. Österreich sollte nachziehen.

Die Gründe stehen in unseren Daten. Fast zwei Drittel der befragten Lehrkräfte sagen, ihre Schülerinnen und Schüler können sich schlechter konzentrieren als vor fünf Jahren. Mehr als die Hälfte der österreichischen Eltern ist ohnehin für ein vollständiges Handyverbot.

Das ist kein Widerspruch zu mehr KI im Unterricht. KI gehört in die Schule, gezielt, angeleitet und auf Schulgeräten. Der private Feed mit TikTok und Messenger gehört nicht in die Klasse. Wer beides gleichsetzt, verwechselt ein Werkzeug mit einer Ablenkung.

Warum das eine Standortfrage ist

Jedes Unternehmen, mit dem ich spreche, baut Prozesse gerade um KI herum neu: Angebote, Kundenservice, Buchhaltung, Software. Gesucht werden nicht Menschen, die KI bedienen können. Bedienen kann jeder. Gesucht werden Menschen, die eine KI-Antwort prüfen, verbessern und dafür geradestehen. Das ist dieselbe Fähigkeit wie vor hundert Jahren: lesen, verstehen, rechnen, urteilen.

Die Politik antwortet darauf mit einem neuen Fach: „Informatik und KI“ in der AHS-Oberstufe ab 2027/28. Ich halte das für die falsche Antwort. Ich hatte in meiner Schulzeit selbst Informatik als Fach. Es war ein Witz, und an diesem Muster ändert ein neuer Name wenig. KI-Kompetenz entsteht nicht in einer Stunde pro Woche mit eigenem Lehrplan. Sie entsteht in jeder Deutschstunde, in der ein Text wirklich verstanden wird, und in jeder Mathestunde, in der ein Kind ein Ergebnis selbst überschlagen kann. Wer gut lesen, schreiben und rechnen kann, lernt den Umgang mit KI in wenigen Wochen. Wer es nicht kann, lernt ihn auch in einem eigenen Fach nicht.

Was Schulen morgen tun können, ohne Verordnung

1. Grundlagen täglich trainieren. Zwanzig Minuten Lesen pro Tag, Kopfrechnen, Texte mit der Hand schreiben. Unspektakulär, aber die Basis für alles andere.

2. Bei der Hausübung den Weg bewerten. KI ist erlaubt, aber mit drei Beilagen: der Prompt, die ursprüngliche KI-Antwort und drei Sätze dazu, was das Kind geändert hat und warum. Dazu fünf Minuten mündliche Nachfrage in der nächsten Stunde.

3. Mehr mündlich prüfen. 44 Prozent der befragten Lehrkräfte halten Präsentationen und Prüfungsgespräche inzwischen für die wirksamste Form der Leistungsbewertung. Einen Aufsatz schreibt ChatGPT in Sekunden. Spontane Rückfragen beantwortet er nicht für das Kind.

4. KI als Fehlersuche unterrichten. Die Klasse lässt die KI eine Mathematikaufgabe lösen und sucht den Fehler. Die KI fasst einen Zeitungsartikel zusammen, die Schüler prüfen jede Aussage gegen das Original. So trainiert KI genau die Grundkompetenzen, die sie sonst ersetzt.

5. Die Lehre mitdenken. 42 Prozent der österreichischen Eltern mit klarer Präferenz wünschen sich zuerst eine Lehre für ihr Kind, nur 34 Prozent ein Studium. Dann gehört KI auch in die Berufsschule: der Elektriker-Lehrling, der ein Angebot mit KI vorbereitet und jede Position selbst nachrechnet.

Was wir selbst gelernt haben

Bei GoStudent setzen wir KI im Unterricht ein, für Zusammenfassungen und Übungsfragen nach jeder Stunde. Unsere Erfahrung: KI macht gute Lehrpersonen wirksamer, ersetzt sie aber nicht. Nur 1 Prozent der befragten Lehrkräfte glaubt, dass KI sie ersetzen könnte. Ich glaube das auch nicht.

Handy raus, Grundlagen rein, KI mit Anleitung. Dafür braucht es kein neues Fach und kein zusätzliches Budget, nur Entscheidungen der Direktionen und den Mut der Politik.

Methodik: Der GoStudent Bericht zur Zukunft der Bildung 2026 basiert auf einer Erhebung von Censuswide unter 3.001 Eltern und ihren Kindern (8 bis 16 Jahre) sowie 300 Lehrkräften in Österreich, Deutschland, Frankreich, Italien, Spanien und dem Vereinigten Königreich (Juni/Juli 2026). Der vollständige Bericht: gostudent.org/de-at/education-report/2026

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline