25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
24.07.2026

CHAMP-ION: Österreich rückt weiter ins Zentrum europaweiter Forschung für Quantencomputer

Mit CHAMP-ION startet Europas erste Pilotinitiative zur industriellen Herstellung von Ionenfallen-Chips. Unter der Leitung von Silicon Austria Labs (SAL) geht das mit 50 Mio. Euro geförderte Projekt nun in die Umsetzungsphase. Österreich rückt damit erneut ins Zentrum der europäischen Quantenforschung.
/artikel/champ-ion-oesterreich-rueckt-weiter-ins-zentrum-europaweiter-forschung-fuer-quantencomputer
24.07.2026

CHAMP-ION: Österreich rückt weiter ins Zentrum europaweiter Forschung für Quantencomputer

Mit CHAMP-ION startet Europas erste Pilotinitiative zur industriellen Herstellung von Ionenfallen-Chips. Unter der Leitung von Silicon Austria Labs (SAL) geht das mit 50 Mio. Euro geförderte Projekt nun in die Umsetzungsphase. Österreich rückt damit erneut ins Zentrum der europäischen Quantenforschung.
/artikel/champ-ion-oesterreich-rueckt-weiter-ins-zentrum-europaweiter-forschung-fuer-quantencomputer
Forschende in der SAL Reinraum Villach. (c) Sarina Dobernig

Der Quantencomputer gilt als die nächste Schlüsseltechnologie, was die Quantenforschung zu einer der gefragtesten unserer Zeit macht. Ein zentraler Punkt sind dabei die Ionenfallen-Chips, die das Funktionieren von Quantencomputern ermöglichen. Die USA und China investieren bereits Milliarden in diese Forschung, nun startet Europas erste Pilotinitiative zur industriellen Herstellung der Chips, und das in Österreich.

Vom raumfüllenden Labor zum winzigen Chip

Sogenannte Ionenfallen gelten als einer der vielversprechendsten Ansätze für zukünftige Quantencomputer. Das Prinzip dahinter: Einzelne geladene Atome werden mithilfe elektromagnetischer Felder „eingesperrt“ und dann durch Laserstrahlen gesteuert.

Aktuell füllt diese komplexe Technik im Labor noch einen kompletten Raum. Für eine praktische Nutzung muss der gesamte Aufbau auf einen winzigen Chip schrumpfen – und zwar so, dass er zuverlässig, reproduzierbar und in großen Stückzahlen industriell gefertigt werden kann. Hier setzt die Pilotinitiative von Silicon Austria Labs an, denn sie hat das Ziel, eine industrielle Herstellung von Ionenfallen-Chips in Österreich zu etablieren.

„Unsere Industriestrategie 2035 hat einen klaren Anspruch. Wir wollen Schlüsseltechnologien nicht anderswo entstehen sehen, sondern hier in Österreich mitgestalten. Dass Silicon Austria Labs bei Europas erster Fertigung von Ionenfallen-Chips die Führung übernimmt, zeigt, dass dieser Kurs greift. So wird aus Spitzenforschung industrielle Wertschöpfung im eigenen Land“, kommentiert Innovationsminister Peter Hanke das Projekt.

Innovationsminister Peter Hanke bei einem Besuch in den Silicon Labs Austria. (c) Tobias Holzer

30 Mio. Euro für Österreich

Insgesamt stehen für das Projekt 50 Millionen Euro zur Verfügung. Diese Fördermittel kommen vom „Chips Joint Undertaking“ der Europäischen Union, das die Entwicklung und Einführung von nanoelektronischen Chip-Technologien vorantreibt, sowie den teilnehmenden Mitgliedstaaten. Der größte Teil von diesem Geld – über 30 Millionen Euro – fließt direkt an die österreichischen Partner.

Das Geld wird laut SAL in erster Linie für den Ausbau der Produktionsanlagen, die Ausbildung neuer Fachkräfte und in offene Servicestrukturen investiert.

Gebündelte österreichische Expertise

An dem Großprojekt sind 21 Organisationen aus sechs verschiedenen Ländern beteiligt. Das Netzwerk besteht aus Forschungseinrichtungen, Universitäten, Startups, KMU und Industrieunternehmen.

Neben Silicon Austria Labs als Projektkoordinator sind weitere heimische Akteure dabei. ParityQC, das mit dem Bau eines Quantencomputers für das deutsche Verteidigungsministerium erst für Schlagzeilen sorgte, liefert die Quantensoftware-Architektur. Infineon Technologies Austria bringt als industrieller Kernpartner das Wissen zur Fertigung der Chips ein. Alpine Quantum Technologies steuert die Systemperspektive bei, und die Universität Innsbruck fungiert als europäisches Ideenlabor für Ionenfallen.

Europas Quanten-Vorreiter

Die Silicon Austria Labs GmbH (SAL) ist ein 2018 gegründetes, österreichweites Forschungszentrum für elektronik- und softwarebasierte Systeme. An den Standorten Graz, Villach und Linz vernetzt SAL Wissenschaft und Industrie, um innovative Ideen in wirtschaftlich nutzbare Technologien zu verwandeln. Der Forschungsfokus liegt auf Mikrosystemen, Sensorik, Leistungselektronik, intelligenten drahtlosen Systemen und Embedded Systems. Neben CHAMP-ION ist SAL an drei weiteren europäischen Quanten-Pilotlinien beteiligt. Diese Breite habe in Europa kaum ein anderes Forschungszentrum, heißt es in einer Aussendung.

„Wir sind stolz darauf, CHAMP-ION als wahrhaft europäische Initiative zu koordinieren, die führende Expertise aus dem gesamten Kontinent zusammenbringt, um Europas technologische Souveränität im Bereich der Quantentechnologien zu stärken. Durch den Aufbau eines offenen und skalierbaren Ionenfallen-Ökosystems schaffen wir das Fundament für Quantenexzellenz auf Weltklasseniveau, made in Europe“, sagt Christina Hirschl, CEO von Silicon Austria Labs.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline