25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: „Erforschen effektivere Verfahren“

„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
vor 17 Stunden

Lockerungen in der Rüstungsbranche: Profitieren heimische DefenseTech-Startups?

Die österreichische Rüstungs- und DefenseTech-Branche kann künftig mit gesetzlichen Lockerungen rechnen. Wie Wirtschaftsminister Wolfgang Hattmannsdorfer gegenüber „Zeit im Bild“ ankündigte, sollen Hürden abgebaut werden, um die wirtschaftliche Position der Unternehmen zu fördern – unter der strikten Bedingung, dass Österreichs Neutralität gewahrt bleibt.
/artikel/lockerungen-in-der-ruestungsbranche-profitieren-heimische-defensetech-startups
vor 17 Stunden

Lockerungen in der Rüstungsbranche: Profitieren heimische DefenseTech-Startups?

Die österreichische Rüstungs- und DefenseTech-Branche kann künftig mit gesetzlichen Lockerungen rechnen. Wie Wirtschaftsminister Wolfgang Hattmannsdorfer gegenüber „Zeit im Bild“ ankündigte, sollen Hürden abgebaut werden, um die wirtschaftliche Position der Unternehmen zu fördern – unter der strikten Bedingung, dass Österreichs Neutralität gewahrt bleibt.
/artikel/lockerungen-in-der-ruestungsbranche-profitieren-heimische-defensetech-startups
NATO,Startup,Fonds
Startups im DefenseTech Bereich könnten einen Aufschwung erleben. (c) pexels

In Österreich unterliegen Rüstungsbetriebe strengen Export- und Herstellungskontrollen, primär geregelt durch das Kriegsmaterialgesetz und das Außenwirtschaftsgesetz. Um der Rüstungsindustrie die Arbeit zu erleichtern, will Wirtschaftsminister Wolfgang Hattmannsdorfer (ÖVP) die gesetzlichen Rahmenbedingungen nun lockern. Unsicherheiten sollten entfernt werden und Exporte schneller und einfacher über die Bühne gehen, so der Minister gestern gegenüber der „Zeit im Bild“ (ZIB) des ORF bei einem Besuch eines Rheinmetall-Werks in Wien. Die Finanzierung von Rüstungssaufträgen sei ein wesentliches Finanzierungsvehikel für heimische Industrie und Betriebe.

„Neutralität ist oberstes Gut“

Gleichzeitig sagte er, dass diese Schritte keinen Einfluss auf die Neutralität haben sollen. „Die Neutralität ist oberstes nationales Gut, das es zu schützen gilt. Wir dürfen aber durch die Neutralität nicht in eine Situation kommen, dass unsere Betriebe gewisse Aufträge nicht abarbeiten können.“

Ob sich die strikte Trennung von wirtschaftlichem Profit und militärischer Neutralität in Österreich in der Realität so aufrechterhalten lässt, wie es die Politik erhofft, bleibt angesichts der verankerten juristischen Hürden abzuwarten. Für die heimischen Startups und Unternehmen im Defense- oder auch Dual-Use-Bereich sind die geplanten Lockerungen jedenfalls eine Chance, sich auf dem europäischen Markt noch stärker zu etablieren.

Diskretion und Dual Use

Dass die Vereinbarkeit von wirtschaftlichem Potenzial und der Neutralität in Österreich nicht gerade einfach ist, wissen auch Founder:innen. Dem Thema DefenseTech wird in Österreich traditionell mit großer Diskretion begegnet. Kein Wunder, hat sich das Land schon vor 71 Jahren der Neutralität verpflichtet. Reine DefenseTech-Startups findet man hierzulande kaum, die meisten agieren im sogenannten „Dual Use“-Bereich. Das bedeutet, ihre Produkte lassen sich nicht ausschließlich im militärischen, sondern auch im zivilen Bereich einsetzen. Neben dem teils kritischen Ansehen der Industrie, gibt es weiters auch Strafen für Unternehmen, wenn deren Produkte für Kriegsparteien bereitgestellt werden.

3,3-Milliarden-Euro-Industrie

Trotz der strengen Auflagen leistet die Rüstungsindustrie in Österreich ihren wirtschaftlichen Beitrag: Laut Industriemagazin erwirtschaftet die Branche jährlich etwa 3,3 Milliarden Euro und damit 0,6 Prozent des Bruttoinlandsprodukts. Und es haben sich in den letzten Jahren auch einige Startups im DefenseTech- oder verwandten Bereichen etabliert, die von den Lockerungen profitieren könnten. Viewpointsystem, CycloTech oder Drone Rescue Systems, um ein paar zu nennen – wohl gemerkt alle drei im genannten „Dual Use“-Segment.

Wie groß das Potenzial ist, das durch solche Lockerungen entfesselt werden kann, zeigt ein Blick über die Grenze. Im Nachbarland Deutschland boomt die DefenseTech-Branche. Erst gestern berichtete brutkasten über ein 1,6 Mrd. Euro schweres Investment in das Münchner KI-DefenseTech-Scaleup Helsing – der neue Deutschland-Rekord. Das Unternehmen für Drohnen und unbemannte Kampfflugzeuge wird nun mit 18 Mrd. US-Dollar bewertet. Zuvor holte der Münchner Drohnenhersteller Quantum Systems 1,2 Mrd. US-Dollar.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline