25.07.2023

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
/artikel/open-ai-ki-erkennungstool-offline
OpenAI
Bild: (c) Mariia Shalabaieva/Unsplash

Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.

Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.

OpenAI: “Erforschen effektivere Verfahren”

“Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten”, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.

Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.

Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.

Bereits zum Start auf Einschränkungen hingewiesen

Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht “vollständig zuverlässig”, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es “sehr unzuverlässig”. Überhaupt sei es “unmöglich”, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.

OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.

Deine ungelesenen Artikel:
25.09.2024

“Damit Frauen in der Führungsetage kein außerirdisches Konzept mehr sind”

Der Reykjavík Index misst jährlich, wie geeignet Frauen für Führungspositionen eingeschätzt werden. brutkasten hat mit Forscherin Vicky Petrie über den Index und was es für Veränderung braucht, gesprochen.
/artikel/damit-frauen-in-der-fuehrungsetage-kein-ausserirdisches-konzept-mehr-sind
25.09.2024

“Damit Frauen in der Führungsetage kein außerirdisches Konzept mehr sind”

Der Reykjavík Index misst jährlich, wie geeignet Frauen für Führungspositionen eingeschätzt werden. brutkasten hat mit Forscherin Vicky Petrie über den Index und was es für Veränderung braucht, gesprochen.
/artikel/damit-frauen-in-der-fuehrungsetage-kein-ausserirdisches-konzept-mehr-sind
Vicky Petrie Forschung Frauen Arbeit Reykjavik Index
Vicky Petrie bei ihrer Keynote am Global Leaders Summit. (c) Valerie Maltseva

Können Frauen genauso gut Unternehmen leiten wie Männer? Dem Reykjavík Index zufolge glauben das viele nicht. Seit 2018 wird mit dieser internationalen Vergleichsstudie gemessen, wie Frauen als Führungskräfte wahrgenommen werden. 100 wäre das Optimum, hier würden die Fähigkeiten der Geschlechter gleich gut eingeschätzt werden. Im Moment steht der Index bei circa 70 für die untersuchten G7-Staaten. Dieser Ländervergleich sei essentiell für einen Überblick, sagt die britische Forscherin Vicky Petrie am Rande des Global Leaders Summit von the female factor, unterstütz von der Stadt Wien, im brutkasten-Gespräch. So könne man lernen, was anderswo vielleicht besser gemacht werde.

Vicky Petrie ist kein Teil der Business-Welt. 20 Jahre lang hat sie für die britische Regierung in der Forschung gearbeitet, seit knapp eineinhalb Jahren ist sie nun Senior Director bei Verian, einem international tätigen Forschungsinstitut. Sie spricht im Wiener Rathaus in ihrer Keynote vor knapp 600 Frauen über den Reykjavík Index. Und spart dabei nicht mit Kritik an dem Event: Hier seien nur die Frauen anwesend, die nicht an der Fähigkeit von Frauen in Führungspositionen zweifeln würden. Diese Zweifler:innen müsse man anderswo erreichen – direkt in den Communitys, über Charity-Organisationen oder in Schulen. Je mehr hier passiere, desto weniger würden Frauen in der Führungsetage als ein außerirdisches Konzept wahrgenommen werden.

Reykjavík-Index als Maß für Leadership

Die Idee zum Reykjavík-Index for Leadership entstand 2017, als Verian-CEO Michelle Harrison mit mehreren weiblichen Führungskräften aus der Politik über deren Karrierewege gesprochen hat. Das sei wahnsinnig spannend gewesen, aber es wurden doch nur Einzelgeschichten erzählt. Es reiche nicht, sich nur die Frauen in CEO-Positionen anzusehen, sagt Vicky Petrie. “Wir müssen uns die gesellschaftliche Perspektive auf Frauen in Führungspositionen ansehen. So verstehen wir, welche Hürden die nächste Generation überwinden muss.” Oft sehe man sich Daten nur in einem Vakuum der Arbeitswelt an und vergesse zu fragen, was der Rest der Welt von weiblichen Führungskräften hält, sagt Petrie.

Denn Frauen werden Führungsrollen eher in der Kinderbetreuung und in traditionell weiblich geprägten Sektoren zugetraut. In der Technologie oder Wissenschaft sehe das anders aus, hier werden Frauen kaum als Führungskraft gesehen. Spannend aber beunruhigend ist für Petrie, dass die jüngere Generation offenbar stärkere Vorurteile gegenüber weiblichen Führungskräften hegt als ihre Eltern. Betroffen seien davon nicht nur Männer, sondern auch Frauen. Man müsse daher beide ansprechen und vor allem jungen Frauen zeigen, welche Ziele sie anstreben oder wer ihre Vorbilder sein könnten.

“Du hast etwas beizutragen”

Hier spiele auch Sprache eine große Rolle: Frauen seien schnell übertrieben selbstbewusst, aggressiv oder irritierend – während Männer entschieden auftreten. Diese unterschiedliche Terminologie mache etwas mit Frauen, glaubt Petrie. Junge Frauen würden sich eher zurückhalten und Führungspositionen vermeiden, um nicht so wahrgenommen zu werden. Allerdings werde die Praxis weniger, sich als Frau im Berufsalltag wie die männlichen Kolleg:innen zu verhalten.

Vicky Petrie erzählt, dass früher oft der Gedanke geherrscht habe: Wer als Frau die Gläserne Decke durchbrechen will, müsse sich benehmen wie der Mann neben einem – ganz nach dem Spruch “Walk the walk, talk the talk”. Das war in ihren Augen traurig, denn oft bedeutete diese Imitation auch, einen Teil seiner Persönlichkeit zurückzulassen und zum Beispiel weniger mit seiner Familie verbunden zu sein. Petrie habe in ihrer Karriere aber auch Vorbilder gehabt, die ihr gezeigt haben: “So ist es nicht, du kannst deine Persönlichkeit mit an den Tisch bringen. Du kannst du selbst sein und du kannst anziehen, was du willst – weil du etwas beizutragen hast.” 

Anderen Stimmen Raum geben

Wie kann man diese Wahrnehmung nun verändern? Immerhin lässt sich die Perspektive von Menschen auf ein Thema nicht nur mit Quotenregelungen oder andere quantitative Ziele ändern. “Das ist die Eine-Millionen-Dollar-Frage”, sagt Petrie. Denn eigentlich stehe hier die Frage dahinter: Wie beeinflussen wir junge Menschen? Vor allem Pädagog:innen spielen in ihren Augen hier eine große Rolle. 

Man müsse es außerdem schaffen, auch in den Sozialen Medien anderen Stimmen Raum zu geben, abseits von Andrew Tate oder anderen misogynen Influencer:innen. Eltern stehen hier in einer undankbaren Rolle. Sie könnten ihr Bestes versuchen, aber egal was man sage, am Ende des Tages sei man immer noch ein Elternteil. “Man kann außerhalb des Zuhauses die stärkste weibliche Führungskraft der Welt sein, aber deine Kinder werden das trotzdem nicht in dir sehen”, sagt Petrie.

Veränderung – auf dem Rücken von Barbie

Aus diesem Grund seien auch Awareness-Kampagnen in der medialen Öffentlichkeit so wichtig. Petrie nennt als Beispiel das “Stop it at the start”-Projekt der australischen Regierung. Die Kampagne will die Ursachen von häuslicher Gewalt bereits an der Wurzel bekämpfen und thematisiert das Thema Respektlosigkeit gegenüber Frauen. Junge Menschen müssten lernen aufzuschreien, wenn jemand schlecht behandelt werde.

Die Schwierigkeit ist für Petrie stets dieser Übergang von einer medialen Kampagne zu tatsächlichen Aktionen. Im vergangenen Jahr wurde zum Beispiel ein “Girl Summer” ausgerufen, Barbie und Taylor Swift waren dauerpräsent. Dadurch hätten sich viele Frauen empowered gefühlt, aber danach seien alle zurück in ihre Alltagsjobs gegangen und hätten weitergelebt wie vorher. Dabei gehe es darum zu fragen: Was machen wir jetzt? Wie schaffen wir Aktionen und Veränderung durch diese Popkultur-Phänomene? “Es geht darum, diese Moden zu nutzen und auf deren Rücken etwas zu verändern”, sagt Petrie.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline