10.05.2023

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

Wie AI-Sprachmodelle zu ihren Antworten kommen, bleibt häufig unklar. Ein Team von OpenAI will nun mit einem AI-Tool ChatGPT und Co erklären.
/artikel/openai-tool-soll-chatgpt-verhalten-erklaeren
ChatGPT OpenAI AI-Sprachmodell
(c) Rolf van Root / unsplash

Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das “Verhalten” von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer “Blackbox”. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.

“Wollen der Antwort, die das Modell produziert, vertrauen können”

Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner “Verhaltensweisen” verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. “Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden”, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. “Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können”.

GPT-2 wird mit GPT-4 getestet

Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche “Neuronen” des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese “Neuronen” sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr “Verhalten” zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete “Verhalten” und macht einen Abgleich.

Neues OpenAI-Tool noch im Anfangsstadium

“Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt”, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.

Deine ungelesenen Artikel:
25.11.2024

10 Jahre Fuckup Nights in Österreich: “Über 360 mutige Menschen”

2014 brachte Dejan Stojanovic das Format Fuckup Nights nach Österreich. Zum Jubiläum zieht er Resümee und verrät die Zukunftspläne.
/artikel/10-jahre-fuckup-nights-in-oesterreich
25.11.2024

10 Jahre Fuckup Nights in Österreich: “Über 360 mutige Menschen”

2014 brachte Dejan Stojanovic das Format Fuckup Nights nach Österreich. Zum Jubiläum zieht er Resümee und verrät die Zukunftspläne.
/artikel/10-jahre-fuckup-nights-in-oesterreich
10 Jahre Fuckup Nights - Dejan Stojanovic vor der
Dejan Stojanovic vor der "Wall of Champions" | (c) wolf&woodpecker

“Werden Menschen wirklich freiwillig über ihre größten Misserfolge sprechen? Und noch wichtiger: Werden andere zuhören wollen?” – die Fragen habe er sich gestellt, bevor er vor zehn Jahren in Österreich mit dem Format Fuckup Nights startete, sagt Dejan Stojanovic. Zum Jubiläum ist klar: Ja, es funktioniert. Schon eine ganze Dekade.

64 Fuckup Nights seit 2014

“Die letzten zehn Jahre haben mir gezeigt, dass echte Veränderung dort beginnt, wo wir uns trauen, unsere Fehler anzunehmen und darüber zu sprechen – egal ob als Einzelperson, in einem Team oder in einer Organisation”, sagt der Fuckup-Nights-Initiator. “Es war erstaunlich zu sehen, wie das Teilen von Misserfolgen Brücken zwischen Menschen baut und eine Gemeinschaft schafft, die auf Vertrauen basiert.”

(c) wolf&woodpecker

64 Fuckup Nights hat es seit dem Start gegeben. “Über 360 mutige Menschen, die ihre tiefsten Fehler und größten Erkenntnisse mit uns geteilt haben. Mehr als 25.000 Teilnehmerinnen und Teilnehmer, die bereit waren, zuzuhören, zu lernen, zu lachen – und manchmal auch ein bisschen zu weinen”, resümiert Stojanovic.

“Was mich wirklich erfüllt, ist nicht in Zahlen zu fassen”

Doch diese Zahlen seien nicht alles. “Was mich wirklich erfüllt, ist nicht in Zahlen zu fassen”, meint der Fuckup-Nights-Initiator. “Es ist das Gefühl, wenn jemand nach einer Fuckup Night auf mich zukommt und sagt: ‘Danke. Diese Geschichte hat mich inspiriert, es noch einmal zu versuchen.’ Es ist das Lächeln der Speaker, die die Bühne verlassen und zum ersten Mal merken, dass ihre größten Fehler vielleicht ihr größtes Geschenk waren. Es ist die unbändige Energie, die in einem Raum spürbar wird, wenn Menschen erkennen, dass sie mit ihren Ängsten und ihrem Scheitern nicht allein sind.”

Denn das Scheitern sei ein unverzichtbarer Bestandteil von Wachstum und Innovation. “Viele unserer Speaker:innen haben das bestätigt, indem sie erzählt haben, wie ihre größten Rückschläge letztlich zu ihren größten Erfolgen geführt haben. Diese Erkenntnis, dass Fehler ein Sprungbrett und keine Sackgasse sind, treibt mich heute mehr an, als je zuvor”, so der Initiator.

Zu viele Highlights

Und was waren seine größten Highlights in der Zeit? “Es gab unzählige bewegende Momente, sodass es schwerfällt, einzelne auszuwählen, ohne den vielen großartigen Speaker:innen nicht gerecht zu werden. Was ich jedoch über die Jahre deutlich gemerkt habe: Die Auswahl der Speaker hat immer mehr an Tiefe gewonnen, und meine Speaker-Coachings sind heute persönlicher, noch authentischer und intensiver”, so Stojanovic. Ein bewegender Moment sei es gewesen, die “Wall der Champions”, eine Fotowand mit über 180 Speaker:innen der Fuckup Nights, aufzustellen.

10 Jahre Fuckup Nights
(c) wolf&woodpecker

Herausforderungen auf für Stojanovic und Fuckup-Nights-Team

Herausforderungen zu bewältigen hatten übrigens nicht nur die Auftretenden, sondern auch Stojanovic und sein Team selbst, wie er erzählt: “Die letzten zehn Jahre haben uns auch auf die Probe gestellt. Es gab schwierige Momente, in denen wir gegen unfaire Attacken ankämpfen mussten – Angriffe von außen, die uns auf die Probe gestellt haben, und Enttäuschungen von Menschen, die wir einst Partner nannten.” Manchmal habe es sich angefühlt, als würde man “gegen ignorante Windmühlen kämpfen”.

Letztlich sei das Wichtigste: “All das funktioniert nur, wenn man mit Integrität handelt und konsequent seiner Mission treu bleibt – auch wenn es schwierig wird. Die Herausforderungen, denen ich begegnet bin, haben mir gezeigt, dass es sich lohnt, für das einzustehen, woran man glaubt.”

Pläne für die kommenden 10 Jahre

Auch für die nächsten zehn Jahre hat Stojanovic Pläne. “Die nächsten Jahre werden mutiger, größer und – hoffentlich – noch wirkungsvoller”, meint er. “Ich möchte und werde eine Welt mitgestalten, in der Scheitern als notwendiger Teil des Wachstums angesehen wird, nicht als etwas, das vermieden werden muss”, so der Fuckup Nights-Initiator. Die Mission bleibe dieselbe: “Scheitern enttabuisieren, Lernen zelebrieren und gemeinsam wachsen”.

Zu diesem Ziel soll es neue Formate geben, man wolle ein engagiertes Team aufbauen und man wolle noch stärker in Unternehmen und Organisationen “eine echte Kultur des Lernens und Wachsens verankern”. Der “Anker” soll dabei das Failure Institute als “zentrale Plattform für Austausch, Weiterbildung und Forschung” bleiben. “Langfristig möchte ich auch ein starkes Team hinter den Fuckup Nights aufbauen und ein Advisory Board aus Vordenker:innen und Innovator:innen etablieren, die uns dabei helfen, unsere Vision strategisch zu verwirklichen.”, so Stojanovic, “Für mich ist klar: Wir stehen erst am Anfang.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären