10.05.2023

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

Wie AI-Sprachmodelle zu ihren Antworten kommen, bleibt häufig unklar. Ein Team von OpenAI will nun mit einem AI-Tool ChatGPT und Co erklären.
/artikel/openai-tool-soll-chatgpt-verhalten-erklaeren
ChatGPT OpenAI AI-Sprachmodell
(c) Rolf van Root / unsplash

Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das „Verhalten“ von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer „Blackbox“. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.

„Wollen der Antwort, die das Modell produziert, vertrauen können“

Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner „Verhaltensweisen“ verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. „Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden“, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. „Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können“.

GPT-2 wird mit GPT-4 getestet

Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche „Neuronen“ des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese „Neuronen“ sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr „Verhalten“ zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete „Verhalten“ und macht einen Abgleich.

Neues OpenAI-Tool noch im Anfangsstadium

„Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt“, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.

Deine ungelesenen Artikel:
20.10.2026

Wiener Startup Prewave startet KI-Agenten für die finanzielle Bewertung von Lieferkettenrisiken

Das Wiener Startup Prewave will Unternehmen mit KI-Agenten helfen, Risiken nicht nur früher zu erkennen, sondern auch ihre finanziellen Folgen einzuschätzen und gezielter über Gegenmaßnahmen zu entscheiden.
/artikel/wiener-startup-prewave-startet-ki-agenten-fuer-die-finanzielle-bewertung-von-lieferkettenrisiken
20.10.2026

Wiener Startup Prewave startet KI-Agenten für die finanzielle Bewertung von Lieferkettenrisiken

Das Wiener Startup Prewave will Unternehmen mit KI-Agenten helfen, Risiken nicht nur früher zu erkennen, sondern auch ihre finanziellen Folgen einzuschätzen und gezielter über Gegenmaßnahmen zu entscheiden.
/artikel/wiener-startup-prewave-startet-ki-agenten-fuer-die-finanzielle-bewertung-von-lieferkettenrisiken
Prewave
Harald Nitschinger, Gründer von Prewave | (c) Prewave

Es nennt sich Quantified Resilience und soll zeigen, was Lieferkettenrisiken tatsächlich kosten. Das neue Portfolio des Wiener Startups adressiert die Risikolandschaft für globale Lieferketten, die sich seit Covid, der Chipknappheit sowie dem Krieg im Iran und in Russland verändert hat. Unternehmen haben in den vergangenen Jahren darauf reagiert und auf mehr Transparenz gesetzt, mehr Lieferanten überwacht und mehr Signale und Warnmeldungen verfolgt. Doch Einkaufsteams wollen nicht mehr Informationen, meint Co-Founder und seit Jänner alleiniger CEO Harald Nitschinger. „Sie wollen eine belastbare Entscheidungsgrundlage“, sagt er und bezieht sich auf eine Gartner-Studie aus 2026 mit dem Titel: „Market Overview for Supplier Risk Management Solutions.“ Teams, die ihre Zeit damit verbringen, schwer fassbare Risiken bei Sub-Tier-Lieferanten zu recherchieren und zu bewerten, hätten kaum Kapazitäten, um langfristige Resilienz aufzubauen.

Prewave: KI-Agenten übernehmen Recherche

Hier soll Quantified Resilience helfen, die globalen Risikodaten von Prewave mit den eigenen Daten eines Unternehmens zu verbinden, darunter Stücklisten, Lagerbestände, alternative Bezugsquellen und Umsatzzahlen. Spezialisierte KI-Agenten würden dann die Recherche übernehmen, Risiken priorisieren und deren mögliche finanzielle Auswirkungen auf das Unternehmen bewerten.

Ein Bestandteil des neuen KI-Portfolios heißt Prewave Respond und beinhaltet KI-Agenten, die Signale aus der gesamten Plattform bündeln und Risikosituationen danach ordnen, wie dringend Handlungsbedarf besteht. Risikomanager würden so auf einen Blick sehen, welche Situationen jetzt Aufmerksamkeit erfordern und welche warten können. Die Agenten lassen sich an die eigenen Prozesse und Prioritäten des jeweiligen Unternehmens anpassen.

Plattform zeigt Betroffenheit

„Die Bewertung einer Störung hat unser Risikoteam früher einen halben Tag gekostet, plus Abstimmung mit den Konzerneinkäufern, um die Auswirkungen auf die Lieferanten zu verifizieren“, erklärt Verena Rausch, Group Risk Manager bei der Vaillant Group, wie Prewave den Aufwand bei der Bewertung einzelner Störungen reduziert. „Beim Erdbeben von Kumamoto hat Prewave rund 50 aufgezeigte Lieferanten auf 11 eingegrenzt, die geprüft werden mussten, und einen unmittelbaren Produktionsstopp aufgezeigt. Das verkürzt den Zeitaufwand für jede Bewertung.“

Der Schlüssel zu dieser Priorisierung liege darin zu verstehen, was eine Störung für das Geschäft bedeutet. Die Prewave-Plattform kombiniert Informationen zu globalen Ereignissen, Lieferantenstandorten, Tier-n-Beziehungen und Rohstoffabhängigkeiten mit den eigenen Lieferketten- und ERP-Daten des Unternehmens. Sie zeige so, welche Lieferanten, Materialien oder Produkte tatsächlich betroffen sind.

Für Nitschinger ist Quantified Resilience der nächste Schritt im Umgang mit zunehmend komplexen Lieferkettenrisiken: „Unseren Kunden fehlt es nicht an Informationen. Im Gegenteil, sie werden mit Warnmeldungen, Ratings und Lieferanten-Updates überflutet. Wir geben ihnen jetzt Werkzeuge an die Hand, die diese Signale in eine konkrete Entscheidungsgrundlage verwandeln: Was verdient meine Aufmerksamkeit? Wo bin ich tatsächlich exponiert? Was steht finanziell auf dem Spiel? Und wo sollten wir Resilienz aufbauen, um die größte Wirkung zu erzielen? Quantified Resilience macht diese Zusammenhänge messbar und damit steuerbar.“

Resilienz von Kostenfaktor soll zur Investitionsentscheidung werden

Über die Priorisierung hinaus berechnet Prewave die finanziellen Auswirkungen einer Störung anhand von Daten wie Lagerbeständen, Stücklisten und Umsatz, heißt es. Damit soll die Resilienz von einem Kostenfaktor zu einer Investitionsentscheidung werden. Unternehmen könnten Ausgaben dorthin lenken, wo sie am meisten bewirken, und sie gegenüber Geschäftsführung und Vorstand mit belastbaren Zahlen untermauern.

Künftig will Prewave diesen Ansatz nutzen, um die Lieferketten seiner Kunden ganzheitlich und proaktiv zu optimieren. Prewave Optimise, ein weiteres Tool aus der „Quantified Resilience“-Strategie, das sich derzeit in der Beta-Phase befindet, soll zeigen, wo Absicherungen über das notwendige Maß hinausgehen und wo gefährliche Lücken bestehen. Ziel ist ein Lieferantennetzwerk, das Kosten und Resilienz entsprechend der individuellen Risikobereitschaft eines Unternehmens ausbalanciert.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären