10.05.2023

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

Wie AI-Sprachmodelle zu ihren Antworten kommen, bleibt häufig unklar. Ein Team von OpenAI will nun mit einem AI-Tool ChatGPT und Co erklären.
/artikel/openai-tool-soll-chatgpt-verhalten-erklaeren
ChatGPT OpenAI AI-Sprachmodell
(c) Rolf van Root / unsplash

Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das „Verhalten“ von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer „Blackbox“. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.

„Wollen der Antwort, die das Modell produziert, vertrauen können“

Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner „Verhaltensweisen“ verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. „Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden“, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. „Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können“.

GPT-2 wird mit GPT-4 getestet

Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche „Neuronen“ des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese „Neuronen“ sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr „Verhalten“ zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete „Verhalten“ und macht einen Abgleich.

Neues OpenAI-Tool noch im Anfangsstadium

„Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt“, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.

Deine ungelesenen Artikel:
10.07.2026

Business Angel Summit 2026: Zwischen KI-Tsunami und Souveränitätsdebatte

Wo im Jänner die Weltelite die Streif hinunterrast, trafen sich am 9. und 10. Juli Österreichs Frühphasen-Investor:innen und zwölf ausgewählte Startups. Auf dem Programm standen Panels zu Standort und Souveränität sowie eine Keynote von Tricentis-Co-Founder Wolfgang Platz. brutkasten war vor Ort.
/artikel/business-angel-summit-2026-zwischen-ki-tsunami-und-souveraenitaetsdebatte
10.07.2026

Business Angel Summit 2026: Zwischen KI-Tsunami und Souveränitätsdebatte

Wo im Jänner die Weltelite die Streif hinunterrast, trafen sich am 9. und 10. Juli Österreichs Frühphasen-Investor:innen und zwölf ausgewählte Startups. Auf dem Programm standen Panels zu Standort und Souveränität sowie eine Keynote von Tricentis-Co-Founder Wolfgang Platz. brutkasten war vor Ort.
/artikel/business-angel-summit-2026-zwischen-ki-tsunami-und-souveraenitaetsdebatte
(c) Standortagentur Tirol

Im Juli wird auf der Streif Golf gespielt. Wo im Jänner die Weltelite mit bis zu 140 km/h in den Zielhang rast, wird jetzt am Grün geputtet, dahinter staffeln sich die Kitzbüheler Alpen in ein sattes Grün, wie es nur der Tiroler Sommer hinbekommt. Im Rasmushof, direkt im Zielgelände, ging es an zwei Tagen allerdings nicht um Hundertstel, sondern um Dekaden: um die Frage, wovon Österreich in zwanzig Jahren leben wird.

Beim Business Angel Summit 2026 im Rasmushof Hotel Kitzbühel trafen am 9. und 10. Juli nationale und internationale Investor:innen auf zwölf ausgewählte österreichische Startups. Das von der Standortagentur Tirol und Austria Wirtschaftsservice (aws) organisierte Event ist die größte Veranstaltung dieser Art in Westösterreich und brachte heuer bereits zum zwölften Mal Kapital, Know-how und Gründungsgeist zusammen.

(V.l): Bernhard Sagmeister (aws), Alexander Pekarsky und Elisabeth Brunner (Thyra Imaging), Doris Müller und Bernhard Müller (Startup M-Chem) und Lisa Spöck (Standortagentur Tirol) beim 12. Business Angel Summit in Kitzbühel | (c)  Standortagentur Tirol

Der inhaltliche Bogen des Programms: Mit schönen Bergen allein wird sich der Wohlstand dieses Landes künftig nicht halten lassen, es braucht Innovation. Und dafür braucht es jene Spezies, die sich einmal im Jahr in Kitzbühel trifft: Business Angels, die dort investieren, wo Banken abwinken und Fonds noch nicht hinschauen, nämlich in der frühesten, riskantesten Phase eines Startups.

Boris Nemsic über den Wirtschaftsstandort

Den Auftakt machte die Standortfrage. Ob Europa den Anschluss verloren habe, ob wir, wie es ein Moderator zitierte, schlicht „fucked“ seien? Ex-Telekom-Austria-Chef Boris Nemsic, der Europas Mobilfunkindustrie einst an der Weltspitze erlebte, antwortete: „Wir sind frei, wir sind reich, wir sind eigentlich sehr erfolgreich.“ Die entscheidende Frage laute: „Was machen wir daraus?“ Als Hauptproblem benannte er die Regulierung und das Tempo: Die EU stocke ihre Technologie-Budgets erst ab 2028 auf, während relevante KI-Modelle im Abstand weniger Monate erscheinen. Sein Fazit: „No, we are not fucked yet, weil das ist das Vorspiel.“

Ex-Telekom-Austria-Chef Boris Nemsic | (c) Standortagentur Tirol

„Beware the AI Wash“: Platz warnt vor der Blase

Tricentis-Co-Founder Wolfgang Platz widmete seine Keynote dem „KI-Tsunami aus Investorensicht“, von Deep Blue über AlphaFold bis zur Gegenwart. Seine Botschaft: Bei Startups, die sich als AI-Companies verkaufen, sei rund ein Drittel „nur Marketing, nur Schmäh“, nur sieben Prozent hätten ein echtes KI-Produkt. Auch auf Unternehmensseite sei die Bilanz ernüchternd. Laut einer MIT-Untersuchung holen nur fünf Prozent der Firmen, die massiv in KI investieren, tatsächlich etwas heraus. Sein Appell an die Angels: „Beware the AI Wash.“

Tricentis-Co-Founder Wolfgang Platz | (c) Standortagentur Tirol

Platz beschrieb zudem einen aus seiner Sicht überhitzten Markt, in dem sich das KI-Ökosystem gegenseitig finanziere und Bewertungen von den Umsätzen entkoppelt seien, samt persönlicher Konsequenz: Für 2027, wenn große Tech-Börsengänge ihre Sperrfristen verlieren, rechnet er mit Abverkaufswellen.

Zwölf Startups am Business Angel Summit

Die zwölf ausgewählten Startups deckten eine Bandbreite von GreenTech bis MedTech ab. Darunter Serwas: Das Startup entwickelte ein System, das Serverleistung bereitstellt und die dadurch entstandene Abwärme zum Heizen von Gebäuden nutzt. Eine Pilotanlage ist seit Frühjahr 2026 im Amraser Schwimmbad in Innsbruck installiert und soll durch die Wärmerückgewinnung sieben Tonnen CO2 pro Jahr einsparen.

Beim Business Angel Summit 2026 trafen am 9. und 10. Juli nationale und internationale Investor:innen auf zwölf ausgewählte österreichische Startups | (c) Standortagentur Tirol

Außerdem mit dabei ist in diesem Jahr das österreichische Spin-off Thyra Imaging, das mit Unterstützung einer aws Preseed-Förderung und der MedUni Wien eine Methode zur frühen Detektion von Neuroinflammation über das Auge entwickelt hat. „Die Netzhaut ist ein direktes Fenster ins Gehirn – das ist die Grundlage unserer Technologie. Wir können Zellen und Mikrostrukturen sichtbar machen, die mit herkömmlicher Bildgebung unsichtbar bleiben. Unser Ziel ist es, neurologische Erkrankungen wie Alzheimer früher zu erkennen – nicht-invasiv und in wenigen Sekunden“, erklärt Mitgründerin Elisabeth Brunner.


Disclaimer: brutkasten war beim Business Angel Summit 2026 in Kitzbühel vor Ort. Die Übernachtungskosten wurden zum Teil von der Austria Wirtschaftsservice (aws) getragen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären