Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das „Verhalten“ von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer „Blackbox“. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.
„Wollen der Antwort, die das Modell produziert, vertrauen können“
Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner „Verhaltensweisen“ verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. „Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden“, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. „Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können“.
GPT-2 wird mit GPT-4 getestet
Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche „Neuronen“ des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese „Neuronen“ sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr „Verhalten“ zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete „Verhalten“ und macht einen Abgleich.
Neues OpenAI-Tool noch im Anfangsstadium
„Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt“, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.
Das Voting zum „Innovator of the Year“ 2026 – Kategorie Corporate Innovation
Mit dem Innovator of the Year kürt brutkasten jedes Jahr gemeinsam mit seiner Community die innovativsten Köpfe Österreichs. In der Kategorie „Corporate Innovation“ kannst du jetzt bis 1. November 2026 für deine:n Favorit:in abstimmen. Der Award wird am 5. November im Rahmen des brutkasten-Jahresevents Momentum vergeben.
Das Voting zum „Innovator of the Year“ 2026 – Kategorie Corporate Innovation
Mit dem Innovator of the Year kürt brutkasten jedes Jahr gemeinsam mit seiner Community die innovativsten Köpfe Österreichs. In der Kategorie „Corporate Innovation“ kannst du jetzt bis 1. November 2026 für deine:n Favorit:in abstimmen. Der Award wird am 5. November im Rahmen des brutkasten-Jahresevents Momentum vergeben.
Die Herausforderung ist bekannt: Corporates müssen KI-Anwendungen operativ ins Unternehmen bringen, um international wettbewerbsfähig zu bleiben, die Umsetzung ist aber vor allem aufgrund hoher Sicherheitsanforderungen alles andere als trivial. Nicht überall gelang bislang daher der Sprung aus der Pilotphase. Doch einige heimische Corporates stechen mit ihren erfolgreich umgesetzten KI-Projekten hervor.
Ihnen widmen wir heuer die Kategorie „Corporate Innovation“ des brutkasten Innovator of the Year. Wir haben fünf Corporate-Manager:innen nominiert, die dieses Jahr mit besonders erfolgreichen oder ambitionierten KI-Projekten unter ihrer Verantwortung aufgefallen sind.
Der Preis wird heuer zum 6. Mal vergeben. Am 5. November findet die feierliche Award Ceremony im Rahmen des brutkasten-Jahresevents Momentum im Wiener Palais Berg statt. Neben der Kategorie Corporate Innovation wird der Award dieses Jahr in den Kategorien Startups und Scaleups vergeben. Als Preis in allen drei Kategorien winkt jeweils ein brutkasten-Medienpaket im Wert von 4.100 Euro.
Die „Innovator of the Year“-Kategorie Scaleups wird durch BCG unterstützt.
Publikumsvoting zum Innovator of the Year | Kategorie „Corporate Innovation“
Nun ist, wie jedes Jahr, deine Stimme gefragt. Bis zum 1. November (23:59 Uhr) kannst du für deine:n Favorit:in abstimmen! Jede:r User:in hat pro Tag und Kategorie genau eine Stimme – es lohnt sich also, die eigene Community zu aktivieren.
(Hinweis: Bei mehrfacher Stimmabgabe pro Tag erfolgt zwar keine gesonderte Fehlermeldung im Voting-Tool, Mehrfachvotes werden vom System jedoch automatisiert erkannt und ausgefiltert).
Michael Waupotitsch, VP Textile Recycling | Andritz
Michael Waupotitsch | (c) Andritz
Angesichts von weltweit 92 Millionen Tonnen Textilmüll jährlich hat der Grazer Technologiekonzern Andritz eine neue KI-Lösung für die Kreislaufwirtschaft präsentiert. Mit dem System „teXscan“ soll die Bewertung von Alttextilien laut Angaben des Unternehmens künftig zerstörungsfrei automatisiert werden. In nur einer Sekunde soll das System die Textilqualität auf Stoff-, Garn- und Faserebene bewerten. Darauf basierend empfiehlt die KI den jeweils optimalen Weiterverarbeitungsweg, vom Ring-Spinnen bis zum chemischen Recycling. Laut Michael Waupotitsch, Vice President Textile Recycling bei Andritz, soll diese prädiktive Analyse-Software eine Lücke in der großindustriellen Sortierung schließen und als Hebel für eine wettbewerbsfähige textile Kreislaufwirtschaft dienen.
Gerhard Dimmler, CTO | Engel
Gerhard Dimmler | (c) Engel
Unter dem Projektnamen “Inject AI” bringt der oberösterreichische Spritzgussmaschinen-Weltmarktführer einen KI-Assistenten direkt in die Spritzgießproduktion seiner Kunden. Der Engel Virtual Assistant (EVA) versteht und beantwortet nicht nur Fragen in natürlicher Sprache, sondern führt nach Freigabe auch Änderungen an der Maschinensteuerung kontrolliert selbst aus. Das System ist nicht nur für Neumaschinen verfügbar, sondern kann bei bestimmten Maschinentypen auch nachgerüstet werden. “Unser Ziel ist es, Anwenderinnen und Anwendern ein Werkzeug an die Hand zu geben, mit dem sie im Produktionsalltag effizienter arbeiten können”, sagt CTO Gerhard Dimmler.
Margit Kendler, CFO Greiner Packaging | Greiner
Margit Kendler | (c) brutkasten/Dervisevic
Greiner Packaging arbeitet mit drei KI-Fokusfeldern: Kundeninteraktion, Produktion und Verwaltung. In der Produktion ist KI am Ende der Linie im Einsatz, im Verpackungsbereich und in Richtung Lager. Intern gibt es wöchentliche Online-Runden für Best-Practice-Sharing, einzelne Kolleg:innen arbeiten bereits viel mit Agenten. Kendler treibt das Thema aus der CFO-Rolle und steht für einen Industriebetrieb mit 902 Millionen Euro Umsatz und fast 4.900 Mitarbeiter:innen.
Sulejman Ganibegović, CEO Keba Digital | Keba
Sulejman Ganibegović | (c) brutkasten/Dervisevic
Das Linzer Technologieunternehmen Keba zählt zu den globalen Spitzenreitern in mehreren Teilbereichen der Automatisierung. Seit diesem Jahr hat die Gruppe mit Keba Digital eine Software-Einheit mit KI-Fokus, die auch auf der Technologie des 2025 nach dessen Insolvenz übernommenen KI-Startups 7LYTIX aufbaut. Ziel von Keba Digital ist die Entwicklung industrietauglicher KI-Lösungen, die auch ohne Kopplung an Keba-Hardware vertrieben werden können. CEO Sulejman Ganibegović bringt Unternehmer- und Exit-Erfahrung mit und war bereits zuvor als Vice President Digital Business der Gruppe tätig.
Andreas Kranabitl, Geschäftsführer Spar ICS | Spar
Andreas Kranabitl | (c) Spar
Spar zeigt, wie KI im Handel konkrete Wirkung entfaltet. Die Absatzprognose der Spar ICS erkennt Muster darin, welche Artikel an welchem Tag in welchem Markt gekauft werden, bezieht das Wetter ein und steuert auf dieser Basis die Bestellmenge pro Filiale. Damit konnte Spar den Verderb von Obst und Gemüse im Jahresvergleich um 20 Prozent reduzieren. Andreas Kranabitl führt die IT-Gesellschaft der Spar Österreich-Gruppe seit 2009 und verantwortet die technologische Basis dieser Lösung. Er macht vor, wie ein Traditionsunternehmen KI im Kerngeschäft skaliert und dabei wirtschaftliche Effizienz mit einem messbaren Beitrag gegen Lebensmittelverschwendung verbindet.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.
