10.05.2023

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

Wie AI-Sprachmodelle zu ihren Antworten kommen, bleibt häufig unklar. Ein Team von OpenAI will nun mit einem AI-Tool ChatGPT und Co erklären.
/artikel/openai-tool-soll-chatgpt-verhalten-erklaeren
ChatGPT OpenAI AI-Sprachmodell
(c) Rolf van Root / unsplash

Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das „Verhalten“ von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer „Blackbox“. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.

„Wollen der Antwort, die das Modell produziert, vertrauen können“

Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner „Verhaltensweisen“ verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. „Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden“, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. „Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können“.

GPT-2 wird mit GPT-4 getestet

Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche „Neuronen“ des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese „Neuronen“ sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr „Verhalten“ zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete „Verhalten“ und macht einen Abgleich.

Neues OpenAI-Tool noch im Anfangsstadium

„Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt“, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.

Deine ungelesenen Artikel:
vor 13 Stunden

„Immobilien sollen sich künftig weitgehend von selbst verwalten können“ – Flatwise will Immobilienmarkt aufmischen

Das Linzer Startup Flatwise will zeitaufwändige Tätigkeiten in der Immobilienverwaltung wie Mietanpassungen, Abrechnungen und Steuerunterlagen mit KI automatisieren. Schon vor dem offiziellen Marktstart setzen Vermieter:innen mit über 3.000 Wohnungen auf die Plattform, wie Mitgründer Johannes Reichl im Interview mit brutkasten erklärt.
/artikel/flatwise-linzer-startup-will-immobilienverwaltung-mit-ki-automatisieren
vor 13 Stunden

„Immobilien sollen sich künftig weitgehend von selbst verwalten können“ – Flatwise will Immobilienmarkt aufmischen

Das Linzer Startup Flatwise will zeitaufwändige Tätigkeiten in der Immobilienverwaltung wie Mietanpassungen, Abrechnungen und Steuerunterlagen mit KI automatisieren. Schon vor dem offiziellen Marktstart setzen Vermieter:innen mit über 3.000 Wohnungen auf die Plattform, wie Mitgründer Johannes Reichl im Interview mit brutkasten erklärt.
/artikel/flatwise-linzer-startup-will-immobilienverwaltung-mit-ki-automatisieren
Das Flatwise-Gründertrio (v.l.) Marc Lindorfer, Edwin Schneider und Johannes Reichl © Flatwise

Wenn es nach Johannes Reichl, Edwin Schneider und Marc Lindorfer geht, ist Immobilienverwaltung bis heute vor allem eines: kleinteilig, zeitintensiv und von manuellen Abläufen geprägt. Genau hier wollen die drei Linzer mit ihrem Startup Flatwise ansetzen. Das Gründerteam entwickelt eine Software, die zentrale Aufgaben von Vermieter:innen, von Mietanpassungen über Betriebskostenabrechnungen bis zur Vorbereitung von Steuerunterlagen, mithilfe von KI-Agenten automatisieren soll. Bereits vor dem offiziellen Marktstart setzen laut Angaben des Startups Vermieter:innen mit insgesamt mehr als 3.000 Wohnungen auf die Plattform.

Von der Pilot- zur Marktphase

Das Team, das erst im August 2026 eine GmbH gegründet hat, hat sein Produkt in den vergangenen Monaten eng mit den ersten 100 Pilotnutzer:innen weiterentwickelt, mit Feedback, Interviews und echten Kund:innendaten, wie Mitgründer Johannes Reichl im Interview erklärt. Der Ansatz unterscheide sich damit von klassischen Proptech-Lösungen, die bestehende Prozesse lediglich digitalisieren: „Wir wollen Immobilienverwaltung nicht nur digitalisieren, sondern grundlegend neu denken. Immobilien sollen sich künftig weitgehend von selbst verwalten können. Vermieter:innen können durch die Software von Flatwise professionell vermieten, ohne dabei selbst Fachexpert:innen sein zu müssen“, so Reichl.

KI-Agenten im Einsatz

Konkret möchte Flatwise KI dort einsetzen, wo Verwaltungsprozesse sinnvoll automatisiert oder unterstützt werden können. Dazu zählen für das Team unter anderem die Vorbereitung und Berechnung von Mietanpassungen, die Unterstützung bei Betriebskostenabrechnungen sowie die strukturierte Aufbereitung von Finanz- und Steuerinformationen. Der KI-Agent verbindet dabei unterschiedliche Daten und Prozessschritte innerhalb der Software, bereitet relevante Informationen auf und unterstützt Vermieter:innen bei der weiteren Bearbeitung.

Der Weg zum Ökosystem

Im Schnitt verwaltet ein:e Flatwise-Nutzer:in laut Unternehmen aktuell rund zehn Wohnungen. Für Reichl zeigt sich dabei ein klares Bild der Branche: „Der Markt ist extrem fragmentiert, es gibt viele Anbieter, die eigentlich zusammenhängen müssten, aber kaum vernetzt sind.“

Dieses Nebeneinander will Flatwise auflösen und sich schrittweise zu einem Ökosystem entwickeln, das Vermieter:innen, Mieter:innen und Dienstleister:innen auf einer Plattform zusammenbringt. „Wir glauben daran, dass gute Vermieter:innen das Wohnen für alle besser machen. Flatwise soll es einfacher machen, gut zu vermieten“, heißt es dazu vom Gründungsteam.

Enterprise-Lösung in Arbeit

Flatwise richtet sich an Vermieter:innen mit Beständen zwischen einer und hundert Immobilien. Mittlerweile hätten sich aber auch Hausverwaltungen und Bestandshalter:innen mit deutlich größeren Portfolios gemeldet. Deshalb entwickelt Flatwise momentan ein Enterprise-Modell, das künftig gezielt auf die Anforderungen größerer Bestandshalter:innen und Hausverwaltungen eingehen soll, wie der Mitgründer im Interview erklärt.

Wachstum vorerst ohne Angels oder VCs

Trotz bestehender Investmentangebote will das Team bei der Finanzierung vorerst auf Förderungen und den eigenen Cashflow setzen. Rund 20 Angebote von Angels und Venture-Capital-Geber:innen sind laut Reichl bereits eingegangen. Aufgegriffen werden sollen sie frühestens, wenn erste Umsätze stehen. Für eine geplante Wachstumsphase ist jedoch in der ersten Jahreshälfte 2027 eine Finanzierungsrunde angedacht. Unterstützung erhält das Gründerteam zudem im Inkubatorprogramm von tech2b durch ein Advisory Board aus Immobilienexpert:innen und erfahrenen Unternehmer:innen.

Wissen als Türöffner

Um neue Kund:innen zu erreichen, setzt Flatwise zusätzlich auf einen eigenen Immobilienratgeber mit aktuell rund 160 Artikeln, der komplexe Themen rund um Immobilien und Wohnen laienverständlich aufbereitet. Bereits mehrere tausend Personen sollen die Inhalte monatlich lesen. Für Reichl ist das ein wichtiger Kanal, um Vertrauen aufzubauen und so langfristig neue Nutzer:innen für die Plattform zu gewinnen.

Im kommenden Jahr will Flatwise nach eigenen Angaben marktführend in Österreich werden. Mittelfristig ist auch eine internationale Expansion, etwa nach Deutschland, angedacht. Ein konkreter Zeitpunkt steht laut Reichl aber noch nicht fest.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären