10.05.2023

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

Wie AI-Sprachmodelle zu ihren Antworten kommen, bleibt häufig unklar. Ein Team von OpenAI will nun mit einem AI-Tool ChatGPT und Co erklären.
/artikel/openai-tool-soll-chatgpt-verhalten-erklaeren
ChatGPT OpenAI AI-Sprachmodell
(c) Rolf van Root / unsplash

Wie kommt ChatGPT nur darauf? Diese Frage taucht unter anderem auf, wenn das AI-Sprachmodell mal wieder völlig haarsträubende Unwahrheiten von sich gibt. Dass KI-Laien sie nicht beantworten können, verwundert nicht. Doch auch für ausgewiesene Expert:innen lässt sich das “Verhalten” von AI-Sprachmodellen oft nicht nachvollziehen. Die Rede ist dann immer wieder von einer “Blackbox”. Doch damit will sich ein Team bei OpenAI, dem Unternehmen hinter ChatGPT, nicht zufrieden geben. Es will die vielschichtigen Wege der Künstlichen Intelligenzen (nicht nur des Sprachmodells aus dem eigenen Haus) erklären – natürlich mit einem anderen AI-Tool.

“Wollen der Antwort, die das Modell produziert, vertrauen können”

Mit diesem soll automatisch ermittelt werden, welche Teile eines AI-Sprachmodells für welche seiner “Verhaltensweisen” verantwortlich sind. Zukünftig sollen damit immer wieder auftretende Probleme der Modelle vermieden werden. “Wir wollen damit voraussehen können, was die Probleme mit einem KI-System sein werden”, erklärt William Saunders, Leiter eines beteiligten Teams bei OpenAI, gegenüber dem US-Magazin TechCrunch. “Wir wollen letztlich wissen, dass wir dem, was das Modell tut, und der Antwort, die es produziert, vertrauen können”.

GPT-2 wird mit GPT-4 getestet

Konkret basiert das neue Tool auf dem ebenfalls von OpenAI stammenden Sprachmodell GPT-4. Getestet wird aktuell an einfacheren Modellen, vor allem am Vor-Vorgänger GPT-2 [Anm. ChatGPT basiert momentan auf GPT-3]. Dabei eruiert das Tool, welche “Neuronen” des getesteten Modells durch einen Prompt konkret aktiviert werden. Diese “Neuronen” sind – vereinfacht gesagt – zusammenhängende Informationen, die das Modell zu einem bestimmten Thema erlernt hat. GPT-2 hat laut den Forschern rund 300.000 davon. GPT-4 liefert dann eine Erklärung, warum diese Neuronen aktiviert wurden und wie ihr “Verhalten” zu verstehen ist. Dazu simuliert das neuere Sprachmodell das erwartete “Verhalten” und macht einen Abgleich.

Neues OpenAI-Tool noch im Anfangsstadium

“Mit dieser Methodik können wir für jedes einzelne Neuron eine Erklärung für das finden, was es tut, und auch eine Bewertung darüber abgeben, wie gut diese Erklärung mit dem tatsächlichen Verhalten übereinstimmt”, sagt Jeff Wu, ebenfalls OpenAI-Teamleiter, gegenüber TechCrunch. Tatsächlich waren diese Erklärungen laut Team bislang erst bei einem Bruchteil der getesteten Neuronen akkurat. Das neue Tool befinde sich aktuell noch im Anfangsstadium, wird betont. Es ist Open Source auf der Plattform Github zugänglich.

Deine ungelesenen Artikel:
27.11.2024

Pflege am Hof: Vier Gründerinnen bieten Alternative zur Pflegeeinrichtung

Das an der Fachhochschule Wiener Neustadt entstandene Startup Pflege am Hof entwickelt derzeit ein Konzept, das professionelle Pflege und das Leben auf landwirtschaftlichen Betrieben miteinander verbindet. Ziel ist es, älteren Menschen eine wohnortnahe Betreuung in einer familiären Umgebung zu ermöglichen und gleichzeitig ihre verbleibenden Fähigkeiten durch aktive Einbindung in den Hofalltag zu fördern.
/artikel/pflege-am-hof-vier-gruenderinnen-bieten-alternative-zur-pflegeeinrichtung
27.11.2024

Pflege am Hof: Vier Gründerinnen bieten Alternative zur Pflegeeinrichtung

Das an der Fachhochschule Wiener Neustadt entstandene Startup Pflege am Hof entwickelt derzeit ein Konzept, das professionelle Pflege und das Leben auf landwirtschaftlichen Betrieben miteinander verbindet. Ziel ist es, älteren Menschen eine wohnortnahe Betreuung in einer familiären Umgebung zu ermöglichen und gleichzeitig ihre verbleibenden Fähigkeiten durch aktive Einbindung in den Hofalltag zu fördern.
/artikel/pflege-am-hof-vier-gruenderinnen-bieten-alternative-zur-pflegeeinrichtung
Pflege am Hof, Demenz, was hilft bei Demenz
(c) Auer - (v.l.n.r.): Monika Debelak-Breneis, Elisabeth Auer, Anna Prüller und Eva-Maria Auer von Pflege am Hof.

Was geschieht, wenn ein geliebter Mensch im Alter nicht mehr allein zurechtkommt? Wenn das gewohnte Leben, die vertraute Umgebung und der tägliche Kontakt mit der Natur einer großen Pflegeeinrichtung weichen müssen? Fragen wie diese betreffen viele Familien, auch in ländlichen Regionen. Das Startup Pflege am Hof bietet eine Lösung, die professionelle Betreuung durch Pflegekräfte mit dem Leben und der Gemeinschaft auf einem Bauernhof vereint.

Pflege am Hof mit kleinstrukturierter Versorgungsform

Vier Frauen aus unterschiedlichen Fachrichtungen haben sich zusammengefunden, um mit Pflege am Hof die Zukunft der Pflege neu zu gestalten. Die Idee stammt von Elisabeth Auer, diplomierte Gesundheits- und Krankenpflegerin und wissenschaftliche Mitarbeiterin an der Fachhochschule Wiener Neustadt (FHWN), die in ihrer Master-Arbeit den demografischen Wandel, innovative Pflegekonzepte und “Green Care” untersuchte. Während ihrer Zeit auf Pflegebauernhöfen in den Niederlanden konnte sie erleben, wie dieses Modell in der Praxis funktioniert.

Über das Green Hexagon-Programm der FHWN lernte sie die Unternehmensberaterin Monika Debelak-Breneis kennen, mit der sie die Idee weiterentwickelte. Im Anschluss stießen Elisabeths Schwester und Marketingexpertin Eva-Maria Auer, sowie Architektin Anna Prüller zum Team.

“Unser Ziel ist es, eine kleinstrukturierte Versorgungsform anzubieten, durch die ältere Menschen aktiv in den Alltag eingebunden werden und sie ein Teil der Gemeinschaft sind”, erklärt Elisabeth Auer.

Pflege am Hof möchte hiermit eine Alternative zu herkömmlichen Pflegeeinrichtungen aufzeigen und durch Tagesbetreuung oder langfristiges Wohnen am Hof Personen aus ländlichen Regionen einen Verbleib in einer vertrauten Umgebung ermöglichen.

Gartenarbeit für Menschen mit Demenz

Gleichzeitig würden die Betreuten von Aktivitäten wie Gartenarbeit, dem Versorgen von Tieren oder gemeinsamen Mahlzeiten profitieren. Studien bestätigen, dass ein solches Umfeld, vor allem bei Menschen mit Demenz, das Wohlbefinden steigert, den Medikamentenbedarf reduziert, den Appetit anregt und soziale Interaktion fördert.

Seit Anfang 2024 wird das Projekt durch das StartUp-Center der FH Wiener Neustadt begleitet. Neben individueller Beratung wurden die Gründerinnen bei der Teilnahme an Programmen wie Green Hexagon (FHWN/Erasmus+), aws First Incubator und dem Social Impact Award unterstützt.

“Das Startup Pflege am Hof zeigt eindrucksvoll, wie innovative Ideen gesellschaftliche Herausforderungen aufgreifen und in konkrete Lösungen umsetzen können. Der Sieg beim Social Impact Award sowie die Auszeichnung beim FHWN-Gründertag 2024 sind ein Beweis für das Potenzial des Teams und die Bedeutung, die ein solches Konzept für die Zukunft der Pflege haben kann”, sagt Thomas Wally, Leiter des Start-up Centers der FH Wiener Neustadt.

Pflege am Hof mit Fünfjahres-Ziel

Derzeit arbeitet das Team von Pflege am Hof an der Umsetzung eines Pilotprojekts für die Tagesbetreuung auf einem Hof. Parallel dazu baut es sein Netzwerk aus, testet Hypothesen, lernt die Zielgruppe besser kennen und konkretisiert das Angebot. Das kurzfristige Ziel ist die erfolgreiche Einführung der Tagesbetreuung, während in zwei Jahren das Konzept um die Möglichkeit des Wohnens auf dem Hof erweitert werden soll.

Langfristig strebt das Startup an, in fünf Jahren mehr als zwei Standorte in Österreich aufzubauen und damit eine wohnortnahe und familiäre Alternative für ältere Menschen zu schaffen. Auer dazu: “Wir möchten eine Pflegeform etablieren, die älteren Menschen nicht nur Betreuung, sondern auch eine höhere Lebensqualität ermöglicht.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Neues OpenAI-Tool soll ChatGPT-Verhalten erklären