19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

“Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen” – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für “Semantically Diverse Language Generation”.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. “Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können”, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell “unsicher” ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

“Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. “‘Albert Einstein hat die Relativitätstheorie entwickelt’ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.”

SDLG erkennt ob “LLMs halluzinieren”

Lukas Aichberger, “ELLIS PhD”-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: “Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‘Estimatoren’ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.”

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch “semantische Unsicherheit” (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: “SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.”

Deine ungelesenen Artikel:
vor 16 Stunden

SkinScreener-Founder zu Sebastian Kurz-Ausstieg: “Eigentlich ist Portugal die Geschichte”

Sebastian Kurz ist als Investor beim Grazer Startup medaia ausgestiegen. Wie und warum es dazu kam, erklärt Founder Michael Tripolt und offenbart ein allgemeines Learning über prominente Investoren, die manchmal andere Erfolge - wie den Gewinn eines portugiesischen Ministeriums als Kunden - in den Schatten stellen können.
/artikel/skinscreener-portugal-sebastian-kurz-ausstieg
vor 16 Stunden

SkinScreener-Founder zu Sebastian Kurz-Ausstieg: “Eigentlich ist Portugal die Geschichte”

Sebastian Kurz ist als Investor beim Grazer Startup medaia ausgestiegen. Wie und warum es dazu kam, erklärt Founder Michael Tripolt und offenbart ein allgemeines Learning über prominente Investoren, die manchmal andere Erfolge - wie den Gewinn eines portugiesischen Ministeriums als Kunden - in den Schatten stellen können.
/artikel/skinscreener-portugal-sebastian-kurz-ausstieg
Tripolt, mediaa, SkinScreener, Kurz, Sebastian Kurz
(c) medaia - Michael Tripolt, Co-Founder von medaia.

Der gestern kommunizierte Ausstieg von Ex-Kanzler Sebastian Kurz als Investor des Grazer Startups medaia (SkinScreener) offenbarte am Rande eine kleine Hürde für Startups, die auftreten kann, wenn Prominenz zum Kapitalgeber wird. Vor allem, wenn diese aus einem kontroversiellen Feld wie der Politik kommt.

Der ehemalige ÖVP-Politiker war mit knapp zwei Prozent am HealthTech beteiligt. Eine Folge des Einstiegs: mediale Stories fokussierten auf den Ex-Kanzler und Erfolge des Startups wurden zum Randthema – so die Erkenntnis von Co-Founder Michael Tripolt.

Personenfokus

“Eigentlich ist aktuell Portugal die Geschichte und der Ausstieg nur ein Nebenthema”, erklärt der Gründer. “Da gab es in der Vergangenheit ein paar Beispiele, wo der Fokus auf seiner Person lag. Ich habe mich mit Sebastian Kurz zusammengesetzt und wir haben uns in Übereinkunft geeinigt, dass er seine Anteile an medaia wieder abgibt, die dann über mich anteilig an die anderen Eigentümer aufgeteilt wurden.”

Hier hineingespielt haben anderweitige Verpflichtungen von Sebastian Kurz, der u.a. sehr viel in Israel unterwegs war und aus zeitlichen Gründen wenig Input in sein österreichisches Investment liefern konnte, wie Tripolt erzählt.

200 Millionen-Bewertung

Dazu muss man wissen, das Kurz Co-Founder und Anteilseigener des israelischen Cybersecurity-Startups Dream Security ist, das im November 2023 eine Finanzierungsrunde in Höhe von 34 Millionen US-Dollar stemmen konnte, über 100 Mitarbeiter:innen verfügt und mit 200 Millionen US-Dollar bewertet ist – brutkasten berichtete.

Ein Sprecher von Kurz dazu: “Die Ziele, die sich medaia gesetzt hat, sind beachtlich und es ist auch wichtig, dass es solche Innovationen im Gesundheitsbereich gibt. Sebastian Kurz fokussiert sich nun stärker auf seine eigenen Unternehmen, allen voran Dream und die SK Management.“

SkinScreener: Ausschreibung in Portugal gewonnen

Medaia selbst, um zu Portugal zurückzukommen, hat mit seiner Hautkrebs-Vorsorge App SkinScreener das portugiesische Gesundheitsministerium als großen Kunden gewonnen. Dazu gab es eine europaweite Ausschreibung.

“Wir sind von unserem Partner in Portugal darauf hingewiesen worden und haben uns beteiligt”, erklärt Tripolt. “Wir waren gar nicht als Favorit gesetzt, da wir aber die einzigen waren, die eine internationale Medizinpordukt-Zertifizierung und eine fortgeschrittene KI besitzen, haben wir gewonnen.”

Anfänglich wird es nun bei den Iberern ein Pilotprojekt mit rund 60.000 Bürger:innen geben, die eine Gesundheits-App mit unterschiedlichen Features nutzen werden.

“Darin bespielt unsere KI das Thema Haut”, präzisiert Tripolt. “Wenn nach dem Screen eine Gefahr für die Haut erkannt wird, und die App ‘gelb’ oder ‘rot’ ausweist, bekommen User:innen gleich eine Zuweisung an einen Hautarzt oder Hautärztin.”

Patientenströme lenken

Bei diesem Pilotprojekt gehe es vor allem darum, einen “geschlossenen Patientenkreislauf” zu etablieren, den Portugal aus einem bestimmten Grund im Sinn hat, wie der Founder weiter ausführt.

“Sie sind dort”, so Tripold überzeugt, “wo wir in Österreich in ein paar Jahren sein werden. Die Anzahl der spezialisierten Ärzte geht zurück. Daher muss man die Patientenströme lenken.”

Sollte das Pilotprojekt positive Ergebnisse liefern, rechnen Tripold und CEO Albin Skasa damit, dass der Rollout auf die ganze Bevölkerung 2025 oder 2026 erfolgen wird. Portugal hat mehr als zehn Millionen Einwohner.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode