19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
18.06.2026

Die nächste Finanzinfrastruktur wird gerade gebaut – die Frage ist nur, von wem

In seiner Kolumne zum „Proof of Talk“-Event in Paris zeigt Dejan Jovicevic: Blockchain wird zur neuen Finanzinfrastruktur. Europa muss jetzt handeln, um seine digitale Souveränität zu sichern.
/artikel/die-naechste-finanzinfrastruktur-wird-gerade-gebaut-die-frage-ist-nur-von-wem
18.06.2026

Die nächste Finanzinfrastruktur wird gerade gebaut – die Frage ist nur, von wem

In seiner Kolumne zum „Proof of Talk“-Event in Paris zeigt Dejan Jovicevic: Blockchain wird zur neuen Finanzinfrastruktur. Europa muss jetzt handeln, um seine digitale Souveränität zu sichern.
/artikel/die-naechste-finanzinfrastruktur-wird-gerade-gebaut-die-frage-ist-nur-von-wem
© brutkasten

Wer Blockchain hört, denkt oft noch immer an Kryptowährungen, Kursentwicklungen und die Spekulationsexzesse der vergangenen Jahre. Dieses Bild greift jedoch zunehmend zu kurz. Nach zwei Tagen beim Proof of Talk in Paris, einem der relevantesten europäischen Treffen für Web3, digitale Assets und Finanzinnovation, ist mein Eindruck vor allem einer: Die Diskussion hat sich fundamental verändert.

Bemerkenswert war dabei weniger die Technologie selbst als die Zusammensetzung der Teilnehmerinnen und Teilnehmer. Neben Gründer:innen und Technologieunternehmen waren Banken, Asset Manager, institutionelle Investoren, Zahlungsdienstleister und Regulatoren präsent. Viele der Gespräche drehten sich nicht mehr um die Frage, ob Blockchain-Technologien künftig eine Rolle spielen werden, sondern darum, wo und wie sie konkret eingesetzt werden können. Die Debatte hat die Nische verlassen und ist in der Mitte des Finanzsystems angekommen.

Genau darin liegt auch die eigentliche Relevanz der Entwicklung. Im Kern geht es längst nicht mehr um Kryptowährungen. Es geht um die Infrastruktur der Finanzwelt von morgen. Diskutiert wurden Themen wie Tokenisierung, Stablecoins, digitale Identitäten, neue Kapitalmarktmodelle und die Frage, wie Finanztransaktionen künftig abgewickelt werden. Viele dieser Entwicklungen stehen noch am Anfang. Dennoch entsteht zunehmend der Eindruck, dass sich hier grundlegende Bausteine einer neuen Finanzarchitektur herausbilden.

Besonders häufig fiel in Paris das Schlagwort Tokenisierung. Die dahinterstehende Idee ist, reale Vermögenswerte digital abzubilden und damit einfacher handelbar, teilbar und zugänglich zu machen. Befürworter sehen darin die Chance auf effizientere Kapitalmärkte und einen leichteren Zugang zu Investitionen. Ob sich diese Vision in vollem Umfang verwirklichen wird, bleibt abzuwarten. Unübersehbar ist jedoch, dass erhebliche Ressourcen und Aufmerksamkeit in diese Richtung fließen.

Für Europa stellt sich dabei eine weit größere Frage als jene nach einzelnen Technologien oder Geschäftsmodellen, nämlich die Wettbewerbsfähigkeit. In den vergangenen Jahren wurde intensiv darüber diskutiert, wie Europa bei künstlicher Intelligenz, Cloud-Infrastruktur oder Halbleitern eine stärkere Rolle einnehmen kann. Weniger Aufmerksamkeit erhält bislang die Frage, wer die Finanzinfrastruktur des digitalen Zeitalters gestaltet.

Dabei sind die Parallelen offensichtlich. Wer die Standards definiert, die Plattformen betreibt und die Infrastruktur kontrolliert, verfügt über einen erheblichen strategischen Vorteil. Wenn Europa digitale Souveränität ernst meint, sollte diese Debatte daher nicht bei KI oder Cloud-Lösungen enden. Sie muss auch den Finanzsektor umfassen.

Die Voraussetzungen dafür wären grundsätzlich vorhanden. Europa verfügt über starke Universitäten, technologisches Know-how, hohe Sparquoten und etablierte Finanzinstitutionen. Gleichzeitig zeigt sich seit Jahren ein wiederkehrendes Muster: Innovationen entstehen häufig in Europa, werden aber anderswo skaliert. Genau deshalb wird es entscheidend sein, Forschung, Unternehmertum, Kapital und Regulierung stärker zusammenzuführen und die Umsetzungsgeschwindigkeit zu erhöhen.

Proof of Talk hat mir vor allem eines vor Augen geführt: Die Diskussion befindet sich an einem anderen Punkt als noch vor wenigen Jahren. Die Frage lautet nicht mehr, ob Blockchain-Technologien jemals relevant werden könnten. Die Frage lautet zunehmend, welche konkreten Anwendungen sich durchsetzen und welche Regionen von dieser Entwicklung profitieren werden.

Ob Blockchain tatsächlich die Finanzwelt grundlegend verändern wird, kann heute niemand mit Sicherheit beantworten. Sicher ist jedoch, dass Banken, Investoren, Unternehmen und Regulatoren diese Möglichkeit mittlerweile ernsthaft diskutieren. Allein das unterscheidet die aktuelle Situation grundlegend von jener vor einigen Jahren.

Gerade deshalb lohnt es sich, die Entwicklungen aufmerksam zu verfolgen. Nicht, weil jede technologische Vision Realität wird. Sondern weil in solchen Phasen oft die Grundlagen jener Infrastrukturen entstehen, die Wirtschaft und Gesellschaft über Jahrzehnte prägen. Die nächste Finanzinfrastruktur wird möglicherweise genau jetzt gebaut. Die entscheidende Frage für Europa lautet daher nicht, ob sie kommt, sondern welche Rolle wir dabei spielen werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode