19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
21.08.2026

Wholomics: Rieder Startup entwickelt neue Methode zur Krebsfrüherkennung

Wholomics hat sich zum Ziel gesetzt, diverse Krebsarten bereits im Stadium eins zu erkennen. Eine Validierungsstudie gibt Hoffnung, aktuell befindet sich das Startup in der zweiten Finanzierungsrunde.
/artikel/wholomics-rieder-startup-entwickelt-neue-methode-zur-krebsfrueherkennung
21.08.2026

Wholomics: Rieder Startup entwickelt neue Methode zur Krebsfrüherkennung

Wholomics hat sich zum Ziel gesetzt, diverse Krebsarten bereits im Stadium eins zu erkennen. Eine Validierungsstudie gibt Hoffnung, aktuell befindet sich das Startup in der zweiten Finanzierungsrunde.
/artikel/wholomics-rieder-startup-entwickelt-neue-methode-zur-krebsfrueherkennung
(v.l.) Wholomics-Geschäftsführer Patrick Strasser und Maximilian Schneider | © Wholomics GmbH

Es ist wohl eine der schockierendsten Nachrichten, die man erhalten kann: Diagnose Krebs. Dabei werden verschiedenste Krebsarten oftmals erst in späten Stadien erkannt, was die Überlebenschance stark verringert. Das soll sich bald ändern. Die beiden Wholomics-Gründer Patrick Strasser und Maximilian Schneider entwickelten einen Test, der mit hoher Genauigkeit verschiedene Krebserkrankungen bereits im Stadium eins feststellen können soll.

“Heutzutage zählt es als Durchbruch, wenn ein Medikament für Krebspatienten im Stadium vier eine sechs Monate längere Überlebensdauer erzielt. Allerdings hätte man einen viel größeren Impact, wenn man Krebs einfach früher erkennen könnte”, erklärt Wholomics-CEO Strasser im brutkasten-Interview. Denn bei den meisten Krebsarten, die man bereits im Stadium eins erkennt, hätten die Patienten eine “5-Jahres-Überlebensrate von über 90 %”. Im Stadium drei bzw. vier falle die Überlebenschance rapide ab. 

Daher entwickelten Strasser und Wholomics-CTO Schneider einen Test, der darauf ausgelegt ist, mehrere Krebsarten bereits in frühen Stadien aus einer einzigen Blutprobe zu erkennen. Der Test analysiert diverse Veränderungen im Blutserum, also der Flüssigkeit im Blut, die mit einer frühen Tumorentwicklung in Zusammenhang stehen können. Die Ergebnisse einer Validierungsstudie sind vielversprechend, denn der Wholomics-Test erkannte eigenen Angaben zufolge 38 von 40 Krebserkrankungen im Stadium eins, darunter Darm-, Magen- und gynäkologische Tumore. Die Intellectual Property der Methode liegt bei Wholomics. Eine erste Version des Tests, der Wholomics Multi-Cancer Check, ist bereits über eine Partnerfirma, Novogenia, erhältlich. Strasser und Schneider möchten sich aber darauf konzentrieren, den Test in der breiten Bevölkerungsmasse einsetzen zu können.

Vom Forscher zum Unternehmer

Die beiden Wholomics-Gründer kennen einander seit ihrem Studium an der TU München und fassten gerade wissenschaftliche Publikationen zusammen, als ihnen die Idee für einen neuen Test zur Krebsfrüherkennung kam. Die Umstellung vom Forscher zum Unternehmer beschreibt der Biochemiker Strasser als “leicht”. Dennoch stellt ihn das Unternehmertum vor einige Herausforderungen. “Als Startup-Founder lernt man im Endeffekt nie aus. Das heißt, jeden Tag, jede Woche gibt es neue Dinge, die man sich selbst beibringen oder die man lernen muss“, erklärt Strasser und ergänzt: “Ein Founder hat mir mal gesagt, die wissenschaftliche Grundlage ist sozusagen das A und O deines Unternehmens. Aber 80 Prozent werden dann im Endeffekt auf der Business-Seite durchgesetzt.”

Wholomics wurde bisher mit dem aws First Incubator und der Forschungsprämie unterstützt. Aktuell befindet sich das Unternehmen in der zweiten Finanzierungsrunde und ist noch auf der Suche nach Investoren. Strasser und Schneider wollen die Runde im letzten Quartal dieses Jahres schließen. “Wir suchen nicht nur nach Geldgebern, sondern eben auch nach strategischen Partnern, die z. B. im Bereich Diagnostik Erfahrung haben”, sagt Strasser. Mit der Entwicklung ihres Startups zeigt sich der Biochemiker zufrieden, auch wenn der Standort Österreich seine Schwierigkeiten mit sich bringe. Die Regulierungen in der EU erschweren laut dem Krebsforscher jedem Diagnostik-Startup den Start.      

Das Ziel sind 2027 die USA, aber ohne FDA-Approval

Zudem brauche es in der EU hohe Investments, um ein medizinisches Produkt auf den Markt zu bringen. “Da muss man dann abwägen, wie die tatsächliche Marktzugangslage ist. Und die ist in Österreich oder im DACH-Raum generell etwas schwieriger”, erklärt Strasser, der mit Schneider den Großteil von Wholomics besitzt. Der Blick der beiden Österreicher richtet sich daher über den großen Teich. Sie arbeiten aktuell in den USA an der Eröffnung eines sogenannten CLIA-Labors. Dadurch soll der Test zur Krebsfrüherkennung als “Lab Developed Test” in den Vereinigten Staaten 2027 auf den Markt gebracht werden können. Er werde somit firmenintern validiert und könne anschließend an Privatpersonen weiterverkauft werden. Ein FDA-Approval sei dann nicht mehr nötig.

Wholomics als die nächste Generation der Krebsfrüherkennungstests

“Im Endeffekt wollen wir quasi die nächste Generation von Multi-Cancer Early Detection Tests auf den Markt bringen. Der größte Unterschied zwischen uns und anderen Anbietern ist, dass wir einfach sehr hohe Frühstadien-Erkennungsraten haben”, sagt Strasser. Langfristig will sich Wholomics am Markt als “First Line Diagnostic” platzieren, also als eine erste Reihe an Untersuchungen, die bei Krebsverdacht durchgeführt werden. Diese Tests sollen dann von Versicherern rückerstattet werden. Als potentielle Kunden beschreibt Strasser in den USA zu Beginn unter anderem Ärzte, später auch Krankenkassen, wobei man den Test immer unter ärztlicher Begleitung durchführen muss.

In Zukunft kann es mehrere unterschiedliche Use-Cases für Wholomics geben, wie z. B. einen Stratifizierungstest. Durch diese Tests werden Personen in klare Gruppen eingeteilt. Dadurch kann in der Medizin einer Person die passende Behandlung verschrieben werden. “Im Endeffekt laufen alle diese Use-Cases darauf hinaus, dass eine Blutprobe analysiert wird und wir das molekulare Profil nach Krebs-Signaturen untersuchen”, sagt Strasser.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode