19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
20.11.2026

Was der Milliarden-IPO von Anthropic für Österreichs Startups bedeutet

Anthropic hat mit seinem Börsengang einen neuen Rekord aufgestellt. Doch welche Auswirkungen hat das auf europäische und österreichische Startups? Oliver Holle und Clemens Wasner sehen darin vor allem Chancen, warnen aber auch vor strukturellen Hürden und möglichen steigenden KI-Kosten.
/artikel/was-der-milliarden-ipo-von-anthropic-fuer-oesterreichs-startups-bedeutet
20.11.2026

Was der Milliarden-IPO von Anthropic für Österreichs Startups bedeutet

Anthropic hat mit seinem Börsengang einen neuen Rekord aufgestellt. Doch welche Auswirkungen hat das auf europäische und österreichische Startups? Oliver Holle und Clemens Wasner sehen darin vor allem Chancen, warnen aber auch vor strukturellen Hürden und möglichen steigenden KI-Kosten.
/artikel/was-der-milliarden-ipo-von-anthropic-fuer-oesterreichs-startups-bedeutet
Oliver Holle (Speedinvest) und Clemens Wasner (enliteAI) | (c) Speedinvest & enliteAI

Erst fünf Jahre nach seiner Gründung hat das US-amerikanische KI-Unternehmen Anthropic den größten Börsengang der Geschichte hingelegt. Bei seinem IPO nahm das Unternehmen rund 81,3 Milliarden US-Dollar ein (brutkasten berichtete). Am Donnerstag startete die Anthropic-Aktie an der Nasdaq und schloss ihren ersten Handelstag bei 97,17 Dollar. Damit lag der Kurs rund 17 Prozent über dem Ausgabepreis von 83 Dollar. Die Unternehmensbewertung erreichte zum Handelsschluss rund 1,77 Billionen Dollar.

Doch was bedeutet dieser Rekord für den europäischen Kapitalmarkt und insbesondere für österreichische Startups? brutkasten hat dazu die Meinungen zweier Experten eingeholt: Clemens Wasner, Gründer von AI Austria und CEO von enliteAI, sowie Oliver Holle, CEO und Managing Partner von Österreichs größtem VC Speedinvest.

Neue Chancen für europäische Börsengänge

Eine häufig diskutierte Sorge bei besonders großen Börsengängen ist, dass sie Kapital und Aufmerksamkeit von kleineren Unternehmen abziehen könnten. Beide Experten sehen diese Gefahr bei Anthropic allerdings nicht.

„Diesen Crowding-out-Gedanken halte ich für falsch – im Gegenteil: Ein Mega-IPO wie Anthropic ist eine massive Validierung des AI-Trades“, sagt Holle. Der Börsengang zeige Investor:innen, welche Renditen mit erfolgreichen KI-Unternehmen möglich seien. Davon könnten auch europäische KI-Scaleups wie Mistral oder Black Forest Labs profitieren.

Holle erwartet dadurch steigende Bewertungen, aber auch höhere Qualitätsanforderungen an Unternehmen. Für europäische Technologieunternehmen sei der IPO daher Rückenwind und kein Risiko.

Ähnlich sieht das Wasner. Er verweist darauf, dass der Börsengang mehrfach überzeichnet war und damit auf eine hohe Nachfrage der Investor:innen gestoßen ist. „Ich würde den Anthropic IPO eher mit dem von Google in 2004 vergleichen – dieser war auch der Startschuss für eine neue Welle an Tech-IPOs.“

Die Hürden für heimische Tech-Startups

Dass ein Technologieunternehmen innerhalb von fünf Jahren eine derartige Größe erreicht, ist außergewöhnlich. Für Österreich sieht Holle darin allerdings keinen unmittelbar übertragbaren Maßstab.

„Österreich ist mit Silicon Valley und dem Anthropic Beispiel schlicht nicht vergleichbar, und schon gar nicht als Börsenplatz“, so Holle. Statt den nächsten Rekordbörsengang in Wien anzustreben, sollte Österreich darauf setzen, Ausnahmeunternehmer:innen global erfolgreich zu machen. „Ein IPO kommt dann von selbst.“

Wasner sieht vor allem strukturelle Hürden auf europäischer Ebene. Europa habe es bislang nicht geschafft, einen einheitlichen Kapitalmarkt aufzubauen, der für heimische Unternehmen und internationale Investor:innen gleichermaßen attraktiv sei. Zudem sei viel Kapital in europäischen Pensionsfonds gebunden, die im Vergleich zu US-amerikanischen Fonds deutlich weniger in Venture Capital investieren.

Solange sich daran nichts ändere, erwartet Wasner weiterhin sogenannte Delaware Flips. Dabei verlagern europäische Startups ihre gesellschaftsrechtliche Struktur in die USA, etwa um den Zugang zu internationalen Investor:innen zu erleichtern. Auch die Entwicklung rund um die geplante europäische Unternehmensrechtsform EU Inc. sieht er kritisch. Sollte diese scheitern, wird sich die Situation aus seiner Sicht nicht verbessern.

Steigende Kosten für heimische KI-Startups?

Neben den Auswirkungen auf den Kapitalmarkt könnte der Börsengang auch direkte Folgen für österreichische Startups haben, die KI-Modelle von Anthropic oder anderen großen Anbietern verwenden. Wasner verweist auf Unternehmen wie Uber oder Slack, bei denen es nach dem Börsengang teilweise deutliche Preiserhöhungen gegeben habe, um die angestrebte Profitabilität zu erreichen.

„Mittelfristig, vor allem nach dem OpenAI IPO, würde ich im AI-Bereich mit einem ähnlichen Anstieg der Kosten für Modelle und Subscriptions rechnen“, sagt Wasner. Für Startups könnte sich das in höheren direkten Kosten für ihre Produkte und Dienstleistungen niederschlagen. Gleichzeitig sieht er auch neue Möglichkeiten. Anthropic könnte künftig eigene Förderprogramme für Startups oder einen Venture-Capital-Arm aufbauen, vergleichbar mit bestehenden Initiativen von Nvidia oder Google.

Auch Holle rechnet damit, dass durch den erfolgreichen Börsengang mehr Kapital in den KI-Sektor fließen wird. Davon könnten europäische Tech-Unternehmen profitieren. Die grundlegenden Herausforderungen des österreichischen Standorts würden dadurch allerdings nicht verschwinden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode