19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
21.10.2026

„SHAPE Austria“: Neuer Ausgründungsrahmen für mehr Spinoffs aus Geistes-, Sozialwissenschaften und Künsten

Deep Tech, Life Science, Patente: Darauf war das österreichische Spinoff-System bisher ausgelegt. Mit „SHAPE Austria" liegt nun ein Ausgründungsrahmen für Sozial-, Geistes- und Kulturwissenschaften sowie die Künste vor. New-Venture-Scouting-Gründer Werner Wutscher erklärt im Gespräch mit brutkasten, warum diese Disziplinen eine andere Sprache, andere Strukturen und andere Kennzahlen brauchen.
/artikel/shape-austria-ausgruendungsrahmen-geisteswissenschaften-kuenste
21.10.2026

„SHAPE Austria“: Neuer Ausgründungsrahmen für mehr Spinoffs aus Geistes-, Sozialwissenschaften und Künsten

Deep Tech, Life Science, Patente: Darauf war das österreichische Spinoff-System bisher ausgelegt. Mit „SHAPE Austria" liegt nun ein Ausgründungsrahmen für Sozial-, Geistes- und Kulturwissenschaften sowie die Künste vor. New-Venture-Scouting-Gründer Werner Wutscher erklärt im Gespräch mit brutkasten, warum diese Disziplinen eine andere Sprache, andere Strukturen und andere Kennzahlen brauchen.
/artikel/shape-austria-ausgruendungsrahmen-geisteswissenschaften-kuenste
Mitarbeiterbeteiligung - Werner Wutscher | (c) Luiza Puiu
Werner Wutscher | (c) Luiza Puiu

Transkribus ist eine KI-Plattform, die historische Handschriften automatisch erkennt. Entstanden ist sie an der Universität Innsbruck, heute ist sie als Europäische Genossenschaft organisiert und wird weltweit von Archiven und Forschenden genutzt. Ein Paradebeispiel für ein akademisches Spinoff, nur eben keines aus der Technik, sondern aus den Geisteswissenschaften. Genau solche Gründungen will ein neuer Ausgründungsrahmen künftig systematisch ermöglichen.

„SHAPE Austria“ wurde im Rahmen der ECN-Konferenz von Werner Wutscher (New Venture Scouting) und Sektionschef Elmar Pichl vom Bundesministerium für Frauen, Wissenschaft und Forschung (BMFWF) vorgestellt. SHAPE steht für Social Sciences, Humanities and the Arts for People and the Economy. Der Bericht ergänzt den Ausgründungsrahmen von 2024, der den Hochschulen erstmals einheitliche Standards für Spinoffs vorgab. „Da war der klare Fokus auf skalierbare, technologieorientierte Startups. Die Geisteswissenschaften, Sozialwissenschaften und Künste sind zu kurz gekommen“, sagt Wutscher. Das Ministerium habe den Rahmen komplettieren wollen.

27 Institutionen in der Arbeitsgruppe

Erarbeitet wurde der Bericht von November 2025 bis Juni 2026 mit einer Arbeitsgruppe aus 27 Institutionen, darunter 16 Hochschulen von der Universität Wien über das Mozarteum bis zur Kunstuniversität Linz. Dazu kamen Interviews mit 16 Einrichtungen, die bereits weiter sind, etwa dem britischen ARC Accelerator, der Erasmus University Rotterdam oder der Universität Köln.

Das Ergebnis sind elf Empfehlungen, sechs an die Leitungsebene der Hochschulen, fünf an Transferstellen und Career Center. „Um auch strategische Themen zu diskutieren, braucht man unbedingt auch die Leitungsebene, also die Rektorate für diese Diskussionen“, so Wutscher.

Andere Sprache, andere Strukturen

Der zentrale Befund: Gründungen aus diesen Disziplinen folgen einer anderen Logik. Sie entstehen selten aus einer Marktchance, sondern aus einem gesellschaftlichen Problem. Im Bericht ist von „Reluctant Founders“ die Rede, Menschen, die nicht primär ein Unternehmen aufbauen, sondern etwas verändern wollen. „Du musst sehr stark über die Wirkung reden, über den Impact reden, um die dann gut abzuholen“, sagt Wutscher. Empfohlen wird ein „Prinzip der Zweisprachigkeit“: nach innen Wirkungssprache, nach außen klassische Startup-Begriffe, damit Finanzierung und Netzwerke nicht verschlossen bleiben. Statt von Kund:innen spricht man dann von Audiences.

Strukturell sind SHAPE-Gründungen meist günstiger und schneller als Tech-Spinoffs: kein Labor, kein Patentierungsprozess, kürzere Validierungszyklen. Dafür braucht es niederschwellige, mehrstufige Begleitung und offene Rechtsformen. Statt der GmbH kann auch ein Verein, eine Genossenschaft oder ein Hybridmodell passen. „Wenn du einen Verein gründest, um Gesundheitspolitik zu promoten, brauchst du kein Labor“, so Wutscher.

Soft IP statt Patente

Ein eigener Schwerpunkt gilt dem geistigen Eigentum. Wo keine Patente entstehen, sondern Urheberrecht, Software, Daten oder Know-how, greifen die üblichen IP-Richtlinien nicht. Der Bericht empfiehlt getrennte Regeln für Hard und Soft IP mit deutlich günstigeren Konditionen und nennt als Benchmark die University of Bristol: 20 Prozent Beteiligung bei patentbasierten Spinoffs, fünf Prozent bei „IP light“, null Prozent ohne verwertbares IP. Leitprinzip: so offen wie möglich, so geschlossen wie nötig, inklusive Creative-Commons- und Open-Source-Lizenzen.

Weil die Wirkung im Vordergrund steht, sollen Hochschulen auch nicht auf Lizenzeinnahmen hoffen, sondern Impact messen. Anlage 1 des Berichts liefert dafür beispielhafte Indikatoren, von erreichten Nutzer:innen bis zu Impact Case Studies.

Netzwerk und gemeinsames Programm

Weil die Pipelines einzelner Hochschulen klein sind, empfiehlt der Bericht ein österreichweites SHAPE-Netzwerk nach dem Vorbild des britischen Aspect Network und ein gemeinsames Frühphasenprogramm, angedockt an bestehende Strukturen wie AplusB, ECN oder die Ludwig Boltzmann Gesellschaft. New Venture Scouting koordiniert dafür ein Jahr lang Quartalstreffen der Arbeitsgruppe. Dazu kommt die Forderung, Transfer und Gründung in Berufungen und Evaluierungen anzuerkennen, im Sinne der CoARA-Initiative, die von rein publikationsbasierten Metriken abrücken will.

Die Beispiele in Anlage 2 reichen von ArtWave, einem Startup zweier Opernsängerinnen für Stressreduktion und Burnout-Prävention, über die Praxissoftware freudio für Psychotherapeut:innen bis zur Kärntner Freiwilligenplattform inmojo. „Wir haben noch sehr wenige. Deswegen haben wir den Ausgründungsrahmen um Success Stories ergänzt, damit sich die Leute das vorstellen können“, sagt Wutscher.

„Da wären wir mit vorne dabei“

Für Wutscher ist der Zeitpunkt entscheidend: Die großen Fragen rund um KI, Ethik oder Medizin bräuchten interdisziplinäre Teams. Und beim SHAPE-Thema stehe ganz Europa noch am Anfang. „Deswegen wäre das jetzt so spannend, wenn wir das jetzt starten könnten. Da wären wir mit vorne dabei.“

Bleibt der Haken: das neue Universitätsbudget. Wutscher, der auch Vorsitzender des Universitätsrats der Universität Klagenfurt ist, nennt die Kürzungen einen „massiven Dämpfer“. Die große Herausforderung sei, „dass diese Einsparungen nicht dazu führen, dass Innovation und das Neue gedrosselt werden“. Gerade bei Entrepreneurship-Aktivitäten sei die Entwicklung zuletzt nach oben gegangen: Österreichweit gebe es mittlerweile 31 Forschungs-Spinoffs, 2024 waren es noch 25.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode