19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
29.07.2026

75.000 neue Jobs: Was Europas Sicherheitsinvestitionen für Österreich bedeuten

Eine Studie von EY und DekaBank beziffert die jährliche Produktionswirkung sicherheitsrelevanter Infrastruktur auf 822 Mrd. Euro europaweit. Für Österreich ergibt sich daraus ein Investitionsbedarf von 7,5 Mrd. Euro pro Jahr.
/artikel/75-000-neue-jobs-was-europas-sicherheitsinvestitionen-fuer-oesterreich-bedeuten
29.07.2026

75.000 neue Jobs: Was Europas Sicherheitsinvestitionen für Österreich bedeuten

Eine Studie von EY und DekaBank beziffert die jährliche Produktionswirkung sicherheitsrelevanter Infrastruktur auf 822 Mrd. Euro europaweit. Für Österreich ergibt sich daraus ein Investitionsbedarf von 7,5 Mrd. Euro pro Jahr.
/artikel/75-000-neue-jobs-was-europas-sicherheitsinvestitionen-fuer-oesterreich-bedeuten
Bild: KI-generiert / Google Gemini

Die europäischen NATO-Länder werden ihre Verteidigungsausgaben in den kommenden zehn Jahren massiv erhöhen. Neben den direkten Verteidigungsausgaben, die auf 3,5 Prozent des Bruttoinlandsprodukts steigen sollen, sind weitere 1,5 Prozent des BIP für sicherheitsrelevante Investitionen vorgesehen: etwa für die Anpassung der Verkehrsinfrastruktur, für den Bevölkerungsschutz oder für Cyber- und Netzwerksicherheit. Europaweit entspricht das jährlich rund 320 Mrd. Euro.

Auch für Österreich als Nicht-NATO-Staat hat das Folgen. Legt man das 1,5-Prozent-Ziel als Referenzmaßstab zugrunde, ergibt sich ein potenzieller jährlicher Investitionsbedarf von rund 7,5 Mrd. Euro. Das geht aus der Studie „Verteidigungsrelevante Infrastruktur als Rückgrat souveräner Sicherheitsvorsorge“ von EY und der deutschen DekaBank hervor.

Jeder Euro löst 2,45 Euro aus

Die Investitionen stoßen laut Studie in den europäischen NATO-Ländern eine Produktion von insgesamt 822 Mrd. Euro pro Jahr an, 17 Mrd. Euro davon entfallen auf Österreich. Jeder investierte Euro führt demnach zu einem gesamtwirtschaftlichen Impuls von etwa 2,45 Euro. Profitieren dürften vor allem Bauunternehmen, Informations- und Kommunikationsunternehmen, Logistikfirmen sowie die Elektronik- und Elektrotechnikbranche.

Dazu kommen die Beschäftigungseffekte: Sofern die Infrastrukturinvestitionen wie vorgesehen zu ohnehin geplanten Projekten erfolgen, entstehen europaweit 4,4 Millionen Arbeitsplätze. Knapp 1,8 Millionen davon direkt in der Infrastrukturindustrie, ähnlich viele bei Zulieferern. In Österreich wären es rund 75.000 Jobs.

„Investitionen in Infrastruktur, von Mobilität über Energie bis zu Häfen, Flughäfen, Schutzräumen und Cyber-Sicherheit, bilden das Rückgrat militärischer Fähigkeiten“, sagt Axel Preiss, Partner bei EY Österreich und Defence Leader Europe. Die Effekte gingen über den Rüstungssektor hinaus: Solche Investitionen könnten die Konjunktur stärker ankurbeln als Rüstungsinvestitionen im engeren Sinn und bieten zugleich die Chance auf eine Modernisierung von Logistik, Verkehr und Energie.

Investitionsstau und knappe Kassen

Der Bedarf trifft allerdings auf strukturelle Engpässe. In Österreich wie in ganz Europa besteht bereits heute ein hoher Investitionsstau, die zugesagten Mittel müssten zusätzlich und möglichst kurzfristig aufgebracht werden.

Für Matthias Danne, stellvertretender Vorsitzender des Vorstands der DekaBank, führt daran kein Weg vorbei: „Der Staat wird die hohen Kosten der militärischen Infrastrukturinvestitionen nicht allein schultern können, ohne privates Kapital ist eine ausreichende Resilienz nicht erreichbar.“ Er verweist auf ÖPP-Modelle, die bei deutschen Behörden unbeliebt, international aber etabliert seien. Besonders bei Dual-Use-fähiger Infrastruktur in den Bereichen Energie, Netze, Logistik und Kommunikation ermögliche privates Kapital eine zügigere Skalierung. Auch in Österreich werde verstärkt diskutiert, wie sich privates Kapital für öffentliche Zukunftsprojekte mobilisieren lässt, ergänzt Preiss.

Als weitere Hürden nennt der EY-Partner lange Vorlaufzeiten, komplexe Genehmigungsverfahren und begrenzte kurzfristige Skalierbarkeit. Nötig seien daher beschleunigte Genehmigungen, eine koordinierte zivil-militärische Planung und eine stärkere europäische Abstimmung bei grenzüberschreitender Infrastruktur.

Was das für die heimische Szene bedeutet

Für Österreichs Technologieunternehmen trifft der erwartete Investitionsschub auf ein Feld, das sich gerade erst öffnet. Reine DefenseTech-Startups gibt es hierzulande kaum, die meisten agieren im Dual-Use-Bereich, also mit Produkten, die sich zivil wie militärisch einsetzen lassen. Genau dort setzt auch die Studie an, wenn sie Dual-Use-fähige Infrastruktur in Energie, Netzen, Logistik und Kommunikation als bevorzugtes Feld für privates Kapital nennt. Bewegung kommt zusätzlich von politischer Seite: Wirtschaftsminister Wolfgang Hattmannsdorfer hat angekündigt, gesetzliche Hürden für die heimische Rüstungs- und DefenseTech-Branche abzubauen, unter der Bedingung, dass die Neutralität gewahrt bleibt.

Erste Finanzierungsrunden zeigen, dass das Thema auch bei Investor:innen ankommt. Das 2025 gegründete Grazer Startup GuardAero, dessen Systeme Drohnenbedrohungen an Militärfahrzeugen autonom erkennen und neutralisieren, holte sich zuletzt ein Seed-Investment im niedrigen Millionenbereich von Angels United und der Beteiligungsgesellschaft von Bernhard Klemen. Zuvor hatte das Team die „Austrian Defence Innovation Garage 2025“ gewonnen und kooperiert bei Entwicklungstests mit dem Bundesheer. Ob die von EY skizzierten Milliarden tatsächlich auch bei heimischen Startups landen, wird weniger von den Zusagen abhängen als von Genehmigungsverfahren, Vergabepraxis und der Frage, wie schnell Österreich seinen eigenen regulatorischen Rahmen nachschärft.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode