19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group

„Als sich das Internet durchgesetzt hat, gab es ‚Greenfield-Unternehmen‘ wie Google, die keine Legacy hatten und etablierte Unternehmen wie Microsoft, die sich transformieren mussten. Jetzt sind wir in der gleichen Situation. Während OpenAI, Anthropic und Co. etwas komplett Neues aufbauen, müssen die bestehenden Player, wie etwa auch wir, die Transformation schaffen“, sagt Alejandro Plater, CEO der A1 Group, am Rande des A1 ICT Summit. Und er fügt an: „Microsoft ist diese Transformation damals sehr gut gelungen. Wir wollen wie Microsoft sein.“

ICT als entscheidender Wachstumsmarkt

Mehr noch als um die Herausforderungen, die KI innerhalb des Konzerns mit sich bringt, geht es für die Gruppe dabei darum, dem Markt zu liefern, was gebraucht wird. Das große Schlagwort lautet ICT mit umfassenden Cloud- und KI-basierten Angeboten für Unternehmen. Von 2021 auf 2025 wuchs der Gruppenumsatz in dem Bereich von 285 auf 573 Millionen Euro – eine durchschnittliche jährliche Wachstumsrate von 19 Prozent. Was das mit dem KI-Boom zu tun hat, bringt Plater auf den Punkt: „Wir sind groß und haben die Möglichkeiten, schnell auf alle Entwicklungen zu reagieren. Viele Unternehmen sind klein und haben diese Möglichkeiten nicht. Das ist eine große Chance für uns.“

„Souveränität heißt für uns in erster Linie: Du hast die Wahl.“

Eine Rolle spielt dabei natürlich auch das aktuell große Thema Digitale Souveränität. „Souveränität heißt für uns in erster Linie: Du hast die Wahl. Es gibt mehrere Alternativen und du kannst entscheiden“, erklärt Alexander Kuchar, CTO der A1 Group. Das trifft vor allem auf den Cloud-Bereich zu, wo man mit der Tochter Exoscale ein eigenes Angebot mit Data-Centern an zahlreichen europäischen Standorten hat, gleichzeitig aber auch Angebote der US-Hyperscaler vertreibt. „Es kommt hier immer auf die konkreten Kundenbedürfnisse an, welche Variante die sinnvollste ist“, sagt der CTO.

In Sachen KI setzt A1 dagegen primär auf Open-Source-Modelle, also einen genuin souveränen Ansatz. Dass diese technologisch nicht mit den Frontier-LLMs der US-Giganten mithalten können, sieht Kuchar wenig problematisch. Die Entwicklung verlaufe verschoben, aber parallel. „Was die Frontier-Modelle heute können, werden die Open-Source-Modelle in kurzer Zeit können“, so der CTO. Entscheidend seien die tatsächlichen Bedürfnisse der Unternehmenskunden – und hier spiele etwa auch die Abwägung zwischen Performance und Kosten eine große Rolle. Die Wahl falle daher oft bewusst auf schwächere Modelle, die den spezifischen Zweck aber – günstiger – erfüllen.

Strategie: Leute vor Ort

CEO Plater sieht das Thema aus der Vogelperspektive: „Es geht nicht primär um die Technologie. Es geht um das Leadership in den Unternehmen.“ Entscheidend sei, wie die Technologie operativ ankomme und es gelinge, die ganze Organisation mitzunehmen. A1 setzt dabei auf Präsenz in seinen Märkten. „Es ist überraschend, wie unterschiedlich unsere Märkte sind. Wenn ein US-Player kommt, und den Unternehmen erklären will, wie sie ihr Business zu führen haben, wird das nicht funktionieren“, sagt Alexander Kuchar. Und Plater ergänzt: „Das ist unsere Strategie: Wir haben Leute vor Ort, die die Sprache sprechen. Wir haben Callcenter und Techniker, die zu einem kommen. Bei den Hyperscalern erreichst du niemanden.“

Dass die besagten Callcenter schon in absehbarer Zeit nicht mehr mit Menschen, sondern mit KI-Agenten besetzt sein werden, ist für den CEO gleichzeitig eine Selbstverständlichkeit: „Die KI passt sich sogar an den spezifischen Dialekt der Anrufenden an. Menschen können es damit nicht aufnehmen“, meint er. Und ob aber Kund:innen nicht dennoch mit echten Menschen sprechen wollen? „Man wird nicht erkennen, dass es eine KI ist“, so Plater, „bloß, wenn die Regulatorik vorschreibt, das schon bei Gesprächsbeginn kenntlich zu machen.“

Generell sei die Regulatorik auch etwas, das ihn beschäftige, sagt der CEO, konkret die Unterschiede zwischen den Ländern bzw. den Großregionen: „So viel ist klar: Die weniger regulierten bewegen sich schneller – im Positiven wie im Negativen – und die stärker regulierten bewegen sich langsamer – im Positiven wie im Negativen.“

„Je weniger Systeme, Tools und Prozesse man hat, desto einfacher ist es zu kontrollieren.“

Ein großes damit verbundenes Thema ist die Sicherheit. „Wir arbeiten mit mehreren Strategien daran, die Cyber-Security stetig zu verbessern“, sagt dazu Plater. Erstens versuche man etwa, wo es gehe, zu vereinfachen. „Je weniger Systeme, Tools und Prozesse man hat und je simpler alles ist, desto einfacher ist es zu kontrollieren.“ Zweitens habe man eigene Teams, die ständig die neuesten Entwicklungen im Auge behielten und solche, die konstant Angriffe auf das eigene System simulieren, um Lücken zu finden. Auch hier sieht der CEO eine große Chance für die A1 Group, die CTO Kuchar benennt: „Wir bieten hier maßgeschneiderte Lösungen für KMU.“

Und wie sieht es mit den zuletzt vielfach kolportierten globalen Bedrohungsszenarien durch KI aus, die bis zur befürchteten Auslöschung der Menschheit gehen? „Ich bin nicht sehr fatalistisch bei dem Thema“, sagt Plater. Man müsse solche Szenarien schon in Perspektive setzen. „Was sind die tatsächlichen Möglichkeiten, die so drastisch sein könnten? Das ist für mich eher Science Fiction. Aber wer weiß, vielleicht irre ich mich.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode