19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

„Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen“ – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für „Semantically Diverse Language Generation“.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. „Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können“, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell „unsicher“ ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

„Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. „‚Albert Einstein hat die Relativitätstheorie entwickelt‘ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.“

SDLG erkennt ob „LLMs halluzinieren“

Lukas Aichberger, „ELLIS PhD“-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: „Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‚Estimatoren‘ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.“

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch „semantische Unsicherheit“ (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: „SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.“

Deine ungelesenen Artikel:
11.09.2026

Follow startet mit der FHWien der WKW eine Social-Media-Ausbildung auf Hochschulniveau

Die Wiener Social-Media-Agentur Follow launcht mit Unterstützung der FHWien der WKW einen Online-Lehrgang für Social Media. Die Gründer wollen damit ein Problem lösen, das sie aus dem eigenen Agenturalltag kennen: Wer Social Media professionell lernen wolle, finde bislang keine zertifizierte, praxisnahe Ausbildung.
/artikel/follow-startet-mit-der-fhwien-der-wkw-eine-social-media-ausbildung
11.09.2026

Follow startet mit der FHWien der WKW eine Social-Media-Ausbildung auf Hochschulniveau

Die Wiener Social-Media-Agentur Follow launcht mit Unterstützung der FHWien der WKW einen Online-Lehrgang für Social Media. Die Gründer wollen damit ein Problem lösen, das sie aus dem eigenen Agenturalltag kennen: Wer Social Media professionell lernen wolle, finde bislang keine zertifizierte, praxisnahe Ausbildung.
/artikel/follow-startet-mit-der-fhwien-der-wkw-eine-social-media-ausbildung

Für Ilja Jay Lawal und Pedram Parsaian, die Gründer der Social-Media-Agentur Follow, schließt sich mit dem neuen Lehrgang ein Kreis. Beide haben an der FHWien der WKW Kommunikationswirtschaft studiert und sich dort kennengelernt. Seit mehreren Jahren sind sie zudem als Lektoren an der Hochschule tätig. Auch geschäftlich besteht bereits eine Verbindung: Die FHWien der WKW ist Kundin der Agentur, die für sie unter anderem Performance-Marketing und Influencer-Marketing-Projekte umsetzt, um neue Studierende anzusprechen.

Follow hat heuer bereits mehrfach Schlagzeilen gemacht: Zu Jahresbeginn beteiligte sich Musiker RAF Camora mit fünf Prozent an der Agentur (brutkasten berichtete), im August wurde Follow offizieller Social-Media-Vermarktungspartner der ProSiebenSat.1 Puls 4 Gruppe und damit Kooperationspartner von deren Vermarktungs-Unit Seven.One Austria (brutkasten berichtete). Mit dem Lehrgang folgt nun der Schritt ins Bildungsgeschäft.

„Du kannst Social Media nicht studieren“

Die Motivation für die neue Ausbildung kommt direkt aus dem Agenturalltag. „Da merken wir in der Praxis sehr stark: Du kannst Social Media nicht studieren. Es gibt keine zertifizierte, universelle Ausbildung, wo man sagt: Wenn du das gelernt hast, dann kannst du es“, sagt Lawal im Gespräch mit brutkasten. Die Agentur erhalte laufend Bewerbungen von Menschen, die in den Bereich einsteigen wollen, aber keine praktische Erfahrung mitbringen und keinen Ort haben, an dem sie das Handwerk lernen können.

Gleichzeitig sei der Beruf deutlich anspruchsvoller geworden. Waren Social-Media-Manager:innen früher vor allem für Texte und Themenauswahl zuständig, brauche es heute deutlich mehr: „Zusätzlich bist du Videograf, Fotograf, machst Grafik. Du musst mit dem Smartphone alles Mögliche können“, so Parsaian. Der Job sei mittlerweile einer der schwierigsten im Marketing-Mix, obwohl er oft noch als kleiner Teil des Marketings gelte.

Dass die Ausbildung nicht im Alleingang, sondern mit einer Hochschule entsteht, war für die Gründer eine bewusste Entscheidung. Es gebe zwar bereits Online-Kurse zum Social Media Manager, diese seien aber reine Theoriekurse, hinter denen weder eine Hochschule noch eine Agentur mit Praxiserfahrung stehe. Die Unterstützung durch die FHWien der WKW soll das ändern.

Online-Videokurs mit KI-Kapitel

Der Lehrgang ist als Online-Videokurs konzipiert und auf drei Monate ausgelegt, kann aber im individuellen Tempo absolviert werden, etwa abends oder am Wochenende neben dem Job. Am Ende steht ein Zertifikat. Die Module werden von einem gemischten Team unterrichtet: FH-Professor:innen, Mitglieder des Follow-Teams inklusive der beiden Gründer sowie externe Expert:innen, etwa aus den Bereichen Recht und Psychologie. Ein eigenes Kapitel widmet sich dem Einsatz von KI im Social-Media-Bereich. Der reguläre Preis liegt bei 2.970 Euro.

Die Ausbildung richtet sich an drei Zielgruppen: junge Menschen, die Social Media Manager:innen werden wollen, KMU und Marketingteams, die Social Media für das eigene Unternehmen aufbauen möchten, sowie Creator und Influencer:innen, die professioneller mit ihren Kanälen umgehen wollen.

Seitens der FHWien der WKW betont Studiengangsleiter David Dobrowsky den Anspruch der Ausbildung: „Der Anspruch dieser Ausbildung ist es, Social Media als eigenständiges und zentrales Feld von Unternehmenskommunikation und Marketing zu vermitteln. Professionelle Social-Media-Kommunikation braucht beides: fundiertes Wissen und praktische Anwendungsskills der Tools. Deshalb werden theoretische Grundlagen mit dem Umgang mit relevanten Tools und konkreten Anwendungen verbunden.“

KI senkt die Eintrittsbarriere, ersetzt aber niemanden

Dass KI den Bereich verändert, sehen die Gründer täglich. Die Eintrittsbarriere sei geringer geworden, weil sich mit KI-Unterstützung durchaus brauchbare Social-Media-Pläne erstellen ließen. „Ein einzelner Social-Media-Manager mit KI ist vielleicht so wie ein Team von drei, vier, fünf Leuten“, sagt Lawal. Eine echte Person ersetzen könne die Technologie aber nicht: „Dazu braucht man auch den Blick auf das, was sich laufend verändert. Es ist eine massive Arbeitserleichterung, Stand jetzt aber kein Ersatz.“

Neuer Revenue Stream für die Agentur

Für Follow ist der Lehrgang auch ein Business Case. Die Agentur ist nach eigenen Angaben auf 35 Mitarbeiter:innen gewachsen, bei einem jährlichen Umsatzwachstum im zweistelligen Prozentbereich. Das bringt ein Problem mit sich: „Wir sind mittlerweile einfach als Agentur zu groß für viele Kleine. Die kleine Immobilienkanzlei zu betreuen, rechnet sich für uns als Case nicht mehr“, sagt Lawal. Anfragen kleinerer Unternehmen müsse man ablehnen, obwohl auch diese Hilfe im Social-Media-Bereich bräuchten.

Der Lehrgang soll genau diese Lücke schließen und zugleich einen neuen, skalierbaren Umsatzstrom eröffnen, der nicht mit zusätzlichem Personal wächst. Selbst im schlechtesten Fall sehen die Gründer keinen Nachteil: Dann bleibe eine interne Schulungsressource für das eigene Team und das Onboarding. Künftig sollen auf der Videoplattform auch Vertiefungen dazukommen, etwa in den Bereichen Influencer-Marketing und Content Creation.

Sieglinde Martin, Head of Department of Communication an der FHWien der WKW, sieht in der Kooperation auch eine besondere Verbindung zur eigenen Alumni-Community: „Für uns als FHWien der WKW war schnell klar, dass wir mit so erfolgreichen Absolventen wie den Gründern von Follow kooperieren wollen. Sie setzen in ihrem Agenturalltag praktisch perfekt um, was wir in unseren Studiengängen am Department of Communication lehren. Es ist uns wichtig, diese Weiterbildung nicht nur zu unterstützen, sondern sie vor allem mit fundierten theoretischen Grundlagen und aktuellen Insights aus der Wissenschaft zu begleiten. Besonders freut es uns natürlich, dass wir so wieder mit ehemaligen Studenten zusammenarbeiten können und sich somit für uns der Kreis auf eine ganz besondere Weise schließt.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode