19.06.2024
KÜNSTLICHE INTELLIGENZ

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

Halluzinationen sind ein großes Problem der KI-Szene. Und das weltweit. Während Google und Microsoft sich bei einer Lösung schwertun, kommt aus Österreich ein Modell, dass solche "KI-Unsicherheiten" besser erkennen soll. Es heißt: SDLG. Wie genau, erklärt KI-Experte Sepp Hochreiter in einem Gespräch mit uns.
/artikel/loesung-gegen-ki-halluzinationen-so-funktioniert-sepp-hochreiters-sdlg-methode
SDLG, KI, Hochreiter, Halluzination
(c) brutkasten - Sepp Hochreiter zu SDLG.

“Großartige Arbeit meines Teams: Erkennen, ob LLMs (Anm.: Large Language Models) halluzinieren. Sie halluzinieren, wenn sie unsicher sind. Wir erkennen diese Unsicherheit und markieren Halluzinationen” – so beschreibt KI-Koryphäe Sepp Hocheiter auf LinkedIn die Errungenschaft, die er uns seine Forscher:innen am Institut für Machine Learning der Johannes Kepler Universität Linz vollbracht haben. Dabei spricht er von dem SDLG-Modell. Der Begriff steht für “Semantically Diverse Language Generation”.

Denn es ist ein großes Thema, das die KI-Community beherrscht. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert.

SDLG verbessert Erkennung von Halluzinationen

Wie brutkasten berichtete, tun sich Giganten wie Google und Microsoft schwer, dieser Problematik habhaft zu werden. Eine neuer Lösungsansatz kam heuer vom Wiener Startup datAInsights, die statt impliziten explizite Fakten bzw. explizites Wissen verwenden, das dokumentiert ist. “Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können”, erklärte datAInsights-Co-Founder René Heinzl im März 2023.

Nun kommt ein weiterer Lösungsansatz aus dem Umfeld von Sepp Hochreiter: SDLG. Diese neue Methode verbessert die Erkennung von Halluzinationen in LLMs (Large Language Modellen), indem es die Unsicherheitsabschätzung vorantreibt oder anders gesagt, aufzeigt, wenn ein Large Language Modell “unsicher” ist.

Man muss wissen, dass LLMs als Basis für Künstliche Intelligenz dienen und wie eine Zeichenkette aufgebaut sind. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und Antworten auf Fragen liefern. Da kann es zu Fehlern oder falschen Informationen kommen.

Einstein oder Newton?

“Hochreiter präzisiert gegenüber brutkasten: “Halluzinationen können entstehen, wenn ein Trainingsdaten-Set fehlende oder zu wenige Daten zu einem Thema hat”, sagt er. “‘Albert Einstein hat die Relativitätstheorie entwickelt’ kann in verschiedenen Varianten (Anm.: Einstein hat die Relativitätstheorie erfunden, die Relativitätstheorie wurde von Einstein erfunden oder entwickelt, Der Vater der Relativitätstheorie ist Alber Einstein, etc.) im Trainingsdaten-Set als Information dienen. Gibt es diese nicht oder nur ungenügend, und die KI weiß, dass das Relativität etwas mit Physik zu tun hat, kann es sein, dass die Antwort plötzlich Newton ist.”

SDLG erkennt ob “LLMs halluzinieren”

Lukas Aichberger, “ELLIS PhD”-Student am Institut für Machine Learning der JKU beschreibt per LinkedIn-Post die SDLG-Methode – die er, Kajetan Schweighofer, Mykyta Ielanskyi und Sepp Hochreiter entwickelt haben – wie folgt: “Wir schaffen eine theoretische Grundlage für Unsicherheitsmaße in LLMs und führen theoretisch begründete ‘Estimatoren’ (Schätzer) für semantische Unsicherheit ein. Und stellen eine Methode zur Verfügung, um semantisch vielfältige und dennoch wahrscheinliche Ausgabesequenzen zu erzeugen, indem wir die Texterzeugung eines LLMs so steuern, dass wichtige Informationen für den semantischen Unsicherheitsschätzer erfasst werden.”

SDGL, KI, Halluzinationen, Hochreiter
(c) zVg – (v.l.) Sepp Hochreiter, Lukas Aichberger, Mykyta Ielanskyi und Kajetan Schweighofer.

In anderen Worten hebt die SDGL-Methode jene Aussagen hervor, wo sich die KI nicht sicher ist und markiert sie, damit man die durch “semantische Unsicherheit” (des Large Language Models) hervorgerufenen Halluzinationen erkennt, wie Hochreiter präzisiert.

Im 23-seitigen Paper, das die Forscher herausgebracht haben, heißt es konkret: “SDLG steuert das LLM, um semantisch unterschiedliche, aber wahrscheinliche Alternativen für einen ursprünglich generierten Text zu erzeugen. Dieser Ansatz liefert ein präzises Maß für die aleatorische (Anm.: vom Zufall abhängige) semantische Unsicherheit und erkennt, ob der ursprüngliche Text wahrscheinlich halluziniert ist. Experimente mit Aufgaben zur Beantwortung von Fragen zeigen, dass SDLG bestehende Methoden durchgängig übertrifft und dabei rechnerisch am effizientesten ist, wodurch ein neuer Standard für die Unsicherheitsabschätzung in LLMs gesetzt wird.”

Deine ungelesenen Artikel:
01.10.2024

Christoph Andexlinger über Shopping-Center: “Ich glaube an die Kraft des Analogen”

Was braucht es, um erfolgreiche Shopping-Center zu betreiben? Und wie bleiben diese auch für junge Unternehmer:innen attraktiv? SES-CEO Christoph Andexlinger verrät es im brutkasten-Talk.
/artikel/christoph-andexlinger-ueber-shopping-center-ich-glaube-an-die-kraft-des-analogen
01.10.2024

Christoph Andexlinger über Shopping-Center: “Ich glaube an die Kraft des Analogen”

Was braucht es, um erfolgreiche Shopping-Center zu betreiben? Und wie bleiben diese auch für junge Unternehmer:innen attraktiv? SES-CEO Christoph Andexlinger verrät es im brutkasten-Talk.
/artikel/christoph-andexlinger-ueber-shopping-center-ich-glaube-an-die-kraft-des-analogen
Christoph Andexlinger, CEO von SES Spar European Shopping Centers (c) Florian Stürzenbaum
Christoph Andexlinger, CEO von SES Spar European Shopping Centers (c) Florian Stürzenbaum

*Diese Themenpartnerschaft erschien zuerst in der neuen Ausgabe unseres Printmagazins. Eine Downloadmöglichkeit findet sich am Ende des Artikels.


Woran denkt man bei einem Shopping-Center? Shops aus unterschiedlichsten Branchen, Gastronomie, vielleicht auch ein Kino. Aber meist ist wenig über die Infrastruktur dahinter und die Betreiber bekannt. So ging es auch Christoph Andexlinger, als er vor 25 Jahren Marketingleiter im Salzburger EUROPARK wurde. Heute ist er CEO der SES Spar European Shopping Centers.

Investor, Entwickler, Betreiber

Insgesamt betreibt das zum Spar-Konzern gehörige Unternehmen 31 Shopping-Center in sechs europäischen Ländern. Statt mit Lebensmitteln beschäftigt sich die SES mit Immobilien: “Wir sind Investor, Entwickler, Betreiber, und mit unseren eigenen Konzernbetrieben auch Pächter. Wenn das Ding rennt, freut es uns an vier Stellen. Wenn es anders wäre, würde es uns an vier Stellen weh tun.” In ihren Verträgen werde die Pacht der Shopbetreiber nach dem Umsatz des Unternehmens berechnet, basierend auf einem Mindestbetrag. Je nach Konzept und Branche werde das abgestimmt. Dadurch sei man umsatzbeteiligt und habe ein starkes Interesse an langfristigen, erfolgreichen Partnerschaften. Lokale Händler:innen und Startups nehmen auch das Feedback des Center-Betreibers als Sparring-Partner gerne an. 

Statt Erfolgszahlen zu nennen, spricht Andexlinger über den “wahren Erfolgsfaktor” der SES: die hundertprozentige Kund:innenfokussierung. ”Wir schaffen pulsierende Lebensräume mit höchster Kundenrelevanz,” sagt er. Heißt: Mit den Centern sollen Räume geschaffen werden, die Kund:innen gerne aufsuchen. Dafür sei es besonders wichtig, in jedem Haus ein lokales Team zu haben, das aus den jeweiligen Regionen kommt und lokal verankert ist. “Wir wollen kein Fremdkörper sein, sondern ein Teil der jeweiligen Stadt.” Man verstehe sich als “moderner Marktplatz”, der neben den Shops auch Raum für Kunst-Ausstellungen, Sport-Events oder Flashmobs bietet.

Handel, aber nicht nur

Der Schwerpunkt sei aber immer noch der Handel. Andexlingers Einschätzung zufolge bleibe das auch die nächsten fünf bis zehn Jahre noch so – auch wenn die Gastronomie immer wichtiger wird. Eine große Veränderung spüre man auch im Gesundheitssektor. Einige Ärzt:innen sind bereits in den Shopping-Centern eingemietet, durch eine neue Kooperation verstärkt die SES diesen Trend. Die gemeinnützige Vinzenz-Gruppe wurde als Partner gewonnen, sie wird ihr Know-how im Gesundheitsbereich für die Schaffung von Gesundheitszentren in den Centern einsetzen.

So macht in der Kultur- und Musikstadt Salzburg auch ein Kulturschwerpunkt Sinn. 2005 habe man dort mit dem OVAL einen der modernst ausgestatteten Konzerträume Europas geschaffen. Ursprünglich als Bühne für Schultheater oder Vereine gedacht, wurde die Idee schnell professionalisiert. Mit Massimiliano Fuksas wurde ein Weltstar-Architekt engagiert und die besten Akustiker setzten sich an das Projekt. Seit 19 Jahren ist Margret Stronegger die Intendantin. Der Saal werde mittlerweile sogar für Veranstaltungen der Internationalen Mozartwoche genutzt.

Auf die Kleinen kommt es an

Wie viel Innovationskraft steckt nun in einem Shopping-Center? “Handel ist Wandel”, sagt Andexlinger. Alle sechs bis acht Jahre müsse sich ein Laden verändern, das Sortiment wechsle mittlerweile nahezu täglich. Ein Shopping-Center ist für ihn die “ideale Plattform für Innovationen, die die breite Masse ansprechen”. Dort, wo jeden Tag zehntausende Menschen zusammenkommen, erhalte man schneller Feedback als irgendwo sonst. Hier lassen sich Dinge ausprobieren, auch wenn manches vielleicht schneller scheitert als anderswo. Aber genau dieses Nah dran sein ist für Andexlinger das Spannende. Das müsse man wohl auch aushalten und mögen, sagt er.

Oft heiße es, Shopping-Center würden überall das gleiche anbieten. Natürlich gebe es die Brands, die man in den meisten Häusern finde, sagt Andexlinger. Diese “Magnetbetriebe” brauche es, damit kreiere man den Traffic. Die Positionierung eines Centers hänge aber stark von den kleineren Shops ab, die es mitunter nur in dieser Stadt gebe. Andexlinger nennt als Beispiel den EUROPARK in Salzburg: Von Beginn an wurden 40 der 80 Shops von lokalen Händler:innen betrieben. Gründer:innen und Innovator:innen sind für Andexlinger “der Sprit für den Motor” des Shopping-Centers. Ohne ihren Input gehe es nicht, dann werde man langweilig für die Kund:innen.

Aus diesem Grund habe man während der Covid-19-Pandemie auch die Plattform yip.at gestartet. Hier können sich innovative Händler:innen, Gastronom:innen oder Handwerker:innen kostenlos anmelden. Potentielle Kund:innen können dort Angebote finden, die es in ihrer unmittelbaren Umgebung gibt. Das führe zur Vernetzung der Händler:innen untereinander, sagt Andexlinger. Aber auch als SES Gruppe lerne man so neue Konzepte kennen und komme mit ihnen in Kontakt.

Kuratiertes Angebot

Wo geht die Reise für Shopping-Center hin? Andexlinger ist überzeugt, dass es in den nächsten Jahren eine Marktbereinigung geben wird. Dadurch würden die erfolgreichen Center noch stärker werden. “Shopping-Center werden sich öffnen müssen”, sagt Andexlinger. Kulturangebote, Gesundheitsparks, das sei die Zukunft. Und: ein kuratiertes Angebot. Damit unterscheide man sich vom Online-Handel. Eine gute Vorauswahl, für die man stehe und auf die man sich verlassen könne, führe zum Erfolg.

Andexlinger betont: “Wir sind ein durch und durch analoger Ort.” In einem Shopping-Center würden Menschen aufeinander treffen, Waren können angeschaut und probiert werden. Man nutze aber alle Formen der Digitalisierung, die auch einen Mehrwert für die Kund:innen bringe und sie unterstütze. Andexlinger wünscht sich mehr Mut fürs Analoge: “Wir erleben die größten Konzerte aller Zeiten, Museen haben Besucherzahlen wie nie zuvor. Ich glaube an die Kraft des Analogen, weil es etwas Besonderes ist.”

Sichere dir das brutkasten-Magazin in digitaler Form!
Trag dich hier ein und du bekommst das aktuelle brutkasten-Magazin als PDF zugeschickt und kannst sofort alle Artikel lesen! Du erhältst mit der Anmeldung künftig auch Zugang für unseren Startup-Newsletter, den wir drei Mal pro Woche verschicken. Du kannst dich jederzeit unkompliziert wieder abmelden.
Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lösung gegen KI-Halluzinationen? So funktioniert Sepp Hochreiters SDLG-Methode