27.03.2024
KI-HALLUZINATIONEN

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

Eine Lösung für ein KI-Problem, an dem Giganten wie Microsoft und Google bisher erfolglos arbeiten, kommt aus Wien. Die beiden Co-Founder René Heinzl und Markus Nissl erklären die Systematik hinter ihrer Idee.
/artikel/datainsights-founder-erklaeren-ihre-loesung-gegen-ki-halluzinationen
datainsights, KI, Halluzination, KI-Halluzinationen
(c) zVg - (v.l.) René Heinzl und Markus Nissl mit Co-Founder Emanuel Sallinger.

Manchmal bleibt Verwunderung zurück. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert. Passend dazu führte vorige Woche René Heinzl, Co-Founder von datAInsights, im brutkasten-Talk aus, wie das passiert, wieso Halluzinationen ein großes Problem in dem Bereich darstellen und warum auch Microsoft und Google keine zufriedenstellende Lösung dafür finden. Sein Wiener Startup hat indes einen anderen Weg zu dieser Problembewältigung eingeschlagen und stützt sich dabei auf explizite statt auf implizite Fakten. Er und CEO Markus Nissl erklären.

DatAInsights-Founder: „Kann zur Unschärfe kommen“

Large Language Models (LLMs), die als Basis für Künstliche Intelligenz dienen, sind wie eine Zeichenkette aufgebaut. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und als Antworten auf Fragen liefern.

„Wenn als Beispiel Wien und Sehenswürdigkeiten in der Anfrage drinnen steht, hat die KI den Kontext ‚Wien‘ ein wenig verstanden“, sagt Nissl. „Sie weiß, es gibt Sehenswürdigkeiten in Wien, aber durch eine Unschärfe kann es dazu kommen, dass etwa Ergebnisse aus Salzburg ebenfalls ausgewiesen werden. Einfach weil es sich immer um eine Wahrscheinlichkeit handelt.“

Token-Prediction

Die aktuelle Technologie bei LLMs basiert in anderen Worten auf „Token-Prediction“, auf die das Modell zurückgreift, um die nächste Buchstabenfolge zu erstellen. Nissl erklärt das mit einem Beispiel, in dem man zwei unterschiedliche Leute darum bittet, einen Satz zu vervollständigen. „Jeder Mensch wird den Satz anders beenden“, sagt er. „Bei Firmendaten allerdings möchte ich nicht, dass eine falsche Zahl herauskommt, beim Umsatz oder dergleichen. Das war die Basis unserer Überlegung für unsere Lösung. Wir wollten echte Fakten, die nicht in Unschärfe geraten.“

DatAInsights mit explizitem Wissen

Die aktuellen Lösungen von u.a. Google oder Microsoft verwenden autoregressive Deep-Learning-Netzwerke, die stets das Problem haben, dass das nächste Wort falsch sein kann. Statt auf strukturiertes und globales Wissen zuzugreifen, extrahieren und nutzen diese Modelle implizites Wissen direkt aus den Daten, mit denen sie trainiert wurden.

„Die sind abgespeichert“, erklärt Heinzl. „Aber du musst sehr viel Text heranziehen und das LLM solange trainieren, bis es sie sich merkt. Da kann es passieren, das anderes wichtiger scheint. Wir hingegen verwenden explizite Fakten bzw. explizites Wissen, das dokumentiert ist. Da gibt es kein ‚falsch oder richtig‘. Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können.“

Investmentrunde noch vor dem Sommer?

Mit ihrer Lösung hat das KI-Startup in Österreich bereits für Aufsehen gesorgt und ist, wie die Founder erklären, unter Investor:innen gefragt. Man merke, dass man den großen Playern bei diesem Problem weit voraus sei.

In diesem Sinne gehört zu den nächsten Zielen von datAInsights eine kleine Investmentrunde bis zum Sommer aufzustellen, um das Produkt weiterzuentwickeln. Ende des Jahres soll eine größere Runde folgen.

Deine ungelesenen Artikel:
20.11.2026

KI-Rede: Pröll schlägt Europäische Gemeinschaft für Rechenleistung vor

Digitalisierungsstaatssekretär Alexander Pröll hat am Donnerstagabend in der Österreichischen Nationalbibliothek die österreichische Agenda für Künstliche Intelligenz vorgelegt. Neu sind unter anderem die Vorschläge für eine Europäische Gemeinschaft für Rechenleistung und ein Staatsziel in der Verfassung, vieles andere war bereits bekannt. brutkasten war vor Ort.
/artikel/proell-ki-rede-kipppunkt
20.11.2026

KI-Rede: Pröll schlägt Europäische Gemeinschaft für Rechenleistung vor

Digitalisierungsstaatssekretär Alexander Pröll hat am Donnerstagabend in der Österreichischen Nationalbibliothek die österreichische Agenda für Künstliche Intelligenz vorgelegt. Neu sind unter anderem die Vorschläge für eine Europäische Gemeinschaft für Rechenleistung und ein Staatsziel in der Verfassung, vieles andere war bereits bekannt. brutkasten war vor Ort.
/artikel/proell-ki-rede-kipppunkt
Digitalisierungsstaatssekretär Alexander Pröll bei seiner KI-Grundsatzrede „Kipppunkt“ im Prunksaal der Österreichischen Nationalbibliothek. | © brutkasten/Martin Pacher
Digitalisierungsstaatssekretär Alexander Pröll bei seiner KI-Grundsatzrede „Kipppunkt“ im Prunksaal der Österreichischen Nationalbibliothek. | © brutkasten/Martin Pacher

„Macht euch die Erde untertan.“ Mit diesem Vers aus der Genesis eröffnete Digitalisierungsstaatssekretär Alexander Pröll (ÖVP) am Donnerstagabend seine Grundsatzrede zur Künstlichen Intelligenz. Seine Lesart: Der Mensch sei seiner Welt nicht ausgeliefert, er könne sie gestalten und trage dafür Verantwortung. Der Rahmen war für den Auftritt eines Staatssekretärs außergewöhnlich: der Prunksaal der Österreichischen Nationalbibliothek, Marmorstatuen, meterhohe Bücherwände und auf der LED-Wand hinter dem Redner zeitweise Leonardo da Vincis vitruvianischer Mensch. Rund 45 Minuten sprach Pröll unter dem Titel „Kipppunkt“.

Im Publikum saßen Bundeskanzler Christian Stocker, Wirtschaftsminister Wolfgang Hattmannsdorfer und zahlreiche Vertreter:innen der Wirtschaft. Auch Ex-Bundeskanzler Sebastian Kurz war gekommen, Co-Founder des Cybersecurity-Unicorns Dream. Die Rede war seit Längerem angekündigt, die Einladungen dazu kamen schriftlich per Post.

Inhaltlich war der Abend ein Mix aus bereits bekannten Vorhaben und neuen Ankündigungen. Die vorgelegte Agenda umfasst 15 Handlungsfelder und folgt drei Fragen: Wie bleibt Österreich handlungsfähig, wohlhabend und menschlich? Eine fertige Strategie ist sie noch nicht. Ab sofort kann die Bevölkerung die Vorschläge auf kipppunkt.gv.at bewerten und kommentieren, im Frühjahr 2027 werden die Rückmeldungen ausgewertet, im ersten Halbjahr 2027 soll die koordinierte KI-Strategie stehen. Pröll nannte das „eine gesamtgesellschaftliche Begutachtungsphase“. Dass die Strategie aus dem Jahr 2021 überarbeitet wird, hatte er zuletzt beim Technology Impact Summit in Graz bekräftigt (brutkasten berichtete).

Neu: Rechenleistung, Physical AI, Staatsziel

Neu ist vor allem ein Vorschlag zur Infrastruktur. Pröll schlug eine Europäische Gemeinschaft für Rechenleistung (EGR) vor, in der Staaten einen Teil ihrer Rechenkapazitäten miteinander verbinden, gemeinsam investieren und sich gegenseitig absichern. Er zog die Parallele zu den Anfängen der europäischen Einigung: „Aus Kohle und Stahl entstand eine Gemeinschaft.“ Europa müsse nicht jede Technologie selbst herstellen, aber „entscheiden können, auf welcher Infrastruktur seine Zukunft läuft“. Laut Bundeskanzleramt sind dafür keine Parallelstrukturen geplant, als Basis dienen bestehende EU-Strukturen und Finanzierungsinstrumente. Österreich wolle nun Partner auf europäischer Ebene gewinnen, sagte Pröll.

Für Österreich selbst skizzierte er Rechenzentren nach dem Motto „klein, grün, dezentral“. Gemeint sind mehrere regional verteilte Standorte, die wie ein virtuelles Rechenzentrum zusammenarbeiten, mit erneuerbarer Energie laufen und deren Abwärme etwa die Schule nebenan heizt.

Neu ist auch eine österreichische Mission für Physical AI. Österreich werde nicht das nächste Silicon Valley kopieren, sagte Pröll. Die Stärken lägen in Industrie, Maschinenbau, Automatisierung, Mobilität und Energie. Forschung, Industrie und Mittelstand sollen gemeinsam die nächste Generation intelligenter Maschinen entwickeln. Dazu kommen 1.000 zusätzliche KI-Workshops und je eine Dialogveranstaltung in allen neun Bundesländern. Außerdem will Pröll den Grundsatz „Technologischer Fortschritt muss dem Menschen dienen“ als Staatsziel in der Bundesverfassung verankern.

Bekannt: TikTok, UNO-Zentrum, Social-Media-Verbot

Andere Punkte waren schon vor der Rede öffentlich. Die Initiative, TikTok Europa in europäische Hände zu bringen, hatten Österreich und Deutschland am Tag davor gestartet. Pröll begründete sie mit dem Einfluss der Plattform auf die digitale Öffentlichkeit, mit dem Abfluss europäischer Daten und der Verdrängung klassischer Medien. Welche Lösung am Ende steht, lässt die Agenda offen: Beschränkungen sind ebenso denkbar wie eine europäische Eigentums- oder Übernahmelösung.

Auch das internationale KI-Zentrum unter dem Dach der Vereinten Nationen (UNO) in Wien, ein Vorschlag von Bundeskanzler Stocker, liegt seit Ende Oktober auf dem Tisch (brutkasten berichtete). Ebenfalls nicht neu ist das Social-Media-Verbot für Kinder und Jugendliche, für das sich die Regierung mittlerweile auf europäischer Ebene einsetzt. Pröll ging hier einen Schritt weiter: Die Volksschule solle ein digitalisierungsfreier Raum sein, ohne Smartphone, Laptop und iPad.

EU Inc.: Österreich unterstützt europäische Rechtsform

Auch eine für die Startup-Szene wichtige Forderung griff Pröll auf. Ein junges Technologieunternehmen, das über Österreich hinauswachsen wolle, müsse sich heute mit unterschiedlichen nationalen Gesellschaftsrechten und bürokratischen Anforderungen auseinandersetzen. „Das müssen wir ändern“, sagte Pröll. Österreich unterstütze die EU Inc. und wolle selbst digitaler werden, mit digitalen Verfahren, weniger nationalen Regelungen und schnellen Wegen für Gründer:innen, Talente und Investitionen. Um den Entwurf der Europäischen Kommission wird derzeit allerdings gerungen, erst am Donnerstag forderten Startup-Verbände, ihn zurückzuziehen und neu vorzulegen (brutkasten berichtete).

Zu Kosten und Finanzierung der Vorhaben nannte Pröll in seiner Rede keine Zahlen. Gegen Ende fasste er seinen Anspruch so zusammen: „Der Mensch bleibt der Zweck. Die KI bleibt das Mittel.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen