27.03.2024
KI-HALLUZINATIONEN

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

Eine Lösung für ein KI-Problem, an dem Giganten wie Microsoft und Google bisher erfolglos arbeiten, kommt aus Wien. Die beiden Co-Founder René Heinzl und Markus Nissl erklären die Systematik hinter ihrer Idee.
/artikel/datainsights-founder-erklaeren-ihre-loesung-gegen-ki-halluzinationen
datainsights, KI, Halluzination, KI-Halluzinationen
(c) zVg - (v.l.) René Heinzl und Markus Nissl mit Co-Founder Emanuel Sallinger.

Manchmal bleibt Verwunderung zurück. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert. Passend dazu führte vorige Woche René Heinzl, Co-Founder von datAInsights, im brutkasten-Talk aus, wie das passiert, wieso Halluzinationen ein großes Problem in dem Bereich darstellen und warum auch Microsoft und Google keine zufriedenstellende Lösung dafür finden. Sein Wiener Startup hat indes einen anderen Weg zu dieser Problembewältigung eingeschlagen und stützt sich dabei auf explizite statt auf implizite Fakten. Er und CEO Markus Nissl erklären.

DatAInsights-Founder: „Kann zur Unschärfe kommen“

Large Language Models (LLMs), die als Basis für Künstliche Intelligenz dienen, sind wie eine Zeichenkette aufgebaut. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und als Antworten auf Fragen liefern.

„Wenn als Beispiel Wien und Sehenswürdigkeiten in der Anfrage drinnen steht, hat die KI den Kontext ‚Wien‘ ein wenig verstanden“, sagt Nissl. „Sie weiß, es gibt Sehenswürdigkeiten in Wien, aber durch eine Unschärfe kann es dazu kommen, dass etwa Ergebnisse aus Salzburg ebenfalls ausgewiesen werden. Einfach weil es sich immer um eine Wahrscheinlichkeit handelt.“

Token-Prediction

Die aktuelle Technologie bei LLMs basiert in anderen Worten auf „Token-Prediction“, auf die das Modell zurückgreift, um die nächste Buchstabenfolge zu erstellen. Nissl erklärt das mit einem Beispiel, in dem man zwei unterschiedliche Leute darum bittet, einen Satz zu vervollständigen. „Jeder Mensch wird den Satz anders beenden“, sagt er. „Bei Firmendaten allerdings möchte ich nicht, dass eine falsche Zahl herauskommt, beim Umsatz oder dergleichen. Das war die Basis unserer Überlegung für unsere Lösung. Wir wollten echte Fakten, die nicht in Unschärfe geraten.“

DatAInsights mit explizitem Wissen

Die aktuellen Lösungen von u.a. Google oder Microsoft verwenden autoregressive Deep-Learning-Netzwerke, die stets das Problem haben, dass das nächste Wort falsch sein kann. Statt auf strukturiertes und globales Wissen zuzugreifen, extrahieren und nutzen diese Modelle implizites Wissen direkt aus den Daten, mit denen sie trainiert wurden.

„Die sind abgespeichert“, erklärt Heinzl. „Aber du musst sehr viel Text heranziehen und das LLM solange trainieren, bis es sie sich merkt. Da kann es passieren, das anderes wichtiger scheint. Wir hingegen verwenden explizite Fakten bzw. explizites Wissen, das dokumentiert ist. Da gibt es kein ‚falsch oder richtig‘. Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können.“

Investmentrunde noch vor dem Sommer?

Mit ihrer Lösung hat das KI-Startup in Österreich bereits für Aufsehen gesorgt und ist, wie die Founder erklären, unter Investor:innen gefragt. Man merke, dass man den großen Playern bei diesem Problem weit voraus sei.

In diesem Sinne gehört zu den nächsten Zielen von datAInsights eine kleine Investmentrunde bis zum Sommer aufzustellen, um das Produkt weiterzuentwickeln. Ende des Jahres soll eine größere Runde folgen.

Deine ungelesenen Artikel:
vor 9 Stunden

Shopstory: NÖ-Startup mit zahlreichen bekannten Investoren muss Konkursantrag einbringen

Shopstory konnte in der Vergangenheit eine ganze Reihe teils prominenter Investoren für sich gewinnen. Nun brachte das Startup mit Sitz im niederösterreichischen Wolkersdorf einen Konkursantrag ein. Co-Founder und CEO Sebastian Schwelle gab brutkasten dazu ein Statement.
/artikel/shopstory-noe-startup-mit-zahlreichen-bekannten-investoren-muss-konkursantrag-einbringen
vor 9 Stunden

Shopstory: NÖ-Startup mit zahlreichen bekannten Investoren muss Konkursantrag einbringen

Shopstory konnte in der Vergangenheit eine ganze Reihe teils prominenter Investoren für sich gewinnen. Nun brachte das Startup mit Sitz im niederösterreichischen Wolkersdorf einen Konkursantrag ein. Co-Founder und CEO Sebastian Schwelle gab brutkasten dazu ein Statement.
/artikel/shopstory-noe-startup-mit-zahlreichen-bekannten-investoren-muss-konkursantrag-einbringen
Die Gründer Sebastian Schwelle (CEO) und Robert Böhm (CTO). (c) Shopstory

Ursprünglich unter dem Namen boomerank gegründet, setzte das niederösterreichische Startup Shopstory von Beginn an auf KI-gestützte Automatisierungslösungen für den E-Commerce-Bereich – brutkasten berichtete erstmals 2019. Das erklärte Ziel: Mit Hilfe intelligenter Assistenzsysteme sollten kleine Player im Wettbewerb mit Giganten wie Amazon nicht untergehen. Mit dem KI-Boom der vergangenen Jahre wurde das Angebot weiter nachgeschärft – 2024 etwa mit dem Launch einer No-Code-Plattform.

Hansmann, PlanRadar-Gründer, tecnet, aws Gründungsfonds und weitere als Investoren an Bord

Der Ansatz überzeugte im Laufe der Jahre eine ganze Reihe bekannter Investoren und Investmentgesellschaften. 2021 stiegen der niederösterreichische VC tecnet equity, startup300 und Unternehmer Patrick Pöschl ein; 2022 folgten unter anderem Hansi Hansmann und Alexander Valtingojer; in zwei Finanzierungsrunden 2023 zudem Johannes Braith, calm/storm, die PlanRadar-Gründer Sander van de Rijdt und Ibrahim Imam, Alexander Schütz und der aws Gründungsfonds.

Gründer Sebastian Schwelle: „tragfähige und langfristige Lösung bis jetzt nicht gefunden“

Doch wie die Kreditschutzverbände heute vermeldeten, brachte Shopstory nun einen Konkursantrag ein. Konkrete Informationen, etwa zur Höhe der Passiva, liegen in den Angaben der Kreditschutzverbände aktuell nicht vor. Co-Founder und CEO Sebastian Schwelle gab brutkasten jedoch auf Anfrage ein Statement:

„Der Markt, in dem wir uns bewegen, hat sich in den letzten Monaten massiv verändert. Durch die rasanten Fortschritte im AI-Bereich ist es für ein kleines Team wie unseres immer schwieriger geworden, sich zu behaupten. Wir haben alle Optionen geprüft und versucht umzusetzen, aber eine tragfähige und langfristige Lösung bis jetzt nicht gefunden. Deshalb haben wir einen Insolvenzantrag gestellt. Ich möchte mich bei unserem Team, unseren Kund:innen und vor allem unseren Investor:innen für ihr Vertrauen und die tolle Zusammenarbeit bedanken.“

Weitere Schritte bleiben abzuwarten

Auf die Frage, ob eine Weiterführung noch in Betracht komme, antwortet Schwelle: „Die weiteren Schritte liegen nun beim vom Gericht bestellten Masseverwalter, mit dem wir uns abstimmen werden.“ Ein Konkursantrag mündet üblicherweise in die Liquidation des Unternehmens, es kann unter bestimmten Umständen aber noch nachträglich ein Sanierungsantrag eingebracht werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen