Eigentlich ist ein Investment bereits eine Meldung, die die Startup-Szene in Österreich sehr stark interessiert. Steckt hinter dem Kapitalgeber oder der Kapitalgeberin zudem noch ein bekannter Name, dann ist der Wert der Neuigkeit noch ein wenig höher. Propagiert man dabei allerdings, ein Problem gelöst zu haben, an dem Tech-Giganten wie Microsoft und Google seit geraumer Zeit arbeiten, dann scheint die Finanzierung nur ein erster Schritt auf einer großen Reise zu sein. So geschehen bei datAInsights.

datAInsights und die Halluzination

Allerdings gibt es dabei eine Schwierigkeit, doch der Reihe nach. DatAInsights wurde von Markus Nissl, Jasmina Thurnhofer, René Heinzl und Emanuel Sallinger, Senior Researcher an der Universität in Oxford und Assistant Professor an der Technischen Universität Wien, gegründet. Das Ziel des Startups: Das große Problem „Halluzinationen“ bei Künstlicher Intelligenz oder speziell bei Large Language Models (LLMs), zu reduzieren oder komplett zu eliminieren.

Zur Erklärung: Wenn Künstliche Intelligenzen halluzinieren, heißt das nichts anderes, als dass das KI-System Antworten gibt, die einfach nicht stimmen. Aus welchem Grund dies passiert, erklärt Co-Founder René Heinzl.

„Ich komme aus der Halbleiterphysik“, sagt er, „und wir haben 2005 bereits mit riesigen Datenmengen gearbeitet. Ein Large Language Model ist ein sehr großes mathematisches Modell, das man sich wie Stockwerke vorstellen kann. Vom ersten bis zum 100. Stock befindet sich das reine Sprachverständnis. In den höheren, 100 bis 500 etwa, stecken abstrakte Konzepte von dem, was wir Menschen als Leben verstehen. Hohe Stockwerke sind dabei schwerer zu erreichen. Oder anders gesagt, mit einer gewissen Wahrscheinlichkeit kommt ein nächstes Wort. Deswegen gibt es auch Halluzinationen. Wenn das Modell sich nicht sicher ist, welches Wort als Nächstes kommt, dann nimmt es halt irgendeines.“

Der komplette Talk mit Margarete Schramböck und datAInsights-Founder René Heinzl

Die KI-Kostenfrage

Um dieses Problem zu lösen, greifen die etablierten Big Player der Branche auf höhere Rechenleistungen zurück, was aber die Kosten in die Höhe treibt. Spart man dabei, weil man wie etwa OpenAI eine breite Masse an User:innen (nicht derart kostenintensiv) bedienen möchte, dann sinken zwar die Kosten, aber auch die Ergebnisse werden schlechter – die KI gibt falsche Informationen heraus.

Dies ist eines der größten Probleme der aktuellen KI-Welt. DatAInsights scheint da einen eigenen Weg gefunden zu haben, wie Heinzl erzählt. Das Wiener Startup greift auf eine spezielle Architektur zurück, an der Sallinger zwölf Jahre lang geforscht hat. Konkret, um Fakten in einer anderen Möglichkeit abzuspeichern und mit ganz großen Sprachmodellen auf diese zugreifen zu können. So würden Halluzinationen nicht nur minimiert, sondern eliminiert werden, sagt Heinzl ohne näher darauf eingehen zu wollen.

„Alle LLMs, die momentan existieren, werden immer Halluzinationen haben“, so der KI-Experte weiter. „Man kann das mit Rechenleistung abfangen. Aber das heißt eigentlich: Es wird nur besser, wenn es für Unternehmen teurer wird. Ist es günstiger, wird es für Endkonsumenten schwieriger.“

datAInsights: „Fakten bleiben Fakten“

Heinzl möchte die Lösung, die sein Startup entwickelt hat, nicht im Detail verraten, erklärt aber, ihre Kernarchitektur speichere Daten so ab, sodass „Fakten Fakten“ bleiben und man ein LLM benutzen könne.

„Eigentlich ist ein Abfallprodukt unserer Technologiearchitektur, dass wir nicht so große Large Language Models brauchen, weil die Fakten einfach sehr effizient abgespeichert werden können. Man kann es sich so vorstellen, jeder Punkt ist eigentlich ein Faktum und ist mit anderen Fakten verbunden. Die brauchen nicht so viel Speicherplatz wie aktuelle Large Language Models und wir können viel kleinere Modelle nutzen.“

Mit ihrer alternativen Lösung, die bereits am Markt ist, konnte mit Ex-Ministerin Margarete Schramböck eine prominente Investorin (mit zehn Prozent Anteilen) gewonnen werden.

Schramböck im Sturm erobert

Die ehemalige ÖVP-Politikerin wurde nach ihrem Abschied aus der Politik „Board Member“ bei Aramco Digital. Der Grund, warum sie in datAInsights investiert, ist ein simpler: „Sie haben sich bei mir vorgestellt und haben mich im Sturm erobert“, sagt sie „Das Thema KI ist natürlich überall. Ich lebe jetzt in Saudi-Arabien und auch dort ist es eines der Hauptinvestitionsthemen. Wir arbeiten bei Aramco u.a. an großen Lösungen im Bereich AI. Sie (Anm.: datAInsights) sind aus meiner Sicht eines derjenigen Startups, die die größte Erfolgswahrscheinlichkeit haben. Und auch die interessanteste Lösung für die großen Probleme dieser Welt. Da sind sie einiges an Zeit voraus.“

Während Heinzl im brutkasten-Talk die Frage nach dem Bewusstsein einer KI einordnet, die Finanzierungsfragen für KI-Unternehmen durchleuchtet, um global skalieren zu können und Rechenzentren etwa mit den neuesten NVDIA-Grafikkarten als das Um und auf bezeichnet, damit Österreich im KI-Bereich aufholt, ist es Schramböck, die einen der Erfolgsfaktoren von datAInsights herausstreicht.

Sie sagt: „Mir gefällt beim René und beim Team vor allem auch, dass sie von Anfang an die Kunden an Bord genommen haben. Und gleich Revenue-Streams zurückkommen. Das zeigt auch, dass man mit Kunden gemeinsam in den Modellen das Produkt weiterentwickeln kann.“

Zu den nächsten Zielen gehört die Internationalisierung und einer breiteren Masse die Lösung zur Verfügung zu stellen. Dazu möchte man weitere Investoren an Bord holen.

Hinweis: Mehr Insights zur Lösung von datAInsights zum Halluzinations-Problem folgen kommende Woche auf brutkasten.com.