27.03.2024
KI-HALLUZINATIONEN

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

Eine Lösung für ein KI-Problem, an dem Giganten wie Microsoft und Google bisher erfolglos arbeiten, kommt aus Wien. Die beiden Co-Founder René Heinzl und Markus Nissl erklären die Systematik hinter ihrer Idee.
/artikel/datainsights-founder-erklaeren-ihre-loesung-gegen-ki-halluzinationen
datainsights, KI, Halluzination, KI-Halluzinationen
(c) zVg - (v.l.) René Heinzl und Markus Nissl mit Co-Founder Emanuel Sallinger.

Manchmal bleibt Verwunderung zurück. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert. Passend dazu führte vorige Woche René Heinzl, Co-Founder von datAInsights, im brutkasten-Talk aus, wie das passiert, wieso Halluzinationen ein großes Problem in dem Bereich darstellen und warum auch Microsoft und Google keine zufriedenstellende Lösung dafür finden. Sein Wiener Startup hat indes einen anderen Weg zu dieser Problembewältigung eingeschlagen und stützt sich dabei auf explizite statt auf implizite Fakten. Er und CEO Markus Nissl erklären.

DatAInsights-Founder: „Kann zur Unschärfe kommen“

Large Language Models (LLMs), die als Basis für Künstliche Intelligenz dienen, sind wie eine Zeichenkette aufgebaut. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und als Antworten auf Fragen liefern.

„Wenn als Beispiel Wien und Sehenswürdigkeiten in der Anfrage drinnen steht, hat die KI den Kontext ‚Wien‘ ein wenig verstanden“, sagt Nissl. „Sie weiß, es gibt Sehenswürdigkeiten in Wien, aber durch eine Unschärfe kann es dazu kommen, dass etwa Ergebnisse aus Salzburg ebenfalls ausgewiesen werden. Einfach weil es sich immer um eine Wahrscheinlichkeit handelt.“

Token-Prediction

Die aktuelle Technologie bei LLMs basiert in anderen Worten auf „Token-Prediction“, auf die das Modell zurückgreift, um die nächste Buchstabenfolge zu erstellen. Nissl erklärt das mit einem Beispiel, in dem man zwei unterschiedliche Leute darum bittet, einen Satz zu vervollständigen. „Jeder Mensch wird den Satz anders beenden“, sagt er. „Bei Firmendaten allerdings möchte ich nicht, dass eine falsche Zahl herauskommt, beim Umsatz oder dergleichen. Das war die Basis unserer Überlegung für unsere Lösung. Wir wollten echte Fakten, die nicht in Unschärfe geraten.“

DatAInsights mit explizitem Wissen

Die aktuellen Lösungen von u.a. Google oder Microsoft verwenden autoregressive Deep-Learning-Netzwerke, die stets das Problem haben, dass das nächste Wort falsch sein kann. Statt auf strukturiertes und globales Wissen zuzugreifen, extrahieren und nutzen diese Modelle implizites Wissen direkt aus den Daten, mit denen sie trainiert wurden.

„Die sind abgespeichert“, erklärt Heinzl. „Aber du musst sehr viel Text heranziehen und das LLM solange trainieren, bis es sie sich merkt. Da kann es passieren, das anderes wichtiger scheint. Wir hingegen verwenden explizite Fakten bzw. explizites Wissen, das dokumentiert ist. Da gibt es kein ‚falsch oder richtig‘. Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können.“

Investmentrunde noch vor dem Sommer?

Mit ihrer Lösung hat das KI-Startup in Österreich bereits für Aufsehen gesorgt und ist, wie die Founder erklären, unter Investor:innen gefragt. Man merke, dass man den großen Playern bei diesem Problem weit voraus sei.

In diesem Sinne gehört zu den nächsten Zielen von datAInsights eine kleine Investmentrunde bis zum Sommer aufzustellen, um das Produkt weiterzuentwickeln. Ende des Jahres soll eine größere Runde folgen.

Deine ungelesenen Artikel:
12.11.2026

530 Mio. US-Dollar: Investments für zwei Münchner Startups

Agile Robots holt sich 500 Millionen US-Dollar Kapital. Währenddessen schließt das Deeptech-Startup SE3 eine Finanzierungsrunde von 30 Millionen US-Dollar ab.
/artikel/530-mio-us-dollar-investments-fuer-zwei-muenchner-startups
12.11.2026

530 Mio. US-Dollar: Investments für zwei Münchner Startups

Agile Robots holt sich 500 Millionen US-Dollar Kapital. Währenddessen schließt das Deeptech-Startup SE3 eine Finanzierungsrunde von 30 Millionen US-Dollar ab.
/artikel/530-mio-us-dollar-investments-fuer-zwei-muenchner-startups
Links Agile-Robots-CEO Zhaopeng Chen mit einem Humanoiden und rechts die SE3-Technologie im Einsatz | (c) Agile Robotics / SE3 / Canva

„Unsere Vision ist, dass intelligente Roboter überall auf der Welt in Fabriken und Lagern mit Menschen zusammenarbeiten“, mit diesen Worten verkündet Zhaopeng Chen, Gründer und CEO von Agile Robots, eine Finanzierungsrunde von 500 Millionen US-Dollar. Angeführt wurde die Serie-F-Runde von der SoftBank Group. Weitere Investoren kommen aus der Automobilindustrie, der künstlichen Intelligenz sowie der Digital- und Industrietechnologie, darunter etwa Nvidia, die Hitachi Group und T.Capital. Insgesamt steigt das eingeworbene Kapital des Münchner Scaleups auf zwei Milliarden US-Dollar. Die Bewertung des Unternehmens beträgt nun 8,5 Milliarden US-Dollar.

Kapital für internationales Wachstum

„Wir bringen Physical AI aus dem Labor in die Industrie, sei es in der Logistik, der Automobil- und Elektronikbranche oder der Fertigung. Mit der neuen Finanzierung können wir schneller international wachsen, unsere Präsenz in wichtigen Märkten ausbauen und unsere Produktionskapazitäten erweitern“, sagt Chen. Man wolle vor allem seine Präsenz in den USA stärken und die Entwicklung neuer Robotikanwendungen beschleunigen.

Agile Robots entwickelt humanoide und mobile Roboter, Roboterarme und -hände sowie die Software und KI-Modelle, die sie steuern. Dadurch können Industrieunternehmen auch Aufgaben automatisieren, für die bisher menschliches Fingerspitzengefühl und Urteilsvermögen nötig waren. 

30 Millionen US-Dollar für Europas Verteidigung

Ebenfalls eine Finanzierungsrunde in Millionenhöhe, wenn auch nicht in der Größenordnung von Agile Robots, sicherte sich das Münchner Startup SE3. In einer Serie-A-Finanzierungsrunde lukrierte die Deeptech-Firma 30 Millionen US-Dollar. Accel führte die Runde an, mit Beteiligung von Keen, Lakestar und Seedcamp.

„Die Finanzierung dient dem Ausbau der Entwicklungs-, Vertriebs- und Betriebsteams von SE3, um für die Erfüllung weiterer Aufträge im Zuge des Unternehmenswachstums gerüstet zu sein“, schreibt das Unternehmen auf seiner Webseite. Neben der Stärkung der Präsenz in Deutschland und der Ukraine eröffnet SE3 auch ein Büro in Großbritannien und plant die weitere Expansion in Europa.

Das Münchner Unternehmen arbeitet daran, Sensordaten in räumliches Verständnis umzuwandeln, sodass Maschinen autonom arbeiten können. SE3 entwickelt seine Technologie für komplexe Umgebungen, in denen Systeme zuverlässig funktionieren müssen, auch bei Störungen der Satellitennavigation. Das Startup konzentriert sich primär auf die europäische Verteidigung. Dieser Sektor bleibt vorerst der Schwerpunkt. Ab 2027 sollen Robotik, Katastrophenschutz und andere zivile Anwendungen für anspruchsvolle Umgebungen erforscht werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen