27.03.2024
KI-HALLUZINATIONEN

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

Eine Lösung für ein KI-Problem, an dem Giganten wie Microsoft und Google bisher erfolglos arbeiten, kommt aus Wien. Die beiden Co-Founder René Heinzl und Markus Nissl erklären die Systematik hinter ihrer Idee.
/artikel/datainsights-founder-erklaeren-ihre-loesung-gegen-ki-halluzinationen
datainsights, KI, Halluzination, KI-Halluzinationen
(c) zVg - (v.l.) René Heinzl und Markus Nissl mit Co-Founder Emanuel Sallinger.

Manchmal bleibt Verwunderung zurück. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert. Passend dazu führte vorige Woche René Heinzl, Co-Founder von datAInsights, im brutkasten-Talk aus, wie das passiert, wieso Halluzinationen ein großes Problem in dem Bereich darstellen und warum auch Microsoft und Google keine zufriedenstellende Lösung dafür finden. Sein Wiener Startup hat indes einen anderen Weg zu dieser Problembewältigung eingeschlagen und stützt sich dabei auf explizite statt auf implizite Fakten. Er und CEO Markus Nissl erklären.

DatAInsights-Founder: „Kann zur Unschärfe kommen“

Large Language Models (LLMs), die als Basis für Künstliche Intelligenz dienen, sind wie eine Zeichenkette aufgebaut. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und als Antworten auf Fragen liefern.

„Wenn als Beispiel Wien und Sehenswürdigkeiten in der Anfrage drinnen steht, hat die KI den Kontext ‚Wien‘ ein wenig verstanden“, sagt Nissl. „Sie weiß, es gibt Sehenswürdigkeiten in Wien, aber durch eine Unschärfe kann es dazu kommen, dass etwa Ergebnisse aus Salzburg ebenfalls ausgewiesen werden. Einfach weil es sich immer um eine Wahrscheinlichkeit handelt.“

Token-Prediction

Die aktuelle Technologie bei LLMs basiert in anderen Worten auf „Token-Prediction“, auf die das Modell zurückgreift, um die nächste Buchstabenfolge zu erstellen. Nissl erklärt das mit einem Beispiel, in dem man zwei unterschiedliche Leute darum bittet, einen Satz zu vervollständigen. „Jeder Mensch wird den Satz anders beenden“, sagt er. „Bei Firmendaten allerdings möchte ich nicht, dass eine falsche Zahl herauskommt, beim Umsatz oder dergleichen. Das war die Basis unserer Überlegung für unsere Lösung. Wir wollten echte Fakten, die nicht in Unschärfe geraten.“

DatAInsights mit explizitem Wissen

Die aktuellen Lösungen von u.a. Google oder Microsoft verwenden autoregressive Deep-Learning-Netzwerke, die stets das Problem haben, dass das nächste Wort falsch sein kann. Statt auf strukturiertes und globales Wissen zuzugreifen, extrahieren und nutzen diese Modelle implizites Wissen direkt aus den Daten, mit denen sie trainiert wurden.

„Die sind abgespeichert“, erklärt Heinzl. „Aber du musst sehr viel Text heranziehen und das LLM solange trainieren, bis es sie sich merkt. Da kann es passieren, das anderes wichtiger scheint. Wir hingegen verwenden explizite Fakten bzw. explizites Wissen, das dokumentiert ist. Da gibt es kein ‚falsch oder richtig‘. Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können.“

Investmentrunde noch vor dem Sommer?

Mit ihrer Lösung hat das KI-Startup in Österreich bereits für Aufsehen gesorgt und ist, wie die Founder erklären, unter Investor:innen gefragt. Man merke, dass man den großen Playern bei diesem Problem weit voraus sei.

In diesem Sinne gehört zu den nächsten Zielen von datAInsights eine kleine Investmentrunde bis zum Sommer aufzustellen, um das Produkt weiterzuentwickeln. Ende des Jahres soll eine größere Runde folgen.

Deine ungelesenen Artikel:
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
Cyber-Attacken, Cybersecurity, KI-Scam
© KPMG/Eva Kelety - (v.l.) Andreas Tomek, Michael Höllerer und Robert Lamprecht.

Cyberangriffe auf heimische Unternehmen sind in den vergangenen zwölf Monaten – auch wenn diese bereits auf hohem Niveau waren – noch einmal mehr geworden. 25 Prozent der Befragten in einer aktuellen KPMG-Studie sagen, dass Cyberangriffe auf ihr Unternehmen stark bzw. eher zugenommen haben. Jeder achte registrierte Cyberangriff war dabei erfolgreich und überwand die Sicherheitsbarrieren der Unternehmen. Der Trend, der sich abzeichnet: Cyberangriffe werden effizienter, nicht harmloser. Heute dominieren unauffällige und mit KI strategisch orchestrierte Angriffe das Bild.

Diese Erkenntnisse aus der KPMG-Studie lassen sich mit einem konkreten Beispiel der jüngsten Vergangenheit gut belegen und zeigen, wie gefährlich Unachtsamkeit in so einem Fall sein kann.

Niederösterreichisches Startup als jüngstes Beispiel

Letzte Woche wurde – wie brutkasten berichtete – das NÖ-Kindermöbel-Startup poptop Opfer eines KI-Scams. Und überwies 41.000 Euro an eine dubiose US-Firma. Dabei wurden interne Zahlungsfreigaben per KI-generierter Mail täuschend echt imitiert. Man konnte den überwiesenen Betrag mithilfe der Bank zurückbekommen.

Doch KI- und Cyberangriffe kommen nicht nur über E-Mail, wie die Untersuchung weiter ausweist.

Die Top-Angriffsarten sind in diesem Jahr Malware über E-Mail-Anhänge (von 78 Prozent der Unternehmen berichtet), (Spear-)Phishing über Links (69 Prozent), die Ausnutzung von Hardware-/Software-Schwachstellen (58 Prozent), Business-E-Mail-Compromise, also CEO-/CFO-Fraud (57 Prozent), sowie Scam-Anrufe (52 Prozent).

Abgenommen haben im Vergleich zum Vorjahr Denial-of-Service-Attacken, Scam-Anrufe und (Spear-)Phishing-Angriffe. Gestiegen sind unter anderem die Umgehung der Multifaktor-Authentifizierung (MFA) sowie Angriffe gegen Industriesteuerungsanlagen (OT).

Neu hinzugekommen ist das Ausnutzen von Hardware-/Software-Schwachstellen, was verdeutlicht, dass KI die Art der Angriffe in den letzten zwölf Monaten wesentlich verändert hat.

  • Die Hälfte aller Angriffe (50 Prozent) lässt sich auf organisierte Kriminalität zurückführen.
  • Jeder zehnte Angriff wird von staatlich unterstützten Akteuren ausgeführt.
  • Jedes vierte von Ransomware betroffene Unternehmen gibt an, die Lösegeldforderungen bezahlt zu haben.
  • In 40 Prozent der Angriffsfälle war ineffektives Patch-Management das Einfallstor.

Künstliche Intelligenz verändert die Spielregeln

„Wir stehen mit KI an einem Wendepunkt und bewegen uns weg von einer Welt, die auf klaren Regeln, bekannten Mustern und nachvollziehbaren Reaktionen basiert, hin zu Systemen, die Entscheidungen zunehmend autonom treffen und die wir nicht immer vollständig nachvollziehen können. Die zentrale Frage ist daher nicht nur, ob KI eingesetzt wird, sondern ob sie steuerbar bleibt“, beschreibt KPMG-Partner und Studienautor Robert Lamprecht die aktuelle Lage.

Besonders kritisch sei zudem die Verkürzung der Zeitspanne zwischen dem Auffinden von Schwachstellen und deren Ausnutzung durch die Angreifer. Was früher Tage oder Wochen gedauert hat, kann heute in wenigen Stunden passieren. Gleichzeitig herrsche in Unternehmen eine spürbare Skepsis, ob KI tatsächlich zur Verbesserung der Cybersicherheit beiträgt (nur 33 Prozent Zustimmung), da die Vorteile aktuell stärker aufseiten der Cyberkriminellen gesehen werden.

  • Für jedes zweite befragte Unternehmen (50 Prozent) stellen KI-unterstützte Cyberangriffe die größte Herausforderung dar.
  • 47 Prozent geben an, dass bei Cyberangriffen gegen ihr Unternehmen verstärkt KI eingesetzt wird. 28 Prozent haben sich mit dem Einsatz von KI zur Verbesserung der eigenen Cybersicherheit beschäftigt.
  • Bei 61 Prozent führten Anwender:innenfehler bei der Nutzung von KI zu Cybersicherheits- und Datenschutzvorfällen sowie Know-how-Abfluss.

Laut der, zum elften Mal in Folge veröffentlichten, Studie bringen zudem KI-Systeme und zunehmende Vernetzung Unternehmen unter Druck, da Kontrolle und Überblick über komplexe Abhängigkeiten schwinden. Besonders die Lieferkette gilt als kritisches Einfallstor: Angreifer nutzen gezielt schwache Glieder im IT-Ökosystem, wodurch ganze vernetzte Strukturen gefährdet werden.

So waren bei 39 Prozent der Unternehmen die eigenen Dienstleister oder Lieferanten innerhalb der letzten zwölf Monate Opfer eines Cyberangriffs; bei weiteren 14 Prozent gab es zumindest einen entsprechenden Verdacht. Derartige Vorfälle bleiben oft nicht ohne direkte Konsequenzen für die Auftraggeber: Mehr als jedes fünfte Unternehmen (22 Prozent) berichtet, dass ein Vorfall bei einem Dienstleister oder Lieferanten in der Folge auch zu einem Angriff auf das eigene Haus geführt hat. Dementsprechend groß ist die Verunsicherung hinsichtlich der IT-Sicherheit in der Lieferkette. 31 Prozent der Betriebe treibt die Sorge um, dass ihre Zulieferer nicht dieselben hohen Sicherheitsstandards einhalten wie sie selbst und dadurch zu einem gefährlichen Einfallstor für Angreifer werden.

„Es geht nicht darum, Lieferanten als Risiko zu sehen. Entscheidend ist die Erkenntnis, dass unsere Vernetzung unsere größte Stärke und gleichzeitig unsere größte Verwundbarkeit ist“, betont KPMG-Partner Andreas Tomek.

Digitale Souveränität als Antwort auf Cyber-Attacken

Digitale Souveränität – so der Bericht weiter – sei ein Eckpfeiler wirksamer Cybersicherheit: Nur wer Kontrolle über Daten und Infrastruktur behalte, könne Abhängigkeiten reduzieren und im Ernstfall handlungsfähig bleiben. Laut Studie sind jedoch 70 Prozent der Unternehmen stark von digitalen Technologien aus dem Ausland abhängig, 69 Prozent beziehen Cybersicherheitsanwendungen von dort – und mehr als die Hälfte könnte im Ernstfall nicht länger als drei Monate ohne diese auskommen.

Außerdem ende Cybersicherheit nicht bei technischen Schutzmaßnahmen: Fallen Cloud-Lösungen oder Plattformen plötzlich aus, geraten Unternehmen schnell in reale Existenzprobleme. Andreas Tomek dazu: „Für digitale Souveränität ist es notwendig, dass Unternehmen ihre strategische Ausrichtung neu denken und Abhängigkeiten klar identifizieren und analysieren.“

Staat doch gefragt

All dies sowie steigende Komplexität und Dynamik der Bedrohungslage führen den Autoren zufolge zu einer zentralen Erkenntnis: Cybersicherheit sei nicht länger ein optionales Investitionsthema, sondern eine Voraussetzung für stabile Geschäftsmodelle in einer digitalisierten Wirtschaft.

Unternehmen sehen hierbei den Staat zunehmend als aktiven Partner in Sachen Cybersicherheit: „Wir brauchen nicht nur das Miteinander von Unternehmen, Behörden sowie Forschungs- und Technologieeinrichtungen auf nationaler Ebene: Vielmehr braucht es eine gemeinsame europäische Kraftanstrengung in einem geopolitisch volatilen Umfeld, um die digitale Sicherheit von Unternehmen zu unterstützen“, sagt Michael Höllerer, Präsident des KSÖ (Kompetenz­zentrum Sicheres Österreich) und aktuell noch Generaldirektor von Raiffeisen NÖ-Wien.

„Eine Welt, in der wir den Angreifern gezeigt haben, wie schnell verwundbar wir sind“

Und Robert Lamprecht ergänzt: „Es ist eine Welt, in der wir den Angreifern gezeigt haben, wie schnell wir heute verwundbar sind. Im Wettlauf gegen die Cyberkriminellen sind wir um viele Plätze zurückgefallen, und das Momentum liegt eindeutig auf der Seite der Angreifer. Angriffe werden dort erfolgreicher, wo Verteidigung zu spät, zu langsam oder zu bequem ist. Das ist kein Grund für Alarmismus, aber ein guter Grund für Cybersecurity. Wer hier noch auf Zeit spielt, wird irgendwann überholt. Nicht die Bedrohung ist neu. Neu ist nur die Geschwindigkeit. Die entscheidende Frage für Unternehmen lautet heute nicht mehr, ob sie in Cybersicherheit investieren sollen, sondern ob sie es sich leisten können, es nicht zu tun.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen