27.03.2024
KI-HALLUZINATIONEN

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

Eine Lösung für ein KI-Problem, an dem Giganten wie Microsoft und Google bisher erfolglos arbeiten, kommt aus Wien. Die beiden Co-Founder René Heinzl und Markus Nissl erklären die Systematik hinter ihrer Idee.
/artikel/datainsights-founder-erklaeren-ihre-loesung-gegen-ki-halluzinationen
datainsights, KI, Halluzination, KI-Halluzinationen
(c) zVg - (v.l.) René Heinzl und Markus Nissl mit Co-Founder Emanuel Sallinger.

Manchmal bleibt Verwunderung zurück. Bei Nutzung von Künstlicher Intelligenz (KI) kann es passieren, dass man eine Frage stellt und falsche Antworten bekommt. Im Fachjargon sagt man dazu, die KI halluziniert. Passend dazu führte vorige Woche René Heinzl, Co-Founder von datAInsights, im brutkasten-Talk aus, wie das passiert, wieso Halluzinationen ein großes Problem in dem Bereich darstellen und warum auch Microsoft und Google keine zufriedenstellende Lösung dafür finden. Sein Wiener Startup hat indes einen anderen Weg zu dieser Problembewältigung eingeschlagen und stützt sich dabei auf explizite statt auf implizite Fakten. Er und CEO Markus Nissl erklären.

DatAInsights-Founder: „Kann zur Unschärfe kommen“

Large Language Models (LLMs), die als Basis für Künstliche Intelligenz dienen, sind wie eine Zeichenkette aufgebaut. Hier wirken Wahrscheinlichkeiten, die das nächste Zeichen (konkret das nächste Wort oder um noch genauer zu sein, die nächsten Buchstaben) produzieren und als Antworten auf Fragen liefern.

„Wenn als Beispiel Wien und Sehenswürdigkeiten in der Anfrage drinnen steht, hat die KI den Kontext ‚Wien‘ ein wenig verstanden“, sagt Nissl. „Sie weiß, es gibt Sehenswürdigkeiten in Wien, aber durch eine Unschärfe kann es dazu kommen, dass etwa Ergebnisse aus Salzburg ebenfalls ausgewiesen werden. Einfach weil es sich immer um eine Wahrscheinlichkeit handelt.“

Token-Prediction

Die aktuelle Technologie bei LLMs basiert in anderen Worten auf „Token-Prediction“, auf die das Modell zurückgreift, um die nächste Buchstabenfolge zu erstellen. Nissl erklärt das mit einem Beispiel, in dem man zwei unterschiedliche Leute darum bittet, einen Satz zu vervollständigen. „Jeder Mensch wird den Satz anders beenden“, sagt er. „Bei Firmendaten allerdings möchte ich nicht, dass eine falsche Zahl herauskommt, beim Umsatz oder dergleichen. Das war die Basis unserer Überlegung für unsere Lösung. Wir wollten echte Fakten, die nicht in Unschärfe geraten.“

DatAInsights mit explizitem Wissen

Die aktuellen Lösungen von u.a. Google oder Microsoft verwenden autoregressive Deep-Learning-Netzwerke, die stets das Problem haben, dass das nächste Wort falsch sein kann. Statt auf strukturiertes und globales Wissen zuzugreifen, extrahieren und nutzen diese Modelle implizites Wissen direkt aus den Daten, mit denen sie trainiert wurden.

„Die sind abgespeichert“, erklärt Heinzl. „Aber du musst sehr viel Text heranziehen und das LLM solange trainieren, bis es sie sich merkt. Da kann es passieren, das anderes wichtiger scheint. Wir hingegen verwenden explizite Fakten bzw. explizites Wissen, das dokumentiert ist. Da gibt es kein ‚falsch oder richtig‘. Wir reichern bestehende Knowledge-Systeme mit Quellen an, sodass sie für unsere Architektur verarbeitet werden können.“

Investmentrunde noch vor dem Sommer?

Mit ihrer Lösung hat das KI-Startup in Österreich bereits für Aufsehen gesorgt und ist, wie die Founder erklären, unter Investor:innen gefragt. Man merke, dass man den großen Playern bei diesem Problem weit voraus sei.

In diesem Sinne gehört zu den nächsten Zielen von datAInsights eine kleine Investmentrunde bis zum Sommer aufzustellen, um das Produkt weiterzuentwickeln. Ende des Jahres soll eine größere Runde folgen.

Deine ungelesenen Artikel:
vor 18 Stunden

GoStudent kauft Berlitz Deutschland – Felix Ohswald erklärt

Mit der Übernahme der Berlitz Deutschland GmbH baut GoStudent sein stationäres Geschäft weiter aus und erweitert zugleich sein Angebot im Bereich Sprachbildung und berufliche Qualifizierung. Der Deal bringt rund 50 Sprachzentren sowie weitere Angebote rund um Integration, Weiterbildung und Sprachzertifizierungen unter das Dach des EdTechs.
/artikel/gostudent-kauft-berlitz-deutschland-felix-ohswald-erklaert
vor 18 Stunden

GoStudent kauft Berlitz Deutschland – Felix Ohswald erklärt

Mit der Übernahme der Berlitz Deutschland GmbH baut GoStudent sein stationäres Geschäft weiter aus und erweitert zugleich sein Angebot im Bereich Sprachbildung und berufliche Qualifizierung. Der Deal bringt rund 50 Sprachzentren sowie weitere Angebote rund um Integration, Weiterbildung und Sprachzertifizierungen unter das Dach des EdTechs.
/artikel/gostudent-kauft-berlitz-deutschland-felix-ohswald-erklaert
GoStudent
© brutkasten - Felix Ohswald, Gründer GoStudent.

GoStudent verfolgt weiter seine Offline-Strategie. Bereits 2022 hatte man Studienkreis übernommen – brutkasten berichtete. Der bereits 1974 gegründete Studienkreis galt als Deutschlands größtes Nachhilfeunternehmen mit bundesweit über 1.000 Lernzentren.

Im Mai 2025 vermeldete das Unicorn dann die Erweiterung seines Geschäftsmodells und den Plan, künftig verstärkt auf stationäre Nachhilfestandorte zu setzen – siehe hier.

GoStudent erweitert sich

„Das Franchise-Modell mit stationären Nachhilfestandorten, das wir in Deutschland übernommen haben, hat sich äußerst positiv entwickelt. Deshalb ist es für uns ein logischer nächster Schritt, dieses erfolgreiche Modell nun auf weitere europäische Länder auszuweiten, in denen wir bereits mit unserer personalisierten Online-Einzelnachhilfe aktiv sind“, erklärte damals eine Sprecherin des EdTechs die Gründe für diesen Schritt.

Heute schrieb GoStudent-Gründer Felix Ohswald per LinkedIn-Post, dass man bereits am 28. August den Kaufvertrag mit der Berlitz Corporation für die Berlitz Deutschland GmbH unterzeichnet habe und sich damit nun 50 Sprachzentren in ganz Deutschland, öffentlich geförderte Integrations- und berufliche Qualifizierungsprogramme, das Geschäft mit öffentlichen Institutionen, Sprachprüfungen und Zertifizierungen, ein breites Portfolio an Präsenzkursen für Privatkunden, die Rekrutierung internationaler Fachkräfte sowie Programme für Kinder und Jugendliche einverleibt habe.

Sprachkenntnisse im Fokus

Während Berlitz das Geschäft mit Unternehmenskunden und das Online-Sprachtraining weiterführt, ist die Berlitz Deutschland GmbH seit 1. September in einem separaten Unternehmen organisiert. Die Berlitz Deutschland GmbH bleibt dabei unter der Marke Berlitz und als Franchise-Partner der Berlitz Corporation bestehen. Der Abschluss der Transaktion wird bis zum Jahresende erwartet.

Hintergrund des Deals ist die Bedeutung von Sprachkenntnissen für den Zugang zum deutschen Arbeitsmarkt: Rund die Hälfte aller Arbeitgeber verlangt laut dem Unternehmen mindestens Deutschkenntnisse auf B2-Niveau. Die für öffentlich geförderte Sprachprogramme notwendigen Akkreditierungen wurden über zwei Jahrzehnte aufgebaut. Die operative Führung der Berlitz Deutschland GmbH bleibt bei Mattias Schwarz und dem bestehenden Team.

Drei Beobachtungen

Den Grund für diesen Schritt erläutert Ohswald aus drei Beobachtungen und zwei Hypothesen heraus: Erstens sei Deutsch das meistgebuchte Fach in der Nachhilfe: In der Grundschule werde Deutsch sogar häufiger gebucht als Mathematik – und das gelte für Kinder aller Herkünfte.

Zweitens zeige sich ein Zusammenhang mit der Demografie: In Städten und Kreisen, in denen viele Familien zu Hause mehr als eine Sprache sprechen, sei Deutsch häufiger Bestandteil der Nachhilfeverträge. Gleichzeitig würden Familien mit Zuwanderungsgeschichte laut Bildungsforschung seltener Nachhilfe in Anspruch nehmen, obwohl der Bedarf höher wäre.

Drittens zeige sich die Bedeutung von Sprachkompetenz auch in der Mathematik: Bei der zentralen Prüfung am Ende der zehnten Klasse in Nordrhein-Westfalen würde Sprachkompetenz 14 Prozent der Unterschiede in der Mathematikleistung erklären, während es bei sozialer Herkunft und Migrationshintergrund jeweils ein bis drei Prozent seien. Zwischen dem sprachlich schwächsten und stärksten Drittel der Schüler lag dabei mehr als eine Schulnote.

„Aus diesen Beobachtungen sind zwei Hypothesen geworden, und aus den Hypothesen eine Entscheidung. Sie fällt in einen Markt, dessen Etat der Bund 2027 fast halbieren will, und in Wochen, in denen der Bundestag genau darüber berät. Man kann das den falschen Moment nennen. Wir halten es für den richtigen und erklären, warum“, beschreibt Ohswald seine Gedanken.

Hypothese 1: „Die Arbeitswelt sortiert nach Sprache, bevor sie nach Qualifikation sortiert“

Die erste Sortierung beginne Ohswald zufolge bereits in der Schule. „2021 sprachen noch 62 Prozent der Viertklässler zu Hause immer Deutsch, zehn Jahre davor 84. Jedes vierte Kind verließ die Grundschule, ohne so lesen zu können, wie es die weiterführende Schule voraussetzt. Ein Kind, das zu Hause nie Deutsch spricht, liegt im Lesen 36 Punkte zurück, auch im Vergleich mit Kindern gleicher sozialer Herkunft. Ein Teil des Rückstands ist Armut. Ein Teil ist Sprache. Der zweite Teil ist der, den Bildung beheben kann“, betont Ohswald.

Die zweite Sortierung würde an der Tür zum Arbeitsmarkt stattfinden. Sie treffe Erwachsene, die neu kommen: „Die Hälfte der Betriebe verlangt bei Einstellungen immer mindestens B2, in Gesundheit, Bildung und Finanzen drei Viertel und mehr. Die andere Hälfte stellt auch darunter ein, im Gastgewerbe, in Lager und Verkehr, in der Leiharbeit. Die Sprachschwelle entscheidet nicht, ob jemand arbeitet. Sie entscheidet, in welchem Segment. In den reglementierten Berufen ist sie Zulassungsbedingung: Ärztinnen und Ärzte brauchen überall B2 und eine Fachsprachprüfung auf C1, Pflegekräfte B2, obwohl viele mit B1 einreisen“, erklärt der GoStudent-Gründer.

Als Beispiel führt Ohswald an, dass 72 Prozent der Geflüchteten aus der Ukraine über einen Hochschul- oder vergleichbaren Abschluss verfügen, doch nur fünf Prozent bei ihrer Ankunft gut Deutsch sprechen würden. Laut Studien seien es bessere Sprachkenntnisse, die die Einstellungsbereitschaft deutlich erhöhen, während fehlende Kinderbetreuung und nicht anerkannte Abschlüsse weitere Hürden darstellen. Sprache sei damit eine zentrale Voraussetzung dafür, dass vorhandene Qualifikationen auf dem deutschen Arbeitsmarkt sichtbar und nutzbar werden, so Ohswald.

Hypothese 2: Sprache hört nicht bei B1 auf

Der Integrationskurs – um auf seine zweite These zu kommen – zielt auf B1 ab. Für viele berufliche Wege seien jedoch weitergehende Sprachkenntnisse erforderlich, was für Ohswald bedeutet, dass auch nach dem Spracherwerb berufliche Weiterbildung schlicht ein wichtiger Schritt bleibe.

„Das IAB hat bei Geflüchteten gemessen, was nach dem Sprachkurs wirkt: Ein Sprachkurs mit Aktivierung bringt nach fünf bis sechs Jahren rund 3,5 Prozentpunkte mehr Beschäftigung“, zeigt sich der Founder auf LinkedIn überzeugt. „Eine geförderte Weiterbildung bringt rund 13 Prozentpunkte und etwa 800 Euro mehr Monatsbrutto. Sprache öffnet die Tür. Qualifikation bringt durch.“

All dies im Hinterkopf, scheint nun klar, was GoStudent mit der Berlitz-Übernahme möchte: Seine beiden Hypothesen in die Praxis übersetzen: Sprache als Schlüssel für Bildung und Arbeitsmarkt – und als Ausgangspunkt für den nächsten Schritt, die berufliche Qualifizierung, und sich weiter als stationärer Anbieter verfestigen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

DatAInsights-Founder erklären ihre Lösung gegen KI-Halluzinationen