21.02.2025
GENERATIVE KI

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

Das Wiener KI-Startup HeyQQ rund um Matthias Neumayer hat mit "Lora" eine kindgerechte, Bias-reduzierte KI entwickelt, die sich als "Fine Tuning" des französischen Open-Source-Modells MistralAI erweist. In puncto Lesbarkeit steht Lora mittlerweile vor GPT-4o. Gründer Neumayer erklärt die Hintergründe.
/artikel/lora-mistral-genderbias
Product Origin Checker Lora - FragDie.EU - Die Founder Dima Rubanov und Matthias Neumayer | (c) Oscar Stories, Lorastral
Die Founder Dima Rubanov und Matthias Neumayer | (c) Oscar Stories

Das Wiener Startup HeyQQ rund um Dima Rubanov und Matthias Neumayer hat bereits für einige Schlagzeilen gesorgt. Zuletzt rund um die neue „kindgerechte KI“ namens Lora, die deutlich weniger Bias als die Standard-Modelle aufweisen soll und sich damit für Lern-Apps und Kinder-Entertainment eignet – brutkasten berichtete.

Neben Lora hat das Wiener Startup HeyQQ bereits zwei andere alternative KI-Modelle hochgezogen: Die KI-Gute-Nacht-Geschichten-App „Oscar Stories“ sowie der Erklär-Chatbot „Frag das PDF“. Mit Lora erreichte man nun einen neuen Meilenstein.

Lora-Lesbarkeit sei besser als GPT-4o

„Lora“ steht für „Lernen ohne Risiko mit AI“. Im Juli sprach man noch davon, das Modell auf Basis von Open-Source-Modellen am Markt zu trainieren. Schon damals wollte man „bessere Ergebnisse als GPT4 oder Gemini erzielen“. Dieses Ziel hat man mittlerweile erreicht.

In Benchmark-Tests konnte Lora bisher positive Ergebnisse liefern. Im Hinblick auf den „Flesch Reading Ease“ – also den Lesbarkeitsindex, der als numerischer Wert für die Lesbarkeit eines Textes angegeben wird – erreichte es einen Score von 80,24. Das Modell des französischen KI-Startups Mistral-8B erreichte hingegen einen Index von 71,10, GPT-4o erreichte den Score 77,17.

Foto: Matthias Neumayer, LinkedIn

„Fine Tuning“ von MistralAI

„Wir haben bei Oscar Stories gemerkt, dass man mit derzeitigen KI-Modellen nicht wirklich altersgerechte Sprache schafft und dass Bias ein Problem ist“, sagt Founder Matthias Neumayer gegenüber brutkasten.

„Deshalb haben wir Lora gestartet. Aktuell arbeiten wir an Fine Tunings mit hochqualitativen Daten, die wir gemeinsam mit Pädagog:innen sichten, um Bias zu reduzieren und die Readability für Kinder zu steigern“, so Neumayer weiter.

Wie Co-Gründer Neumayer auf brutkasten-Nachfrage bestätigt, basiert „Lora“ auf dem Open-Source-Modell des französischen KI-Startups MistralAI. Das „experimentelle Modell“ sei ein „Fine Tuning von Mistral“ und mittlerweile „schon besser in den Metrics als die Großen in der deutschen Sprache“, heißt es von Neumayer heute.

Bias-Messung soll KI gendergerecht trainieren

Dass ein Gender Bias bei Open-Source-Modellen ein Problem ist, hob Neumayer bereits im Juli des Vorjahres hervor: „Bei der Arbeit mit KI-generierten Kindergeschichten stellten wir fest, dass männliche Kinder oft als Helden dargestellt wurden, während weibliche Charaktere oft die Opferrolle einnehmen. Mit Lora arbeiten wir an einer kindgerechten KI-Adoption mit vermindertem Bias“.

Das Startup HeyQQ hat deshalb eine Bias-Messtechnik entwickelt: „Gender Bias messen wir mit dem Genbit Score von Microsoft oder mit Counterfactual Bias, indem überprüft wird, wie sich die Antworten ändern, wenn bestimmte Attribute wie Geschlecht, Ethnie oder Alter in einem Prompt ausgetauscht werden“, führt der Gründer gegenüber brutkasten aus.

Generative KI soll „fairer werden“

„Statt nur nachzusehen, ob ein Modell verzerrte Antworten gibt, testen wir, wie sehr sich die Antwort verändert, wenn wir z. B. ‚ein Mädchen‘ durch ‚ein Junge‘ ersetzen. Wenn die KI plötzlich unterschiedliche Ergebnisse liefert oder eine klare Tendenz zeigt (z. B. ‚Der Arzt‘ wird immer als männlich dargestellt), dann deutet das auf Bias hin“, erklärt Neumayer den Mechanismus.

Ein fairer KI-Algorithmus sollte ähnliche Antworten für verschiedene Gruppen geben: „Es sei denn, die Unterschiede sind objektiv gerechtfertigt.“ Durch Counterfactual-Bias-Tests könne das Startup Verzerrungen gezielt identifizieren und „das Modell fairer machen“.


Deine ungelesenen Artikel:
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
09.11.2026

Thomas Fuchs: Wie ein Österreicher die KI-Strategie des wertvollsten Pharmakonzerns der Welt verantwortet

Ein Österreicher verantwortet die KI-Strategie des wertvollsten Pharmakonzerns der Welt: Thomas Fuchs ist seit 2024 der erste Chief AI Officer in der Geschichte von Lilly. brutkasten hat ihn in Wien zum Interview getroffen. Er erklärt, warum der Konzern einen eigenen Supercomputer mit mehr als 1.000 GPUs betreibt und warum KI trotzdem kein Medikament auf Knopfdruck liefert.
/artikel/thomas-fuchs-lilly-chief-ai-officer
Thomas Fuchs, Chief AI Officer von Lilly | Foto: Christian Fichtner/big5comm

Thomas Fuchs ist seit Oktober 2024 der erste Chief AI Officer in der Geschichte des US-Pharmakonzerns Lilly. Der aus Österreich stammende Forscher studierte Technische Mathematik an der TU Graz, promovierte an der ETH Zürich und forschte am Jet Propulsion Laboratory der NASA, bevor er am Memorial Sloan Kettering Cancer Center in New York das Digital-Pathology-Unternehmen Paige AI mitgründete. Später baute er am Mount Sinai das erste AI-Department einer Medical School mit auf. Beim Besuch von Lilly Österreich in Wien sprach er mit brutkasten über den Supercomputer des Konzerns, die Grenzen von KI in der Medikamentenentwicklung und darüber, warum Österreich der Schweiz nicht nachstehen müsste.


brutkasten: Sie haben selbst mehrere Unternehmen gegründet, darunter Paige AI. Warum der Schritt in einen Konzern wie Lilly?

Thomas Fuchs: Mein erstes Startup habe ich mit 16 gegründet, tief in den 90er-Jahren. Das waren Multimedia-CD-ROMs über die österreichische Geschichte zum Jubiläum 1996, die Hypertext-Engine haben wir noch ohne Internet selbst geschrieben. 2017 haben wir dann Paige in New York gegründet, ein Spin-out des Memorial Sloan Kettering, dem größten tertiären Krebszentrum der USA. Es ging darum, auf digitalisierten Pathologieschnitten Krebs und seine Treiber automatisch zu erkennen. Das führte 2021 zur FDA-Autorisierung von Paige Prostate, der ersten KI-basierten Software zur Unterstützung bei der Erkennung verdächtiger Bereiche in digitalisierten Prostatabiopsien. Dazu war ich lange Professor am Sloan Kettering, an der Weill Cornell und am Mount Sinai, wo wir das erste AI-Department einer Medical School gegründet haben. Ein fantastisches Umfeld, aber die Mittel, um das Feld wirklich voranzutreiben, sind bei Lilly ungleich größer. Nicht nur bei der Infrastruktur, sondern auch beim Zugang zu Daten und Expertise. Lilly hat tausende Chemiker:innen und Biolog:innen. Bei Lilly erreichen wir mit unseren Medikamenten ungleich mehr Menschen. Das ist ein enormer Hebel.

Welches Wissen bringen Sie als Chief AI Officer ein?

Die meisten Leute denken bei KI zunächst an Sprachmodelle wie ChatGPT oder Claude. Die sind wichtig, aber das Feld ist deutlich breiter. Wir entwickeln Modelle, die Wissenschaftler:innen beim Design von Molekülen unterstützen, bei Proteinen, bei kleinen Molekülen und auch in der genetischen Medizin. Die Sprachmodelle nutzen wir wiederum, um diese unterschiedlichen Systeme mit Agenten zu orchestrieren. Und wir setzen KI nicht nur in der Discovery und der Entwicklung ein, sondern auch in der Produktion. Lilly baut das Manufacturing weltweit aus, und dort arbeiten wir mit digitalen Zwillingen für Geräte und Prozesse. Wenn man die ganze Pharma-Wertschöpfungskette anschaut, kann jeder einzelne Teil davon profitieren.

Wie haben Sie Ihre Organisation aufgebaut?

Lilly hatte schon vor mir ausgezeichnete Analytics-Abteilungen und begann sehr früh damit, Sprachmodelle zu verwenden. Wir haben dem Ganzen eine neue Struktur gegeben. Mein Team arbeitet im Startup-Stil, in kleinen interdisziplinären Teams, die sich jeweils tief in einzelne Bereiche einarbeiten, von Discovery über Development bis Manufacturing. Der erste Schritt war die Struktur, der zweite der Ausbau der Infrastruktur. Lilly hatte, wie die meisten Betriebe, damals nicht sehr viele GPUs für die Forschung. Jetzt haben wir eine sehr leistungsfähige Recheninfrastruktur.

Thomas Fuchs, Chief AI Officer von Lilly, zu Besuch bei Lilly Österreich in Wien. | Foto: Christian Fichtner/big5comm

Wo hat KI in dieser Wertschöpfungskette aktuell den größten Impact?

Das hängt von der Zeitskala ab. Am unmittelbarsten ist es das Manufacturing. Jede Anwendung von KI, die Prozesse in der Produktion effizienter macht, hilft uns, Medikamente verlässlich zu den Patient:innen zu bringen. Der große Teil unserer Arbeit liegt aber in der Discovery: Wie kann man neue Moleküle designen und ihre Eigenschaften, ihre Verträglichkeit und ihre Produzierbarkeit besser einschätzen? Das ist eine wesentlich längere Zeitskala, da reden wir von Jahren. Am Anfang kann man viel beschleunigen und de-risken. Aber am Ende muss die Biologie wirken. Man braucht die klinischen Studien, um zu sehen, ob ein Medikament sicher und effektiv ist. Das wird KI nicht einfach ersetzen.

Warum ein eigener Supercomputer statt Cloud?

Deep Learning besteht intern aus Vektor- und Matrixmultiplikationen, deshalb hat unsere Community ab etwa 2012 angefangen, GPUs aus dem Spieledesign dafür zu verwenden. Unser System ist ein NVIDIA DGX Superpod, deshalb heißt er bei uns LillyPod, mit mehr als 1.000 B300 GPUs. Man kann sich das wie ein wissenschaftliches Instrument vorstellen, wie ein Teleskop oder Mikroskop, das uns erlaubt, tiefer in die kleinsten Dinge hineinzuschauen. Wenn Wissenschaftler:innen nur wenige GPUs haben, können sie keine großen Experimente laufen lassen. Heute können wir Modelle auf Basis all jener Moleküle trainieren, die Lilly in seiner 150-jährigen Geschichte entwickelt hat. Daten bleiben trotzdem der Engpass, in der Biologie gibt es im Vergleich zur Sprache wenige Datenpunkte bei viel höherer Komplexität. Deshalb bauen wir auch automatisierte Labore: Ein Modell schlägt ein Experiment vor, das Labor führt es aus, aus den Daten lernt das Modell wieder dazu. Dieses Flywheel soll uns immer bessere Modelle und damit immer bessere Werkzeuge für unsere Forschenden bringen. Der zweite Teil: Wir passen Sprachmodelle auch an unsere eigenen wissenschaftlichen Anforderungen an.

Das ist eine massive Investition. Wie bringt man das durch?

Wir haben eine Führung, die sehr langfristig denkt und gleichzeitig ein starkes technisches Verständnis mitbringt. Am Ende müssen neue Medikamente herauskommen, die den Patient:innen helfen.

Ist schon etwas herausgekommen?

Im Manufacturing setzen wir KI ein, um Prozesse effizienter zu machen, damit Medikamente verlässlich verfügbar bleiben. In der Discovery haben wir ein Modell entwickelt, das Chemiker:innen beim Design kleiner Moleküle unterstützt. Das verwenden sie tagtäglich. Es hat ihnen neue Ansätze geliefert, die sie dann geprüft haben. So wie Magnus Carlsen im Schach Züge verwendet, die er von der KI gelernt hat, verwenden unsere Chemiker:innen jetzt Motive, die sie von der KI gelernt haben. Aber es bleibt immer eine Partnerschaft zwischen Mensch und Technologie. Wir sind weit davon entfernt, einfach einen Knopf zu drücken und am Ende kommt ein Medikament heraus. KI ist für uns ein Werkzeug, das wir gemeinsam mit unseren Wissenschaftler:innen und für ihre Arbeit entwickeln.

Thomas Fuchs im Interview mit brutkasten-Chefredakteur Martin Pacher in Wien. | Foto: Christian Fichtner/big5comm

Kooperiert Lilly dabei auch mit Startups?

Sehr viel, mit Startups und mit größeren Firmen. Wir wollen das Rad nicht neu erfinden. Aber in manchen Bereichen gibt es noch keine passende Lösung, dann entwickeln wir sie selbst. Was ich immer sage: Wir sollen kaufen, was uns beschleunigt, und selbst machen, was uns unterscheidet. Mit TuneLab wollen wir das Biotech-Ökosystem unterstützen. Wir stellen teilnehmenden Biotech-Unternehmen KI-Werkzeuge über TuneLab zur Verfügung.

Wie blicken Sie auf den Standort Europa und Österreich?

Als Europäer liegt mir die Zukunft Europas sehr am Herzen. Ich würde mir mehr Initiativen wünschen, man muss sich nicht zurückhalten. Österreich hat extrem gute Expertise, die Universitäten bilden hervorragend aus, Sepp Hochreiter in Linz hat die LSTMs mitentwickelt. Das sollte ein Leuchtturm der Welt sein. Natürlich braucht es mehr Investitionen, nicht nur vom öffentlichen Sektor, sondern viel mehr vom privaten. Es gibt keinen Grund, warum Österreich der Schweiz nachstehen sollte.

Wäre Ihre Karriere in Europa möglich gewesen?

Schwer zu sagen, die Welt ändert sich. Es gibt sehr erfolgreiche Beispiele in Österreich. Zürich ist ein Hotspot für Startups rund um die ETH, das würde ich mir auch für Österreich wünschen. Gleichzeitig sind die Rahmenbedingungen in den USA nach wie vor günstiger: Mit Paige in New York hatten wir Möglichkeiten, die in Europa schwerer zu finden gewesen wären. Es gibt keinen technischen oder intellektuellen Grund, warum Europa und Österreich nicht vorn dabei sein sollten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Lora: Neues KI-Modell von Wiener Startup basiert auf MistralAI