04.07.2025
HORIZON EUROPE

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.
/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai
© AI - Das RobustifyAI-Konsortium beim Kick-Off am AIT.

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:
vor 21 Stunden

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
vor 21 Stunden

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
Die beiden Geschäftsführer von mathion.ai Christoph Blizenetz und Alexander Buchinger | © mathion.ai

„Nächste Stunde ist Mathestunde“, ist vermutlich einer der gefürchtesten Sätze vieler Schüler:innen. Die Aufgaben sind oft schwierig und zermürbend. Da bietet es sich im Zeitalter von KI an, einen kurzen Prompt zu schreiben und Sekunden später wird die Lösung geliefert. Der Lerneffekt hält sich dabei bei vielen Schüler:innen in Grenzen. Hier setzt mathion.ai an.

Die KI von Founder Christoph Blizenetz liefert nicht fertige Lösungen, sondern chattet mit den User:innen und bringt sie so zum Ergebnis. Nach einem Pilotprojekt feierte die KI ihren Launch im vergangenen August. Sie ist in der Schweiz, Deutschland und Österreich erhältlich.

Harvard: „KI-gestütztes Tutoring übertrifft aktives Lernen im Unterricht“

Unterstützung erhalten KI-Tutoren wie jene von Blizenetz von der US-amerikanischen Harvard Universität. Im Juni 2025 veröffentlichte sie eine Studie, laut der KI-gestütztes Tutoring aktives Lernen im Unterricht übertreffe. Studierende, die mit einem KI-Tutor arbeiteten, lernten „deutlich mehr in kürzerer Zeit“ als in einer Präsenzveranstaltung. Außerdem würden sich Schüler:innen stärker eingebunden und motivierter fühlen. Harvard betont die Wirksamkeit „einer breit zugänglichen KI-gestützten Pädagogik zur signifikanten Verbesserung der Lernergebnisse“ und erklärt, dass die Ergebnisse überzeugend für die breite Anwendung einer KI-gestützten Pädagogik sprechen.

ChatGPT bringt dir Fertigkeiten bei, „die einfach nicht stimmen“

Für Blizenetz kann nicht einfach eine beliebige KI zum Lernen verwendet werden. Als ehemaliger Nachhilfelehrer kennt er die Probleme, die auftreten können. „Eine Schülerin hat mittels ChatGPT, das war damals noch etwas Neueres, gelernt und sich dabei Fertigkeiten und Begrifflichkeiten angeeignet, die einfach nicht stimmen“, sagt der 21-Jährige und ergänzt: „Nicht, weil das Opus der Mathematik aus der KI bzw. der LLM falsch ist. Es ist einfach nicht so lehrplanbezogen, wie es nun einmal das Schulbuch aber auch eine Lehrkraft ist.“

Daher begann Blizenetz mit der Entwicklung von mathion.ai, das sich aktuell auf die fünfte bis zur achten Schulstufe fokussiere. Es sei aber ein Ausbau bis hin zu Matura geplant.

Das Programm baut auf einem sogenannten „sokratischen“ System auf. Es stellt User:innen immer wieder Fragen, bis jene die Lösung selbst erarbeitet haben. Mathion.ai möchte dadurch zum Nachdenken anregen.

Dabei kann mit der KI geschrieben als auch gesprochen werden. „Wir haben gemerkt, dass junge Menschen einfach lesefaul sind. Sie können oft einfach nicht mehr wirklich sachlich lesen und Informationen über Texte sauber aufnehmen“, erklärt der mathion.ai-Gründer. Der Text wird dabei nicht einfach vorgelesen, sondern erklärt, „wie es ein Mensch tun würde“.

Mathion.ai liefere nicht einfach nur Ergebnisse, es erarbeite die Lösungen mit den Schüler:innen gemeinsam. | © mathion.ai

Standardisierter Lehrplan

Mathion.ai arbeite dabei nicht nur mit willkürlichen Inhalten, sondern mit einem standardisierten Lehrplan durch seinen Verlagspartner Lemberger, dessen Schulbuch „Genial! Mathematik“ von der fünften bis zur achten Schulstufe in mathion.ai eingefügt wurde. User:innen können Aufgaben aus diesen Büchern auswählen.

Lehrer:innen haben auf der anderen Seite die Möglichkeit über ein Verwaltungsportal ihren Schützlingen Inhalte zuzuweisen. „Da haben wir tausende Übungsaufgaben, die auch kapitelweise in Blöcke gezielt nach Themenbereichen zugewiesen werden können, zu den Schüler:innen und zu den Gruppen“, sagt Blizenetz. Zusätzlich können Lehrkräfte im Verwaltungsportal die Lernstände ihrer Schüler:innen einsehen und auch Inhalte erstellen: „Wir haben da einen eigenen Editor, wo, wie in einer PowerPoint, Textelemente, Dateien, interaktive Aufgaben gebaut und erstellt werden können.“ Der virtuelle Coach Tom führt anschließend durch den Kurs. Zusätzlich können von Lehrer:innen Aufgaben erstellt und zugewiesen werden.

Pädagog:innen durch KI zu ersetzen „ist auch gar nicht unser Ziel“

Wenn die KI bereits eigene Kurse halten kann, drängt sich naturgemäß die Frage auf, ob Lehrkräfte nicht ersetzbar sind. „Weder Lehrpersonen noch Pädagogen wird man durch KI in irgendeiner Art und Weise wirklich ersetzen können, das ist auch gar nicht unser Ziel“, stellt der TU-Student fest. Auch herkömmliche Nachhilfe sieht Blizenetz als sinnvoll an. Für ihn ist mathion.ai eine „Ergänzung“.

Es gebe auch die Möglichkeit für Nachhilifeinstitute, Inhalte einspielen zu können. „Als Schüler bzw. Schülerin habe ich den Unterricht mit der Lehrperson in der Klasse und im Nachhinein kann ich dann die Inhalte, gezielt mit den Aufgaben und dem Input der Lehrperson, weiter üben“, sagt Blizenetz.

Von B2C zu B2B

Mathion.ai kommt ursprünglich aus dem sogenannten Nachmittagsmarkt, in dem Eltern für ihre Kinder ein Abo abschließen. Allerdings möchte sich das Unternehmen nun im B2B-Bereich etablieren.

„Es ist einfach sehr schwierig, vor allem als österreichisches Unternehmen, in diesem B2C-SaaS-Bereich (Anm.: Software-as-a-Service-Bereich) wirklich standhaft zu werden“, erklärt Blizenetz. In Zukunft will sich mathion.ai auf Bildungsinstitute bzw. Bildungseinrichtungen fokussieren. Daher möchte der Gründer sein Unternehmen als zertifizierter Anbieter des Bildungsministeriums auf dem Markt etablieren. Das sei aber ein langer Weg. Mathion.ai befinde sich aktuell am Anfang des Genehmigungsverfahrens, ab September 2027 wolle man die Zertifizierung haben.

100 % eigenfinanziert

Das Unternehmen, offiziell bereits im Juli 2025 gegründet, kommt bisher ohne Investoren-Kapital aus und ist von Anfang an gebootstrappt. Blizenetz hat mathion.ai in Zusammenarbeit mit Weitsprung Solutions aufgebaut, das einen KI-gestützten Lerncoach anbietet. Bisher hat das Unternehmen noch keine Förderungen erhalten, allerdings laufe ein Förderantrag bei Netidee und ein FFG-Antrag für ein Forschungsprojekt werde aktuell erstellt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI