04.07.2025
HORIZON EUROPE

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.
/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai
© AI - Das RobustifyAI-Konsortium beim Kick-Off am AIT.

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:
09.09.2026

Knightify: Wiener Startup will mit der Pulse-App für besseres Verstehen in Beziehungen sorgen

Das Wiener Software-Studio Knightify FlexCo hat mit „Pulse" eine Couples-Wellness-App für iPhone und Apple Watch entwickelt. Die Anwendung soll Wellness-Signale und persönlichen Beziehungskontext miteinander verbinden.
/artikel/knightify-wiener-startup-will-mit-der-pulse-app-fuer-besseres-verstehen-in-beziehungen-sorgen
09.09.2026

Knightify: Wiener Startup will mit der Pulse-App für besseres Verstehen in Beziehungen sorgen

Das Wiener Software-Studio Knightify FlexCo hat mit „Pulse" eine Couples-Wellness-App für iPhone und Apple Watch entwickelt. Die Anwendung soll Wellness-Signale und persönlichen Beziehungskontext miteinander verbinden.
/artikel/knightify-wiener-startup-will-mit-der-pulse-app-fuer-besseres-verstehen-in-beziehungen-sorgen
Pulse
© Knightify/Canva - Amirali Khoshneviszadeh, Founder | Knightify FlexCo.

„Wie geht’s?“. „Gut“ – Das ist die Konversation zwischen zwei Individuen, die wohl am häufigsten im deutschsprachigen Raum geführt wird, oftmals in einer Beziehung. Es handelt sich dabei nicht bloß um eine Reflex-Antwort oder Verheimlichung des wahren Zustandes, sondern dem Wiener Software-Studio Knightify FlexCo zufolge, manchmal einfach um Unwissen, was mit einem los ist.

Pulse: Health-Daten als Hinweisgeber für Partner:in

„Der Tag war lang, der Schlaf war schlecht, der Kopf ist voll, die eigene Belastbarkeit ist niedriger als sonst. Man ist vielleicht nicht krank und braucht auch keine medizinische Diagnose. Man ist einfach erschöpft“, beschreibt Amirali Khoshneviszadeh, Gründer von Knightify, die unsichtbare Seite von Beziehungen. Und möchte mit „Pulse“ hier ansetzen.

Mit dieser App werden laut Unternehmen Daten aus Apple Watch und Apple Health herangezogen, um Hinweise für Partner:innen zu formulieren. Statt konkrete Messwerte wie Herzfrequenz, Schlafdauer oder HRV weiterzugeben, soll Pulse daraus einen allgemein gehaltenen Hinweis ableiten – etwa, dass ein ruhiger Abend sinnvoll sein könnte. Die App soll dabei weder Diagnosen stellen noch den Gesundheitszustand eines Nutzers oder einer Nutzerin bewerten.

„Wir wollten nicht noch ein Dashboard bauen, das Menschen dazu bringt, sich selbst ständig zu analysieren“, sagt Khoshneviszadeh. „Wir wollten herausfinden, ob Technologie manchmal auch etwas viel Einfacheres tun kann: einem Menschen helfen, den anderen besser zu verstehen, ohne dass dieser alles erklären muss.“

Datenschutz

Ein Schwerpunkt liegt laut dem Founder auf dem Datenschutz. Die Rohdaten würden auf dem iPhone verarbeitet und nicht an die Server des Unternehmens übertragen. Auch Partner:innen erhalten demnach keine konkreten biometrischen Werte. Geteilt werden können stattdessen die daraus generierten sogenannten Wellness-Cues.

Das Teilen einzelner Signale soll zudem freigegeben werden können und sich jederzeit pausieren lassen. Zusätzlich bietet Pulse Funktionen wie einen privaten, Ende-zu-Ende-verschlüsselten Chat, gemeinsame Erinnerungen, Fragen des Tages und Möglichkeiten, um um Nähe oder ein Gespräch zu bitten. Zyklusdaten können freiwillig aktiviert werden; sie bleiben standardmäßig privat und werden nicht automatisch mit dem Partner geteilt, heißt es.

„Wenn Technologie in die intimsten Bereiche eines Menschen kommt, muss sie nicht nur mehr können. Sie muss auch wissen, was sie nicht tun sollte“, sagt Khoshneviszadeh hierzu.

Pulse als Kombination aus Wearable-, Wellness- und Couples-App

Der Gründer bezeichnet Pulse als Kombination aus Wearable-, Wellness- und Couples-App und arbeitet nach eigenen Angaben derzeit an der Weiterentwicklung des Produkts. Dafür sammle das Unternehmen Feedback von Paaren, um herauszufinden, welche Informationen im Beziehungsalltag tatsächlich hilfreich sind.

Langfristig spricht Knightify von „Relationship Intelligence“ – gemeint ist ein persönlicher Kontext, der das gegenseitige Verständnis unterstützen soll, ohne die Beziehung selbst zu bewerten. Pulse wurde in Wien entwickelt und ist laut Pressemitteilung derzeit kostenlos für iPhone und Apple Watch verfügbar; die Apple Watch ist optional.

„Wir glauben, dass die interessanteste Information in einer Beziehung nicht unbedingt lautet, wie jemand heute geschlafen hat“, sagt Khoshneviszadeh abschließend. „Interessanter ist vielleicht, was diese Information für genau diese zwei Menschen bedeutet.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI