04.07.2025
HORIZON EUROPE

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.
/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai
© AI - Das RobustifyAI-Konsortium beim Kick-Off am AIT.

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:
18.06.2026

Dream: Sebastian-Kurz-Scaleup holt weitere 260 Mio. Dollar bei 3 Mrd. Bewertung

Das KI-Cybersecurity-Scaleup mit Sitz in Tel Aviv schließt seine Series-C-Finanzierungsrunde ab. Das Geld soll in die weitere globale Expansion fließen.
/artikel/dream-sebastian-kurz-scaleup-holt-weitere-260-mio-dollar-bei-3-mrd-bewertung
18.06.2026

Dream: Sebastian-Kurz-Scaleup holt weitere 260 Mio. Dollar bei 3 Mrd. Bewertung

Das KI-Cybersecurity-Scaleup mit Sitz in Tel Aviv schließt seine Series-C-Finanzierungsrunde ab. Das Geld soll in die weitere globale Expansion fließen.
/artikel/dream-sebastian-kurz-scaleup-holt-weitere-260-mio-dollar-bei-3-mrd-bewertung
vl. Shalev Hulio (Co-Founder und CEO) und Sebastian Kurz, (Co-Founder and President) | (c) DREAM/eclipse media
vl. Shalev Hulio (Co-Founder und CEO) und Sebastian Kurz, (Co-Founder and President) | (c) DREAM/eclipse media

Anfang 2025 war Dream mit einer 100 Millionen US-Dollar schweren Finanzierungsrunde zum Unicorn geworden (brutkasten berichtete). Nun holte sich das Scaleup erneut frisches Kapital. Mit einem Investment von 260 Millionen US-Dollar erreicht es in seiner Series-C-Kapitalrunde eine Bewertung von drei Milliarden US-Dollar. Die Runde wurde von den Investmentfonds Bicycle Capital und Group 11 angeführt, gemeinsam mit Beteiligung von Bain Capital, Tru Arrow Partners, Antler „und weiteren globalen Investoren“.

„Wir sind noch ein junges Unternehmen, aber wir sind sehr dankbar, dass sich alles in die richtige Richtung entwickelt und wir schnell wachsen. Wir arbeiten weiter hart daran, dass es sich auch in den nächsten Jahren weiter so positiv entwickelt“, kommentiert Co-Founder und Ex-Bundeskanzler Sebastian Kurz, der als President von Dream fungiert.

Auch Co-Founder mit bekannter Vorgeschichte

Nicht nur sein Name ist ein klingender. Auch Mitgründer und CEO Shalev Hulio erlangte bereits zuvor internationale Bekanntheit. Als Co-Founder und Ex-CEO des Unternehmens NSO hatte er mit dessen Spionagesoftware Pegasus, die an Staaten vertrieben wurde, weltweit für Kontroversen gesorgt. Mit Dream wechselte Hulio vom Cyber-Offensiv- in den Cybersecurity-Bereich. Die Zielgruppe hat aber eine große Überschneidung: Staaten und Betreiber kritischer Infrastruktur. In diesem Bereich ist freilich auch der Ex-Kanzler bestens vernetzt.

Digitale Souveränität als neues Verkaufsargument

Im Produkt setzt Dream mit seinem „Cyber Language Model“ voll auf Künstliche Intelligenz, im Narrativ mittlerweile auch auf Digitale Souveränität, die zuletzt vor allem in Europa zum großen Thema wurde. „Die entscheidende Frage für Staaten ist nicht mehr, ob sie Künstliche Intelligenz einsetzen werden, sondern ob sie diese auch besitzen, betreiben und vollständig kontrollieren. Andernfalls begeben sie sich in eine kritische Abhängigkeit von anderen Staaten, wie beispielsweise China oder den USA“, sagt Kurz.

Und Hulio legt nach: „Wer die Kontrolle über seine KI verliert, verliert langfristig auch einen Teil seiner staatlichen Souveränität. So wie es undenkbar wäre, die Kontrolle über Verteidigung, kritische Infrastruktur oder die Innere Sicherheit aus der Hand zu geben, wird es künftig undenkbar sein, keine vollständige Kontrolle über die eigenen KI-Systeme zu haben.“ Dass KI-Modelle, auf denen zentrale Elemente staatlichen Handelns abgestützt sind, über Nacht abgestellt werden können, sei keine theoretische Debatte, wie man zuletzt bei „Fable“ von Anthropic gesehen habe, argumentiert man beim Unternehmen.

Cybersecurity: KI als Herausforderung und Lösung

Und wie will Dream das konkret lösen? Die KI-Systeme des Scaleups arbeiten laut Unternehmen „in einer völlig souveränen und sicheren Umgebung“. Dort biete man unter anderem einen umfassenden Cyber-Abwehr-Schirm, strukturiere sensible Daten als Entscheidungsbasis und decke noch unbekannte Cybersecurity-Schwachstellen („Zero Days“) auf. „Durch den Einsatz von Künstlicher Intelligenz hat sich Cybersicherheit grundlegend verändert. Herkömmliche Systeme können keinen ausreichenden Schutz mehr bieten. Nur durch den konsequenten Einsatz von KI auch in der Cyber-Abwehr ist ein Schutz auch in der Zukunft möglich“, sagt Hulio.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI