RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.

/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai

✨ AI Kontextualisierung

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:

die Redaktion

22.10.2026

30-Mio.-Runde: Mistral-Founder investiert in Zürcher Startup, das Roboter baut, die Kraft fühlen

Das Zürcher Startup Enact will Roboter für Aufgaben fit machen, bei denen bisher menschliches Fingerspitzengefühl gefragt ist. Dafür entwickelt Gründer Manuel Yves Galliker eine Technologie, mit der Maschinen über ihre Antriebe Druck und Widerstand erkennen sollen. Noch vor dem Produktstart hat das Unternehmen dafür 30 Millionen US-Dollar eingesammelt.

/artikel/30-mio-runde-mistral-founder-investiert-in-zuercher-startup-das-roboter-baut-die-kraft-fuehlen

die Redaktion

22.10.2026

30-Mio.-Runde: Mistral-Founder investiert in Zürcher Startup, das Roboter baut, die Kraft fühlen

/artikel/30-mio-runde-mistral-founder-investiert-in-zuercher-startup-das-roboter-baut-die-kraft-fuehlen

Roboter können viel. Sie sehen fast alles, sie schweißen, heben, sortieren. Eines fehlt ihnen jedoch: Fingerspitzengefühl. Deshalb bleiben die letzten Handgriffe der Montage Handarbeit: ein Kabel, das einrasten muss, eine Dichtung, die sitzen muss, eine Schraube, die klemmt. Diesem Mangel an Feinfühligkeit stellt sich das Schweizer Startup Enact entgegen und baut Roboter, die Kraft spüren. Sie messen Druck und Widerstand über ihre eigenen Antriebe, wie der Mensch über Muskeln und Sehnen, und ein Modell lernt daraus, heißt es. Der Roboter merkt ohne Zusatzsensoren und ohne künstliche Haut, ob das Teil sitzt.

Enact von Caltech-Forscher gegründet

Dass das mehr als eine Nische ist, zeigen die Zahlen. China etwa hat 2025 354.000 Industrieroboter installiert, fast drei von fünf weltweit (IFR). Europa gewinne dagegen nicht über Masse sondern über Varianz, und genau dort rechnen sich Roboter bisher selten, weil jemand jede Aufgabe einzeln programmieren müsse. Roboter, die durch Vormachen lernen und spüren, ob ein Teil sitzt, sollen diese Einzelprogrammierung ersparen und auch kleine Serien automatisierbar machen. Genau hier setzt Enact an: bei den letzten Handgriffen der Montage.

Gegründet wurde das Zürcher Startup im März 2026 von Manuel Yves Galliker. Der Maschinenbauer der ETH Zürich war Gastforscher am Caltech, leitete bei 1X das Team, das dem Humanoiden NEO das Gehen beibrachte, und arbeitete danach bei Physical Intelligence.

Dort sah er, dass Kamera und Teleoperation für die Fabrik nicht ausreichen, und ging zurück nach Zürich. „Das Silicon Valley hat historisch betrachtet enorme Stärken in Software und KI, aber es fehlt an Spezialisten für Robotik und Hardware-Engineering“, sagt Galliker.

Investment von Mensch

Nun sammelte er mit Enact 30 Millionen US-Dollar in einer Pre-Seed-Runde ein, und das noch bevor es ein Produkt gibt. Das hat einen Grund, wie man in der Aussendung liest: „Das Startup baut alles selbst. Antriebe, Regelung und Modell entstehen unter einem Dach, was am Anfang mehr kostet als ein Modell auf einen fremden Arm zu setzen.“ Die ersten Antriebe laufen, der Ansatz sei laut Enact validiert.

Angeführt wird die Millionen-Runde von redalpine, Notion Capital und firstminute capital. Als Business Angels investieren Yann LeCun (von 2013 bis Ende 2025 Chief AI-Scientist bei Meta), Arthur Mensch (Co-Founder Mistral AI), Andrew Lonsberry (Path Robotics) und David Wallerstein (früher Tencent). Aktuell arbeiten zehn Personen in Zürich, bis Ende 2027 sollen es viermal so viele werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag