04.07.2025
HORIZON EUROPE

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.
/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai
© AI - Das RobustifyAI-Konsortium beim Kick-Off am AIT.

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
29.07.2026

Wenn die KI das Experiment plant: Zu Besuch im Labor, das sich selbst steuert

Auf dem Campus Hönggerberg der ETH Zürich arbeiten Roboter und Künstliche Intelligenz zusammen: Eine Software des schweizerisch-amerikanischen Startups Atinary entwirft die Experimente, Roboter in den Laboren von SwissCAT+ an der ETH Zürich führen sie aus, rund um die Uhr. brutkasten war vor Ort und hat mit Atinary-Mitgründer und CTO Loïc Roch sowie Christoph Schnidrig, Head of Technology bei Amazon Web Services Schweiz, über den beschleunigten Forschungsbetrieb gesprochen. Und darüber, warum die größte Hürde nicht die Technologie ist.
/artikel/wenn-die-ki-das-experiment-plant-zu-besuch-im-labor-das-sich-selbst-steuert
Loïc Roch, Mitgründer und CTO von Atinary, in den SwissCAT+-Laboren am Campus Hönggerberg | (c) Martin Pacher

Wer auf den Hönggerberg im Norden Zürichs fährt, lässt die Stadt hinter sich. Der zweite Campus der ETH, entstanden ab 1961, liegt in ländlicher Umgebung, hier sind unter anderem die Departemente für Chemie, Physik und Materialwissenschaft zu Hause. Und hier, in den SwissCAT+-Laboren der Hochschule, lässt sich derzeit besichtigen, wie Forschung aussehen könnte, wenn nicht mehr der Mensch jeden einzelnen Handgriff macht.

In diesen Laboren übernehmen Roboter die Arbeit, die sonst Forschende beschäftigt: Sie hantieren mit Flüssigkeiten und Pulvern, bereiten Proben vor, testen sie und messen laufend die Ergebnisse. Das Bemerkenswerte daran ist aber nicht die Automatisierung selbst, sondern wer die Versuche plant: eine Künstliche Intelligenz. Die Software stammt vom Startup Atinary, das an der ETH keinen eigenen Standort hat, sondern mit der Technologieplattform SwissCAT+ zusammenarbeitet. Sie schlägt vor, welches Experiment als nächstes sinnvoll ist, lernt aus jedem Ergebnis und berechnet daraus den nächsten Schritt. Dieser Kreislauf läuft rund um die Uhr, ohne dass ein Mensch eingreifen muss.

„Ein Labor ist eine große Küche“

Wie soll man sich das vorstellen? Loïc Roch, Mitgründer und CTO von Atinary, greift im Gespräch mit brutkasten zu einem Alltagsbild: „Am Ende ist ein Labor eine große Küche. Wir liefern die Rezepte. Wir nutzen KI, um Rezepte zu erzeugen, die dann im Labor getestet werden.“ Das Ziel: möglichst schnell zum besten Rezept kommen. Denn jeder einzelne Versuch kostet Zeit, Material und Geld. Wer statt tausender Versuche nur ein paar Dutzend braucht, spart enorm.

Genau darauf ist die Software ausgelegt. Statt sich blind durch unzählige mögliche Kombinationen zu probieren, lernt das System mit jedem Experiment dazu und empfiehlt gezielt die vielversprechendsten nächsten Schritte. „Self-Driving Labs“ nennt Atinary das Prinzip, selbstfahrende Labore. Den Begriff hat sich das 2019 gegründete Unternehmen sogar markenrechtlich schützen lassen.

Loïc Roch, Co-founder und CTO von Atinary | (c) Martin Pacher / brutkasten

Den Bedarf für solche Werkzeuge begründet Roch mit einem unbequemen Befund: Forschung wird immer teurer und langsamer, es braucht immer mehr Zeit und Geld, bis Neues gefunden ist. Dazu kommt eine handfeste Vertrauenskrise: Roch verweist auf eine vielzitierte Befragung von rund 1.500 Forschenden, wonach ein Großteil daran scheitert, Experimente zu wiederholen, in der Chemie sind die Quoten besonders hoch. Das ist nicht nur für die Wissenschaft ein Problem: Ohne verlässliche Daten lässt sich auch keine verlässliche KI trainieren.

100 Jahre Forschung in sechs Wochen

Was das System kann, zeigt das Vorzeigeprojekt direkt vor Ort. Gemeinsam mit dem SwissCAT+-Team suchte Atinary nach dem besten Katalysator, also jenem Hilfsstoff, mit dem sich das Treibhausgas CO₂ in Methanol umwandeln lässt, einen Ausgangsstoff für nachhaltige Treibstoffe. Laut Atinary kamen dafür mehr als 20 Millionen mögliche Kombinationen infrage. Das Ergebnis wurde in einem Fachjournal publiziert: In sechs Wochen wurden 144 Katalysator-Kandidaten hergestellt und getestet, mit minimalem menschlichem Zutun. Die Zahl, mit der Atinary seither wirbt, ist eindrucksvoll: eine 1000-fache Beschleunigung, umgerechnet 100 Jahre Katalyse-Forschung in nur sechs Wochen. SwissCAT+-Chef Paco Laveille, der die Umsetzung an der ETH verantwortet, bestätigt beim Besuch die Größenordnung: von Jahren an Forschung hinunter zu Wochen.

(c) Martin Pacher / brutkasten

Beim konkreten Nutzen für Firmenkunden hält sich Roch hingegen zurück, aus einem strukturellen Grund: „Wir sind ein Dienstleister. Wir sehen den generierten Mehrwert nicht, und die Kunden wollen ihn nicht teilen.“ Das habe auch mit Sicherheitsanforderungen zu tun, ergänzt das Unternehmen: Angaben zum erzielten Return on Investment erhalte Atinary dann, wenn Kunden sie von sich aus teilen — teils münde das in gemeinsame Publikationen.

Die einzige konkrete Zahl, die er im Gespräch nennt, stammt aus einer gemeinsamen Publikation mit dem Aromen- und Duftstoffkonzern dsm-firmenich: Dort konnte der Einsatz eines teuren Edelmetalls so stark reduziert werden, dass dessen Kostenanteil um rund 95 Prozent sank. Es sei nicht die einzige gemeinsame Veröffentlichung mit Kunden, betont das Unternehmen — weitere gebe es etwa mit dem Pharmakonzern Takeda.

(c) Martin Pacher / brutkasten

Auch ein aktueller gemeinsamer Blogbeitrag von AWS und Atinary liefert Anhaltspunkte. Ein Manager von Takeda wird dort mit der Aussage zitiert, eine Optimierung habe mit dem selbstfahrenden Ansatz rund eine Woche gedauert, verglichen mit ein bis zwei Monaten auf dem herkömmlichen Weg. Am MIT wiederum löste ein Forschungsteam mit der Software eine knifflige Aufgabe aus der Solarzellenforschung in nur 25 Versuchen, innerhalb einer strikten Frist von vier Wochen. Und über das eigene Labor, das Atinary heuer in Boston eröffnet hat, heißt es: Es erzeuge in einer Woche mehr Versuchsdaten, als ein Doktorand in fünf Jahren produziert.

Bezahlter Pilot, Lizenz pro Arbeitsplatz

Wirtschaftlich steht Atinary noch am Anfang. Das Unternehmen befindet sich in der Seed-Phase, öffentlich auffindbar sind laut Roch rund zehn Millionen an bisheriger Finanzierung, eingesammelt über Venture Capital, Family Offices und Förderungen. Als Nächstes peilt er eine Series A an. Das Wachstumskapital dafür werde voraussichtlich aus den USA kommen: „Der Ansatz ist in Europa und den USA sehr unterschiedlich.“

Paco Laveille, Managing Director, SwissCAT+ East, ETH Zurich | (c) Martin Pacher / brutkasten

Verdient wird über Software-Lizenzen, abgerechnet pro Arbeitsplatz. Am Anfang steht ein dreimonatiger, bewusst kostenpflichtiger Testlauf. „Wenn der Pilot nicht bezahlt ist, stecken die Kunden nicht die Ressourcen hinein, um ihn richtig zu testen“, sagt Roch. Dass er mit diesem Modell Geld liegen lässt, räumt er offen ein: Eine Beteiligung am geschaffenen Wert wäre lukrativer, scheitert aber daran, dass die Kunden diesen Wert eben nicht offenlegen.

Die Kundschaft kommt bisher vor allem aus der Pharmabranche, die laut Roch am ehesten bereit ist, Neues zu riskieren; der Rest der Industrie folge dann. Einsatzfelder gibt es aber quer durch: Lebensmittel, Duftstoffe, Materialforschung, grüne Energie, und gemeinsam mit Stanford sogar Zelltherapien gegen Krebs. Umsatz machen vor allem Konzerne. Mit Universitäten arbeitet Atinary eng zusammen, weil sich dort Ergebnisse veröffentlichen lassen, sie werden so zu Botschaftern der Technologie. Auch KMU zählen zu den Kunden, das jüngste sei erst vor wenigen Tagen dazugekommen. Die Arbeitsteilung im Unternehmen: Das Entwicklerteam sitzt bei Roch in Lausanne, das eigene Labor steht in Boston, dort, wo die großen Pharma-Forschungszentren angesiedelt sind.

„Fast jeden zweiten Tag ein neues Startup“

Beim Thema Konkurrenz wird Roch deutlich: Der Bereich „AI for Science“ ziehe derzeit massiv Gründungen an, fast jeden zweiten Tag komme ein neues Startup dazu. Gefährlich sei daran vor allem eines: Mit den heutigen KI-Werkzeugen lasse sich sehr schnell ein beeindruckender Prototyp bauen, der Kunden begeistert. „Unter der Haube ist das aber kein produktionsreifer Code, der bei einem Großunternehmen laufen kann.“ Atinary sieht er im Vorteil, weil man seit 2019 das gesamte Paket aufgebaut habe: die Anbindung an die Laborgeräte, das eigene KI-Training, die Anwendungen und die wissenschaftliche Glaubwürdigkeit durch den eigenen Beirat. Dazu kommt laut Unternehmen ein Netzwerk an Technologiepartnern, darunter AWS, ABB Robotics, Agilent, Bruker, Chemspeed und Mettler-Toledo. Im wissenschaftlichen Beirat sitzt unter anderem der MIT-Chemiker Stephen Buchwald — im Bostoner Labor optimiert Atinary nach eigenen Angaben ausgerechnet die nach ihm benannte Buchwald-Hartwig-Reaktion.

(c) Martin Pacher / brutkasten

Zugleich beobachtet er seit heuer einen Umschwung im Markt: Kunden dächten zunehmend in einer Wettlauf-Logik. Wer die Technologie nicht als Erster einsetze, riskiere, dass es die Konkurrenz tut. Und wenn diese in Wochen schafft, wofür man selbst Jahre braucht, sei der Rückstand kaum aufzuholen.

Die größte Hürde ist der Mensch

Und was bremst die Verbreitung? Nicht die Technik, sagt Roch, sondern der Mensch. „Der Wissenschaftler im Labor ist oft seit 15, 20 Jahren dort. Wenn man ihm sagt: Wir können deine Forschung um den Faktor zehn oder hundert beschleunigen, sagt er: Nein. Ich kenne mein Fach besser als irgendein Algorithmus.“ Es sei dabei weniger mangelndes Vertrauen, die Technologie werde schlicht als Bedrohung für den eigenen Job empfunden. Christoph Schnidrig von AWS ergänzt: Dieses Muster kenne man von jeder Technologiewelle, von der Einführung der Cloud bis zur KI in der Softwareentwicklung. Rochs Haltung dazu: Jobs würden sich verändern, aber nicht verschwinden. „Am Ende ist es ein Werkzeug. Der Mensch bleibt am Steuer.“

(c) Martin Pacher / brutkasten

Zum Vertrauen gehört auch die Datenfrage, schließlich legen die Kunden ihr wertvollstes Gut, ihre Forschungsdaten, in die Plattform. Die läuft vollständig auf der Cloud von AWS. Roch verweist auf Prüfungen, Audits und Sicherheitstests; personenbezogene Daten würden praktisch keine gespeichert, schon gar keine Patientendaten, dafür sei man in der Forschung viel zu früh angesetzt. Auch deshalb sieht er im EU AI Act derzeit kein Hindernis: In Kundengesprächen sei die Regulierung bislang schlicht kein Thema gewesen.

Auszeichnung vom Weltwirtschaftsforum

Während brutkasten mit Roch in Zürich spricht, befindet sich sein Mitgründer, CEO Hermann Tribukait, gerade im chinesischen Dalian, um dort den Technology-Pioneer-Award des Weltwirtschaftsforums entgegenzunehmen. Zu den früheren Preisträgern der Auszeichnung zählen Roch zufolge Namen wie Google, Dropbox und Airbnb. Preisgeld gibt es keines, der Wert liege im Zugang zum Netzwerk des Forums und zu Entscheidungsträgern großer Unternehmen. Kunden in China hat Atinary übrigens keine, und das dürfte vorerst so bleiben: Als in den USA registriertes Unternehmen sei das Geschäft mit chinesischen Firmen „wegen der Geopolitik sehr heikel“.

Gefragt nach dem Blick fünf Jahre voraus, skizziert Roch eine Vision, die er ausgerechnet am Vorbild seines Cloud-Partners entwirft: Labore, die wie Rechenleistung aus der Cloud abrufbar sind, weltweit vernetzt, mit einer übergeordneten KI, die Erkenntnisse zwischen Forschungszentren auf verschiedenen Kontinenten austauscht.

Den Antrieb dahinter beschreibt er ganz persönlich: Er und seine Mitgründer seien Naturliebhaber, und die Energiewende brauche schnellere Forschung. „Der Planet kann nicht noch ein Jahrzehnt warten, bis wir Lösungen finden.“ Sein Befund nach sieben Jahren: „R&D ist heute noch zu langsam.“


Disclaimer: Die Reise- und Übernachtungskosten wurden von Amazon Web Services übernommen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI