04.07.2025
HORIZON EUROPE

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

Das AIT Austrian Institute of Technology entwickelte gemeinsam mit der TU Wien eine neue Methodik für vertrauenswürdige Generative Künstliche Intelligenz im Rahmen des neuen europäisch geförderten Projekts RobustifAI.
/artikel/robustifai-ait-und-tu-wien-entwickelten-methode-fuer-vertrauenswuerdige-genai
© AI - Das RobustifyAI-Konsortium beim Kick-Off am AIT.

GenAI, wie z. B. Basismodelle (Foundation Models), stellt eine transformative Klasse der KI dar, die in der Lage ist, Muster aus Daten zu lernen und neue Inhalte zu generieren – soviel ist bekannt. Sie hat jedoch bemerkenswerte Schwächen, die zu Missbrauch führen oder ihre breite Einführung und positive gesellschaftliche und wirtschaftliche Auswirkungen behindern können. Diese Unzulänglichkeiten sind laut dem AIT (Austrian Institute of Technology) auf drei Schlüsselbereiche zurückzuführen: technische, betriebliche und benutzerbezogene Robustheit. RobustifAI soll hier Abhilfe schaffen.

RobustifAI: Unter Top 3 von 131 Bewerbungen

Hierbei handelt es sich um ein „Horizon Europe-Projekt“, das darauf abzielt, eine umfassende Design- und Einsatzmethodik für „zuverlässige, robuste und vertrauenswürdige“ generative Künstliche Intelligenz (GenAI) zu entwickeln, heißt es in einer Presseaussendung. Es startete offiziell am 1. Juni 2025 und hat eine Laufzeit von 36 Monaten mit einem Gesamtbudget von 9,3 Millionen Euro, wovon der österreichische Anteil rund 1,36 Millionen Euro beträgt. Österreich spielt eine Schlüsselrolle in RobustifAI, da zwei heimische Institutionen beteiligt sind – das AIT und die TU Wien.

Die Bewilligung der Mittel ist ein großer Erfolg für das Konsortium von RobustifAI, da nur drei der 131 eingereichten Vorschläge den Förderzuschlag erhalten haben. Das Konsortium traf sich am 5. Juni 2025 in den Räumlichkeiten des AIT in Wien zu einem offiziellen Kick-off, bei dem die ersten Schritte der Projektarbeit festgelegt wurden.

HCPS

RobustifAI konzentriert sich auf Basismodelle, die im Kontext von sogenannten „Human-Cyber-Physical Systems“ (HCPS) eingesetzt werden. Oder in anderen Worten: auf komplexe Systeme, in denen Computer, Netzwerke, Menschen und physische Prozesse kombiniert werden, um reale Umgebungen zu überwachen und zu steuern, die in vielen Bereichen Anwendung finden können.

Das AIT ist im Konsortium durch Dejan Nickovic vertreten, der als technischer Leiter des Projekts fungiert. Ezio Bartocci, Professor für „Formal Methods in Cyber-Physical Systems“ an der Fakultät für Informatik, vertritt die TU Wien.

AIT und TU Wien als langjährige Partner

Das AIT bringt in das Projekt seine Expertise in der Anwendung formaler Methoden für KI-basierte Systeme und in der Gestaltung zukünftiger KI-Policies ein – die TU Wien ihr Wissen in der systematischen Entwicklung und Analyse von lernfähigen autonomen Systemen.

Die beiden Institutionen haben eine langjährige Zusammenarbeit auf dem Gebiet der Sicherheit von KI-basierten und autonomen Systemen. Die sich in den letzten zehn Jahren durch gemeinsame Beiträge in Bereichen wie der Verifizierung von „deep neural networks“, der Entwicklung vertrauenswürdiger Systeme und der Laufzeitüberwachung von KI-gesteuerten Technologien darstellte.

Das RobustifAI-Konsortium umfasst 18 Partner aus zwölf Ländern, darunter 17 europäische Partner und ein Partner aus Indien.

Deine ungelesenen Artikel:
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
Cyber-Attacken, Cybersecurity, KI-Scam
© KPMG/Eva Kelety - (v.l.) Andreas Tomek, Michael Höllerer und Robert Lamprecht.

Cyberangriffe auf heimische Unternehmen sind in den vergangenen zwölf Monaten – auch wenn diese bereits auf hohem Niveau waren – noch einmal mehr geworden. 25 Prozent der Befragten in einer aktuellen KPMG-Studie sagen, dass Cyberangriffe auf ihr Unternehmen stark bzw. eher zugenommen haben. Jeder achte registrierte Cyberangriff war dabei erfolgreich und überwand die Sicherheitsbarrieren der Unternehmen. Der Trend, der sich abzeichnet: Cyberangriffe werden effizienter, nicht harmloser. Heute dominieren unauffällige und mit KI strategisch orchestrierte Angriffe das Bild.

Diese Erkenntnisse aus der KPMG-Studie lassen sich mit einem konkreten Beispiel der jüngsten Vergangenheit gut belegen und zeigen, wie gefährlich Unachtsamkeit in so einem Fall sein kann.

Niederösterreichisches Startup als jüngstes Beispiel

Letzte Woche wurde – wie brutkasten berichtete – das NÖ-Kindermöbel-Startup poptop Opfer eines KI-Scams. Und überwies 41.000 Euro an eine dubiose US-Firma. Dabei wurden interne Zahlungsfreigaben per KI-generierter Mail täuschend echt imitiert. Man konnte den überwiesenen Betrag mithilfe der Bank zurückbekommen.

Doch KI- und Cyberangriffe kommen nicht nur über E-Mail, wie die Untersuchung weiter ausweist.

Die Top-Angriffsarten sind in diesem Jahr Malware über E-Mail-Anhänge (von 78 Prozent der Unternehmen berichtet), (Spear-)Phishing über Links (69 Prozent), die Ausnutzung von Hardware-/Software-Schwachstellen (58 Prozent), Business-E-Mail-Compromise, also CEO-/CFO-Fraud (57 Prozent), sowie Scam-Anrufe (52 Prozent).

Abgenommen haben im Vergleich zum Vorjahr Denial-of-Service-Attacken, Scam-Anrufe und (Spear-)Phishing-Angriffe. Gestiegen sind unter anderem die Umgehung der Multifaktor-Authentifizierung (MFA) sowie Angriffe gegen Industriesteuerungsanlagen (OT).

Neu hinzugekommen ist das Ausnutzen von Hardware-/Software-Schwachstellen, was verdeutlicht, dass KI die Art der Angriffe in den letzten zwölf Monaten wesentlich verändert hat.

  • Die Hälfte aller Angriffe (50 Prozent) lässt sich auf organisierte Kriminalität zurückführen.
  • Jeder zehnte Angriff wird von staatlich unterstützten Akteuren ausgeführt.
  • Jedes vierte von Ransomware betroffene Unternehmen gibt an, die Lösegeldforderungen bezahlt zu haben.
  • In 40 Prozent der Angriffsfälle war ineffektives Patch-Management das Einfallstor.

Künstliche Intelligenz verändert die Spielregeln

„Wir stehen mit KI an einem Wendepunkt und bewegen uns weg von einer Welt, die auf klaren Regeln, bekannten Mustern und nachvollziehbaren Reaktionen basiert, hin zu Systemen, die Entscheidungen zunehmend autonom treffen und die wir nicht immer vollständig nachvollziehen können. Die zentrale Frage ist daher nicht nur, ob KI eingesetzt wird, sondern ob sie steuerbar bleibt“, beschreibt KPMG-Partner und Studienautor Robert Lamprecht die aktuelle Lage.

Besonders kritisch sei zudem die Verkürzung der Zeitspanne zwischen dem Auffinden von Schwachstellen und deren Ausnutzung durch die Angreifer. Was früher Tage oder Wochen gedauert hat, kann heute in wenigen Stunden passieren. Gleichzeitig herrsche in Unternehmen eine spürbare Skepsis, ob KI tatsächlich zur Verbesserung der Cybersicherheit beiträgt (nur 33 Prozent Zustimmung), da die Vorteile aktuell stärker aufseiten der Cyberkriminellen gesehen werden.

  • Für jedes zweite befragte Unternehmen (50 Prozent) stellen KI-unterstützte Cyberangriffe die größte Herausforderung dar.
  • 47 Prozent geben an, dass bei Cyberangriffen gegen ihr Unternehmen verstärkt KI eingesetzt wird. 28 Prozent haben sich mit dem Einsatz von KI zur Verbesserung der eigenen Cybersicherheit beschäftigt.
  • Bei 61 Prozent führten Anwender:innenfehler bei der Nutzung von KI zu Cybersicherheits- und Datenschutzvorfällen sowie Know-how-Abfluss.

Laut der, zum elften Mal in Folge veröffentlichten, Studie bringen zudem KI-Systeme und zunehmende Vernetzung Unternehmen unter Druck, da Kontrolle und Überblick über komplexe Abhängigkeiten schwinden. Besonders die Lieferkette gilt als kritisches Einfallstor: Angreifer nutzen gezielt schwache Glieder im IT-Ökosystem, wodurch ganze vernetzte Strukturen gefährdet werden.

So waren bei 39 Prozent der Unternehmen die eigenen Dienstleister oder Lieferanten innerhalb der letzten zwölf Monate Opfer eines Cyberangriffs; bei weiteren 14 Prozent gab es zumindest einen entsprechenden Verdacht. Derartige Vorfälle bleiben oft nicht ohne direkte Konsequenzen für die Auftraggeber: Mehr als jedes fünfte Unternehmen (22 Prozent) berichtet, dass ein Vorfall bei einem Dienstleister oder Lieferanten in der Folge auch zu einem Angriff auf das eigene Haus geführt hat. Dementsprechend groß ist die Verunsicherung hinsichtlich der IT-Sicherheit in der Lieferkette. 31 Prozent der Betriebe treibt die Sorge um, dass ihre Zulieferer nicht dieselben hohen Sicherheitsstandards einhalten wie sie selbst und dadurch zu einem gefährlichen Einfallstor für Angreifer werden.

„Es geht nicht darum, Lieferanten als Risiko zu sehen. Entscheidend ist die Erkenntnis, dass unsere Vernetzung unsere größte Stärke und gleichzeitig unsere größte Verwundbarkeit ist“, betont KPMG-Partner Andreas Tomek.

Digitale Souveränität als Antwort auf Cyber-Attacken

Digitale Souveränität – so der Bericht weiter – sei ein Eckpfeiler wirksamer Cybersicherheit: Nur wer Kontrolle über Daten und Infrastruktur behalte, könne Abhängigkeiten reduzieren und im Ernstfall handlungsfähig bleiben. Laut Studie sind jedoch 70 Prozent der Unternehmen stark von digitalen Technologien aus dem Ausland abhängig, 69 Prozent beziehen Cybersicherheitsanwendungen von dort – und mehr als die Hälfte könnte im Ernstfall nicht länger als drei Monate ohne diese auskommen.

Außerdem ende Cybersicherheit nicht bei technischen Schutzmaßnahmen: Fallen Cloud-Lösungen oder Plattformen plötzlich aus, geraten Unternehmen schnell in reale Existenzprobleme. Andreas Tomek dazu: „Für digitale Souveränität ist es notwendig, dass Unternehmen ihre strategische Ausrichtung neu denken und Abhängigkeiten klar identifizieren und analysieren.“

Staat doch gefragt

All dies sowie steigende Komplexität und Dynamik der Bedrohungslage führen den Autoren zufolge zu einer zentralen Erkenntnis: Cybersicherheit sei nicht länger ein optionales Investitionsthema, sondern eine Voraussetzung für stabile Geschäftsmodelle in einer digitalisierten Wirtschaft.

Unternehmen sehen hierbei den Staat zunehmend als aktiven Partner in Sachen Cybersicherheit: „Wir brauchen nicht nur das Miteinander von Unternehmen, Behörden sowie Forschungs- und Technologieeinrichtungen auf nationaler Ebene: Vielmehr braucht es eine gemeinsame europäische Kraftanstrengung in einem geopolitisch volatilen Umfeld, um die digitale Sicherheit von Unternehmen zu unterstützen“, sagt Michael Höllerer, Präsident des KSÖ (Kompetenz­zentrum Sicheres Österreich) und aktuell noch Generaldirektor von Raiffeisen NÖ-Wien.

„Eine Welt, in der wir den Angreifern gezeigt haben, wie schnell verwundbar wir sind“

Und Robert Lamprecht ergänzt: „Es ist eine Welt, in der wir den Angreifern gezeigt haben, wie schnell wir heute verwundbar sind. Im Wettlauf gegen die Cyberkriminellen sind wir um viele Plätze zurückgefallen, und das Momentum liegt eindeutig auf der Seite der Angreifer. Angriffe werden dort erfolgreicher, wo Verteidigung zu spät, zu langsam oder zu bequem ist. Das ist kein Grund für Alarmismus, aber ein guter Grund für Cybersecurity. Wer hier noch auf Zeit spielt, wird irgendwann überholt. Nicht die Bedrohung ist neu. Neu ist nur die Geschwindigkeit. Die entscheidende Frage für Unternehmen lautet heute nicht mehr, ob sie in Cybersicherheit investieren sollen, sondern ob sie es sich leisten können, es nicht zu tun.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

RobustifAI: AIT und TU Wien entwickelten Methode für vertrauenswürdige GenAI