21.04.2023

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

Der technologische Fortschritt im KI-Bereich passiert schnell, zu schnell. Der entsprechende EU-Ausschuss zum AI Act wurde nun um zwei Monate verschoben.
/artikel/ai-act-wieso-die-eu-bei-kuenstlicher-intelligenz-auf-die-bremse-steigt
Staatssekretär Florian Tursky, AI-Expertin Jeannette Gorzala und Europarechtler Florian Prischl (C) brutkasten/ Stadler Völkel
Staatssekretär Florian Tursky, AI-Expertin Jeannette Gorzala und Europarechtler Florian Prischl (C) brutkasten/ Stadler Völkel

Die legislativen Mühlen der EU mahlen langsam. Zu langsam, wenn es nach führenden österreichischen KI-Experten und Digitalisierung-Staatssekretär Florian Tursky geht. Die Abstimmung zum AI Act verzögert sich.

KI zu schnell für die EU

Seit knapp zwei Jahren beschäftigt sich die EU mit einer Regulierung von Künstlicher Intelligenz. Richtig Schwung kam in den Diskurs nur selten. Das Aufkommen von Generativer KI wie ChatGPT führte dazu, dass der Prozess bereits während der Debatte von der Technologie überholt wurde. Die Verabschiedung des finalen Gesetzesentwurf liegt auf Eis.

Derzeit herrscht innerhalb der EU jedoch Unklarheit über die konkrete Ausrichtung der Staatengemeinschaft zum Thema. „Es gibt zwei Lager – eines, das eher für mehr Regulierung steht, und eines das die Innovation vorantreiben will“, sagt die Juristin Jeannette Gorzala, die auch im Vorstand von AI Austria sitzt, gegenüber dem brutkasten. Am 26. April entscheidet sich nun, ob sich die EU zu einer gemeinsamen Position durchringen kann. Erst dann würden tiefgreifende Diskussionen starten, die letztlich zentrale Fragen klären.

Geplant ist ein umfassendes Gesetz, das Produkte und Dienstleistungen auf KI-Basis abdecken würde. Neben KI-Anwendungen, die Inhalte, Vorhersagen und Empfehlungen liefern oder die Entscheidungsfindung der Nutzer:innen beeinflussen, soll das Gesetz auch die nicht-kommerziellen Inhalte regeln. Die Nutzung von KI im öffentlichen Sektor, wie zum Beispiel bei der Strafverfolgung, steht dabei im Fokus.

AI-Act-Prozess lässt noch Fragen unbeantwortet

Viele Fragen bleiben jedoch vorerst ungeklärt. Fragen, die KI in der Zukunft wohl aufwerfen wird. Wie regelt man autonom fahrende Autos? Wie geht man mit KI im HR-Bereich um und was ist, wenn KI die Bewertung von Kreditwürdigkeit übernimmt?

Die EU will Standards für die Zukunft setzen, hängt aber derzeit an der Reaktion auf vergangene Phänomene fest. „Wir wissen derzeit nicht, ob das was wir heute unter KI verstehen, auch noch in sechs Monaten unserer Definition entsprechen wird“, erklärt Gorzala das Problem. Derzeit dürfte unter anderem noch ungeklärt sein, wie die Staatengemeinschaft mit ChatGPT umgehen will.

So gebe es derzeit laut Florian Prischl, Anwalt bei Stadler Völkel und spezialisiert auf Europa- und IT-Recht, Unklarheiten darüber, ob der ChatBot als geringes Risiko angesehen werden soll oder ob er stärker reguliert werden muss. In diesem Spannungsverhältnis bewegt sich derzeit der Diskurs.

Tursky fordert Tempo

Für den österreichischen Digitalisierungsstaatsekretär Florian Tursky drängt jedoch bereits die Zeit. „Die erst kürzlich erfolgte Ankündigung Chinas, KI auf Basis ideologischer Maßstäbe zu regulieren ist demokratiepolitisch gefährlich. KI darf keiner staatlich vorgegebenen Ideologie folgen. Umso unverständlicher ist es für mich, warum das Europäische Parlament wichtige Termine zum AI Act verschiebt“, so Tursky.

Auch Gorzala wünscht sich einen baldigen Abschluss: „Vor allem die Industrie braucht Planungs- und Rechtssicherheit im KI-Bereich, allein schon wegen Haftungsfragen“. Prischl sieht die Situation anders. Laut ihm würde der bereits bestehende Rechtsrahmen viel abdecken, das im AI Act zum Thema werden würde.

„Betrug ist Betrug – egal ob ich dafür ein Handy, einen Computer, ein Blatt Papier oder eine KI verwende“, sagt Prischl. Auch bei der Frage, ob KI die Überprüfung von der Kreditwürdigkeit übernehmen kann, würde die Gesellschaft nicht nachhaltig verändern. Immerhin würden bereits jetzt Bankangestellte auf Basis von definierten Kriterien über Kredite entscheiden, wenn das in Zukunft die KI auf Basis der gleichen Kriterien übernehmen würde, wäre das laut Prischl keine Revolution, die ein neues Rechtsverständnis erfordert. So sieht der Jurist, anders als Tursky und Gorzala, die Zeit weniger drängend.

Am 26. April entscheidet die EU über das weitere Vorgehen des AI Acts – Ergebnis vollkommen offen. Gorzala geht davon aus, dass die Rechtsgrundlage noch dieses Jahr oder spätestens Anfang nächsten Jahres beschlossen wird. Tursky hofft darauf, Prischl bleibt zurückhaltend.

Deine ungelesenen Artikel:
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
27.05.2026

Schwache Glieder im IT-Ökosystem der Unternehmen als Einladung für Cyber-Attacken

Der jüngste KI-Betrugsfall rund um das niederösterreichische Startup poptop zeigt, wie professionell und erfolgreich Cyberkriminelle inzwischen vorgehen. Eine aktuelle KPMG-Studie bestätigt den Trend: Angriffe werden nicht nur häufiger, sondern durch den Einsatz von KI auch deutlich raffinierter – und stellen Unternehmen zunehmend vor neue Sicherheitsrisiken.
/artikel/schwache-glieder-im-it-oekosystem-der-unternehmen-als-einladung-fuer-cyber-attacken
Cyber-Attacken, Cybersecurity, KI-Scam
© KPMG/Eva Kelety - (v.l.) Andreas Tomek, Michael Höllerer und Robert Lamprecht.

Cyberangriffe auf heimische Unternehmen sind in den vergangenen zwölf Monaten – auch wenn diese bereits auf hohem Niveau waren – noch einmal mehr geworden. 25 Prozent der Befragten in einer aktuellen KPMG-Studie sagen, dass Cyberangriffe auf ihr Unternehmen stark bzw. eher zugenommen haben. Jeder achte registrierte Cyberangriff war dabei erfolgreich und überwand die Sicherheitsbarrieren der Unternehmen. Der Trend, der sich abzeichnet: Cyberangriffe werden effizienter, nicht harmloser. Heute dominieren unauffällige und mit KI strategisch orchestrierte Angriffe das Bild.

Diese Erkenntnisse aus der KPMG-Studie lassen sich mit einem konkreten Beispiel der jüngsten Vergangenheit gut belegen und zeigen, wie gefährlich Unachtsamkeit in so einem Fall sein kann.

Niederösterreichisches Startup als jüngstes Beispiel

Letzte Woche wurde – wie brutkasten berichtete – das NÖ-Kindermöbel-Startup poptop Opfer eines KI-Scams. Und überwies 41.000 Euro an eine dubiose US-Firma. Dabei wurden interne Zahlungsfreigaben per KI-generierter Mail täuschend echt imitiert. Man konnte den überwiesenen Betrag mithilfe der Bank zurückbekommen.

Doch KI- und Cyberangriffe kommen nicht nur über E-Mail, wie die Untersuchung weiter ausweist.

Die Top-Angriffsarten sind in diesem Jahr Malware über E-Mail-Anhänge (von 78 Prozent der Unternehmen berichtet), (Spear-)Phishing über Links (69 Prozent), die Ausnutzung von Hardware-/Software-Schwachstellen (58 Prozent), Business-E-Mail-Compromise, also CEO-/CFO-Fraud (57 Prozent), sowie Scam-Anrufe (52 Prozent).

Abgenommen haben im Vergleich zum Vorjahr Denial-of-Service-Attacken, Scam-Anrufe und (Spear-)Phishing-Angriffe. Gestiegen sind unter anderem die Umgehung der Multifaktor-Authentifizierung (MFA) sowie Angriffe gegen Industriesteuerungsanlagen (OT).

Neu hinzugekommen ist das Ausnutzen von Hardware-/Software-Schwachstellen, was verdeutlicht, dass KI die Art der Angriffe in den letzten zwölf Monaten wesentlich verändert hat.

  • Die Hälfte aller Angriffe (50 Prozent) lässt sich auf organisierte Kriminalität zurückführen.
  • Jeder zehnte Angriff wird von staatlich unterstützten Akteuren ausgeführt.
  • Jedes vierte von Ransomware betroffene Unternehmen gibt an, die Lösegeldforderungen bezahlt zu haben.
  • In 40 Prozent der Angriffsfälle war ineffektives Patch-Management das Einfallstor.

Künstliche Intelligenz verändert die Spielregeln

„Wir stehen mit KI an einem Wendepunkt und bewegen uns weg von einer Welt, die auf klaren Regeln, bekannten Mustern und nachvollziehbaren Reaktionen basiert, hin zu Systemen, die Entscheidungen zunehmend autonom treffen und die wir nicht immer vollständig nachvollziehen können. Die zentrale Frage ist daher nicht nur, ob KI eingesetzt wird, sondern ob sie steuerbar bleibt“, beschreibt KPMG-Partner und Studienautor Robert Lamprecht die aktuelle Lage.

Besonders kritisch sei zudem die Verkürzung der Zeitspanne zwischen dem Auffinden von Schwachstellen und deren Ausnutzung durch die Angreifer. Was früher Tage oder Wochen gedauert hat, kann heute in wenigen Stunden passieren. Gleichzeitig herrsche in Unternehmen eine spürbare Skepsis, ob KI tatsächlich zur Verbesserung der Cybersicherheit beiträgt (nur 33 Prozent Zustimmung), da die Vorteile aktuell stärker aufseiten der Cyberkriminellen gesehen werden.

  • Für jedes zweite befragte Unternehmen (50 Prozent) stellen KI-unterstützte Cyberangriffe die größte Herausforderung dar.
  • 47 Prozent geben an, dass bei Cyberangriffen gegen ihr Unternehmen verstärkt KI eingesetzt wird. 28 Prozent haben sich mit dem Einsatz von KI zur Verbesserung der eigenen Cybersicherheit beschäftigt.
  • Bei 61 Prozent führten Anwender:innenfehler bei der Nutzung von KI zu Cybersicherheits- und Datenschutzvorfällen sowie Know-how-Abfluss.

Laut der, zum elften Mal in Folge veröffentlichten, Studie bringen zudem KI-Systeme und zunehmende Vernetzung Unternehmen unter Druck, da Kontrolle und Überblick über komplexe Abhängigkeiten schwinden. Besonders die Lieferkette gilt als kritisches Einfallstor: Angreifer nutzen gezielt schwache Glieder im IT-Ökosystem, wodurch ganze vernetzte Strukturen gefährdet werden.

So waren bei 39 Prozent der Unternehmen die eigenen Dienstleister oder Lieferanten innerhalb der letzten zwölf Monate Opfer eines Cyberangriffs; bei weiteren 14 Prozent gab es zumindest einen entsprechenden Verdacht. Derartige Vorfälle bleiben oft nicht ohne direkte Konsequenzen für die Auftraggeber: Mehr als jedes fünfte Unternehmen (22 Prozent) berichtet, dass ein Vorfall bei einem Dienstleister oder Lieferanten in der Folge auch zu einem Angriff auf das eigene Haus geführt hat. Dementsprechend groß ist die Verunsicherung hinsichtlich der IT-Sicherheit in der Lieferkette. 31 Prozent der Betriebe treibt die Sorge um, dass ihre Zulieferer nicht dieselben hohen Sicherheitsstandards einhalten wie sie selbst und dadurch zu einem gefährlichen Einfallstor für Angreifer werden.

„Es geht nicht darum, Lieferanten als Risiko zu sehen. Entscheidend ist die Erkenntnis, dass unsere Vernetzung unsere größte Stärke und gleichzeitig unsere größte Verwundbarkeit ist“, betont KPMG-Partner Andreas Tomek.

Digitale Souveränität als Antwort auf Cyber-Attacken

Digitale Souveränität – so der Bericht weiter – sei ein Eckpfeiler wirksamer Cybersicherheit: Nur wer Kontrolle über Daten und Infrastruktur behalte, könne Abhängigkeiten reduzieren und im Ernstfall handlungsfähig bleiben. Laut Studie sind jedoch 70 Prozent der Unternehmen stark von digitalen Technologien aus dem Ausland abhängig, 69 Prozent beziehen Cybersicherheitsanwendungen von dort – und mehr als die Hälfte könnte im Ernstfall nicht länger als drei Monate ohne diese auskommen.

Außerdem ende Cybersicherheit nicht bei technischen Schutzmaßnahmen: Fallen Cloud-Lösungen oder Plattformen plötzlich aus, geraten Unternehmen schnell in reale Existenzprobleme. Andreas Tomek dazu: „Für digitale Souveränität ist es notwendig, dass Unternehmen ihre strategische Ausrichtung neu denken und Abhängigkeiten klar identifizieren und analysieren.“

Staat doch gefragt

All dies sowie steigende Komplexität und Dynamik der Bedrohungslage führen den Autoren zufolge zu einer zentralen Erkenntnis: Cybersicherheit sei nicht länger ein optionales Investitionsthema, sondern eine Voraussetzung für stabile Geschäftsmodelle in einer digitalisierten Wirtschaft.

Unternehmen sehen hierbei den Staat zunehmend als aktiven Partner in Sachen Cybersicherheit: „Wir brauchen nicht nur das Miteinander von Unternehmen, Behörden sowie Forschungs- und Technologieeinrichtungen auf nationaler Ebene: Vielmehr braucht es eine gemeinsame europäische Kraftanstrengung in einem geopolitisch volatilen Umfeld, um die digitale Sicherheit von Unternehmen zu unterstützen“, sagt Michael Höllerer, Präsident des KSÖ (Kompetenz­zentrum Sicheres Österreich) und aktuell noch Generaldirektor von Raiffeisen NÖ-Wien.

„Eine Welt, in der wir den Angreifern gezeigt haben, wie schnell verwundbar wir sind“

Und Robert Lamprecht ergänzt: „Es ist eine Welt, in der wir den Angreifern gezeigt haben, wie schnell wir heute verwundbar sind. Im Wettlauf gegen die Cyberkriminellen sind wir um viele Plätze zurückgefallen, und das Momentum liegt eindeutig auf der Seite der Angreifer. Angriffe werden dort erfolgreicher, wo Verteidigung zu spät, zu langsam oder zu bequem ist. Das ist kein Grund für Alarmismus, aber ein guter Grund für Cybersecurity. Wer hier noch auf Zeit spielt, wird irgendwann überholt. Nicht die Bedrohung ist neu. Neu ist nur die Geschwindigkeit. Die entscheidende Frage für Unternehmen lautet heute nicht mehr, ob sie in Cybersicherheit investieren sollen, sondern ob sie es sich leisten können, es nicht zu tun.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: Wieso die EU bei Künstlicher Intelligenz auf die Bremse steigt