02.12.2022

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

Mit dem AI Act, der in Kürze verhandelt wird, will die EU einen klaren Rechtsrahmen für Künstliche Intelligenz schaffen.
/artikel/ai-act-eu-will-ki-staerker-foerdern-und-reglementieren
Fahne der Europäischen Union
Foto: Adobe Stock

In der KI-Forschung steht die EU – wie auch in anderen Forschungsbereichen – gut da. Der Staatenbund bringt weltweit die meisten wissenschaftlichen Papers zum Thema hervor. In anderen relevanten Bereichen, etwa bei Investitionen, sieht es aber – wie so oft – anders aus. An China und die USA wird die EU auch dann nicht herankommen, wenn sie ihr Ziel, im Laufe des Jahrzehnts auf 20 Milliarden Euro Investment in AI pro Jahr zu kommen, erreicht. Unter anderem hier soll ein neuer „AI Act“ (KI-Verordnung) der Europäischen Union Verbesserung bringen – der brutkasten berichtete bereits. Zum Gesetzeswerk liegt ein Vorschlag der EU-Kommission vor, der kommende Woche erstmals abgestimmt wird, um dann in die Trilogverhandlungen zwischen Europäischem Parlament, Rat und EU-Kommission zu gehen.

„Balanceakt“ zwischen Förderung und Regulierung

Auffallend ist im Entwurf zum AI Act vor allem der Versuch, Künstliche Intelligenz sehr genau – und auch relativ streng – zu reglementieren. Der Rechtsrahmen soll künftig sowohl für öffentliche als auch für private Akteure gelten – innerhalb und außerhalb der EU, „sofern das KI-System in der EU in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind“. Zu diesem Spannungsfeld zwischen Förderung und Reglementierung meinte Digitalisierungs-Staatssekretär Florian Tursky bei einem heutigen Pressetermin, es sei ein Balanceakt in den Verhandlungen, das richtige Maß an Regulierung zu finden.

Staatssekretär Florian Tursky beim heutigen Presetermin | © BMF

Einteilung in vier Risikostufen

Ob eine KI-Anwendung überhaupt zugelassen wird, soll nach dem AI Act-Entwurf vom von dieser ausgehenden Risiko abhängig sein, das in vier Klassifizierungen unterteil werden soll: Unannehmbares Risiko, Hohes Risiko, Geringes Risiko und Minimales Risiko. Anwendungen mit unannehmbarem Risiko sollen demnach verboten werden, etwa „social Scoring“. Die Einstufung als hohes Risiko führt zu strengen Vorgaben vor Inverkehrbringen. KI-Systeme mit geringem Risiko treffen gewisse Transparenzverpflichtungen.

Der Großteil der Anwendungen stellen Systeme mit minimalem Risiko dar, wird angeführt. Für diese gilt die freie Anwendung auf Basis der bestehenden rechtlichen Verpflichtungen ohne zusätzliche Auflagen. Dem Hochrisikobereich gehören laut EU-Kommission 15 Prozent aller Anwendungen an. Fragen zur Haftung von KI-Systemen werden im Rechtsakt übrigens nicht verankert. Hierzu wurde erst kürzlich eine gesonderte KI-Haftungs-Richtlinie vorgelegt.

In Österreich verschiedene Behörden für Ahndung von AI Act-Verstößen zuständig

Personen und Unternehmen sollen bei mutmaßlichen Verstößen gegen die geplante KI-Verordnung künftig Beschwerde bei der zuständigen Marktaufsichtsbehörde einreichen können. „In Österreich ist die Marktüberwachung je nach Produkt bei einer unterschiedlichen Stelle angesiedelt“, heißt es vom Staatssekretäriat für Digitalisierung in einer Aussendung.

Staatssekretär Tursky kommentiert dort: „Die KI-Verordnung ist ein wichtiger Schritt für Europa, um in diesem Zusammenhang für Rechtssicherheit zu sorgen. Ziel ist es, einerseits die Entwicklung von KI in Europa zu fördern. Gleichzeitig müssen aber die öffentlichen Interessen, wie Grundrechte und Sicherheit gewährleistet sein“. Ein klarer europaweiter Rechtsrahmen sei beim Thema Künstliche Intelligenz unerlässlich. Er schaffe sowohl für Entwickler die Sicherheit klarer Regeln für die Gestaltung, als auch für die Endnutzer die Sicherheit, mit einer sicheren und vertrauenswürdigen KI-Anwendung zu interagieren.

Deine ungelesenen Artikel:
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
(c) SecurITe

Manchmal beginnt eine Gründungsgeschichte mit einem Satz, der wie eine Drohung klingt. „Alles, was wir in der Cybersecurity haben, kannst du wegschmeißen. Es wird in ganz kurzer Zeit nicht mehr funktionieren.“ Das soll Manuel Nedbal im Herbst 2024 zu Herbert Stöger gesagt haben – als das Schlagwort „agentic AI“ noch kaum jemand kannte. Rund anderthalb Jahre später, sagen beide, sei genau das eingetreten. Und aus der Ansage ist ein Unternehmen geworden, das nun eine bemerkenswerte Finanzierungsrunde vermeldet.

SecurITe hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich (Euro) abgeschlossen – für eine Frühphasenfinanzierung im österreichischen Kontext eine außergewöhnliche Größenordnung. Sie reicht laut Unternehmen, um die Produktentwicklung über rund 24 Monate durchzufinanzieren. Strukturiert wurde die Runde bewusst über einen europäischen Finanzpartner aus dem Family-Office-Umfeld, der vorerst nicht genannt werden möchte. Auch die bestehenden Gesellschafter zogen mit.

Herbert Stöger, Managing Director x-tention | (c) Thomsen Photography

Hinter SecurITe stehen zwei Akteure, die sich ergänzen: Nedbal, der zwölf Jahre im Silicon Valley Cybersecurity gebaut hat, und Stöger, Gründer und Eigentümer der österreichischen Health-IT-Gruppe x-tention. Das Startup ist aus dieser Partnerschaft entstanden – x-tention brachte den Zugang zum Gesundheitsmarkt und das Problemverständnis ein, Nedbal die Technologie. Eine klassische Ausgründung sei es nicht; x-tention zählt heute zu den bestehenden Gesellschaftern.

Eine Begegnung im Bezirk Amstetten

Die Geschichte dahinter ist die zweier Welten, die im Mostviertel zusammenfanden. Nedbals Stationen im Valley: McAfee (später von Intel übernommen), dann das eigene Startup ShieldX, das nach fünf Jahren an Fortinet verkauft wurde, wo er als VP of Engineering arbeitete. Zuletzt verantwortete er bei Google die Architektur der Cloud-Firewall. Im Zuge der Pandemie kehrte er nach Österreich zurück – ein Muster, das man damals bei einigen heimischen Tech-Talenten beobachten konnte. Dort wurde er über einen gemeinsamen Freund Stöger vorgestellt.

Manuel Nedbal – CEO SecurITe (links) und Bernhard Aigenbauer – COO SecurITe | (c) SecurITe

Dieser hatte x-tention 2001 mit sechs Mitarbeitern gegründet; heute zählt die Gruppe rund 850 Beschäftigte in Österreich, der Schweiz, Deutschland und England sowie ein Office im Silicon Valley. Tief im Bereich Gesundheits-IT verankert, deckt x-tention Datenmanagement, ELGA, Konnektivität und Managed Services ab und betreut nach eigenen Angaben mehr als 1.000 Kunden im Gesundheitswesen. Marktbedingungen, großes Problem, Marktzugang und Technologie seien „auf einmal zusammengekommen“ – Nedbal nennt es eine „Textbuchvorlage für ein Startup“. Heute verteilt sich das rund 50-köpfige Team auf Österreich, Silicon Valley und Bangalore.

Krankenhäuser als verwundbarster Punkt

Warum ausgerechnet Healthcare? Der Sektor sei von der Cybersecurity-Industrie „vergessen“ worden, argumentiert Nedbal – weil dort andere Regeln gelten. Klassische Schutzmechanismen ließen sich auf medizinischen Geräten und in klinischen Netzen nicht so einsetzen wie in der Enterprise-IT. Hinzu komme, dass während der Pandemie eine Hemmschwelle gefallen sei: Krankenhäuser würden heute ohne Schonung attackiert – rund um die Uhr.

Hier setzt das Resilienz-Argument der Gründer an: Krankenhäuser seien ein Paradebeispiel für kritische Infrastruktur, deren Absicherung längst keine rein technische Frage mehr sei, sondern eine der europäischen Souveränität. Die Sorge: Erkenntnisse über neue, KI-getriebene Angriffsmuster zirkulierten oft nur in einem begrenzten Kreis großer US-Anbieter – Krankenhaussoftware-Hersteller und europäische Institutionen seien dabei selten am Tisch. Eine eigenständige europäische Antwort, die nicht aus den USA, Israel oder China komme, sieht das Team daher als Chance. Konsequenterweise habe man auch die Finanzierung „aus Europa und für für das globale Wachstum“ gestemmt – die IP bleibe aber in Europa.

Die nächste Bedrohungsstufe sieht SecurITe in autonomen Agenten: Setzen Kliniken selbst KI-Agenten ein, könnten diese sich fehlverhalten; ein Angriff durch autonome Agenten sei zudem um ein Vielfaches gefährlicher als von einem menschlichen Akteur. Genau hier setzt das Produkt agentis360 an: Statt auf eine zentrale Instanz setzt es auf eigene Sensoren und kleine KI-Modelle, die direkt in der Infrastruktur sitzen und das Verhalten von Systemen und Agenten laufend auf Auffälligkeiten profilieren. Mit dem frischen Kapital will das Unternehmen die Produktentwicklung vorantreiben und parallel internationalen Vertrieb sowie Partnerschaften aufbauen – mit Europa als Ausgangspunkt und dem globalen Rollout für kritische Infrastruktur als nächstes Ziel.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

AI Act: EU will KI stärker fördern, aber auch viel stärker reglementieren