20.04.2021

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

Die EU steckt den Rahmen ab, in dem künstliche Intelligenz entwickelt und eingesetzt werden darf. Der Entwurf muss aber noch in Begutachtung.
/artikel/ai-regeln-eu-2021-entwurf
AI, Face, Tinder, Neuro-Tinder, Generiert,
(c) Stock.Adobe/Chepko Danil

Für diese Woche wird der offizielle Entwurf für Regeln für künstliche Intelligenz in der EU erwartet. Darin geht es nicht nur um AI-Anwendungen, die in ferner Zukunft liegen, sondern auch um ganz gegenwärtige Herausforderungen. Ein heißes Eisen ist etwa die Personalisierung im Internet, etwa wenn Internetdienste wie Netflix detaillierte Profile ihrer Nutzer erstellen. „Personalisierung ohne Überwachung geht nicht“, erklärt Clemens Wasner von dem Verband AI Austria, dessen Forderungen teilweise in den Vorentwurf eingeflossen sind.

Derzeit sei dieser Punkt im „geleakten“ Entwurf der EU sehr streng formuliert. Targeted Ads, die auf solchen Profilen basieren, könnten demnach verboten werden. Allerdings geht dieser Entwurf, sobald er vorliegt, erst einmal in eine lange Begutachtungsphase. In der könne sich noch viel ändern, meint Wasner. Er geht davon aus, dass gerade die Personalisierungs-Frage da noch sehr offen ist.

(Erkennbare) Deepfakes erlaubt

Im Vorfeld ist auch das Thema Deepfakes bereits viel diskutiert worden. Dem widmet sich Vorentwurf der EU gleich in mehreren Punkten. Es geht dabei um die Möglichkeit, mit künstlicher Intelligenz täuschend echte Fake-Videos, Ton-Aufnahmen oder Bilder von konkreten Personen zu generieren. Für Wirbel hatte gesorgt, dass die EU diese Deepfakes erlauben will. Allerdings gebe es hier bereits sehr gute Erkennungsprodukte, die eingesetzt werden müssen, erklärt Wasner, etwa über Watermarks in solchen Videos. Der Entwurf stellt eindeutig klar, dass der Einsatz von Deepfake transparent gemacht werden muss.

Positiv sieht der AI-Experte, dass eine Regulierung von Artificial Intelligence gemäß der Pläne der EU nur dann vorgesehen ist, wenn es nicht schon in anderen Bereichen entsprechende Regeln gebe. Ein Beispiel: Ist autonomes Fahren bereits in einer eigenen Richtlinie geregelt, wird die AI-Strategie an diesen Regeln nichts ändern.

Regulatory Sandboxes für AI

Ein wichtiger Punkt und auch eine zentrale Forderung von AI Austria ist in dem Entwurf enthalten, der vor allem für die Entwicklung von künstlicher Intelligenz wichtig ist. Für die Entwicklung neuer Produkte könnte es künftig „Regulatory Sandboxes“ geben. Das ist eine Methode, die aus dem Finanzbereich bekannt ist: Vor der offiziellen Zulassung dürfen Forscher und Unternehmen unter bestimmten Bedingungen und unter dem wachsamen Auge der Regulatoren, bereits mit (annähernd) realen Daten experimentieren. Knackpunkt ist hier laut Wasner die Datensynthetisierung – Daten werden also nicht anonymisiert, sondern von Beginn an komplett anonym künstlich nachgebaut. Das ist für die sichere Entwicklung unter dem strengen Datenschutz der EU wichtig, denn ohne Massen an Daten kann künstliche Intelligenz nicht trainiert werden.

EU bei Künstlicher Intelligenz weit hinter USA und China

Wasner geht davon aus, dass der Entwurf mindestens ein Jahr lang in Begutachtung sein wird. Der Rahmen, in dem Europa künstliche Intelligenz entwickeln will, wird von Experten dringend erwartet. Denn die EU ist in diesem wichtigen Zukunftsfeld bisher eher im Hintertreffen. Eine aktuelle Studie des US-Thinktanks ITIF hat sich die Entwicklung von AI anhand von 30 Indikatoren in unterschiedlichen Regionen angesehen und sieht die EU erst hinter den USA und China auf einem abgeschlagenen dritten Platz. Die EU habe vor allem bei Risikokapital Nachholbedarf, schnitt aber bei der Veröffentlichung von Forschungsergebnissen gut ab.

Deine ungelesenen Artikel:
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
28.05.2026

SecurITe holt zweistellige Millionen-Seed-Finanzierung für Healthcare-Cybersecurity

Das auf Healthcare spezialisierte Cybersecurity-Startup SecurITe – gegründet von einem Silicon-Valley-Heimkehrer und dem österreichischen Health-IT-Pionier x-tention – hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich abgeschlossen. Für eine Frühphasenfinanzierung in Österreich eine außergewöhnliche Größenordnung.
/artikel/securite-holt-zweistellige-millionen-seed-finanzierung-fuer-healthcare-cybersecurity
(c) SecurITe

Manchmal beginnt eine Gründungsgeschichte mit einem Satz, der wie eine Drohung klingt. „Alles, was wir in der Cybersecurity haben, kannst du wegschmeißen. Es wird in ganz kurzer Zeit nicht mehr funktionieren.“ Das soll Manuel Nedbal im Herbst 2024 zu Herbert Stöger gesagt haben – als das Schlagwort „agentic AI“ noch kaum jemand kannte. Rund anderthalb Jahre später, sagen beide, sei genau das eingetreten. Und aus der Ansage ist ein Unternehmen geworden, das nun eine bemerkenswerte Finanzierungsrunde vermeldet.

SecurITe hat eine Seed-Runde im niedrigen zweistelligen Millionenbereich (Euro) abgeschlossen – für eine Frühphasenfinanzierung im österreichischen Kontext eine außergewöhnliche Größenordnung. Sie reicht laut Unternehmen, um die Produktentwicklung über rund 24 Monate durchzufinanzieren. Strukturiert wurde die Runde bewusst über einen europäischen Finanzpartner aus dem Family-Office-Umfeld, der vorerst nicht genannt werden möchte. Auch die bestehenden Gesellschafter zogen mit.

Herbert Stöger, Managing Director x-tention | (c) Thomsen Photography

Hinter SecurITe stehen zwei Akteure, die sich ergänzen: Nedbal, der zwölf Jahre im Silicon Valley Cybersecurity gebaut hat, und Stöger, Gründer und Eigentümer der österreichischen Health-IT-Gruppe x-tention. Das Startup ist aus dieser Partnerschaft entstanden – x-tention brachte den Zugang zum Gesundheitsmarkt und das Problemverständnis ein, Nedbal die Technologie. Eine klassische Ausgründung sei es nicht; x-tention zählt heute zu den bestehenden Gesellschaftern.

Eine Begegnung im Bezirk Amstetten

Die Geschichte dahinter ist die zweier Welten, die im Mostviertel zusammenfanden. Nedbals Stationen im Valley: McAfee (später von Intel übernommen), dann das eigene Startup ShieldX, das nach fünf Jahren an Fortinet verkauft wurde, wo er als VP of Engineering arbeitete. Zuletzt verantwortete er bei Google die Architektur der Cloud-Firewall. Im Zuge der Pandemie kehrte er nach Österreich zurück – ein Muster, das man damals bei einigen heimischen Tech-Talenten beobachten konnte. Dort wurde er über einen gemeinsamen Freund Stöger vorgestellt.

Manuel Nedbal – CEO SecurITe (links) und Bernhard Aigenbauer – COO SecurITe | (c) SecurITe

Dieser hatte x-tention 2001 mit sechs Mitarbeitern gegründet; heute zählt die Gruppe rund 850 Beschäftigte in Österreich, der Schweiz, Deutschland und England sowie ein Office im Silicon Valley. Tief im Bereich Gesundheits-IT verankert, deckt x-tention Datenmanagement, ELGA, Konnektivität und Managed Services ab und betreut nach eigenen Angaben mehr als 1.000 Kunden im Gesundheitswesen. Marktbedingungen, großes Problem, Marktzugang und Technologie seien „auf einmal zusammengekommen“ – Nedbal nennt es eine „Textbuchvorlage für ein Startup“. Heute verteilt sich das rund 50-köpfige Team auf Österreich, Silicon Valley und Bangalore.

Krankenhäuser als verwundbarster Punkt

Warum ausgerechnet Healthcare? Der Sektor sei von der Cybersecurity-Industrie „vergessen“ worden, argumentiert Nedbal – weil dort andere Regeln gelten. Klassische Schutzmechanismen ließen sich auf medizinischen Geräten und in klinischen Netzen nicht so einsetzen wie in der Enterprise-IT. Hinzu komme, dass während der Pandemie eine Hemmschwelle gefallen sei: Krankenhäuser würden heute ohne Schonung attackiert – rund um die Uhr.

Hier setzt das Resilienz-Argument der Gründer an: Krankenhäuser seien ein Paradebeispiel für kritische Infrastruktur, deren Absicherung längst keine rein technische Frage mehr sei, sondern eine der europäischen Souveränität. Die Sorge: Erkenntnisse über neue, KI-getriebene Angriffsmuster zirkulierten oft nur in einem begrenzten Kreis großer US-Anbieter – Krankenhaussoftware-Hersteller und europäische Institutionen seien dabei selten am Tisch. Eine eigenständige europäische Antwort, die nicht aus den USA, Israel oder China komme, sieht das Team daher als Chance. Konsequenterweise habe man auch die Finanzierung „aus Europa und für für das globale Wachstum“ gestemmt – die IP bleibe aber in Europa.

Die nächste Bedrohungsstufe sieht SecurITe in autonomen Agenten: Setzen Kliniken selbst KI-Agenten ein, könnten diese sich fehlverhalten; ein Angriff durch autonome Agenten sei zudem um ein Vielfaches gefährlicher als von einem menschlichen Akteur. Genau hier setzt das Produkt agentis360 an: Statt auf eine zentrale Instanz setzt es auf eigene Sensoren und kleine KI-Modelle, die direkt in der Infrastruktur sitzen und das Verhalten von Systemen und Agenten laufend auf Auffälligkeiten profilieren. Mit dem frischen Kapital will das Unternehmen die Produktentwicklung vorantreiben und parallel internationalen Vertrieb sowie Partnerschaften aufbauen – mit Europa als Ausgangspunkt und dem globalen Rollout für kritische Infrastruktur als nächstes Ziel.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Deepfakes und Co: EU arbeitet an Regeln für künstliche Intelligenz