21.09.2023

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

Die von Digitalisierungs-Staatssekretär Florian Tursky angekündigte Behörde für künstliche Intelligenz (KI) soll zunächst als Servicestelle für Unternehmen starten. Die Präsentation der neuen österreichischen KI-Strategie ist für das erste Halbjahr 2024 geplant.
/artikel/ki-behoerde-ki-strategie
Staatssekretär Florian Tursky
Staatssekretär Florian Tursky | Foto: BMF

Schon länger macht die heimische KI-Community Druck auf die Politik, Maßnahmen zu ergreifen, um Österreich als KI-Standort attraktiv zu machen. Am Donnerstag gab Digitalisierungs-Staatssekretär Florian Tursky (ÖVP) gemeinsam mit den Nationalratsabgeordneten Eva-Maria Himmelbauer (ÖVP) und Süleyman Zorba (Grüne) ein Update zu von der Bundesregierung geplanten Maßnahmen in dem Bereich. Dabei ging es auch um die schon länger angekündigte geplante KI-Behörde – und um die KI-Strategie der Bundesregierung, deren Aktualisierung ebenfalls schon eine Zeit lang angekündigt ist.

Vorerst Servicestelle, später KI-Behörde

Zur KI-Behörde sagte Tursky nun, dass noch in diesem Jahr eine KI-Servicestelle für Unternehmen kommen soll. Dabei handelt es sich aber noch nicht um die eigentlich angedachte Behörde, wie der Staatssekretär auf brutkasten-Nachfrage klarstellte: Die KI-Servicestelle sei jetzt festgelegt – und ebenso sei festgelegt, dass eine KI-Behörde noch komme. Diese soll dann erst mit dem auf EU-Ebene geplanten, aber noch nicht beschlossenen, AI Act umgesetzt werden.

“Ob das die gleiche Institution sein wird, ob das ineinander übergeht – das lässt aktuell das Paket noch offen, weil es hier im Zuge der KI-Strategie eine klare Vorgehensweise geben soll”, sagte Tursky. Bei Inkrafttreten des AI Acts werde die Behörde aber jedenfalls bestehen. Die Behörde solle sich dann um “Zertifizierung und Marktüberwachung” kümmern.

Die für dieses Jahr angekündigte Servicestelle wiederum soll die österreichische Wirtschaft auf die Umsetzung des besagten AI Acts vorbereiten – insbesondere Klein- und Mittelunternehmen. “Wenn wir eines aus der Datenschutzgrundverordnung (DSGVO) gelernt haben, dann, dass große multinationale Konzerne mit solchen Regulierungen gut umgehen können, aber gerade für kleine und mittlere Unternehmen können sie Hemnisse sein”, sagte Tursky bei der Präsentation der Maßnahmen am Donnerstag.

Neue KI-Strategie soll im ersten Halbjahr 2024 kommen

Auch zur Aktualisierung der österreichischen KI-Strategie äußerte sich Tursky. Die ursprüngliche KI-Strategie war im Sommer 2021 präsentiert worden – damals unter scharfer Kritik aus der heimischen KI-Szene (brutkasten berichtete). Dass die Strategie überarbeitet werden soll, ist schon länger bekannt.

Am Donnerstag nannte Tursky einen Zeitraum, in dem die Präsentation der neuen Strategie erfolgen soll – und zwar das erste Halbjahr 2024. “Österreich wird ganz sicher noch in dieser Legislaturperiode eine neue KI-Strategie bekommen”, sagt der Staatssekretär. Die Legislaturperiode läuft regulär bis Herbst 2024 – würde die Strategie also nicht im ersten Halbjahr 2024 kommen, könnte sie realistischerweise erst wieder von einer neuen Regierung ausgearbeitet werden.

“Die KI-Strategie ist im Sommer 2021 geschrieben worden, seit dem hat sich viel getan, gerade bei der künstlichen Intelligenz: Generative KI-Lösungen sind auf den Markt getreten und es wird notwendig, dass wir unsere Strategien daran anpassen”, begründete Tursky die Aktualisierung. Diese soll gemeinsam mit dem Klima-Ministerium erfolgen. Aktuell würden in allen Ressorts im Rahmen des im Vorjahr gestarteten AI Policy Forums Schritte gesetzt. Die Strategie soll die Bereiche Forschung, Wissenschaft und Wirtschaft beinhalten.

Aufstellung von Rechenkapazitäten “natürlich auch Teil der KI-Strategie”

Auf die Frage, ob mit der neuen KI-Strategie auch neue finanzielle Mittel für den Bereich vorgesehen seien, verwies Tursky auf die Supercomputer-Initiative der EU: “Bei der KI-Grundlagenforschung benötige ich neue Instrumente, weil das Rechenkapazitäten betrifft. Das ist jetzt nicht direkt mein Aufgabengebiet, aber ich bin dazu im engen Kontakt mit der Europäischen Union, was den Aufbau von europäischen Rechenkapazitäten betrifft, die sogenannte Supercomputer-Initiative der Europäischen Union, die auch letzte Woche von Ursula von der Leyen angekündigt wurde, und bei der wir uns ansehen, wie wir für die Forschung und für Startups diese Rechenkapazitäten, um die es im Kern bei der KI-Grundlagenforschung geht, aufstellen. Das wird natürlich auch Teil der KI-Strategie sein”, sagte der Staatssekretär.

Kennzeichnungspflicht für KI-Inhalte soll noch vor Inkrafttreten von AI Act kommen

Neben der KI-Behörde und der Aktualisierung der KI-Strategie präsentierten der Staatssekretär und die beiden Abgeordneten noch drei weitere Maßnahmen: Es soll eine Kennzeichnungspflicht für KI-Lösungen kommen – eine solche ist im AI Act der EU für bestimmte Risikogruppen von KI-Anwendungen vorgesehen. “Diese Kennzeichungspflicht werden wir bereits vor Inkrafttreten des AI Acts in Österreich einführen”, kündigte Tursky an.

Dazu müsse nur feststehen, wie die Kennzeichnungspflicht im AI Act aussehe – und dies wisse man bis Ende des Jahres. In der öffentlichen Verwaltungen sollten mögliche eingesetze KI-Lösungen noch in diesem Jahr gekennzeichnet werden.

KI-Monitor und KI-Inhalte für “digitale Kompetenzoffensive”

Daneben kündigte der Staatssekretär einen sogenannten KI-Monitor an, mit dem die Regierung die Auswirkungen von KI auf “Gesellschaft, Unternehmen und Verbraucher” untersuchen will. Auf Basis dieser Untersuchungen sollen dann zukünftige Maßnahmen abgeleitet werden.

Als weitere Maßnahme nannte Tursky KI-Kompentenzen für die Bevölkerung. Konkret bezieht er sich dabei auf die im Vorjahr gestartete “digitale Kompetenzoffensive”. Im Rahmen dieser würden im laufenden Jahr 800 Workshops umgesetzt. Im Folgejahr sollen es 3.500 sein. Diese Workshops sind nicht KI-spezifisch, allerdings habe man “in allen Bereichen das Thema künstliche Intelligenz angehängt”.

Deine ungelesenen Artikel:
26.06.2024

Deepfakes als Gefahr für Startups?

Deepfakes werden schneller, günstiger und weiter verbreitet. Welche Gefahren entstehen aus dieser Technik für Startups und welche Maßnahmen können gesetzt werden?
/artikel/deepfakes-als-gefahr-fuer-startups
26.06.2024

Deepfakes als Gefahr für Startups?

Deepfakes werden schneller, günstiger und weiter verbreitet. Welche Gefahren entstehen aus dieser Technik für Startups und welche Maßnahmen können gesetzt werden?
/artikel/deepfakes-als-gefahr-fuer-startups
Computerbildschirm zeigt auf der linken Seite des Bildschirms das Gesicht eines Mannes mit einer Mütze zu sehen, auf das ein geometrisches Netz projiziert ist. Rechts im Bild ist ein unscharfer Ausschnitt einer anderen Person zu erkennen.
(c) Adobe Stock (c) terovesalainen

Wie gefährlich sind Deepfakes? Die Technik, die es für überzeugende Deepfake-Videos braucht, wird immer besser. Brutkasten hat sich umgehört, wie die Gefahrenlage in Österreich aussieht und Startups und größere Unternehmen sich vor Betrug schützen können.

KI im Videocall

Auf den Kacheln im Video-Call sind Kolleg:innen zu sehen, die sich virtuell wöchentlich, aber noch nie in echt begegnet sind. Der Kollege aus der IT-Abteilung kündigt ein System-Update an. Damit das durchgeführt werden kann, werden die Anwesenden gebeten, das Update durch Klicken auf den Link im soeben versendeten Mail zu bestätigen. Klingt plausibel, wird gemacht. Dass es sich dabei um einen Phishing-Link handelt, stellt sich erst später heraus. So einfach können Unternehmen Opfer von Live-Deepfakes werden. 

Deepfakes machen es möglich, Gesichtszüge, Mimik und Stimme einer Person in Echtzeit zu generieren. Roland Pucher, Leiter des Cybersecurity Innovation Labs bei PwC Österreich, schätzt, man brauche von einer Person nur fünf Minuten Videomaterial und lediglich zwei Minuten Audiomaterial als Trainingsdaten für die KI. Einem schnellen, unkritischen Blick während einem Online-Meeting hält diese KI-generierte Persona für kurze Zeit stand.

Betrug ist nicht teuer

Hier sieht Pucher einen der größten Anwendungsbereiche für Deepfakes in Unternehmen. Videokonferenzen sind mittlerweile alltäglich, auch stark verpixelte Videos oder abgehackter Ton sind keine Seltenheit. Das macht es Betrüger:innen noch leichter. Pucher schätzt, dass man heute bereits mit einem Setup um knapp 10.000 Euro ein relativ überzeugendes Deepfake herstellen kann. Der erhoffte Gewinn der Betrüger:innen muss ein Vielfaches davon sein, damit sich das rentiert.

Mehr Cyberkriminalität

Durch Deepfakes eröffnen sich neue Gefahren für die Sicherheit von Unternehmen. Vor allem die konstante technische Weiterentwicklung macht es der Cybersecurity schwer. 2023 wurden laut dem Cybercrime Report des Bundesinnenministerium 65.864 Anzeigen verzeichnet. Das sind um 11 Prozent mehr als 2022 und damit setzt sich der Trend der steigenden Internetkriminalität weiter fort. 

asdf
© brutkasten I Daten Cybercrime Report 2023 BMI

Hier sind allerdings nur angezeigte Delikte erfasst, die Dunkelziffer in diesem Bereich dürfte weitaus höher sein. Wie es im Cybercrime Report heißt, scheuen viele Betroffene “die Anzeige bei der nächsten Polizeidienststelle, teils aus Scham, Angst vor Reputationsverlust oder weil angenommen wird, dass der Fall ohnehin nicht verfolgt werden könnte”. 

Der oben beschriebene Phishing-Link-Fall könnte unter den Straftatbestand der Datenfälschung fallen. Im letzten Jahr wurde dieses Delikt 729 Mal zur Anzeige gebracht – wobei auch hier von einer weitaus größeren Dunkelziffer ausgegangen werden kann. Nur 183 der Fälle konnten bislang aufgeklärt werden. Allgemein scheint die Aufklärung die Behörden vor immer größere Probleme zu stellen: Die Aufklärungsquote hat sich im Vergleich zum vergangenen Jahr mehr als halbiert, nur in 25 Prozent der Fälle wurden die Schuldigen gefunden.

Ausgeklügelte Technik braucht es meist nicht

Sind Live-Deepfakes nun eine Bedrohung für österreichische Startups? Roland Pucher von PwC Österreich sieht die Gefahr auf jeden Fall gegeben. Mit seinem Team macht er regelmäßig Schulungen bei Unternehmen, um auf die Gefahr von Deepfakes aufmerksam zu machen. Er erkennt hier eine Lücke in der Awareness, was die Bedrohung und den aktuellen technischen Stand der Deepfakes betrifft.

Gleichzeitig weist Pucher darauf hin, dass für gängige Betrugsversuche gar keine so ausgeklügelte Technik notwendig ist. “Die gute alte Phishing-Email” genüge in den meisten Fällen, um sich Zugang in Unternehmensinterna zu beschaffen. Gerade in größeren Unternehmen sei es immer noch relativ einfach, sich zum Beispiel als Mitarbeiter:in der IT auszugeben und so an Passwörter zu gelangen. Das testen Pucher und seine Kolleg:innen regelmäßig.

Für Unternehmen bedeuten diese neuen Gefahren vor allem eines: Sicherheitsschulungen sollten um die Themen Audio und Video erweitert werden. Cyber-Kompetenz muss ausgebaut werden, Sicherheitslücken geschlossen werden. Das wird auch im Cybercrime Report des Innenministeriums als zentrale Aufgabe von Unternehmen gesehen.

Tricks gegen Deepfakes

Was sind nun also Maßnahmen, die Unternehmen setzen können? Bei E-Mails von unbekannten Absender:innen seien viele von uns bereits darauf trainiert, skeptisch zu sein, glaubt Roland Pucher. Dieselbe Skepsis brauche es aber bei allen Kommunikationsformen. Lieber einmal zu oft eine Info gegenchecken, als auf einen Betrug hereinfallen. Sollte es doch einmal dazu kommen, sollte unbedingt eine Anzeige erstattet werden. Cybercrime kann übrigens bei jeder Polizeidienststelle gemeldet werden.

Ein einfacher Trick, um zum Beispiel Live-Deepfakes von Gesichtern schnell zu erkennen ähnelt übrigens einer Alkoholkontrolle: Den Finger auf die Nase halten. Damit wird das Bild unterbrochen und ein Deepfake könnte als solches enttarnt werden. Und sollte die Person doch echt sein, hat man auf diesem Weg zumindest ein Meeting aufgelockert. 

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Behörde kommt vorerst als Servicestelle, neue KI-Strategie für 2024 angekündigt