Wie gefährlich sind Deepfakes? Die Technik, die es für überzeugende Deepfake-Videos braucht, wird immer besser. Brutkasten hat sich umgehört, wie die Gefahrenlage in Österreich aussieht und Startups und größere Unternehmen sich vor Betrug schützen können.

KI im Videocall

Auf den Kacheln im Video-Call sind Kolleg:innen zu sehen, die sich virtuell wöchentlich, aber noch nie in echt begegnet sind. Der Kollege aus der IT-Abteilung kündigt ein System-Update an. Damit das durchgeführt werden kann, werden die Anwesenden gebeten, das Update durch Klicken auf den Link im soeben versendeten Mail zu bestätigen. Klingt plausibel, wird gemacht. Dass es sich dabei um einen Phishing-Link handelt, stellt sich erst später heraus. So einfach können Unternehmen Opfer von Live-Deepfakes werden. 

Deepfakes machen es möglich, Gesichtszüge, Mimik und Stimme einer Person in Echtzeit zu generieren. Roland Pucher, Leiter des Cybersecurity Innovation Labs bei PwC Österreich, schätzt, man brauche von einer Person nur fünf Minuten Videomaterial und lediglich zwei Minuten Audiomaterial als Trainingsdaten für die KI. Einem schnellen, unkritischen Blick während einem Online-Meeting hält diese KI-generierte Persona für kurze Zeit stand.

Betrug ist nicht teuer

Hier sieht Pucher einen der größten Anwendungsbereiche für Deepfakes in Unternehmen. Videokonferenzen sind mittlerweile alltäglich, auch stark verpixelte Videos oder abgehackter Ton sind keine Seltenheit. Das macht es Betrüger:innen noch leichter. Pucher schätzt, dass man heute bereits mit einem Setup um knapp 10.000 Euro ein relativ überzeugendes Deepfake herstellen kann. Der erhoffte Gewinn der Betrüger:innen muss ein Vielfaches davon sein, damit sich das rentiert.

Mehr Cyberkriminalität

Durch Deepfakes eröffnen sich neue Gefahren für die Sicherheit von Unternehmen. Vor allem die konstante technische Weiterentwicklung macht es der Cybersecurity schwer. 2023 wurden laut dem Cybercrime Report des Bundesinnenministerium 65.864 Anzeigen verzeichnet. Das sind um 11 Prozent mehr als 2022 und damit setzt sich der Trend der steigenden Internetkriminalität weiter fort. 

Hier sind allerdings nur angezeigte Delikte erfasst, die Dunkelziffer in diesem Bereich dürfte weitaus höher sein. Wie es im Cybercrime Report heißt, scheuen viele Betroffene “die Anzeige bei der nächsten Polizeidienststelle, teils aus Scham, Angst vor Reputationsverlust oder weil angenommen wird, dass der Fall ohnehin nicht verfolgt werden könnte”. 

Der oben beschriebene Phising-Link-Fall könnte unter den Straftatbestand der Datenfälschung fallen. Im letzten Jahr wurde dieses Delikt 729 Mal zur Anzeige gebracht – wobei auch hier von einer weitaus größeren Dunkelziffer ausgegangen werden kann. Nur 183 der Fälle konnten bislang aufgeklärt werden. Allgemein scheint die Aufklärung die Behörden vor immer größere Probleme zu stellen: Die Aufklärungsquote hat sich im Vergleich zum vergangenen Jahr mehr als halbiert, nur in 25 Prozent der Fälle wurden die Schuldigen gefunden.

Ausgeklügelte Technik braucht es meist nicht

Sind Live-Deepfakes nun eine Bedrohung für österreichische Startups? Roland Pucher von PwC Österreich sieht die Gefahr auf jeden Fall gegeben. Mit seinem Team macht er regelmäßig Schulungen bei Unternehmen, um auf die Gefahr von Deepfakes aufmerksam zu machen. Er erkennt hier eine Lücke in der Awareness, was die Bedrohung und den aktuellen technischen Stand der Deepfakes betrifft.

Gleichzeitig weist Pucher darauf hin, dass für gängige Betrugsversuche gar keine so ausgeklügelte Technik notwendig ist. “Die gute alte Phishing-Email” genüge in den meisten Fällen, um sich Zugang in Unternehmensinterna zu beschaffen. Gerade in größeren Unternehmen sei es immer noch relativ einfach, sich zum Beispiel als Mitarbeiter:in der IT auszugeben und so an Passwörter zu gelangen. Das testen Pucher und seine Kolleg:innen regelmäßig.

Für Unternehmen bedeuten diese neuen Gefahren vor allem eines: Sicherheitsschulungen sollten um die Themen Audio und Video erweitert werden. Cyber-Kompetenz muss ausgebaut werden, Sicherheitslücken geschlossen werden. Das wird auch im Cybercrime Report des Innenministeriums als zentrale Aufgabe von Unternehmen gesehen.

Tricks gegen Deepfakes

Was sind nun also Maßnahmen, die Unternehmen setzen können? Bei E-Mails von unbekannten Absender:innen seien viele von uns bereits darauf trainiert, skeptisch zu sein, glaubt Roland Pucher. Dieselbe Skepsis brauche es aber bei allen Kommunikationsformen. Lieber einmal zu oft eine Info gegenchecken, als auf einen Betrug hereinfallen. Sollte es doch einmal dazu kommen, sollte unbedingt eine Anzeige erstattet werden. Cybercrime kann übrigens bei jeder Polizeidienststelle gemeldet werden.

Ein einfacher Trick, um zum Beispiel Live-Deepfakes von Gesichtern schnell zu erkennen ähnelt übrigens einer Alkoholkontrolle: Den Finger auf die Nase halten. Damit wird das Bild unterbrochen und ein Deepfake könnte als solches enttarnt werden. Und sollte die Person doch echt sein, hat man auf diesem Weg zumindest ein Meeting aufgelockert.