Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

26.06.2024

CYBERSECURITY

Deepfakes als Gefahr für Startups?

Deepfakes werden schneller, günstiger und weiter verbreitet. Welche Gefahren entstehen aus dieser Technik für Startups und welche Maßnahmen können gesetzt werden?

/artikel/deepfakes-als-gefahr-fuer-startups

✨ AI Kontextualisierung

Wie gefährlich sind Deepfakes? Die Technik, die es für überzeugende Deepfake-Videos braucht, wird immer besser. Brutkasten hat sich umgehört, wie die Gefahrenlage in Österreich aussieht und Startups und größere Unternehmen sich vor Betrug schützen können.

KI im Videocall

Auf den Kacheln im Video-Call sind Kolleg:innen zu sehen, die sich virtuell wöchentlich, aber noch nie in echt begegnet sind. Der Kollege aus der IT-Abteilung kündigt ein System-Update an. Damit das durchgeführt werden kann, werden die Anwesenden gebeten, das Update durch Klicken auf den Link im soeben versendeten Mail zu bestätigen. Klingt plausibel, wird gemacht. Dass es sich dabei um einen Phishing-Link handelt, stellt sich erst später heraus. So einfach können Unternehmen Opfer von Live-Deepfakes werden.

Deepfakes machen es möglich, Gesichtszüge, Mimik und Stimme einer Person in Echtzeit zu generieren. Roland Pucher, Leiter des Cybersecurity Innovation Labs bei PwC Österreich, schätzt, man brauche von einer Person nur fünf Minuten Videomaterial und lediglich zwei Minuten Audiomaterial als Trainingsdaten für die KI. Einem schnellen, unkritischen Blick während einem Online-Meeting hält diese KI-generierte Persona für kurze Zeit stand.

Betrug ist nicht teuer

Hier sieht Pucher einen der größten Anwendungsbereiche für Deepfakes in Unternehmen. Videokonferenzen sind mittlerweile alltäglich, auch stark verpixelte Videos oder abgehackter Ton sind keine Seltenheit. Das macht es Betrüger:innen noch leichter. Pucher schätzt, dass man heute bereits mit einem Setup um knapp 10.000 Euro ein relativ überzeugendes Deepfake herstellen kann. Der erhoffte Gewinn der Betrüger:innen muss ein Vielfaches davon sein, damit sich das rentiert.

Mehr Cyberkriminalität

Durch Deepfakes eröffnen sich neue Gefahren für die Sicherheit von Unternehmen. Vor allem die konstante technische Weiterentwicklung macht es der Cybersecurity schwer. 2023 wurden laut dem Cybercrime Report des Bundesinnenministerium 65.864 Anzeigen verzeichnet. Das sind um 11 Prozent mehr als 2022 und damit setzt sich der Trend der steigenden Internetkriminalität weiter fort.

asdf — © brutkasten I Daten Cybercrime Report 2023 BMI

Hier sind allerdings nur angezeigte Delikte erfasst, die Dunkelziffer in diesem Bereich dürfte weitaus höher sein. Wie es im Cybercrime Report heißt, scheuen viele Betroffene “die Anzeige bei der nächsten Polizeidienststelle, teils aus Scham, Angst vor Reputationsverlust oder weil angenommen wird, dass der Fall ohnehin nicht verfolgt werden könnte”.

Der oben beschriebene Phishing-Link-Fall könnte unter den Straftatbestand der Datenfälschung fallen. Im letzten Jahr wurde dieses Delikt 729 Mal zur Anzeige gebracht – wobei auch hier von einer weitaus größeren Dunkelziffer ausgegangen werden kann. Nur 183 der Fälle konnten bislang aufgeklärt werden. Allgemein scheint die Aufklärung die Behörden vor immer größere Probleme zu stellen: Die Aufklärungsquote hat sich im Vergleich zum vergangenen Jahr mehr als halbiert, nur in 25 Prozent der Fälle wurden die Schuldigen gefunden.

Ausgeklügelte Technik braucht es meist nicht

Sind Live-Deepfakes nun eine Bedrohung für österreichische Startups? Roland Pucher von PwC Österreich sieht die Gefahr auf jeden Fall gegeben. Mit seinem Team macht er regelmäßig Schulungen bei Unternehmen, um auf die Gefahr von Deepfakes aufmerksam zu machen. Er erkennt hier eine Lücke in der Awareness, was die Bedrohung und den aktuellen technischen Stand der Deepfakes betrifft.

Gleichzeitig weist Pucher darauf hin, dass für gängige Betrugsversuche gar keine so ausgeklügelte Technik notwendig ist. “Die gute alte Phishing-Email” genüge in den meisten Fällen, um sich Zugang in Unternehmensinterna zu beschaffen. Gerade in größeren Unternehmen sei es immer noch relativ einfach, sich zum Beispiel als Mitarbeiter:in der IT auszugeben und so an Passwörter zu gelangen. Das testen Pucher und seine Kolleg:innen regelmäßig.

Für Unternehmen bedeuten diese neuen Gefahren vor allem eines: Sicherheitsschulungen sollten um die Themen Audio und Video erweitert werden. Cyber-Kompetenz muss ausgebaut werden, Sicherheitslücken geschlossen werden. Das wird auch im Cybercrime Report des Innenministeriums als zentrale Aufgabe von Unternehmen gesehen.

Tricks gegen Deepfakes

Was sind nun also Maßnahmen, die Unternehmen setzen können? Bei E-Mails von unbekannten Absender:innen seien viele von uns bereits darauf trainiert, skeptisch zu sein, glaubt Roland Pucher. Dieselbe Skepsis brauche es aber bei allen Kommunikationsformen. Lieber einmal zu oft eine Info gegenchecken, als auf einen Betrug hereinfallen. Sollte es doch einmal dazu kommen, sollte unbedingt eine Anzeige erstattet werden. Cybercrime kann übrigens bei jeder Polizeidienststelle gemeldet werden.

Ein einfacher Trick, um zum Beispiel Live-Deepfakes von Gesichtern schnell zu erkennen ähnelt übrigens einer Alkoholkontrolle: Den Finger auf die Nase halten. Damit wird das Bild unterbrochen und ein Deepfake könnte als solches enttarnt werden. Und sollte die Person doch echt sein, hat man auf diesem Weg zumindest ein Meeting aufgelockert.

Deine ungelesenen Artikel:

Timon Hausböck

14.08.2026

Para-Schwimmer Onea setzt sich für inklusive KI ein: neuer Datensatz für Unternehmen

Selbst zum Superhelden werden oder sich in eine Actionfigur verwandeln. KI macht es in Sekunden möglich, allerdings nicht für jeden. Menschen mit körperlicher Behinderung werden oftmals nicht korrekt dargestellt, unter anderem weil KI-Modelle bisher nicht genug Daten hatten. Auch Para-Schwimmer Andreas Onea ist davon betroffen. Künstliche Intelligenz sei noch nicht inklusiv genug, sagt er. Das soll sich nun ändern.

/artikel/andreas-onea-inklusive-ki-datensatz

Timon Hausböck

14.08.2026

Para-Schwimmer Onea setzt sich für inklusive KI ein: neuer Datensatz für Unternehmen

/artikel/andreas-onea-inklusive-ki-datensatz

„Wer nicht sichtbar ist, existiert nicht. Ganz einfach“, sagt Onea im brutkasten-Gespräch. Menschen mit körperlicher Behinderung lägen laut dem ORF-Moderator in der Gesellschaft unter der Wahrnehmungsgrenze, und diese Unsichtbarkeit verhindere die Teilhabe. Auch die KI trage dazu bei: Derzeit stellten KI-Modelle Menschen mit körperlicher Behinderung nicht richtig dar. Auf manchen generierten Bildern hat der Para-Schwimmer, der mit fünf Jahren seinen linken Arm verlor, einen halben Arm zu viel oder einen falsch dargestellten Stumpf. „Manche sagen vielleicht, das ist banal. Aber im Endeffekt geht es um Teilhabe. Und Teilhabe heißt, ich bin dabei“, sagt Onea. Dass Bildmodelle Behinderung verzerrt darstellen, ist auch wissenschaftlich dokumentiert. Eine im Juli veröffentlichte Untersuchung der Universität Utrecht, bislang als Preprint, zeigt, dass Text-zu-Bild-Modelle Menschen mit Behinderung etwa überwiegend als alt und weiß darstellen.

An dieser Teilhabe arbeitete einer der erfolgreichsten Para-Schwimmer Österreichs zusammen mit Microsoft und dem Prothesenhersteller Ottobock. Gemeinsam erstellten sie Trainingsmaterial, mit dem KI-Modelle lernen können. Das Ergebnis, zwei Datensätze mit jeweils rund 400 Bildern und bis zu 100 Videos, wurde für alle frei zugänglich auf der Open-Source-Plattform Hugging Face veröffentlicht. Es liegt nun an den KI-Unternehmen, sie zu nutzen. Onea hat eine eindeutige Vision für die Zukunft: „Wenn man eine Menschenmenge generiert, dann sollten da auch repräsentativ Rollstuhlfahrer, Amputierte und Blinde drinnen sein. Das wäre eben adäquate Sichtbarkeit.“

„Innovationsgeist aus Europa heraus fördern“

Das Projekt berührt die Debatte um digitale Souveränität. Laut Onea darf sich Europa nicht damit zufriedengeben, die Entwicklungen aus den USA und dem asiatischen Raum einfach nur zu regulieren. „Das darf nicht unser USP sein. Wir müssen den Innovationsgeist aus Europa heraus fördern, anstiften und ermöglichen. Ich glaube, dass wir wahnsinniges Potential haben“, sagt der Moderator. Aktuell sind US-Tech-Giganten wie Google und Microsoft federführend in der KI-Entwicklung. Von ihnen wünscht sich Onea mehr Rücksichtnahme in der Produktentwicklung. Für Menschen mit Behinderung kann es etwa schon ein Problem darstellen, eine Tastenkombination aus drei Tasten gleichzeitig zu drücken.

KI.Bilder zeigen Menschen mit Prothese oft falsch oder gar nicht | Foto: Microsoft

Die Möglichkeiten für Unternehmen

Der ORF-Moderator sieht wirtschaftliches Potential in inklusiver KI. „Wenn du deine Produkte, deine Services, deine KI-Wrapper so baust, dass sie von allen nutzbar sind, kannst du mehr Menschen damit erreichen“, erklärt er. Die Weltgesundheitsorganisation WHO schätzt die Zahl der Menschen mit erheblicher Behinderung weltweit auf 1,3 Milliarden. Gleichzeitig biete ein inklusiver Zugang zum Arbeitsmarkt auch Chancen für Unternehmen. Firmen, die auch Menschen mit Behinderung anstellen, hätten in ihren Teams laut Onea eine höhere Resilienz. „Ich muss seit meinem sechsten Lebensjahr jeden Tag Lösungen finden in einer Welt, die nicht darauf vorbereitet ist, dass ich einarmig da durchspaziere. Das heißt, ich habe eine irrsinnige Lösungsorientiertheit und Frustrationsschwelle“, sagt der 34-Jährige.

In Österreich gibt es bereits Firmen, die gezielt Menschen mit Beeinträchtigungen einstellen, etwa das Startup Responsible Annotation Services. Das Unternehmen annotiert Daten, das heißt, es fügt ihnen Informationen und Kennzeichnungen hinzu. Mit den annotierten Daten können KI-Systeme trainiert und verbessert werden. Wie der brutkasten im März des Vorjahres berichtete, besteht das Team nach eigenen Angaben großteils aus neurodivergenten Expert:innen, viele davon im Autismus-Spektrum, die außergewöhnliche Fähigkeiten in Mustererkennung, Konzentration und Konsistenz mitbringen. „Diese Menschen haben hier irrsinnige Fähigkeiten, weil sie wahnsinnig konzentriert sein können und wirklich auf die kleinsten Details Wert legen. Also solche Sachen, bei denen wir einfach im Regelspektrum die Nerven wegschmeißen“, sagt Onea.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag