30.06.2022

Experten klären auf: So erkennt man Deepfake-Videos

Nach einer Serie von Fake-Videocalls mit dem angeblichen Bürgermeister von Kiew - Vitali Klitschko - sind nun viele europäische Behörden beunruhigt über weitere Troll-Anrufe. Die AI-Experten Clemens Wasner und Mic Hirschbrich klären auf, woran Deepfake-Videos zu erkennen sind.
/artikel/so-kann-man-deepfake-videos-erkennen
AI-Experten Mic Hirschbrich und Clemens Wasner. (c) Mic Hirschbrich und enliteAI
AI-Experten Mic Hirschbrich und Clemens Wasner. (c) Mic Hirschbrich und enliteAI

Von Madrid über Wien bis hin zu Warschau, mehrere europäische Stadtchefs wurden letzte Woche Opfer von Fake-Videocalls mit dem angeblichen Amtskollegen, Vitali Klitschko. Darunter auch der Bürgermeister von Wien, Michael Ludwig. Während anfangs noch Gerüchte um den potentiellen Einsatz von Deepfake in den Medien kursierten, bekannte sich mittlerweile ein russisches Komiker-Duo, Wladimir Kusnezow und Alexej Stoljarow, das unter dem Künstlernamen “Wowan und Lexus” arbeitet, zu den Fake-Anrufen. Gegenüber dem ARD-Politikmagazin Kontraste sagten die Komiker, dass keine künstliche Intelligenz eingesetzt wurde. “Ich will nicht verraten, wie wir es angestellt haben, aber es war leicht”, so Wowan und Lexus im Telefonat mit Kontraste.

Auch wenn die Fake-Anrufe mit Michael Ludwig, Franziska Giffey und Co sich nicht als Deepfake erwiesen haben, wächst nun das Misstrauen der Behörden gegenüber Videocalls. Das Thema sowie das Risiko rund um Deepfake-Anrufe bleibt also dennoch relevant.  Die brutkasten-Redaktion hat sich bei zwei AI- und Digitalisierungs-Experten – Clemens Wasner (enliteAI-CEO und Co-Founder von AI Austria) und Mic Hirschbrich (Co-Founder von Apollo.ai) – erkundigt, wie man sich vor Deepfake-Anrufen schützen und diese identifizieren kann. 

In den letzten Tagen füllten viele Gerüchte rund um Deepfakes und künstlicher Intelligenz das Internet. Es wurde viel spekuliert, ohne über ausreichendes Grundwissen über das Thema zu verfügen. Was bedeutet Deepfake und was ist Deepfake Live tatsächlich? 

Clemens Wasner: Als „Deepfake“ wird die zugrundeliegende Technologie bezeichnet, bei der ein künstliches neuronales Netz (Deep Neural Network) zunächst mit Bilddaten der nachzuahmenden Person trainiert wird. Wer sich dazu genauer einlesen will, kann nach dem Begriff “Generative Adversarial Network (GANs)” suchen. Bei “Deepface Live” handelt es sich um ein als Open Source verfügbares Tool, mit dem Face Swappings – mit vorgefertigten synthetischen Gesichtern – durchgeführt werden können. Darüber hinaus ist es auch möglich, eigene Gesichter – im aktuellen Beispiel das Gesicht von Vitali Klitschko – zu trainieren. Um dies aber in ausreichend hoher Qualität hinzubekommen, ist ein großer Aufwand zu betreiben – die Anleitung hierfür hat 100 Schritte.

Wie gut sind diese Technologien? 

Mic Hirschbrich: Technisch hat Deepfake in der Vergangenheit immer dann besonders gut funktioniert, wenn es Referenz-Doubles gab, die dem Original sehr ähnlich sahen. Ich erinnere mich an den berühmten Tom Cruise Deep Fake. Der Schauspieler hat schon ohne KI-Einsatz eine sehr große Ähnlichkeit.  Dennoch ist das live besonders anspruchsvoll. Bei „Live Deep Fake“ von bekannten Prominenten und so langer Interaktion waren bislang Fehler meist sichtbar und erkennbar. 

Ist es möglich, Deepfake in Gesprächen zu erkennen? Wenn ja, wie ?

Clemens Wasner: Da wäre zunächst die Qualität des Fake-Gesichtes zu beachten. Oft verfügen Deepfake-Gesichter über weniger Details als das Ausgangsbild – wie weniger Falten oder Gesichtsbehaarung. Diese sind im Livestream natürlich nur sehr schwer zu erkennen, da man parallel dazu keinen Vergleich mit dem Original durchführen kann. Was aber sehr wohl auffallen kann, sind unterschiedliche Pigmentierungen von Gesicht und Körper, wie es bei den ersten Zelensky-Fakes im Februar der Fall war. 

Ein weiteres potentielles Erkennungsmerkmal sind der Mund und die Mundbewegung während des Sprechens. Deepfakes wirken hier oft unnatürlich, da sich die Lippen entweder zu wenig bewegen – ähnlich den Lippen nachdem man eine Spritze beim Zahnarzt bekommen hat – oder sich zu sehr biegen. Neben der eigentlichen Qualität des Gesichtes gibt es aber auch noch Videostream-spezifische Merkmale wie Bildrate, Auflösung und Beleuchtung, die darüber Aufschluss geben können, ob am Bild manipuliert wurde.

Wie kann ich mich vor Deepfake schützen?

Clemens Wasner: Als Gesellschaft müssen wir zunächst bei unserer Medienkompetenz ansetzen, um die Sensibilisierung gegenüber Falschinformationen zu erhöhen. Darüber hinaus werden Medien Anstrengungen unternehmen müssen, um sicherzugehen, dass sie keine Deepfakes verbreiten. Als wahrscheinlichstes Szenario erscheint mir dabei, dass sie entlang der Redaktionsarbeit Tools verwenden können (ähnlich dem MS Tool), welche Fakten- und Deepfake-Checks durchführen. Um hier immer am Laufenden zu bleiben, wäre wie im Cyber-Security-Bereich ein Zertifizierungssystem denkbar, dass den Stand der verwendeten Software sicherstellt und am Laufenden hält.

Mic Hirschbrich: Mit Medienkompetenz, Filtern und ordentlichen Protokollen. Bei der weitaus größeren Plage – den Fake-News – haben wir gelernt, dass für die große Zahl der Falschnachrichten sich nur sehr wenige Quellen verantwortlich zeichnen. Beim US Wahlkampf hat man mit der Sperre einer Handvoll Accounts – fast 90% aller Wahl-Falschnachrichten verhindern können. Da Deep-fake technisch aufwendiger ist, ist die Quellenzahl nochmal deutlich geringer. Man sollte diese Troll-Fabriken aussperren und nicht immer gleich eine Technologie-Debatte lostreten. Das Problem sind die (wenigen) Trolle, die große (staatliche) Mittel zur Verfügung haben. 

Gibt es dazu schon bestehende Lösungen oder sind diese noch in der Entwicklungsphase? 

Clemens Wasner: Auf technologischer Seite wird auf jeden Fall intensiv an Lösungen gearbeitet. So haben die großen IT Konzerne bereits vor drei Jahren damit begonnen, sehr große Datensätze an Deepfakes freizugeben, damit Forscher:innen und Startups Algorithmen für die Erkennung dieser entwickeln können. Die jetzige Deepfake-Welle wird zu einer Beschleunigung dieser Bemühungen führen und es ist nur noch eine Frage der Zeit, bis gängige Videokonferenz-Tools Deepfake-Detektoren anbieten werden.

Mic Hirschbrich: Wie beim Spam-Schutz, werden wir Deepfake-Filter selbstverständlich einsetzen. Jedoch wird es natürlich zu größeren Vorfällen kommen, vor allem in den ersten Phasen. Die Frage ist da viel mehr, wie bringen wir diese Filter-Erkennungs-Technologie an verschiedene Nutzer:innen in der Politik, den Medien und der Wirtschaft.  Der Klitschko-Skandal hätte einfach durch saubere Protokolle verhindert werden können. So etwas sollte nicht passieren. 

Deine ungelesenen Artikel:
29.06.2026

Holle: „Die große Aufgabe ist, in die richtigen Runden reinzukommen“

Ein Wandel der gesamten VC-Branche, ein Strategiewechsel bei Speedinvest, das IPO-Window und "lächerliche" EU-Politik - im brutkasten Talk sprachen wir mit Speedinvest-Gründer Oliver Holle über die aktuell großen Themen.
/artikel/holle-die-grosse-aufgabe-ist-in-die-richtigen-runden-reinzukommen
29.06.2026

Holle: „Die große Aufgabe ist, in die richtigen Runden reinzukommen“

Ein Wandel der gesamten VC-Branche, ein Strategiewechsel bei Speedinvest, das IPO-Window und "lächerliche" EU-Politik - im brutkasten Talk sprachen wir mit Speedinvest-Gründer Oliver Holle über die aktuell großen Themen.
/artikel/holle-die-grosse-aufgabe-ist-in-die-richtigen-runden-reinzukommen
Speedinvest-CEO Oliver Holle | (c) brutkasten / Haris Dervisevic
Speedinvest-CEO Oliver Holle | (c) brutkasten / Haris Dervisevic

Der KI-Boom der vergangenen Jahre hält nicht nur an. Zumindest was den Bereich Risikokapital angeht, erreichte er zuletzt seinen bisherigen Höhepunkt: OpenAI sicherte sich eine 12-, Anthropic und mehrere weitere US-AI-Unternehmen 11-stellige Investments. Nach SpaceX stehen weitere gigantische Börsengänge bevor, während die Marktkonsolidierung durch die Übernahme kleinerer KI-Startups voranschreitet.

Geht es nach Oliver Holle, Co-Founder, CEO und Managing Partner von Speedinvest, befindet sich die Welt in Sachen KI überhaupt erst am Anfang eines „Super Cycles“. „Artificial Intelligence ist eine immer noch unterschätzte Drehbewegung, die die ganze Branche umorientiert, auch die Venture-Branche“, sagt er im brutkasten-Talk.

„Brutaler und härter und natürlich auch viel, viel kompetitiver“

Auf deutlich niedrigerem Niveau und doch spürbar zeigen sich diese Entwicklungen auch in Europa und in Österreich. Auch getrieben durch KI stiegen die Investment-Volumina hierzulande zuletzt wieder stark an und Startup-Börsengänge sind aktuell wieder ein Thema. Was bedeutet das für den – Early-Stage-getriebenen – heimischen Venture-Capital-Sektor?

„Das Venture-Geschäft wird brutaler und härter und natürlich auch viel, viel kompetitiver“, sagt Holle. Und etwas salopper: „Die letzten paar Wochen waren crazy! Ich habe das so noch nie erlebt.“ Denn auch der Wiener VC sorgte in den vergangenen Wochen und Monaten für jede Menge Schlagzeilen. Im März berichtete brutkasten etwa von einem Stellenabbau, zuletzt dann von den großen KI-Exit-Deals für das Linzer Startup Emmi AI an Mistral und das Kieler (Deutschland) Startup Ona an OpenAI, bei denen Speedinvest jeweils Leadinvestor war.

Zur genannten Stellenkürzung sagt Holle: „Man darf das auch nicht überbewerten. Wir haben sechs Leute abgebaut, aber wir müssen auch die Speedinvest umbauen.“ Es sei ein „Aufstellen für die nächsten fünf Jahre, die sicher ganz, ganz anders sein werden als die letzten fünfzehn.“ Dabei setze man auch innerhalb der Organisation massiv auf KI. „Und wir müssen uns letztlich auch international so aufstellen, dass wir bei den allerbesten Deals gewinnen.“

„Wir sind alle inzwischen zu Hustlern geworden“

Denn die Top-Startups könnten sich aussuchen, wen sie als Investor hereinholen und würden sich oft für die großen US-Player entscheiden. Die Arbeit als VC bestehe mittlerweile nicht mehr primär im Screenen und Ausselektieren von Startups. „Die wirklich große Aufgabe ist, in die richtigen Runden reinzukommen“, so Holle. Hierbei gehe es um Teams, die einen entsprechenden Track Record hätten. „Wir sind alle inzwischen zu Hustlern geworden, aber weniger im Sinne von Geld eintreiben als im Sinne von Geld ausgeben.“ Und dabei investiere man mittlerweile wieder in Startups, die noch nicht einmal gegründet seien – „zu Bewertungen, die deutlich über dem liegen, was wir 2020 und 2021 gesehen haben“.

Oliver Holle im brutkasten-Studio | (c) brutkasten /Haris Dervisevic

Mit der neuen Arbeitsweise geht bei Speedinvest auch eine Anpassung der Strategie einher. Österreichische Startups spielen im Portfolio eine zunehmend geringere Rolle. Und: „Wir haben immer noch 90 Prozent des Fokus von Speedinvest in Europa, haben aber inzwischen eine kleine Unit für Middle East und Afrika aufgebaut – da sind wir mittlerweile einer der führenden Investoren“, so Holle.

Neuer Blick auf die Spätphase

Die Strategie-Frage ist aber keine rein geografische. Speedinvest entwickelt sich zunehmend in den Later-Stage-Bereich. Dabei soll die Aktivität in der Frühphase freilich nicht zurückgefahren werden. „Die einzige Chance, nachhaltig einen Growth Fund in Europa zu etablieren, ist Multistage. Das heißt, du fängst eigentlich in der Frühphase an, holst dir dadurch Zugang und baust dann aus dem heraus einen Growth Fund auf“, erklärt Holle.

Ambivalent steht er auch dem geplanten österreichischen Dachfonds gegenüber, der die Lage eben jener Spätphasen-Finanzierung verbessern soll. „Der Dachfonds ist eine gute Sache, er ist vernünftig und wird vor allem die Venture-Branche in Österreich stärken“, meint der Speedinvest-Chef. Aber: „Bis dieses Geld in Anschlussfinanzierungen sich durchdekliniert, werden noch einige Jahre ins Land ziehen und das wird jetzt keinen unmittelbaren Impact haben.“

Warum Speedinvest beim OpenAI-Exit profitieren wird

Sehrwohl unmittelbare Auswirkungen hat für Holle dagegen der aktuelle internationale Boom von Börsengängen, also das offene „IPO Window“. „Börsengänge von SpaceX, von OpenAI, von Anthropic werden enorm viel Kapital zurückspielen und das ist ein Trickle-Down-Effekt.“ Die vor allem US-amerikanischen institutionellen Investoren, die als Limited Partners (LPs) hinter den großen VC-Fonds stehen, hätten nämlich in den vergangenen sechs bis acht Jahren „extrem darunter gelitten, dass zu wenig Rückflüsse gekommen sind“, so der Speedinvest-Gründer. „Deswegen haben sie auch nicht neu investiert.“

Die aktuelle Welle an Börsengängen mache LPs weltweit also „wieder flüssig“. Und auch Speedinvest selbst werde etwa vom geplanten IPO des US-KI-Giganten OpenAI direkt profitieren. „Wir sind über den Ona-Exit nun auch bei OpenAI investiert“, erklärt Holle. Denn der nicht konkret bezifferte Kaufpreis – es soll sich um einen der größten Exits der vergangenen Jahre in Deutschland handeln – wurde teilweise in Unternehmensanteilen bezahlt. Letztlich gelte: „Wir brauchen Exits, die uns nicht fünfmal oder zehnmal, sondern hundertmal das Kapital zurückspielen, sonst funktioniert Venture nicht. Und das ist ja genau das, was jetzt passiert.“

Liquidation Preference: „Wirklich übrig bleiben dann eigentlich die Frühphaseninvestoren“

Denn bei den nicht so großen Exits gehen nicht nur Gründer:innen, sondern auch Frühphasen-Investoren immer wieder leer aus. Der Grund, der zuletzt in der heimischen Startup-Szene mitunter emotional diskutiert wird: die „Liquidation Preference“. Diese regelt, vereinfacht erklärt, vertraglich eine Mindestsumme, die bei einem Exit an VC-Investoren ausbezahlt wird, bevor die Gründer:innen an der Reihe sind. Wird hier etwa ein „Multiple“ von 3x vereinbart, bekommt der VC jedenfalls das Dreifache der investierten Summe (wenn die Exit-Summe überhaupt groß genug ist), bevor weiteres Geld verteilt wird. Über eine weitere Regelung – „non-participating“ vs. „participating“ werden zudem mögliche zusätzliche anteilige Auszahlungen neben dem genannten „Multiple“ definiert.

Wie handhabt das Speedinvest? „Es gibt in der Frühphasen-Venture-Branche inzwischen seit Jahren völlig klare Standards: 1x Liquidation Preference, einmalig, non-participating. Das ist für die Gründer extrem harmlos“, sagt Holle. Umgekehrt sei man aber durchaus von den Liquidation Preferences von Later-Stage-VCs betroffen. „Wir sind hier die engsten Verbündeten der Gründer, weil wir in der Liquidation Preference, genau wie sie, ganz unten sitzen.“ Als Beispiel nennt Holle das Investment in das E-Scooter-Startup Tier, bei dem nach zunächst sehr hoher Firmenbewertung eine Wertberichtigung gefolgt sei. „Wir haben das schon lange auf null abgeschrieben und die Gründer auch. Wir werden da kein Geld herausbekommen, auch wenn die Firma für 700 Millionen Euro verkauft wird“, so der Speedinvest-Chef.

Und er fügt an: „Es gibt aber einen großen Vorteil für Gründer: Wenn sie noch an Bord sind in einer CEO- oder Executive-Rolle, haben sie immer die Möglichkeit, sich einen Side-Deal herauszuverhandeln, und das machen sie auch alle. Wirklich übrig bleiben dann eigentlich die Frühphaseninvestoren oder die Mitarbeiter, die nicht mehr an Bord sind.“

„Das als 28th Regime zu verkaufen, ist einfach peinlich“

Deutlich äußert sich Holle auch zum Thema EU Inc. Er ist immer wieder öffentlich als Fürsprecher der gleichnamigen Inititative aufgetreten. Der daraufhin entstandene EU-Entwurf für eine paneuropäische Gesellschaftsform für Startups wird in der Szene aber bekanntlich dafür kritisiert, den Anspruch eines 28th Regime (neben den Rechtsrahmen der 27 Mitgliedstaaten) nicht zu erfüllen. „Wir sind immer noch in einer Situation, wo man glaubt, man kann sich durchschummeln“, sagt Holle. Es sei kein Problem der EU, sondern eines der Nationalstaaten, auf die es Druck auszuüben gelte. „Die Idee, hier ein Routing auf die einzelnen nationalen Lösungen hübsch als 28th Regime zu verkaufen, ist einfach peinlich und nicht adäquat für die Drucksituation, unter der Europa steht.“

Es gelte nun auch, schnell massive Mengen an Kapital in den europäischen Risikokapitalsektor „umzudirigieren“ – „und wenn wir das nicht tun, dann wird das für die europäische Gesellschaft nicht gut ausgehen“, meint der Speedinvest-Chef. Dabei mache er sich keine Sorgen um die Risikokapital-Gesellschaften selbst. „In unserer kleinen Bubble wird es uns gut gehen. Aber wer profitiert davon? Da profitieren im Moment die Pensionskassen in Kalifornien oder in Kanada, aber nicht die österreichische Gesellschaft.“

Dabei gehe es nicht nur um die zuvor erwähnten Rückflüsse, sondern auch um die aktuell viel diskutierte digitale Souveränität. „Wir haben natürlich einen enormen Investitionsdruck, die gesamte Infrastruktur, die diese KI-Welle braucht, auch in Europa umzusetzen“, so Holle. Und dass die aktuelle Welle der digitalen Souveränität auch von US-Investoren finanziert werde, weil europäisches Kapital dafür fehlt, sei paradox.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Experten klären auf: So erkennt man Deepfake-Videos