Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

30.06.2022

Experten klären auf: So erkennt man Deepfake-Videos

Nach einer Serie von Fake-Videocalls mit dem angeblichen Bürgermeister von Kiew - Vitali Klitschko - sind nun viele europäische Behörden beunruhigt über weitere Troll-Anrufe. Die AI-Experten Clemens Wasner und Mic Hirschbrich klären auf, woran Deepfake-Videos zu erkennen sind.

/artikel/so-kann-man-deepfake-videos-erkennen

✨ AI Kontextualisierung

Von Madrid über Wien bis hin zu Warschau, mehrere europäische Stadtchefs wurden letzte Woche Opfer von Fake-Videocalls mit dem angeblichen Amtskollegen, Vitali Klitschko. Darunter auch der Bürgermeister von Wien, Michael Ludwig. Während anfangs noch Gerüchte um den potentiellen Einsatz von Deepfake in den Medien kursierten, bekannte sich mittlerweile ein russisches Komiker-Duo, Wladimir Kusnezow und Alexej Stoljarow, das unter dem Künstlernamen “Wowan und Lexus” arbeitet, zu den Fake-Anrufen. Gegenüber dem ARD-Politikmagazin Kontraste sagten die Komiker, dass keine künstliche Intelligenz eingesetzt wurde. “Ich will nicht verraten, wie wir es angestellt haben, aber es war leicht”, so Wowan und Lexus im Telefonat mit Kontraste.

Auch wenn die Fake-Anrufe mit Michael Ludwig, Franziska Giffey und Co sich nicht als Deepfake erwiesen haben, wächst nun das Misstrauen der Behörden gegenüber Videocalls. Das Thema sowie das Risiko rund um Deepfake-Anrufe bleibt also dennoch relevant. Die brutkasten-Redaktion hat sich bei zwei AI- und Digitalisierungs-Experten – Clemens Wasner (enliteAI-CEO und Co-Founder von AI Austria) und Mic Hirschbrich (Co-Founder von Apollo.ai) – erkundigt, wie man sich vor Deepfake-Anrufen schützen und diese identifizieren kann.

In den letzten Tagen füllten viele Gerüchte rund um Deepfakes und künstlicher Intelligenz das Internet. Es wurde viel spekuliert, ohne über ausreichendes Grundwissen über das Thema zu verfügen. Was bedeutet Deepfake und was ist Deepfake Live tatsächlich?

Clemens Wasner: Als „Deepfake“ wird die zugrundeliegende Technologie bezeichnet, bei der ein künstliches neuronales Netz (Deep Neural Network) zunächst mit Bilddaten der nachzuahmenden Person trainiert wird. Wer sich dazu genauer einlesen will, kann nach dem Begriff “Generative Adversarial Network (GANs)” suchen. Bei “Deepface Live” handelt es sich um ein als Open Source verfügbares Tool, mit dem Face Swappings – mit vorgefertigten synthetischen Gesichtern – durchgeführt werden können. Darüber hinaus ist es auch möglich, eigene Gesichter – im aktuellen Beispiel das Gesicht von Vitali Klitschko – zu trainieren. Um dies aber in ausreichend hoher Qualität hinzubekommen, ist ein großer Aufwand zu betreiben – die Anleitung hierfür hat 100 Schritte.

Wie gut sind diese Technologien?

Mic Hirschbrich: Technisch hat Deepfake in der Vergangenheit immer dann besonders gut funktioniert, wenn es Referenz-Doubles gab, die dem Original sehr ähnlich sahen. Ich erinnere mich an den berühmten Tom Cruise Deep Fake. Der Schauspieler hat schon ohne KI-Einsatz eine sehr große Ähnlichkeit. Dennoch ist das live besonders anspruchsvoll. Bei „Live Deep Fake“ von bekannten Prominenten und so langer Interaktion waren bislang Fehler meist sichtbar und erkennbar.

Ist es möglich, Deepfake in Gesprächen zu erkennen? Wenn ja, wie ?

Clemens Wasner: Da wäre zunächst die Qualität des Fake-Gesichtes zu beachten. Oft verfügen Deepfake-Gesichter über weniger Details als das Ausgangsbild – wie weniger Falten oder Gesichtsbehaarung. Diese sind im Livestream natürlich nur sehr schwer zu erkennen, da man parallel dazu keinen Vergleich mit dem Original durchführen kann. Was aber sehr wohl auffallen kann, sind unterschiedliche Pigmentierungen von Gesicht und Körper, wie es bei den ersten Zelensky-Fakes im Februar der Fall war.

Ein weiteres potentielles Erkennungsmerkmal sind der Mund und die Mundbewegung während des Sprechens. Deepfakes wirken hier oft unnatürlich, da sich die Lippen entweder zu wenig bewegen – ähnlich den Lippen nachdem man eine Spritze beim Zahnarzt bekommen hat – oder sich zu sehr biegen. Neben der eigentlichen Qualität des Gesichtes gibt es aber auch noch Videostream-spezifische Merkmale wie Bildrate, Auflösung und Beleuchtung, die darüber Aufschluss geben können, ob am Bild manipuliert wurde.

Wie kann ich mich vor Deepfake schützen?

Clemens Wasner: Als Gesellschaft müssen wir zunächst bei unserer Medienkompetenz ansetzen, um die Sensibilisierung gegenüber Falschinformationen zu erhöhen. Darüber hinaus werden Medien Anstrengungen unternehmen müssen, um sicherzugehen, dass sie keine Deepfakes verbreiten. Als wahrscheinlichstes Szenario erscheint mir dabei, dass sie entlang der Redaktionsarbeit Tools verwenden können (ähnlich dem MS Tool), welche Fakten- und Deepfake-Checks durchführen. Um hier immer am Laufenden zu bleiben, wäre wie im Cyber-Security-Bereich ein Zertifizierungssystem denkbar, dass den Stand der verwendeten Software sicherstellt und am Laufenden hält.

Mic Hirschbrich: Mit Medienkompetenz, Filtern und ordentlichen Protokollen. Bei der weitaus größeren Plage – den Fake-News – haben wir gelernt, dass für die große Zahl der Falschnachrichten sich nur sehr wenige Quellen verantwortlich zeichnen. Beim US Wahlkampf hat man mit der Sperre einer Handvoll Accounts – fast 90% aller Wahl-Falschnachrichten verhindern können. Da Deep-fake technisch aufwendiger ist, ist die Quellenzahl nochmal deutlich geringer. Man sollte diese Troll-Fabriken aussperren und nicht immer gleich eine Technologie-Debatte lostreten. Das Problem sind die (wenigen) Trolle, die große (staatliche) Mittel zur Verfügung haben.

Gibt es dazu schon bestehende Lösungen oder sind diese noch in der Entwicklungsphase?

Clemens Wasner: Auf technologischer Seite wird auf jeden Fall intensiv an Lösungen gearbeitet. So haben die großen IT Konzerne bereits vor drei Jahren damit begonnen, sehr große Datensätze an Deepfakes freizugeben, damit Forscher:innen und Startups Algorithmen für die Erkennung dieser entwickeln können. Die jetzige Deepfake-Welle wird zu einer Beschleunigung dieser Bemühungen führen und es ist nur noch eine Frage der Zeit, bis gängige Videokonferenz-Tools Deepfake-Detektoren anbieten werden.

Mic Hirschbrich: Wie beim Spam-Schutz, werden wir Deepfake-Filter selbstverständlich einsetzen. Jedoch wird es natürlich zu größeren Vorfällen kommen, vor allem in den ersten Phasen. Die Frage ist da viel mehr, wie bringen wir diese Filter-Erkennungs-Technologie an verschiedene Nutzer:innen in der Politik, den Medien und der Wirtschaft. Der Klitschko-Skandal hätte einfach durch saubere Protokolle verhindert werden können. So etwas sollte nicht passieren.

Linktippzur Website von enlite.ai

LinktippZur Website von Apollo.ai

Deine ungelesenen Artikel:

Momcilo Nikolic

25.09.2026

Dreifacher Wiener Schulabbrecher forscht in Harvard an virtuellen KI-Fischen

Drei Mal brach Raphael Suchomel die Schule ab, bevor sich sein Weg plötzlich in eine ganz andere Richtung entwickelte. Heute sitzt der 27-jährige Wiener in Harvard und lässt virtuelle Fische lernen – auf der Suche nach Antworten darauf, was Künstliche Intelligenz von der Natur erfassen kann.

/artikel/dreifacher-wiener-schulabbrecher-forscht-in-harvard-an-virtuellen-ki-fischen

Momcilo Nikolic

25.09.2026

Dreifacher Wiener Schulabbrecher forscht in Harvard an virtuellen KI-Fischen

/artikel/dreifacher-wiener-schulabbrecher-forscht-in-harvard-an-virtuellen-ki-fischen

Manche Wege sind direkt und vorgezeichnet – Schule, Bildung, Ausbildung und ein Job in dem Bereich, den man beherrscht. Andere sind von Umwegen gezeichnet, Mühsal und Zeiten, in denen man nicht weiß, wie es genau weitergehen soll. Raphael Suchomels Vita ist eine von den nicht-linearen.

„Plötzlich Mitternacht“

Er hat mit 18 die Schule zum ersten Mal abgebrochen und sich eine Vollzeitstelle gesucht. Der gebürtige Wiener schrieb sich fortan in eine Abendschule ein, brach jene aber – ein mal mit 19 und einmal mit 21 Jahren – wiederholt ab. Doch der Gedanke des endgültigen Aufgebens war keiner und im jungen Mann schlicht nicht vorhanden. So war es dann mit 22 soweit: der vierte Versuch, die Matura nachzuholen, gelang.

„Ich war in einer Abendschule im 21. Bezirk“, erinnert sich der 27-Jährige. „Von neun bis 17 Uhr Vollzeitjob, dann Unterricht bis halb zehn und anschließend noch Training. Und plötzlich war es Mitternacht.“

Zwei Jahre lang bestimmte dieser straffe Rhythmus seinen Alltag. Trotz der Doppelbelastung hielt der heutige Wahl-Hagenberger durch – und schloss die Abendschule schließlich mit ausgezeichnetem Erfolg ab.

Studium in Hagenberg

Es folgte ein Umzug von Wien nach Oberösterreich und der Start des ersten Jahrgangs des damals neu geschaffenen Bachelorstudiums „Artificial Intelligence Solutions“ an der University of Applied Sciences Upper Austria in Hagenberg.

Suchomel gehörte zudem zu den Mitgründern der Young AI Leaders Linz, einer lokalen Community innerhalb der AI-for-Good-Initiative der International Telecommunication Union der Vereinten Nationen. Die Gruppe bringt junge Menschen aus Forschung und Technologie zusammen und organisiert unter anderem Hackathons und Diskussionsveranstaltungen rund um Künstliche Intelligenz.

© Harvard/zVg – Eine 3D-Simulation eines schwach elektrischen Fisches.

Nach rund 100 verschickten Mails – die meisten davon blieben unbeantwortet – gelang es Suchomel schließlich, einen Forschungsaufenthalt als Praktikant an der Harvard Medical School zu ergattern. Dort befindet er sich auch heute und forscht an der Schnittstelle von Künstlicher Intelligenz und Neurowissenschaften.

Im Mittelpunkt seiner Arbeit stehen biologisch fundierte künstliche Agenten. Vereinfacht gesagt, bauen die Forschenden in Harvard virtuelle Tiere im Computer. Diese Tiere bekommen künstliche neuronale Netze und bestimmte Sinneswahrnehmungen und Bewegungsmöglichkeiten, die sich an echten Tieren orientieren. Anschließend lernen sie mit einer Methode namens „Reinforcement Learning“. Dabei wird ihnen nicht jede Handlung vorgegeben. Sie probieren unterschiedliche Verhaltensweisen aus und lernen über Belohnungen und Nachteile selbst, welche Strategien erfolgreich sind.

„Schauen wie sich Agent verhält“

„Wir kennen aus der Biologie die körperlichen Einschränkungen von Fischen“, erklärt Suchomel. „Wir wissen, wie sich Augen im Winkel bewegen, wie schnell sie sind und welche anderen biologischen Einschränkungen es gibt. Und wir statten einen ‚Reinforcement-Learning‘-Agenten mit diesem Wissen aus: Wir simulieren den Körper eines Fisches, sodass er über diesen Körper mit der Umwelt und mit anderen Fischen kommuniziert. Das schicken wir durch eine ‚Reinforcement-Learning‘-Umgebung, simulieren Trajektorien und schauen, wie sich der Agent verhält.“

Die Simulation funktioniert wie ein virtuelles Labor. Forscher können einzelne Sinneskanäle ausschalten, Kommunikationssignale verändern oder die Umwelt der Agenten manipulieren und beobachten, wie sich ihr Verhalten verändert. Damit sollen Hypothesen darüber entwickelt werden, warum bestimmte Verhaltensweisen entstehen und welche Mechanismen dahinterstecken. Solche Hypothesen sollen anschließend gezielter in Experimenten mit echten Tieren überprüft werden können.

Der Vorteil hierbei sei, dass man nicht jedes Verhalten explizit programmieren müsse, sondern durch die Kombination aus Körper, biologischen Einschränkungen, Umwelt und „Reinforcement Learning“ Verhalten entstehen lassen könne, das möglicherweise dem Verhalten echter Fische ähnelt. So soll — und das ist das Ziel — Forschung günstiger und schneller werden, sagt Suchomel. Man könne zudem Variablen besser isolieren und kontrollieren und neuronale Netze viel genauer analysieren. Das wäre bei echten Fischen teilweise sogar viel schwieriger, vor allem wenn man ihr Zusammenspiel mit anderen Fischen untersuchen möchte.

Künstliche und natürliche Intelligenz

Die Harvard Medical School und andere Institute verfolgen seit Längerem das Ziel, KI zu nutzen, um natürliche Intelligenz besser zu verstehen – und umgekehrt auch natürliche Intelligenz für die Entwicklung von KI zu nutzen.

„Dafür gibt es im KI-Bereich viele verschiedene Methoden und Ansätze, die sich an Beobachtungen aus der Natur orientieren. Gleichzeitig gibt es immer mehr Forschung an der Schnittstelle von KI und Biologie, bei der KI-Forscher und Biologen zusammenarbeiten“, sagt Suchomel. „Wenn man beispielsweise genau weiß, wie die Umgebung aussieht, und gleichzeitig die Kommunikation eines Fisches beobachtet, könnte man künftig elektrische Signale interpretieren. So lässt sich etwa erkennen, dass ein bestimmtes Signal ausgesendet wird, weil sich der Fisch bedroht fühlt. Dadurch könnte man nicht nur einzelne Fische, sondern auch die Gruppendynamik analysieren – und besser verstehen, wie sich die Tiere untereinander und in ihrer Umwelt verhalten.“

Suchomels Praktikum in Harvard reicht noch bis Februar, danach führt ihn den Weg nach Belgien an die KU Leuven – eine, wie er sagt „der besten Unis in Europa wenn es um KI geht“. Anschließend möchte er in einen „starken Master“ reinkommen und weiter an KI forschen. Wo das sein wird, sei erstmal zweitrangig: „Hauptsache starke Labs.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag