07.08.2023

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

Mit wenigen Klicks kann KI Inhalte erzeugen, politische Propaganda und Fake News auf Knopfdruck. Diese Entwicklungen machen OpenAI-CEO Sam Altman besorgt.
/artikel/sam-altman-generative-ki-fuer-propaganda-missbraucht
Sam Altman sorgt sich wegen möglicher Auswirkungen von KI auf Wahlen. Foto: (c) Adobe Stock
Sam Altman sorgt sich wegen möglicher Auswirkungen von KI auf Wahlen. Foto: (c) Adobe Stock

Politische Propaganda oder Desinformation sind nichts Neues, aber mit der heute verfügbaren Technik sind die Möglichkeiten dazu enorm gewachsen. Innerhalb kürzester Zeit kann künstliche Intelligenz (KI) jetzt überzeugende Werbetexte schreiben, auch Deepfakes entstehen so binnen Sekunden. Kein Wunder also, dass Expert:innen regelmäßig vor diesen KI-Funktionen warnen.

Wahlbeeinflussung

Bereits die vergangenen Jahre zeigten deutlich, wie Social-Media-Nutzerdaten Wahlen beeinflussen können. Mit Micro-Targeting war Barack Obama schon im Wahlkampf 2008 erfolgreich. Später sorgte die Marketingstrategie, bei der besonders kleine Zielgruppen mit individuell zugeschnittenen Werbebotschaften adressiert werden, für den Cambridge-Analytica-Skandal. Daten von Millionen Facebook-Nutzer:innen wurden ohne deren Wissen abgegriffen und für Wahlwerbung verwendet, um die politische Meinungsbildung und Wahlkampagnen zu beeinflussen.

Zum Thema KI und Propaganda äußerte sich letzten Donnerstag auch Sam Altman, CEO von OpenAI. In einem Post auf X, ehemals Twitter, schrieb er, dass ihn die Auswirkungen von KI auf zukünftige Wahlen nervös machen.

KI könnte Wahlbeeinflussung Tür und Tor öffnen

Die Sorge von Sam Altman ist angesichts der Fähigkeiten von KI nachvollziehbar. Im Grunde kann KI für jede/n Wähler:in speziell zugeschnittene Wahlwerbung mit passendem Bild- und Videomaterial erstellen. Auch überzeugende Fake News lassen sich mit KI schneller produzieren und verbreiten als je zuvor. Bereits jetzt setzten politische Gruppen und andere KI für ihre Zwecke ein – so etwa in den USA im Vorfeld der Präsidentschaftswahlen 2024. Ein Video der Republikaner (siehe unten) zeigt so etwa ein fiktives Szenario einer chinesischen Invasion der USA.

Das Thema KI-Propagada wird in den nächsten Jahren sicher an Bedeutung gewinnen.

Deine ungelesenen Artikel:
27.11.2024

Disinformation Awareness Day: So schützt man sich vor Fake News

Unser "Zeitalter der Information" ist geprägt von Falschmeldungen, alternativen Fakten und gezielter Desinformation. Am heutigen "Disinformation Awareness Day" erklärt Factinsect-Founderin Romana Dorfer, wie man sich vor qualitativ hochwertig scheinenden Lügen schützen kann.
/artikel/disinformation-awareness-day-so-schuetzt-man-sich-vor-fake-news
27.11.2024

Disinformation Awareness Day: So schützt man sich vor Fake News

Unser "Zeitalter der Information" ist geprägt von Falschmeldungen, alternativen Fakten und gezielter Desinformation. Am heutigen "Disinformation Awareness Day" erklärt Factinsect-Founderin Romana Dorfer, wie man sich vor qualitativ hochwertig scheinenden Lügen schützen kann.
/artikel/disinformation-awareness-day-so-schuetzt-man-sich-vor-fake-news
Fake News, wie man sich vor Fake News schützt
(c) Factinsect/ Stock.Adobe/shintartanya - Romana Dorfer von Factinsect (l.) mit Tipps zum Schutz vor Fake News.

2021 wurde von dem Desinformatons-Analysten Dietmar Pichler der erste internationale “Disinfo Awareness Day” ausgerufen. Unterstützt wurde er damals von Anna Pattermann (Unlimited Democracy), die beim Launch mitgewirkt hat. Seither hat sich die Situation alles andere als verbessert: Autokratische Staaten, etwa Russland und seine Verbündeten, und extremistische Organisationen nutzen neben digitalen Technologien auch weiterhin klassische Methoden der “aktiven Maßnahmen”, wie z.B. Einflussagenten, ideologisch geprägte Organisationen oder verschwörungstheoretische Bücher für Fake News. Diese “bewährten” Offline-Aktivitäten werden flankiert von immer komplexeren digitalen Operationen wie gefälschten Websites, koordinierten Troll-Angriffen oder durch Künstliche Intelligenz generierten Inhalten.

Fake News mit Schein-Authentizität

Romana Dorfer vom Grazer Faktencheck-Startup Factinsect weiß, dass sich Falschinformationen in den letzten Jahren insbesondere über Kriege erhöht haben. “Das Problem bei diesen Falschinformationen ist, dass die Faktenlage aus den Kriegsgebieten oft dünn ist und nur es wenige Quellen gibt. Aus diesem Grund ist es wichtig, die Behauptungen der Konfliktparteien kritisch zu hinterfragen und zu überprüfen, ob es unabhängige Quellen gibt, die die Behauptungen bestätigen”, sagt sie.

Da nicht erst seit der Pandemie Desinformation von Personen mit legitim scheinender Expertise geteilt werden, durch pseudowissenschaftliche Arbeiten und Behauptungen gestützt werden und eine Schein-Authentizität mit sich führen, bleibt es eine große Herausforderung Fake News auch als solche zu erkennen. Dorfer rät daher, zwischen Indizien und Beweisen zu unterscheiden

Wer ist die Quelle?

“Nur weil zum Beispiel jemand mit einem akademischen Titel etwas gesagt hat, bedeutet das nicht, dass es wahr ist”, sagt sie. “Es ist immer wichtig zu prüfen, ob die Quelle Interessen daran haben könnte, eine Falschmeldung zu ‘belegen’. Es muss immer die Kombination zwischen dem, wer die Quelle ist und dem, was die Quelle sagt, berücksichtigt werden, um eine Behauptung zu prüfen.”

Sie selbst ist, wie der Großteil der Menschheit nicht gefeit vor Desinformation, wie sie gesteht: “Auf Fake News bin ich schon besonders oft im Startup-Umfeld hereingefallen. Es gibt einige Startups die sich als sehr erfolgreich präsentiert haben. Erst im Nachhinein habe ich dann erfahren, dass doch nicht alles so gut läuft.”

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Sam Altman: Wie generative KI für Wahl-Propaganda missbraucht werden könnte