12.05.2022

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Ein Gesetzesentwurf der EU-Kommission schlägt eine massive Überwachung privater Nachrichten vor. Auch verschlüsselte Chats sind betroffen.
/chatkontrolle-eu-entwurf-2022/
Chat, Messages, Chatkontrolle
© Unsplash
Der Summary Modus bietet einen raschen
Überblick und regt zum Lesen mehrerer
Artikel an. Der Artikeltext wird AI-basiert
zusammengefasst mit der Unterstützung
des Linzer-Startups Apollo AI.

Die Debatte um die EU-Verordnung zur Zeit ist vielleicht leiser als sie sein sollte. Bereits 2021 stimmte das EU-Parlament für einen freiwilligen Einsatz durch Anbieter – jetzt sorgt eine Folgeverordnung für einen Aufschrei in der Digitalszene. Die EU-Kommission hat am 11. Mai einen Gesetzesentwurf veröffentlicht, der alle Anbieter dazu zwingen soll, sämtliche Kommunikation in Echtzeit zu überwachen. Schlägt eine KI an, müssen Verdachtsfälle an die Behörden geleitet werden. Auch verschlüsselte Dienste und Cloud-Speicher wären demnach davon betroffen.

Noch handelt es sich dabei lediglich um einen Entwurf und AI-Experte Mic Hirschbrich rechnet nicht damit, dass die Verordnung in dieser Form durchgeht: „Wir sind zwar gewohnt am Flughafen, weil wenige Promille der Passagiere „destruktive Absichten“ haben, alle möglichen Sicherheitsprüfungen und Wartezeiten über uns ergehen zu lassen. Doch bei der Chat-Kontrolle müsste ja eine jede Konversation technisch überwacht werden. Das ginge deutlich zu weit und wird meiner Einschätzung nach so auch nicht kommen. Ob ein verpflichtender Upload-Filter hier ein Kompromiss sein kann, wird vor allem davon abhängen, wie dieser konkret arbeitet“, meint Hirschbrich.

Falschmeldungen könnten vor allem junge Menschen betreffen

Hintergrund der Verordnung ist die Suche nach effizienten Maßnahmen gegen Kinderpornografie. Der Entwurf sieht vor, dass Client-seitig jede Nachricht auf entsprechendes Bildmaterial oder eine entsprechende Kontaktaufnahme mit Minderjährigen durchsucht wird. Expert:innen sehen viel Spielraum für Falschmeldungen. Der deutsche Chaos Computer Club warnt vor allem vor Auswirkungen auf die Kommunikation junger Menschen: „Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. (…) Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen“, schreibt der CCC in einer Reaktion auf den Entwurf.

Debatte muss alle Menschen einbinden

Sich nur zu beschweren, löse das Problem aber nicht, gibt Hirschbrich zu bedenken: „Die Diskussion um die Chat-Kontrolle macht vor allem eines deutlich: Das Thema des Gestaltens des gemeinsamen digitalen Raums ist immer noch eines einiger weniger Technokraten und Nerds. Das ist schade, denn die Anliegen sind wichtig. EU-Innenkommissarin Ylva Johannsson hat völlig recht, wenn sie empört darüber ist, wie einfach und geschützt es Kinderschänder haben, ihre abartigen Bilder und Videos technologisch zu verbreiten. Daher ihre Idee der KI-basierten Chat-Kontrolle“.

In einem ersten Schritt sei es gut, die Debatte zu führen und ihr Aufmerksamkeit zu schenken – damit sie eben nicht von wenigen Technokraten entschieden wird. „Die Probleme, dass digitale Technologie auch für Illegales missbraucht werden, sind real. Also braucht es Lösungen. Und es fehlen, wie in so vielen digitalen Themen, einfach noch Vision und wirklich gute Ideen. Egal wie die Lösung aussehen wird: Ein solcher Schritt kann nur unter Einbindung der Menschen geschehen. Wir alle werden massiv betroffen sein“, so Hirschbrich abschließend.

Deine ungelesenen Artikel:
vor 2 Stunden

Elon Musk verliert 12 Milliarden Dollar nach Ausraster auf Twitter

Nachdem Tesla aus dem Aktienindex S&P 500 ESG flog, bezeichnete Elon Musk ESG auf Twitter als einen Betrug und meinte er werde zukünftig dir Republikaner wählen.
/elon-musk-tesla-esg-index/
Elon Musk - Tesla ESG-Index
Elon Musk | (c) Daniel Oberhaus/commons.wiki -

Tesla wurde gestern aus dem Aktienindex S&P 500 ESG für nachhaltige Investments gestrichen. Für Elon Musk war das Grund für einen – für viele wohl durchaus nachvollziehbaren – Ausraster via Twitter. „Exxon [Anm. einer der größten Ölkonzerne der Welt] wird vom S&P 500 als eines der zehn besten Unternehmen der Welt für Umwelt, Soziales und Unternehmensführung (ESG) eingestuft, während Tesla es nicht auf die Liste geschafft hat! ESG ist ein Betrug. Es wurde von falschen Kriegern der sozialen Gerechtigkeit zur Waffe gemacht“, so Musk.

In einer Erklärung zu dem Vorgang heißt es von S&P Dow Jones, es gebe „viele Gründe“ für die Streichung von Tesla aus dem Index. Darunter seien Rassismus-Vorwürfe, Klagen über schlechte Arbeitsbedingungen in Fabriksstandorten in den USA und der Umgang mit Untersuchungen zu (teilweise tödlichen) Unfällen in Verbindung mit dem Autopilot. Zwar sei Teslas Nachhaltigkeitsranking im vergangenen Jahr ziemlich stabil geblieben, aber der Rest der Autobranche habe sich deutlich verbessert, wodurch Elon Musks Unternehmen vergleichsweise abgerutscht sei.

Elon Musk meint, politische Agenda der Linken steht hinter Tesla-Rauswurf aus ESG-Index

Damit will Musk, dessen Unternehmen mit der Herstellung von E-Autos, Solar-Anlagen und Akkus bekanntlich aktiv die Energiewende vorantreiben will, natürlich nicht zufrieden geben. Schon in der Vergangenheit hatte er die ESG-Kriterien offen kritisiert. In weiteren Tweets in den kommenden Stunden erklärte er dann auf seine typisch polemische Art – mitunter mit Memes – dass hinter der Streichung Teslas aus dem S&P 500 ESG eine politische Agenda stecke – „obwohl Tesla mehr für die Umwelt macht, als jedes andere Unternehmen je getan hat“.

Musk wird Republikaner

Am Ende des Tages erklärte Musk dann in einem Tweet: „In der Vergangenheit habe ich die Demokraten gewählt, weil sie (meistens) die Partei der Freundlichkeit waren. Aber sie sind zur Partei der Spaltung und des Hasses geworden, so dass ich sie nicht mehr unterstützen kann und die Republikaner wählen werde“. Und – gerichtet an seine Follower – im selben Tweet: „Jetzt seht euch an, wie sich ihre schmutzige Kampagne gegen mich entfaltet…“

Tesla-Aktie sinkt auf Jahres-Minimum

Doch eine derartige Kampagne brauchte es noch nicht, um Elon Musk zu schaden. Zunächst einmal reagierten die Anleger und bescherten Tesla einen empfindlichen Kurssturz auf das bisherige Jahres-Minimum. Damit war der Unternehmer auf dem Papier innerhalb weniger Stunden um 12,3 Milliarden US-Dollar ärmer. Insgesamt reduzierte sich sein Vermögen durch Kursverluste seit Beginn der Twitter-Übernahme bereits um ganze 49 Milliarden US-Dollar. Der reichste Mensch der Welt ist er allerdings derzeit noch immer.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

Chat, Messages, Chatkontrolle
© Unsplash

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Ein Gesetzesentwurf der EU-Kommission schlägt eine massive Überwachung privater Nachrichten vor. Auch verschlüsselte Chats sind betroffen.

Summary Modus

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Es gibt neue Nachrichten

Auch interessant