✨ AI Kontextualisierung
Die Debatte um die EU-Verordnung zur Zeit ist vielleicht leiser als sie sein sollte. Bereits 2021 stimmte das EU-Parlament für einen freiwilligen Einsatz durch Anbieter – jetzt sorgt eine Folgeverordnung für einen Aufschrei in der Digitalszene. Die EU-Kommission hat am 11. Mai einen Gesetzesentwurf veröffentlicht, der alle Anbieter dazu zwingen soll, sämtliche Kommunikation in Echtzeit zu überwachen. Schlägt eine KI an, müssen Verdachtsfälle an die Behörden geleitet werden. Auch verschlüsselte Dienste und Cloud-Speicher wären demnach davon betroffen.
Noch handelt es sich dabei lediglich um einen Entwurf und AI-Experte Mic Hirschbrich rechnet nicht damit, dass die Verordnung in dieser Form durchgeht: „Wir sind zwar gewohnt am Flughafen, weil wenige Promille der Passagiere „destruktive Absichten“ haben, alle möglichen Sicherheitsprüfungen und Wartezeiten über uns ergehen zu lassen. Doch bei der Chat-Kontrolle müsste ja eine jede Konversation technisch überwacht werden. Das ginge deutlich zu weit und wird meiner Einschätzung nach so auch nicht kommen. Ob ein verpflichtender Upload-Filter hier ein Kompromiss sein kann, wird vor allem davon abhängen, wie dieser konkret arbeitet“, meint Hirschbrich.
Falschmeldungen könnten vor allem junge Menschen betreffen
Hintergrund der Verordnung ist die Suche nach effizienten Maßnahmen gegen Kinderpornografie. Der Entwurf sieht vor, dass Client-seitig jede Nachricht auf entsprechendes Bildmaterial oder eine entsprechende Kontaktaufnahme mit Minderjährigen durchsucht wird. Expert:innen sehen viel Spielraum für Falschmeldungen. Der deutsche Chaos Computer Club warnt vor allem vor Auswirkungen auf die Kommunikation junger Menschen: „Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. (…) Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen“, schreibt der CCC in einer Reaktion auf den Entwurf.
Debatte muss alle Menschen einbinden
Sich nur zu beschweren, löse das Problem aber nicht, gibt Hirschbrich zu bedenken: „Die Diskussion um die Chat-Kontrolle macht vor allem eines deutlich: Das Thema des Gestaltens des gemeinsamen digitalen Raums ist immer noch eines einiger weniger Technokraten und Nerds. Das ist schade, denn die Anliegen sind wichtig. EU-Innenkommissarin Ylva Johannsson hat völlig recht, wenn sie empört darüber ist, wie einfach und geschützt es Kinderschänder haben, ihre abartigen Bilder und Videos technologisch zu verbreiten. Daher ihre Idee der KI-basierten Chat-Kontrolle“.
In einem ersten Schritt sei es gut, die Debatte zu führen und ihr Aufmerksamkeit zu schenken – damit sie eben nicht von wenigen Technokraten entschieden wird. „Die Probleme, dass digitale Technologie auch für Illegales missbraucht werden, sind real. Also braucht es Lösungen. Und es fehlen, wie in so vielen digitalen Themen, einfach noch Vision und wirklich gute Ideen. Egal wie die Lösung aussehen wird: Ein solcher Schritt kann nur unter Einbindung der Menschen geschehen. Wir alle werden massiv betroffen sein“, so Hirschbrich abschließend.
