12.05.2022

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Ein Gesetzesentwurf der EU-Kommission schlägt eine massive Überwachung privater Nachrichten vor. Auch verschlüsselte Chats sind betroffen.
/artikel/chatkontrolle-eu-entwurf-2022
Chat, Messages, Chatkontrolle
© Unsplash

Die Debatte um die EU-Verordnung zur Zeit ist vielleicht leiser als sie sein sollte. Bereits 2021 stimmte das EU-Parlament für einen freiwilligen Einsatz durch Anbieter – jetzt sorgt eine Folgeverordnung für einen Aufschrei in der Digitalszene. Die EU-Kommission hat am 11. Mai einen Gesetzesentwurf veröffentlicht, der alle Anbieter dazu zwingen soll, sämtliche Kommunikation in Echtzeit zu überwachen. Schlägt eine KI an, müssen Verdachtsfälle an die Behörden geleitet werden. Auch verschlüsselte Dienste und Cloud-Speicher wären demnach davon betroffen.

Noch handelt es sich dabei lediglich um einen Entwurf und AI-Experte Mic Hirschbrich rechnet nicht damit, dass die Verordnung in dieser Form durchgeht: „Wir sind zwar gewohnt am Flughafen, weil wenige Promille der Passagiere „destruktive Absichten“ haben, alle möglichen Sicherheitsprüfungen und Wartezeiten über uns ergehen zu lassen. Doch bei der Chat-Kontrolle müsste ja eine jede Konversation technisch überwacht werden. Das ginge deutlich zu weit und wird meiner Einschätzung nach so auch nicht kommen. Ob ein verpflichtender Upload-Filter hier ein Kompromiss sein kann, wird vor allem davon abhängen, wie dieser konkret arbeitet“, meint Hirschbrich.

Falschmeldungen könnten vor allem junge Menschen betreffen

Hintergrund der Verordnung ist die Suche nach effizienten Maßnahmen gegen Kinderpornografie. Der Entwurf sieht vor, dass Client-seitig jede Nachricht auf entsprechendes Bildmaterial oder eine entsprechende Kontaktaufnahme mit Minderjährigen durchsucht wird. Expert:innen sehen viel Spielraum für Falschmeldungen. Der deutsche Chaos Computer Club warnt vor allem vor Auswirkungen auf die Kommunikation junger Menschen: „Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. (…) Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen“, schreibt der CCC in einer Reaktion auf den Entwurf.

Debatte muss alle Menschen einbinden

Sich nur zu beschweren, löse das Problem aber nicht, gibt Hirschbrich zu bedenken: „Die Diskussion um die Chat-Kontrolle macht vor allem eines deutlich: Das Thema des Gestaltens des gemeinsamen digitalen Raums ist immer noch eines einiger weniger Technokraten und Nerds. Das ist schade, denn die Anliegen sind wichtig. EU-Innenkommissarin Ylva Johannsson hat völlig recht, wenn sie empört darüber ist, wie einfach und geschützt es Kinderschänder haben, ihre abartigen Bilder und Videos technologisch zu verbreiten. Daher ihre Idee der KI-basierten Chat-Kontrolle“.

In einem ersten Schritt sei es gut, die Debatte zu führen und ihr Aufmerksamkeit zu schenken – damit sie eben nicht von wenigen Technokraten entschieden wird. „Die Probleme, dass digitale Technologie auch für Illegales missbraucht werden, sind real. Also braucht es Lösungen. Und es fehlen, wie in so vielen digitalen Themen, einfach noch Vision und wirklich gute Ideen. Egal wie die Lösung aussehen wird: Ein solcher Schritt kann nur unter Einbindung der Menschen geschehen. Wir alle werden massiv betroffen sein“, so Hirschbrich abschließend.

Deine ungelesenen Artikel:
vor 11 Stunden

Wholomics: Rieder Startup entwickelt neue Methode zur Krebsfrüherkennung

Wholomics hat sich zum Ziel gesetzt, diverse Krebsarten bereits im Stadium eins zu erkennen. Eine Validierungsstudie gibt Hoffnung, aktuell befindet sich das Startup in der zweiten Finanzierungsrunde.
/artikel/wholomics-rieder-startup-entwickelt-neue-methode-zur-krebsfrueherkennung
vor 11 Stunden

Wholomics: Rieder Startup entwickelt neue Methode zur Krebsfrüherkennung

Wholomics hat sich zum Ziel gesetzt, diverse Krebsarten bereits im Stadium eins zu erkennen. Eine Validierungsstudie gibt Hoffnung, aktuell befindet sich das Startup in der zweiten Finanzierungsrunde.
/artikel/wholomics-rieder-startup-entwickelt-neue-methode-zur-krebsfrueherkennung
(v.l.) Wholomics-Geschäftsführer Patrick Strasser und Maximilian Schneider | © Wholomics GmbH

Es ist wohl eine der schockierendsten Nachrichten, die man erhalten kann: Diagnose Krebs. Dabei werden verschiedenste Krebsarten oftmals erst in späten Stadien erkannt, was die Überlebenschance stark verringert. Das soll sich bald ändern. Die beiden Wholomics-Gründer Patrick Strasser und Maximilian Schneider entwickelten einen Test, der mit hoher Genauigkeit verschiedene Krebserkrankungen bereits im Stadium eins feststellen können soll.

“Heutzutage zählt es als Durchbruch, wenn ein Medikament für Krebspatienten im Stadium vier eine sechs Monate längere Überlebensdauer erzielt. Allerdings hätte man einen viel größeren Impact, wenn man Krebs einfach früher erkennen könnte”, erklärt Wholomics-CEO Strasser im brutkasten-Interview. Denn bei den meisten Krebsarten, die man bereits im Stadium eins erkennt, hätten die Patienten eine “5-Jahres-Überlebensrate von über 90 %”. Im Stadium drei bzw. vier falle die Überlebenschance rapide ab. 

Daher entwickelten Strasser und Wholomics-CTO Schneider einen Test, der darauf ausgelegt ist, mehrere Krebsarten bereits in frühen Stadien aus einer einzigen Blutprobe zu erkennen. Der Test analysiert diverse Veränderungen im Blutserum, also der Flüssigkeit im Blut, die mit einer frühen Tumorentwicklung in Zusammenhang stehen können. Die Ergebnisse einer Validierungsstudie sind vielversprechend, denn der Wholomics-Test erkannte eigenen Angaben zufolge 38 von 40 Krebserkrankungen im Stadium eins, darunter Darm-, Magen- und gynäkologische Tumore. Die Intellectual Property der Methode liegt bei Wholomics. Eine erste Version des Tests, der Wholomics Multi-Cancer Check, ist bereits über eine Partnerfirma, Novogenia, erhältlich. Strasser und Schneider möchten sich aber darauf konzentrieren, den Test in der breiten Bevölkerungsmasse einsetzen zu können.

Vom Forscher zum Unternehmer

Die beiden Wholomics-Gründer kennen einander seit ihrem Studium an der TU München und fassten gerade wissenschaftliche Publikationen zusammen, als ihnen die Idee für einen neuen Test zur Krebsfrüherkennung kam. Die Umstellung vom Forscher zum Unternehmer beschreibt der Biochemiker Strasser als “leicht”. Dennoch stellt ihn das Unternehmertum vor einige Herausforderungen. “Als Startup-Founder lernt man im Endeffekt nie aus. Das heißt, jeden Tag, jede Woche gibt es neue Dinge, die man sich selbst beibringen oder die man lernen muss“, erklärt Strasser und ergänzt: “Ein Founder hat mir mal gesagt, die wissenschaftliche Grundlage ist sozusagen das A und O deines Unternehmens. Aber 80 Prozent werden dann im Endeffekt auf der Business-Seite durchgesetzt.”

Wholomics wurde bisher mit dem aws First Incubator und der Forschungsprämie unterstützt. Aktuell befindet sich das Unternehmen in der zweiten Finanzierungsrunde und ist noch auf der Suche nach Investoren. Strasser und Schneider wollen die Runde im letzten Quartal dieses Jahres schließen. “Wir suchen nicht nur nach Geldgebern, sondern eben auch nach strategischen Partnern, die z. B. im Bereich Diagnostik Erfahrung haben”, sagt Strasser. Mit der Entwicklung ihres Startups zeigt sich der Biochemiker zufrieden, auch wenn der Standort Österreich seine Schwierigkeiten mit sich bringe. Die Regulierungen in der EU erschweren laut dem Krebsforscher jedem Diagnostik-Startup den Start.      

Das Ziel sind 2027 die USA, aber ohne FDA-Approval

Zudem brauche es in der EU hohe Investments, um ein medizinisches Produkt auf den Markt zu bringen. “Da muss man dann abwägen, wie die tatsächliche Marktzugangslage ist. Und die ist in Österreich oder im DACH-Raum generell etwas schwieriger”, erklärt Strasser, der mit Schneider den Großteil von Wholomics besitzt. Der Blick der beiden Österreicher richtet sich daher über den großen Teich. Sie arbeiten aktuell in den USA an der Eröffnung eines sogenannten CLIA-Labors. Dadurch soll der Test zur Krebsfrüherkennung als “Lab Developed Test” in den Vereinigten Staaten 2027 auf den Markt gebracht werden können. Er werde somit firmenintern validiert und könne anschließend an Privatpersonen weiterverkauft werden. Ein FDA-Approval sei dann nicht mehr nötig.

Wholomics als die nächste Generation der Krebsfrüherkennungstests

“Im Endeffekt wollen wir quasi die nächste Generation von Multi-Cancer Early Detection Tests auf den Markt bringen. Der größte Unterschied zwischen uns und anderen Anbietern ist, dass wir einfach sehr hohe Frühstadien-Erkennungsraten haben”, sagt Strasser. Langfristig will sich Wholomics am Markt als “First Line Diagnostic” platzieren, also als eine erste Reihe an Untersuchungen, die bei Krebsverdacht durchgeführt werden. Diese Tests sollen dann von Versicherern rückerstattet werden. Als potentielle Kunden beschreibt Strasser in den USA zu Beginn unter anderem Ärzte, später auch Krankenkassen, wobei man den Test immer unter ärztlicher Begleitung durchführen muss.

In Zukunft kann es mehrere unterschiedliche Use-Cases für Wholomics geben, wie z. B. einen Stratifizierungstest. Durch diese Tests werden Personen in klare Gruppen eingeteilt. Dadurch kann in der Medizin einer Person die passende Behandlung verschrieben werden. “Im Endeffekt laufen alle diese Use-Cases darauf hinaus, dass eine Blutprobe analysiert wird und wir das molekulare Profil nach Krebs-Signaturen untersuchen”, sagt Strasser.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung