12.05.2022

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Ein Gesetzesentwurf der EU-Kommission schlägt eine massive Überwachung privater Nachrichten vor. Auch verschlüsselte Chats sind betroffen.
/artikel/chatkontrolle-eu-entwurf-2022
Chat, Messages, Chatkontrolle
© Unsplash

Die Debatte um die EU-Verordnung zur Zeit ist vielleicht leiser als sie sein sollte. Bereits 2021 stimmte das EU-Parlament für einen freiwilligen Einsatz durch Anbieter – jetzt sorgt eine Folgeverordnung für einen Aufschrei in der Digitalszene. Die EU-Kommission hat am 11. Mai einen Gesetzesentwurf veröffentlicht, der alle Anbieter dazu zwingen soll, sämtliche Kommunikation in Echtzeit zu überwachen. Schlägt eine KI an, müssen Verdachtsfälle an die Behörden geleitet werden. Auch verschlüsselte Dienste und Cloud-Speicher wären demnach davon betroffen.

Noch handelt es sich dabei lediglich um einen Entwurf und AI-Experte Mic Hirschbrich rechnet nicht damit, dass die Verordnung in dieser Form durchgeht: „Wir sind zwar gewohnt am Flughafen, weil wenige Promille der Passagiere „destruktive Absichten“ haben, alle möglichen Sicherheitsprüfungen und Wartezeiten über uns ergehen zu lassen. Doch bei der Chat-Kontrolle müsste ja eine jede Konversation technisch überwacht werden. Das ginge deutlich zu weit und wird meiner Einschätzung nach so auch nicht kommen. Ob ein verpflichtender Upload-Filter hier ein Kompromiss sein kann, wird vor allem davon abhängen, wie dieser konkret arbeitet“, meint Hirschbrich.

Falschmeldungen könnten vor allem junge Menschen betreffen

Hintergrund der Verordnung ist die Suche nach effizienten Maßnahmen gegen Kinderpornografie. Der Entwurf sieht vor, dass Client-seitig jede Nachricht auf entsprechendes Bildmaterial oder eine entsprechende Kontaktaufnahme mit Minderjährigen durchsucht wird. Expert:innen sehen viel Spielraum für Falschmeldungen. Der deutsche Chaos Computer Club warnt vor allem vor Auswirkungen auf die Kommunikation junger Menschen: „Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. (…) Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen“, schreibt der CCC in einer Reaktion auf den Entwurf.

Debatte muss alle Menschen einbinden

Sich nur zu beschweren, löse das Problem aber nicht, gibt Hirschbrich zu bedenken: „Die Diskussion um die Chat-Kontrolle macht vor allem eines deutlich: Das Thema des Gestaltens des gemeinsamen digitalen Raums ist immer noch eines einiger weniger Technokraten und Nerds. Das ist schade, denn die Anliegen sind wichtig. EU-Innenkommissarin Ylva Johannsson hat völlig recht, wenn sie empört darüber ist, wie einfach und geschützt es Kinderschänder haben, ihre abartigen Bilder und Videos technologisch zu verbreiten. Daher ihre Idee der KI-basierten Chat-Kontrolle“.

In einem ersten Schritt sei es gut, die Debatte zu führen und ihr Aufmerksamkeit zu schenken – damit sie eben nicht von wenigen Technokraten entschieden wird. „Die Probleme, dass digitale Technologie auch für Illegales missbraucht werden, sind real. Also braucht es Lösungen. Und es fehlen, wie in so vielen digitalen Themen, einfach noch Vision und wirklich gute Ideen. Egal wie die Lösung aussehen wird: Ein solcher Schritt kann nur unter Einbindung der Menschen geschehen. Wir alle werden massiv betroffen sein“, so Hirschbrich abschließend.

Deine ungelesenen Artikel:
08.10.2026

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
08.10.2026

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
Die beiden Geschäftsführer von mathion.ai Christoph Blizenetz und Alexander Buchinger | © mathion.ai

„Nächste Stunde ist Mathestunde“, ist vermutlich einer der gefürchtesten Sätze vieler Schüler:innen. Die Aufgaben sind oft schwierig und zermürbend. Da bietet es sich im Zeitalter von KI an, einen kurzen Prompt zu schreiben und Sekunden später wird die Lösung geliefert. Der Lerneffekt hält sich dabei bei vielen Schüler:innen in Grenzen. Hier setzt mathion.ai an.

Die KI von Founder Christoph Blizenetz liefert nicht fertige Lösungen, sondern chattet mit den User:innen und bringt sie so zum Ergebnis. Nach einem Pilotprojekt feierte die KI ihren Launch im vergangenen August. Sie ist in der Schweiz, Deutschland und Österreich erhältlich.

Harvard: „KI-gestütztes Tutoring übertrifft aktives Lernen im Unterricht“

Unterstützung erhalten KI-Tutoren wie jene von Blizenetz von der US-amerikanischen Harvard Universität. Im Juni 2025 veröffentlichte sie eine Studie, laut der KI-gestütztes Tutoring aktives Lernen im Unterricht übertreffe. Studierende, die mit einem KI-Tutor arbeiteten, lernten „deutlich mehr in kürzerer Zeit“ als in einer Präsenzveranstaltung. Außerdem würden sich Schüler:innen stärker eingebunden und motivierter fühlen. Harvard betont die Wirksamkeit „einer breit zugänglichen KI-gestützten Pädagogik zur signifikanten Verbesserung der Lernergebnisse“ und erklärt, dass die Ergebnisse überzeugend für die breite Anwendung einer KI-gestützten Pädagogik sprechen.

ChatGPT bringt dir Fertigkeiten bei, „die einfach nicht stimmen“

Für Blizenetz kann nicht einfach eine beliebige KI zum Lernen verwendet werden. Als ehemaliger Nachhilfelehrer kennt er die Probleme, die auftreten können. „Eine Schülerin hat mittels ChatGPT, das war damals noch etwas Neueres, gelernt und sich dabei Fertigkeiten und Begrifflichkeiten angeeignet, die einfach nicht stimmen“, sagt der 21-Jährige und ergänzt: „Nicht, weil das Opus der Mathematik aus der KI bzw. der LLM falsch ist. Es ist einfach nicht so lehrplanbezogen, wie es nun einmal das Schulbuch aber auch eine Lehrkraft ist.“

Daher begann Blizenetz mit der Entwicklung von mathion.ai, das sich aktuell auf die fünfte bis zur achten Schulstufe fokussiere. Es sei aber ein Ausbau bis hin zu Matura geplant.

Das Programm baut auf einem sogenannten „sokratischen“ System auf. Es stellt User:innen immer wieder Fragen, bis jene die Lösung selbst erarbeitet haben. Mathion.ai möchte dadurch zum Nachdenken anregen.

Dabei kann mit der KI geschrieben als auch gesprochen werden. „Wir haben gemerkt, dass junge Menschen einfach lesefaul sind. Sie können oft einfach nicht mehr wirklich sachlich lesen und Informationen über Texte sauber aufnehmen“, erklärt der mathion.ai-Gründer. Der Text wird dabei nicht einfach vorgelesen, sondern erklärt, „wie es ein Mensch tun würde“.

Mathion.ai liefere nicht einfach nur Ergebnisse, es erarbeite die Lösungen mit den Schüler:innen gemeinsam. | © mathion.ai

Standardisierter Lehrplan

Mathion.ai arbeite dabei nicht nur mit willkürlichen Inhalten, sondern mit einem standardisierten Lehrplan durch seinen Verlagspartner Lemberger, dessen Schulbuch „Genial! Mathematik“ von der fünften bis zur achten Schulstufe in mathion.ai eingefügt wurde. User:innen können Aufgaben aus diesen Büchern auswählen.

Lehrer:innen haben auf der anderen Seite die Möglichkeit über ein Verwaltungsportal ihren Schützlingen Inhalte zuzuweisen. „Da haben wir tausende Übungsaufgaben, die auch kapitelweise in Blöcke gezielt nach Themenbereichen zugewiesen werden können, zu den Schüler:innen und zu den Gruppen“, sagt Blizenetz. Zusätzlich können Lehrkräfte im Verwaltungsportal die Lernstände ihrer Schüler:innen einsehen und auch Inhalte erstellen: „Wir haben da einen eigenen Editor, wo, wie in einer PowerPoint, Textelemente, Dateien, interaktive Aufgaben gebaut und erstellt werden können.“ Der virtuelle Coach Tom führt anschließend durch den Kurs. Zusätzlich können von Lehrer:innen Aufgaben erstellt und zugewiesen werden.

Pädagog:innen durch KI zu ersetzen „ist auch gar nicht unser Ziel“

Wenn die KI bereits eigene Kurse halten kann, drängt sich naturgemäß die Frage auf, ob Lehrkräfte nicht ersetzbar sind. „Weder Lehrpersonen noch Pädagogen wird man durch KI in irgendeiner Art und Weise wirklich ersetzen können, das ist auch gar nicht unser Ziel“, stellt der TU-Student fest. Auch herkömmliche Nachhilfe sieht Blizenetz als sinnvoll an. Für ihn ist mathion.ai eine „Ergänzung“.

Es gebe auch die Möglichkeit für Nachhilifeinstitute, Inhalte einspielen zu können. „Als Schüler bzw. Schülerin habe ich den Unterricht mit der Lehrperson in der Klasse und im Nachhinein kann ich dann die Inhalte, gezielt mit den Aufgaben und dem Input der Lehrperson, weiter üben“, sagt Blizenetz.

Von B2C zu B2B

Mathion.ai kommt ursprünglich aus dem sogenannten Nachmittagsmarkt, in dem Eltern für ihre Kinder ein Abo abschließen. Allerdings möchte sich das Unternehmen nun im B2B-Bereich etablieren.

„Es ist einfach sehr schwierig, vor allem als österreichisches Unternehmen, in diesem B2C-SaaS-Bereich (Anm.: Software-as-a-Service-Bereich) wirklich standhaft zu werden“, erklärt Blizenetz. In Zukunft will sich mathion.ai auf Bildungsinstitute bzw. Bildungseinrichtungen fokussieren. Daher möchte der Gründer sein Unternehmen als zertifizierter Anbieter des Bildungsministeriums auf dem Markt etablieren. Das sei aber ein langer Weg. Mathion.ai befinde sich aktuell am Anfang des Genehmigungsverfahrens, ab September 2027 wolle man die Zertifizierung haben.

100 % eigenfinanziert

Das Unternehmen, offiziell bereits im Juli 2025 gegründet, kommt bisher ohne Investoren-Kapital aus und ist von Anfang an gebootstrappt. Blizenetz hat mathion.ai in Zusammenarbeit mit Weitsprung Solutions aufgebaut, das einen KI-gestützten Lerncoach anbietet. Bisher hat das Unternehmen noch keine Förderungen erhalten, allerdings laufe ein Förderantrag bei Netidee und ein FFG-Antrag für ein Forschungsprojekt werde aktuell erstellt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung