12.05.2022

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

Ein Gesetzesentwurf der EU-Kommission schlägt eine massive Überwachung privater Nachrichten vor. Auch verschlüsselte Chats sind betroffen.
/artikel/chatkontrolle-eu-entwurf-2022
Chat, Messages, Chatkontrolle
© Unsplash

Die Debatte um die EU-Verordnung zur Zeit ist vielleicht leiser als sie sein sollte. Bereits 2021 stimmte das EU-Parlament für einen freiwilligen Einsatz durch Anbieter – jetzt sorgt eine Folgeverordnung für einen Aufschrei in der Digitalszene. Die EU-Kommission hat am 11. Mai einen Gesetzesentwurf veröffentlicht, der alle Anbieter dazu zwingen soll, sämtliche Kommunikation in Echtzeit zu überwachen. Schlägt eine KI an, müssen Verdachtsfälle an die Behörden geleitet werden. Auch verschlüsselte Dienste und Cloud-Speicher wären demnach davon betroffen.

Noch handelt es sich dabei lediglich um einen Entwurf und AI-Experte Mic Hirschbrich rechnet nicht damit, dass die Verordnung in dieser Form durchgeht: „Wir sind zwar gewohnt am Flughafen, weil wenige Promille der Passagiere „destruktive Absichten“ haben, alle möglichen Sicherheitsprüfungen und Wartezeiten über uns ergehen zu lassen. Doch bei der Chat-Kontrolle müsste ja eine jede Konversation technisch überwacht werden. Das ginge deutlich zu weit und wird meiner Einschätzung nach so auch nicht kommen. Ob ein verpflichtender Upload-Filter hier ein Kompromiss sein kann, wird vor allem davon abhängen, wie dieser konkret arbeitet“, meint Hirschbrich.

Falschmeldungen könnten vor allem junge Menschen betreffen

Hintergrund der Verordnung ist die Suche nach effizienten Maßnahmen gegen Kinderpornografie. Der Entwurf sieht vor, dass Client-seitig jede Nachricht auf entsprechendes Bildmaterial oder eine entsprechende Kontaktaufnahme mit Minderjährigen durchsucht wird. Expert:innen sehen viel Spielraum für Falschmeldungen. Der deutsche Chaos Computer Club warnt vor allem vor Auswirkungen auf die Kommunikation junger Menschen: „Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. (…) Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen“, schreibt der CCC in einer Reaktion auf den Entwurf.

Debatte muss alle Menschen einbinden

Sich nur zu beschweren, löse das Problem aber nicht, gibt Hirschbrich zu bedenken: „Die Diskussion um die Chat-Kontrolle macht vor allem eines deutlich: Das Thema des Gestaltens des gemeinsamen digitalen Raums ist immer noch eines einiger weniger Technokraten und Nerds. Das ist schade, denn die Anliegen sind wichtig. EU-Innenkommissarin Ylva Johannsson hat völlig recht, wenn sie empört darüber ist, wie einfach und geschützt es Kinderschänder haben, ihre abartigen Bilder und Videos technologisch zu verbreiten. Daher ihre Idee der KI-basierten Chat-Kontrolle“.

In einem ersten Schritt sei es gut, die Debatte zu führen und ihr Aufmerksamkeit zu schenken – damit sie eben nicht von wenigen Technokraten entschieden wird. „Die Probleme, dass digitale Technologie auch für Illegales missbraucht werden, sind real. Also braucht es Lösungen. Und es fehlen, wie in so vielen digitalen Themen, einfach noch Vision und wirklich gute Ideen. Egal wie die Lösung aussehen wird: Ein solcher Schritt kann nur unter Einbindung der Menschen geschehen. Wir alle werden massiv betroffen sein“, so Hirschbrich abschließend.

Deine ungelesenen Artikel:
04.11.2026

SAP stellt neue KI-Tools vor – eines davon kommt auf der Internationalen Raumstation (ISS) zum Einsatz

SAP arbeitet an einem umfassenderen Einsatz von KI in Unternehmen und stellte dafür bei seiner Entwicklerkonferenz TechEd neue Technologien vor. Sie sollen unter anderem die Zusammenarbeit von KI-Agenten verbessern, ihren Einsatz besser kontrollierbar machen und Datenanalysen selbst unter den besonderen Bedingungen der ISS ermöglichen.
/artikel/sap-stellt-neue-ki-tools-vor-eines-davon-kommt-auf-der-internationalen-raumstation-iss-zum-einsatz
04.11.2026

SAP stellt neue KI-Tools vor – eines davon kommt auf der Internationalen Raumstation (ISS) zum Einsatz

SAP arbeitet an einem umfassenderen Einsatz von KI in Unternehmen und stellte dafür bei seiner Entwicklerkonferenz TechEd neue Technologien vor. Sie sollen unter anderem die Zusammenarbeit von KI-Agenten verbessern, ihren Einsatz besser kontrollierbar machen und Datenanalysen selbst unter den besonderen Bedingungen der ISS ermöglichen.
/artikel/sap-stellt-neue-ki-tools-vor-eines-davon-kommt-auf-der-internationalen-raumstation-iss-zum-einsatz
ISS, SAP
Philipp Herzig, CTO SAP I © SAP

SAP hat auf seiner jährlichen Entwicklerkonferenz „SAP TechEd“ Ende Oktober eine Reihe von KI-Innovationen bekannt gegeben, die das SAP-Portfolio für Entwickler erweitern. Erweiterungen der Joule-Lösungen und der SAP Business AI Platform – einschließlich des neuesten Foundation Models von SAP für tabellarische Daten – sollen neue Tools zur Entwicklung und Erweiterung von KI-Agenten bereitstellen. Zugleich sollen sie den Agenten Daten- und Geschäftskontext für logisches Denken sowie zusätzliche Governance-Kontrollen bieten. Um sie unternehmensweit verantwortungsvoll einsetzen zu können, so der Plan.

SAP Business AI Plattform als Basis

„Auf der SAP TechEd präsentieren Entwickler seit jeher die neuesten Innovationen“ sagt Philipp Herzig, CTO von SAP. „In diesem Jahr zeigen wir, wie KI nicht einfach nur lernt, Unternehmen zu verstehen, sondern auch Geschäftsprozesse abzuwickeln. In ‚Joule Work‘ machen Nutzer ihre Eingaben und erledigen Aufgaben in einer durchgängigen Anwendungsumgebung, in der gesamten SAP-Landschaft und darüber hinaus. Das ist die Neuerung, die wir in großem Maßstab bereitstellen.“

Die Basis von allem bildet die SAP Business AI Plattform. Sie sorge für eine schnellere Wertschöpfung, da Geschäftsprozesse von Anfang an verstanden würden, und biete eine höhere Genauigkeit. „Außerdem erfüllt sie die Anforderungen von Unternehmen, gewährleistet ab der ersten Implementierung einen sicheren, kontrollierten und konformen Betrieb und bietet eine einzigartige Kontextebene, die auf dem Prozess- und Branchenwissen aus über 50 Jahren aufbaut, das in jeder Agenten-Aktion verankert ist“, so Herzig weiter.

Code und No-Code

Gebaut werden KI-Agenten im „Joule Studio“. Das ist sowohl ohne Programmierkenntnisse per Klick-Baukasten (No-Code) möglich, als auch mit eigenem Code (Pro-Code). Dafür stehen über 70 verschiedene KI-Modelle zur Auswahl.

Durch neue Funktionen für „Joule Work“ sollen KI-Agenten noch wirkungsvoller komplexe Geschäftsprozesse über offene Protokolle (A2A und MCP) handhaben können. Diese Innovationen machen „Joule Work“ leistungsfähiger, um den Kontext besser zu verstehen, Entscheidungen zu treffen und mehrstufige Workflows über Unternehmenssysteme und Geschäftsbereiche hinweg auszuführen, so der Claim.

SAP erweitert seine KI-Plattform damit eigenen Angaben zufolge um eine neue Orchestrierungsschicht, damit Assistenten und Agenten komplexe, mehrstufige Abläufe über verschiedene SAP-Systeme hinweg zuverlässiger erledigen können. Der SAP Knowledge Graph soll künftig auch Daten aus kundeneigenen SAP- und Drittquellen einbinden, sodass Nutzer ihre Informationen in natürlicher Sprache durchsuchen und exakte, auf den eigenen Daten basierende Antworten erhalten.

Auch andere Anbieter-Einbindung möglich

Agenten anderer Anbieter sollen außerdem über ein kontrolliertes Agenten-Gateway sicher auf „Joule Agents“ zugreifen und mit ihnen zusammenarbeiten können, ohne dass „Kontrolle und Governance verloren gehen“. Das neue „SAP Enterprise AI Gateway“ bündelt zudem Authentifizierung, Richtlinien, Routing, Überwachung, Nutzungsverfolgung und Auditing des gesamten KI-Datenverkehrs im Unternehmen. Ergänzend sollen ein neuer „Joule Assistent“, der „SAP AI Agent Hub“ und ein „AI Governance Assistant“ Kunden dabei helfen, die EU-KI-Verordnung einzuhalten.

Beim „Tabular Foundation Model“ kündigt SAP das Modell „SAP-RPT-2.0“ an, das künftig auch Anomalien und Ausreißer in Tabellendaten erkennen soll. „SAP-RPT-TS“ hingegen soll Geschäftskennzahlen prognostizieren können.

Einsatz auf der ISS

„Es gibt große Weiterentwicklungen bei unseren Tabular Foundation Models“, ergänzt Herzig. „Daraus ist inzwischen eine ganze Modellfamilie geworden. Ein etwas ausgefallener technischer Ausblick ist, dass wir diese Modelle gemeinsam mit Hewlett Packard Enterprise auch auf der Internationalen Raumstation (ISS) einsetzen – für die vorausschauende Wartung im Weltraum.“ Das Modell soll zudem Ausfälle vorhersagen können, ohne dass die dafür benötigten Daten zur Erde übertragen werden müssen.

„SAP-RPT wurde generisch trainiert und kann– ähnlich wie große Sprachmodelle im Bereich Sprache – auf eine Vielzahl unterschiedlicher Anwendungsgebiete übertragen werden“, so Herzig weiter. „Creditplus verwendet solche Modelle beispielsweise für die Risikobewertung. Hitachi setzt sie für die vorausschauende Wartung seiner Maschinen ein. ‚Oxford Cancer‚ nutzt sie, um anhand von Proteinmarkern Krebserkrankungen bei Patienten besser vorherzusagen als mit bisherigen Modellen“, sagt er.

Wenn man sich die Internationale Raumstation ansehe, genauer gesagt das Columbus-Modul, in dem SAP das Modell einsetzt, gebe es dort enorme Datenmengen.

„Nicht einfach zur Erde herunterladen“

„Die Maschinen auf der ISS erzeugen Telemetriedaten, die sehr nützlich sind. Allerdings handelt es sich um rund zehn Gigabyte an Daten. Diese kann man nicht einfach zur Erde herunterladen – das würde viel zu lange dauern, wenn man schnell reagieren möchte, etwa um bestimmte Muster oder Auffälligkeiten in Zeitreihen zu erkennen“, erklärt Herzig. „Die Modelle lassen sich direkt vor Ort einsetzen, weil sie im Vergleich zu großen Sprachmodellen relativ klein sind. Sie können also unmittelbar auf der Raumstation betrieben werden. Und es ist kein Training erforderlich. Man speist die aktuellen Daten direkt als Live-Datenstrom ein und erhält sofort Vorhersagen.“

Der CTO sieht den Anwendungsfall auf der Raumstation nicht bloß als eine Marketingaktion, sondern als Zeugnis dafür, wie weit man gehen könne. Er sagt: „Wie nützlich ist die Technologie unter solch extremen Bedingungen? Auf der Erde ist heute vieles einfach. Wir haben schnelle Internetverbindungen und leistungsfähige GPUs. Bei solchen Anwendungsfällen spielt die Latenz kaum eine Rolle. Aber können wir auch in einer Umgebung echten Mehrwert schaffen, die nur eingeschränkt angebunden ist – oder zumindest sehr weit entfernt? Genau das wollten wir zeigen: Mit einer lokalen Verarbeitungsumgebung lassen sich Probleme lösen, deren Lösung sonst schwierig wäre, weil man zunächst sämtliche Daten zur Erde übertragen müsste. Anschließend müsste man sie dort auswerten und die Ergebnisse zurückübermitteln. Dann könnte es aber bereits zu spät sein.“

SAP löst „Data Drift“-Problem

Ein zentrales Problem bei klassischen KI-Modellen ist der sogenannte Data Drift: Data Scientists trainieren ihre Modelle auf historischen Daten, doch schon beim Abschluss des Trainings können sich die eintreffenden Daten statistisch verändert haben. Die neuen Modelle von SAP wollen genau hier ansetzen.

Man könne jederzeit aktuelle Daten ins Kontextfenster geben und erhalte darauf basierend präzise Vorhersagen, ohne neu trainieren zu müssen. „Veränderungen in Struktur oder Eigenschaften der Daten erkennt das Modell unmittelbar“, betont Herzig. „Das wollten wir demonstrieren: Müsste man bei veränderten Bedingungen erst alle Informationen zur Erde übertragen und das gesamte Modell neu trainieren, wäre es dafür viel zu spät. Dann würde man auf der ISS sagen: ‚Schön, dass ihr uns das jetzt mitteilt – aber das hättet ihr uns schon vor einem oder zwei Monaten sagen müssen‘.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Chatkontrolle: Die EU baut an potenzieller Massenüberwachung