01.04.2025
HASSREDE

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
/artikel/hateblocker-io-ex-storebox-manager-zieht-hasskommentar-poster-zur-verantwortung
Hateblocker.io, Hasskommentare, Julia Gruber
© LinkedIn - Thaddäus Leutzendorff von fairesLeben bzw. fairesNetz.

„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.

Hateblocker.io: KI-gestützt

„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“

Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).

© trinksaufmich/Instagram – Julia Gruber erhielt strafrechtlich relevante Nachrichten.

Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.

Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.

Kategorisierung möglich

User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen.​ Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.

„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.

Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. ​Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent)​, Religion oder Weltanschauung (22 Prozent),​ ethnische Zugehörigkeit (20 Prozent)​ sowie sexuelle Orientierung mit 19 Prozent und​ Geschlecht mit 17 Prozent.

Hateblocker.io mit 10.000 Verarbeitungen pro Tag

Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“

Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.

Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.

Deine ungelesenen Artikel:
vor 18 Stunden

„Software ist nicht tot“: Amodei, Benioff und Huang stellen neuestes Salesforce-Produkt „AIforce“ vor

Bei seiner Dreamforce-Eröffnungskeynote stellte Salesforce-CEO Marc Benioff AIforce vor und holte die CEOs von Anthropic und Nvidia auf die Bühne – inklusive Debatte über KI-Sicherheit und Europas Rückstand. Der brutkasten vor Ort.
/artikel/software-ist-nicht-tot-amodei-benioff-und-huang-stellen-neuestes-salesforce-produkt-aiforce-vor
vor 18 Stunden

„Software ist nicht tot“: Amodei, Benioff und Huang stellen neuestes Salesforce-Produkt „AIforce“ vor

Bei seiner Dreamforce-Eröffnungskeynote stellte Salesforce-CEO Marc Benioff AIforce vor und holte die CEOs von Anthropic und Nvidia auf die Bühne – inklusive Debatte über KI-Sicherheit und Europas Rückstand. Der brutkasten vor Ort.
/artikel/software-ist-nicht-tot-amodei-benioff-und-huang-stellen-neuestes-salesforce-produkt-aiforce-vor
Salesforce-CEO Marc Benioff bei der Dreamforce-2026-Eröffnungs-Keynote. © brutkasten

Rund 45.000 Besucher:innen versammeln sich beim jährlichen Flaggschiff-Event des CRM-Riesen Salesforce rund um das Moscone Center in San Francisco. Höhepunkt ist die Eröffnungskeynote von CEO Marc Benioff: Wer einen Platz im größten Saal des Dreamforce-Areals ergattern will, muss bereits Stunden zuvor vor Ort sein.

Hawaiianische Rituale und ein Kurzauftritt von Grammy-Preisträgerin Gwen Stefani überbrücken die Wartezeit, ehe der Salesforce-Mitgründer eindrucksvoll inszeniert die Bühne betritt, um sich dem Leitthema der diesjährigen Konferenz zu widmen: der Transformation von Unternehmen durch autonome KI-Agenten.

Der Dreamforce-Haupteingang in San Francisco.

Anthropic- und Nvidia-CEO mit auf der Bühne

Den Auftakt zum dreitägigen Programm bestreitet Benioff nicht allein. An seiner Seite: Dario Amodei, Co-Founder und CEO von Anthropic, Jensen Huang, CEO von Nvidia, Siemens-CEO Roland Busch sowie mehrere Vertreter:innen aus dem eigenen Haus.

Die Auswahl ist alles andere als Zufall. Mit Claudeforce holt Salesforce seine Applikationen direkt in die Anthropic-Umgebung. Parallel dazu entsteht mit Nvidia das hauseigene Modell „Koa“, das auf Nvidias Nemotron-Architektur aufbaut und mit synthetischen Daten, die auf 27 Jahren Salesforce-CRM-Wissen basieren, trainiert wurde.

„Ich habe kein einziges autonomes Fahrzeug in Europa gesehen“

Geografisch spielt sich Dreamforce zwar in den Vereinigten Staaten ab, dennoch nimmt Europas Position im globalen KI-Wettlauf breiten Raum in Benioffs Eröffnungskeynote ein. Das Bild, das der Salesforce-Mitgründer zeichnet, fällt ernüchternd aus: „Ich war einige Monate in Europa und habe kein einziges autonomes Fahrzeug gesehen“, berichtet der CEO, als Sinnbild für die ungleiche globale Verteilung und die zögerliche Nutzung von KI-Technologien.

„Die Tür ist offen, aber noch nicht jeder ist hindurchgegangen“, führt Benioff aus. Kund:innen, so seine Einschätzung, seien teilweise noch in einer alten Welt verhaftet und hätten die unternehmerische Transformation durch KI noch nicht vollzogen. Genau hier will Salesforce ansetzen, um die Adoption zu beschleunigen.

AIforce vorgestellt

AIforce soll die Arbeitsweise von Unternehmen transformieren.

Konkret wird dieser Anspruch bei der zentralen Produktankündigung, die Benioff im Rahmen seiner Keynote als „die aufregendste in der Geschichte von Salesforce“ bezeichnet: Mit AIforce möchte das Unternehmen Daten, Workflows, Geschäftslogik und Governance direkt in Arbeitsumgebungen wie Slack, Claude oder Salesforce Lightning bringen, ohne dass Nutzer:innen Salesforce selbst öffnen müssen. „KI führt zu einer Revolution der Benutzeroberflächen“, so Benioff laut offizieller Ankündigung. Dabei betont Salesforce von Beginn an, dass das System auf Zero Data Retention setzt. „Deine Daten sind deine Daten“, versichert der CEO mehrfach.

Technisch stützt sich AIforce auf drei bestehende Bausteine: Data 360 liefert den einheitlichen Datenkontext, Customer 360 die Anwendungs- und semantische Intelligenz, Agentforce die digitale Belegschaft aus KI-Agenten. Zum Start zählen dazu Claudeforce, Slackforce und Agentforce Coworker.

Amodei plädiert für Industriestandards

Die Partnerschaftsmarke Claudeforce ist seit August 2026 bekannt; Amodeis Anwesenheit unterstreicht dennoch das Gewicht der Partnerschaft. Auf Benioffs Frage, was ihn zuletzt am meisten überrascht habe, antwortet Amodei: „Das Tempo, nicht nur auf technologischer, sondern auch auf wirtschaftlicher Seite. Ich war schlicht überrascht, dass eine solche Geschwindigkeit in der Geschäftswelt überhaupt möglich ist.“

Auf Benioffs Frage, wie er die „Pacing“-Debatte und den aktuellen Stand der Sicherheit einschätze, antwortet Amodei mit einem Drei-Stufen-Plan, den er wenige Tage zuvor in seinem Essay „We Must Pace the Frontier“ veröffentlicht hatte: zunächst die eigenen Praktiken prüfen und in Transparenz investieren, dann gemeinsame Industriestandards erarbeiten, schließlich eine internationale Abstimmung anstoßen. Umgesetzt sei bislang erst der erste Schritt. Begleitet von drei Sicherheitskräften verlässt Amodei den Saal umgehend nach seinem kurzen Auftritt.

Huang sieht Verantwortung bei den Entwickler:innen

Salesforce-CEO Marc Benioff und Nvidia-CEO Jensen Huang bei der Eröffnungs-Keynote.

Während Amodei bei Sicherheitsfragen einen bedachten, koordinierten Kurs einfordert, vertritt Nvidia-CEO Jensen Huang eine andere Linie: „Sicherheit hat oberste Priorität, in vielerlei Hinsicht ist sie die wichtigste Aufgabe. Allerdings ist Sicherheit zugleich ein Ingenieursproblem“, ein komplexes Rechensystem wie jedes andere, das sich technisch beherrschen lasse. Sein Rezept: zunächst sichere Testumgebungen schaffen, in denen sich Systeme prüfen lassen, und Produkte erst freigeben, wenn man von deren Sicherheit überzeugt ist. Regulatorische Eingriffe des Staates lehnt er ab.

Die Devise laute stattdessen, Innovationen so rasch wie möglich voranzutreiben, ohne Sicherheit zu opfern: „Laufen Sie so schnell Sie können, doch sobald Sie das Gefühl haben, […] das Produkt werde nicht sicher sein, legen Sie eine Pause ein“, so der Nvidia-Chef. Tempo und Sicherheit seien für ihn kein Widerspruch, sondern gleichzeitig erreichbar. Ob sich Unternehmen im permanenten Wettlauf um Marktanteile tatsächlich so diszipliniert selbst bremsen, wie Huang es beschreibt, bleibt allerdings offen.

Das Mantra: „Software ist nicht tot“

Wie ein roter Faden zog sich zudem das Gegennarrativ zur „SaaSpocalypse“ durch den Vormittag. Huang bezeichnete die These vom Ende der Software als „kompletten Unsinn“, Benioff präzisierte: „Software ist nicht tot. Es ist das Ende jener Software, die Menschen die ganze Arbeit machen lässt.“ Ob sich diese Neuerfindung tatsächlich so reibungslos vollzieht, wie auf der Bühne suggeriert, wird sich außerhalb des Moscone Centers erst noch zeigen müssen.


Transparenzhinweis: Die Reise- und Aufenthaltskosten zur Dreamforce wurden von Salesforce übernommen. Auswahl und Bewertung der Themen erfolgten unabhängig davon.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung