01.04.2025
HASSREDE

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
/artikel/hateblocker-io-ex-storebox-manager-zieht-hasskommentar-poster-zur-verantwortung
Hateblocker.io, Hasskommentare, Julia Gruber
© LinkedIn - Thaddäus Leutzendorff von fairesLeben bzw. fairesNetz.

„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.

Hateblocker.io: KI-gestützt

„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“

Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).

© trinksaufmich/Instagram – Julia Gruber erhielt strafrechtlich relevante Nachrichten.

Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.

Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.

Kategorisierung möglich

User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen.​ Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.

„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.

Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. ​Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent)​, Religion oder Weltanschauung (22 Prozent),​ ethnische Zugehörigkeit (20 Prozent)​ sowie sexuelle Orientierung mit 19 Prozent und​ Geschlecht mit 17 Prozent.

Hateblocker.io mit 10.000 Verarbeitungen pro Tag

Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“

Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.

Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.

Deine ungelesenen Artikel:
28.05.2026

RBI Global FinTech Scouts: 5 globale Trends in der Finanzbranche

Mit dem Global FinTech-Scouts Program bringt die Raiffeisen Bank International (RBI) die wichtigsten globalen FinTech-Trends nach Wien. Fünf internationale Expert:innen teilten mit brutkasten ihre aktuellen Top-Themen.
/artikel/rbi-global-fintech-scouts-5-globale-trends-in-der-finanzbranche
28.05.2026

RBI Global FinTech Scouts: 5 globale Trends in der Finanzbranche

Mit dem Global FinTech-Scouts Program bringt die Raiffeisen Bank International (RBI) die wichtigsten globalen FinTech-Trends nach Wien. Fünf internationale Expert:innen teilten mit brutkasten ihre aktuellen Top-Themen.
/artikel/rbi-global-fintech-scouts-5-globale-trends-in-der-finanzbranche
Fünf der RBI Global FinTech Scouts gaben uns Einblicke in die aktuellen globalen FinTech-Trends (vl.): Vel Vasic, Aditi Subbarao, Ken Thomas, Scarlett Sieber und Nnanna Ijezie | (c) brutkasten / Dervisevic
Fünf der RBI Global FinTech Scouts gaben uns Einblicke in die aktuellen globalen FinTech-Trends (vl.): Vel Vasic, Aditi Subbarao, Ken Thomas, Scarlett Sieber und Nnanna Ijezie | (c) brutkasten / Dervisevic

„Die große Stärke des Programms ist Neugier. Es geht darum, das Beste aus der ganzen Welt zusammenzutragen und dann zu nutzen“, sagt Aditi Subbarao, Enterprise Account Director beim US-AI-Data-Cloud-Anbieter Snowflake, im Gespräch mit brutkasten. Sie spricht über das Global FinTech-Scouts Program der Raiffeisen Bank International (RBI), für das sie seit dem Start vergangenes Jahr als Expertin fungiert. Ziel ist es, die wichtigsten Erkenntnisse im FinTech-Bereich von globalen Top-Expert:innen zusammenzutragen und für die gesamte RBI-Gruppe – und damit im ganzen CEE-Raum – nutzbar zu machen.

Im Mai holte die RBI ihre „Scouts“ wieder nach Wien. Brutkasten war vor Ort und bat fünf der Expert:innen, darunter auch Subbarao um ihre Einschätzung zu den aktuell wichtigsten FinTech-Trends.

1. KI-Agenten und die notwendige Datenstrategie

KI-Agenten seien aktuell wenig überraschend das dominierende Thema in den Führungsetagen der Finanzwelt, erklärt Aditi Subbarao. Dabei gehe es um die effiziente und sichere Umsetzung. Und diese sei an strenge technologische Voraussetzungen geknüpft: „Ohne eine solide Datenstrategie gibt es keine KI-Strategie. Unternehmen werden von KI-Agenten nicht profitieren, solange ihre zugrunde liegenden Daten nicht robust und KI-fähig sind“.

Zusätzlich zur Datenqualität sei die Sicherheit der Systeme entscheidend. Subbarao warnt vor unregulierten Modellen: „Selbst bei einer optimalen Datenbasis können ohne sichere, regulierte KI-Agenten mit angemessenen Leitplanken nicht die zuverlässigen und richtlinienkonformen Ergebnisse erzielt werden, die man für seine Kunden will“.

2. Web3 und Payments wachsen zusammen

Ein grundlegender Wandel vollzieht sich auch in der Infrastruktur digitaler Transaktionen, erklärt Vel Vasic, CEO des in Singapur ansässigen FinTech-Venture-Studios OTLRS. Er beobachtet eine zunehmende Verschmelzung etablierter Systeme: „Wir erleben derzeit, wie der traditionelle Zahlungsverkehr und Web3, die früher völlig getrennte Welten waren, konvergieren“.

Die Integration gehe dabei in beide Richtungen. „Zahlreiche Anbieter digitaler Vermögenswerte betrachten den Zahlungsverkehr mittlerweile als zentralen Bestandteil der Customer Journey“, führt Vasic aus. Er prognostiziert für die Branche eine weitreichende Veränderung: „In den kommenden zehn Jahren wird sich dies in Kombination mit künstlicher Intelligenz zu einem nahtlosen Omnichannel-Erlebnis für digitale Zahlungen entwickeln“.

3. Identitätsprüfung im Zeitalter von KI-Betrug

Die schnelle Verbreitung von künstlicher Intelligenz bringt auch neue Herausforderungen im Bereich der Cybersicherheit mit sich. Für Scarlett Sieber, Chief Strategy and Growth Officer beim New Yorker FinTech-Konferenzveranstalter Money20/20, rücken defensive Strategien in den Fokus. „Mein Hauptinteresse gilt der Rolle von Betrug und Identitätsprüfung im Kontext von künstlicher Intelligenz“, erklärt Sieber.

Sie sieht dabei einen direkten Zusammenhang zwischen technologischer Entwicklung und Cyber-Kriminalität: „Mit dem Aufstieg der KI verzeichnen wir einen deutlichen Anstieg von Betrugsfällen. Infolgedessen spielt die eindeutige Identitätsfeststellung eine wichtigere Rolle als jemals zuvor“.

4. Hyperpersonalisierung durch „Context Pulling“

Im Bereich der Kundenbindung verändert sich die Art und Weise, wie Finanzprodukte angeboten werden, erklärt Ken Thomas, Principal beim Londoner VC BackFuture. Er identifiziert einen Wandel in der Kundenansprache: „Der übergreifende Trend, den ich derzeit beobachte, ist die Hyperpersonalisierung und deren Wechselwirkung mit Banking“.

Die Strategie wandelt sich von traditionellen Marketingmethoden hin zu einer situativen Ansprache: „Wir nennen das ‚Context Pulling‘ anstelle von ‚Product Push‘. Anstatt eine statische Menge an Rewards anzubieten, geht es nun vielmehr darum, den Kunden die richtigen Rewards zur exakt richtigen Zeit zukommen zu lassen, um so die Interaktion und das Engagement zu steigern“.

5. Besserer Zugang zum US-Dollar

Nnanna Ijezie, Product Manager bei Booking.com in Amsterdam, sieht eine starke Nachfrage im Fremdwährungsbereich: „Wir beobachten weltweit einen wachsenden Zugang zum US-Dollar“.
Dieser Trend wird maßgeblich von neuen Marktteilnehmern getrieben. „Startups, FinTechs und Banken arbeiten daran, immer mehr Menschen einen einfacheren, schnelleren und kostengünstigeren Zugang zu dieser Währung zu ermöglichen“, so Ijezie.

Dabei kommen auch neue Technologien zum Einsatz: „Eine der populärsten Methoden, über die derzeit alle sprechen, sind Stablecoins, doch das zugrunde liegende Bedürfnis bleibt, der breiten Masse einen effizienteren Zugang zum US-Dollar zu verschaffen“.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung