01.04.2025
HASSREDE

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
/artikel/hateblocker-io-ex-storebox-manager-zieht-hasskommentar-poster-zur-verantwortung
Hateblocker.io, Hasskommentare, Julia Gruber
© LinkedIn - Thaddäus Leutzendorff von fairesLeben bzw. fairesNetz.

„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.

Hateblocker.io: KI-gestützt

„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“

Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).

© trinksaufmich/Instagram – Julia Gruber erhielt strafrechtlich relevante Nachrichten.

Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.

Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.

Kategorisierung möglich

User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen.​ Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.

„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.

Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. ​Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent)​, Religion oder Weltanschauung (22 Prozent),​ ethnische Zugehörigkeit (20 Prozent)​ sowie sexuelle Orientierung mit 19 Prozent und​ Geschlecht mit 17 Prozent.

Hateblocker.io mit 10.000 Verarbeitungen pro Tag

Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“

Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.

Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.

Deine ungelesenen Artikel:
vor 9 Stunden

Shopstory: NÖ-Startup mit zahlreichen bekannten Investoren muss Konkursantrag einbringen

Shopstory konnte in der Vergangenheit eine ganze Reihe teils prominenter Investoren für sich gewinnen. Nun brachte das Startup mit Sitz im niederösterreichischen Wolkersdorf einen Konkursantrag ein. Co-Founder und CEO Sebastian Schwelle gab brutkasten dazu ein Statement.
/artikel/shopstory-noe-startup-mit-zahlreichen-bekannten-investoren-muss-konkursantrag-einbringen
vor 9 Stunden

Shopstory: NÖ-Startup mit zahlreichen bekannten Investoren muss Konkursantrag einbringen

Shopstory konnte in der Vergangenheit eine ganze Reihe teils prominenter Investoren für sich gewinnen. Nun brachte das Startup mit Sitz im niederösterreichischen Wolkersdorf einen Konkursantrag ein. Co-Founder und CEO Sebastian Schwelle gab brutkasten dazu ein Statement.
/artikel/shopstory-noe-startup-mit-zahlreichen-bekannten-investoren-muss-konkursantrag-einbringen
Die Gründer Sebastian Schwelle (CEO) und Robert Böhm (CTO). (c) Shopstory

Ursprünglich unter dem Namen boomerank gegründet, setzte das niederösterreichische Startup Shopstory von Beginn an auf KI-gestützte Automatisierungslösungen für den E-Commerce-Bereich – brutkasten berichtete erstmals 2019. Das erklärte Ziel: Mit Hilfe intelligenter Assistenzsysteme sollten kleine Player im Wettbewerb mit Giganten wie Amazon nicht untergehen. Mit dem KI-Boom der vergangenen Jahre wurde das Angebot weiter nachgeschärft – 2024 etwa mit dem Launch einer No-Code-Plattform.

Hansmann, PlanRadar-Gründer, tecnet, aws Gründungsfonds und weitere als Investoren an Bord

Der Ansatz überzeugte im Laufe der Jahre eine ganze Reihe bekannter Investoren und Investmentgesellschaften. 2021 stiegen der niederösterreichische VC tecnet equity, startup300 und Unternehmer Patrick Pöschl ein; 2022 folgten unter anderem Hansi Hansmann und Alexander Valtingojer; in zwei Finanzierungsrunden 2023 zudem Johannes Braith, calm/storm, die PlanRadar-Gründer Sander van de Rijdt und Ibrahim Imam, Alexander Schütz und der aws Gründungsfonds.

Gründer Sebastian Schwelle: „tragfähige und langfristige Lösung bis jetzt nicht gefunden“

Doch wie die Kreditschutzverbände heute vermeldeten, brachte Shopstory nun einen Konkursantrag ein. Konkrete Informationen, etwa zur Höhe der Passiva, liegen in den Angaben der Kreditschutzverbände aktuell nicht vor. Co-Founder und CEO Sebastian Schwelle gab brutkasten jedoch auf Anfrage ein Statement:

„Der Markt, in dem wir uns bewegen, hat sich in den letzten Monaten massiv verändert. Durch die rasanten Fortschritte im AI-Bereich ist es für ein kleines Team wie unseres immer schwieriger geworden, sich zu behaupten. Wir haben alle Optionen geprüft und versucht umzusetzen, aber eine tragfähige und langfristige Lösung bis jetzt nicht gefunden. Deshalb haben wir einen Insolvenzantrag gestellt. Ich möchte mich bei unserem Team, unseren Kund:innen und vor allem unseren Investor:innen für ihr Vertrauen und die tolle Zusammenarbeit bedanken.“

Weitere Schritte bleiben abzuwarten

Auf die Frage, ob eine Weiterführung noch in Betracht komme, antwortet Schwelle: „Die weiteren Schritte liegen nun beim vom Gericht bestellten Masseverwalter, mit dem wir uns abstimmen werden.“ Ein Konkursantrag mündet üblicherweise in die Liquidation des Unternehmens, es kann unter bestimmten Umständen aber noch nachträglich ein Sanierungsantrag eingebracht werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung