01.04.2025
HASSREDE

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
/artikel/hateblocker-io-ex-storebox-manager-zieht-hasskommentar-poster-zur-verantwortung
Hateblocker.io, Hasskommentare, Julia Gruber
© LinkedIn - Thaddäus Leutzendorff von fairesLeben bzw. fairesNetz.

„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.

Hateblocker.io: KI-gestützt

„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“

Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).

© trinksaufmich/Instagram – Julia Gruber erhielt strafrechtlich relevante Nachrichten.

Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.

Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.

Kategorisierung möglich

User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen.​ Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.

„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.

Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. ​Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent)​, Religion oder Weltanschauung (22 Prozent),​ ethnische Zugehörigkeit (20 Prozent)​ sowie sexuelle Orientierung mit 19 Prozent und​ Geschlecht mit 17 Prozent.

Hateblocker.io mit 10.000 Verarbeitungen pro Tag

Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“

Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.

Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.

Deine ungelesenen Artikel:
25.06.2026

Eustella: Wiener Claude- und ChatGPT-Herausforderer geht in Vollbetrieb

Eustella setzt mit seinem Agentic-AI-Angebot auf Open Source, Mobile First und 100 Prozent Europa - und hat damit große Pläne. Nach der Beta-Phase folgte nun der Launch.
/artikel/eustella-wiener-claude-und-chatgpt-herausforderer-geht-in-vollbetrieb
25.06.2026

Eustella: Wiener Claude- und ChatGPT-Herausforderer geht in Vollbetrieb

Eustella setzt mit seinem Agentic-AI-Angebot auf Open Source, Mobile First und 100 Prozent Europa - und hat damit große Pläne. Nach der Beta-Phase folgte nun der Launch.
/artikel/eustella-wiener-claude-und-chatgpt-herausforderer-geht-in-vollbetrieb
Eustella-CEO Matteo Rosoli | (c) AI Factory Austria AI:AT/Arman Rastegar
Eustella-CEO Matteo Rosoli | (c) AI Factory Austria AI:AT/Arman Rastegar

Prominente Investoren wie Hansi Hansmann, Hermann Futter und die 3VC-Gründer Peter Lasinger und Roman Scharf im Publikum, Bitpanda Co-Founder Christian Trummer und Emmi-Co-Founder Johannes Brandstetter – mittlerweile Vice President AI for Science bei Mistral AI – auf der Bühne: Das Launch-Event des Wiener Startups Eustella in der AI Factory Austria AI:AT zog diese und noch weitere Größen der heimischen Innovationsszene an. Der Plan des Unternehmens geht aber weit über die Landesgrenzen hinaus: Man will KI-Nutzer:innen in ganz Europa überzeugen.

„Es gibt mehr als 130 Millionen aktive AI-User in Europa, aber kaum europäische Alternativen, vor allem nicht für Konsumentinnen und Konsumenten und vor allem nicht im Agent-Bereich“, sagt CEO Matteo Rosoli beim Launch-Event. Der KI-Experte – übrigens ein Absolvent des High-Potential-Programms der Wiener HTL Spengergasse – hat das Unternehmen gemeinsam mit Alexander Maitz, Jakob Steinschaden und Bastian Kellhofer gegründet. Das Konzept: Ein Agentic-AI-Angebot, das mit den US-Riesen mithalten kann, aber zu 100 Prozent in Europa gehosted ist – etwa bei Ionos in Berlin oder Scaleway in Paris.

Fable-5-Sperre „Spitze des Eisbergs“

„Die Sperre von Anthropics Fable 5 war nur die Spitze des Eisbergs der Souveränitäts-Thematik in Europa“, meint Rosoli. Souveränität sei zu einer Frage der Business Continuity und damit zu einer Frage des Überlebens für europäische Unternehmen geworden. Unter anderem wegen der Regulatorik, die, wie der CEO betont, „auch einen guten Zweck“ habe, würden europäische Lösungen vielfach hinter amerikanischen und asiatischen hinterherhinken. Das wolle man ändern: „Wir wollen nicht die europäische Software sein, die nicht so gut funktioniert und nicht so viel Mehrwert bringt. Wir wollen wirklich eine europäische Alternative sein.“

Orchestrierung entscheidend

Dabei baut Eustella kein eigenes KI-Modell, wie es etwa Mistral in Frankreich macht. Das Wiener Startup setzt auf verschiedene Open-Source-Modelle – nicht nur von Mistral, sondern auch von US-Anbietern wie Google und OpenAI. „Entscheidend ist die Orchestrierungsebene“, erklärt Rosoli. Diese „Agent Orchestration“ treffe eine smarte Auswahl, welche Modelle für welchen Zweck optimal passen und halte damit auch den Token-Verbrauch gering. Kombiniert wird das mit einem Mobile-First-Ansatz auf Nutzer:innen-Seite – Stichwort: „Agent in a pocket“.

Kompetitive Preise

Preislich will Eustella nicht nur mithalten, sondern gibt sich kompetitiv: Neben einer stark eingeschränkten Free-Version gibt es Angebote um sechs, 18 bzw. 90 Euro monatlich. „Jeder Anbieter kann kompetitive Preise anbieten. Wir machen das ganz bewusst aus Europa heraus. Der Preis rechnet sich aber auch für uns“, sagt der Gründer. Mit dem 18-Euro-Modell könne man etwa schon „richtig schön ein, zwei große Agents laufen lassen.“

„Beschäftigen uns 50 Prozent unserer Zeit mit AI-Safeguards und Themen wie Prompt Injections“

Das zweite große Verkaufsargument ist Sicherheit: „Die Daten sind bei Eustella sicher. Anders als bei den amerikanischen und asiatischen Anbietern braucht man sich keine Sorgen machen, dass etwas an Werbeanbieter verkauft wird“, sagt der Gründer. Für Sicherheit wolle man aber natürlich auch auf technischer Ebene sorgen. „Wir beschäftigen uns 50 Prozent unserer Zeit mit AI-Safeguards und Themen wie Prompt Injections. Deswegen releasen wir unsere Funktionen auch Schritt für Schritt, um gar keine Angriffsflächen zu ermöglichen“, so Rosoli.

Partnerschaften mit Bitpanda und Geizhals

Abgerundet werden soll das Angebot durch sogenannte Daten-Partnerschaften. Solche gibt es bislang mit dem Wiener Krypto-Unicorn Bitpanda, das über eine Schnittstelle aktuelle und zuverlässige Daten zum Krypto-Markt liefern soll, und mit dem Wiener Portal Geizhals, das valide Preisvergleichsdaten einspeist. Bitpanda-Co-Founder und Chief Scientist Christian Trummer sieht in der Partnerschaft aber noch mehr Potenzial: „Wir erwarten uns sehr viel von Eustella. Agentic Finance ist bei uns ein Riesen-Thema und in der Finanzbranche sind immer Vertrauen und Zuverlässigkeit wichtig.“ In Zukunft wolle man „die Finanzplattform für Agents“ sein. „Eustella ist hier der perfekte Partner für uns“, so der Bitpanda-Gründer.

Bitpanda-Co-Founder Christian Trummer (l.) neben Phillip Maasberg von Ionos | (c) AI Factory Austria AI:AT/Arman Rastegar

„Schauen einmal, dass die Server den Zuwachs an Usern überleben“

Bis dahin liegen aber noch einige Schritte vor dem Wiener Startup. „In den nächsten paar Tagen schauen wir einmal, dass die Server den Zuwachs an Usern überleben“, sagt Rosoli. „Dann werden wir Stück für Stück die Agent-Funktionalitäten aufbauen – dabei gibt es verschiedene Sicherheitsstufen.“ Schon bald soll Eustella etwa voll autonom kleine Essensbestellungen abwickeln können. Für davor gibt aber Co-Founder Jakob Steinschaden das erste konkrete Ziel aus: „Es wäre super, wenn wir im App-Store auf Platz eins landen.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung