01.04.2025
HASSREDE

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
/artikel/hateblocker-io-ex-storebox-manager-zieht-hasskommentar-poster-zur-verantwortung
Hateblocker.io, Hasskommentare, Julia Gruber
© LinkedIn - Thaddäus Leutzendorff von fairesLeben bzw. fairesNetz.

„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.

Hateblocker.io: KI-gestützt

„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“

Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).

© trinksaufmich/Instagram – Julia Gruber erhielt strafrechtlich relevante Nachrichten.

Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.

Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.

Kategorisierung möglich

User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen.​ Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.

„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.

Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. ​Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent)​, Religion oder Weltanschauung (22 Prozent),​ ethnische Zugehörigkeit (20 Prozent)​ sowie sexuelle Orientierung mit 19 Prozent und​ Geschlecht mit 17 Prozent.

Hateblocker.io mit 10.000 Verarbeitungen pro Tag

Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“

Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.

Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.

Deine ungelesenen Artikel:
vor 3 Stunden

Diese Speaker:innen kommen zur TEDAI 2026

Vom 28. bis 30. Oktober 2026 soll die Wiener Hofburg zum globalen Zentrum für Künstliche Intelligenz werden. Nach ersten Ankündigungen im März stehen nun weitere Speaker:innen für die TEDAI 2026 fest. Von DeepMind bis Anthropic: ein Überblick über das internationale Line-up.
/artikel/diese-speakerinnen-kommen-zur-tedai-2026
vor 3 Stunden

Diese Speaker:innen kommen zur TEDAI 2026

Vom 28. bis 30. Oktober 2026 soll die Wiener Hofburg zum globalen Zentrum für Künstliche Intelligenz werden. Nach ersten Ankündigungen im März stehen nun weitere Speaker:innen für die TEDAI 2026 fest. Von DeepMind bis Anthropic: ein Überblick über das internationale Line-up.
/artikel/diese-speakerinnen-kommen-zur-tedai-2026
Alina Nikolaou, Co-Founder, Director & Curator TEDAI Vienna
Alina Nikolaou, Co-Founder, Director & Curator TEDAI Vienna | Foto: TEDAI

„Es kommt nur selten vor, dass Vertreter:innen der weltweit führenden Frontier-Labs gleichzeitig an einem Ort zusammenkommen“, erklärt Alina Nikolaou, Co-Founder, Director & Curator der TEDAI. Mit der Ankündigung weiterer hochkarätiger Speaker:innen aus Organisationen wie Anthropic und Google DeepMind nimmt die dritte Auflage der TEDAI, die vom 28. bis 30. Oktober 2026 in der Wiener Hofburg stattfindet, nun konkrete Formen an. Rund 1.200 internationale Entscheidungsträger:innen, Pionier:innen und KI-Enthusiast:innen werden in Wien erwartet und sollen dort die Möglichkeiten, Grenzen und offenen Fragen der nächsten KI-Generation diskutieren.

Praktische Umsetzung im Vordergrund

Schon im März berichtete brutkasten über die ersten bekannten Namen im Line-up, darunter Physik-Nobelpreisträger Geoffrey Hinton und OpenClaw-Entwickler Peter Steinberger. Seither hat sich das Programm der weltweit einzigen offiziellen TED-Konferenz zu Künstlicher Intelligenz noch deutlich erweitert und wurde analog zur weiterhin rasanten KI-Entwicklung adaptiert. Während die Konferenz anfangs vor allem breite gesellschaftliche und ethische Themen im Visier hatte, rückt mit den neuesten Speaker:innen-Bestätigungen vom August die praktische Umsetzung in den Vordergrund. „Vom Modell zur Wirkung“ lautet das aktuelle Motto. Es gehe darum, „wie aus leistungsfähigen KI-Modellen verlässliche Anwendungen und KI-Agenten entstehen, die Menschen in Arbeit, Forschung und Wirtschaft konkret unterstützen“.

Zielsetzung der TEDAI im Wandel

Diese Entwicklung spiegelt sich auch in der personellen Auswahl der Veranstalter:innen wider. Erklärte Alina Nikolaou im März noch, dass im Fokus der Konferenz „die ambitioniertesten KI-Trends und Ideen unserer Zeit: konkrete Lösungen, radikale Paradigmenwechsel, augenöffnende Forschungsergebnisse und schwierige, aber dringend notwendige soziale Fragen“ stünden, so sagte Nikolaou im Juni bereits über die gewünschte Perspektivenvielfalt: „Wenn es um KI geht, entstehen die spannendsten Erkenntnisse oft nicht im Konsens, sondern dort, wo Perspektiven und Paradigmen aufeinanderprallen. Genau diese Spannungsfelder wollen wir auf der TEDAI 2026 sichtbar machen.“ Nun, mit den neuesten Ankündigungen von heute, stehe laut den Organisator:innen die Chance im Fokus, „Einblicke in Ideen zu gewinnen, an denen heute gearbeitet wird: von KI-Agenten in der Wirtschaft bis zur Zukunft der Wissensarbeit“.

Die Top-Speaker:innen

Unter den zahlreichen Neuzugängen sind einige besonders klingende Namen:

Geoffrey Hinton: Der britisch-kanadische Wissenschaftler gilt als einer der „Godfathers of AI“ und ist ein Pionier im Bereich neuronaler Netze und Deep Learning. Für seine grundlegenden Beiträge wurde er 2018 mit dem Turing Award und 2024 mit dem Nobelpreis für Physik ausgezeichnet.

Peter Steinberger: Der gebürtige Österreicher sorgte mit seiner Open-Source-Anwendung OpenClaw für einen internationalen Hype. Inzwischen arbeitet er für das US-Schwergewicht OpenAI an Produkten für eine „Agent-first“-Welt, mit dem Ziel, jedem Menschen einen eigenen KI-Assistenten zur Verfügung zu stellen.

Felix Rieseberg: Er kommt neu ins Line-up und arbeitet bei Anthropic direkt an der Schnittstelle zwischen Modellen und praktischer Anwendung. Dort entwickelte er unter anderem Claude Cowork und verantwortete Engineering-Teams für Claude.ai sowie Claude Code auf dem Desktop.

Nenad Tomašev: Als Senior Staff Research Scientist bei Google DeepMind forscht er zu Multi-Agenten-Systemen, Agentic Economies sowie KI-Sicherheit. Seine Arbeit fokussiert darauf, wie komplexe KI-Agenten wirksam durch Menschen kontrolliert und an menschlichen Interessen ausgerichtet werden können.

Valeria Pettorino: Die Physikerin ist Project Scientist der Euclid-Weltraummission bei der Europäischen Weltraumorganisation ESA. Sie bringt eine astrophysikalische Perspektive ein und zeigt, wie KI-Technologie unser Verständnis des Universums, insbesondere im Bereich Kosmologie und Dunkler Energie, erweitert.

Die weiteren Speaker:innen: breites Spektrum von Kosmologie bis Plattformkritik

Um den Anspruch zu erfüllen, die „gesamte Bandbreite der KI-Debatte abbilden“ zu können, bringen die weiteren Speaker:innen höchst diverse Perspektiven nach Wien. Die wissenschaftliche und technologische Grundlagenforschung wird durch die Forscherinnen Anna Goldie und Azalia Mirhoseini, Gründerinnen von Recursive Intelligence und ehemalige Leiterinnen des AlphaChip-Projekts bei Google, beleuchtet. Mahmoud „Mido“ Assran forscht an sogenannten World Models und Self-Supervised Learning, um effiziente und sichere KI-Agenten zu ermöglichen. Gehirnaktivitäten mittels KI entschlüsselt wiederum der japanische Neurowissenschaftler Yukiyasu Kamitani, dessen Arbeit bis zur Rekonstruktion von Träumen reicht.

Demgegenüber stehen kritische Stimmen aus Medien, Ethik und Gesellschaft: Nicholas Thompson, CEO von The Atlantic, und der bekannte Autor und Aktivist Cory Doctorow ordnen die gesellschaftlichen und politischen Folgen von KI ein. Um Datenschutz und Ethik dreht sich die Arbeit von Carissa Véliz (Associate Professor in Oxford), während der Rechtswissenschaftler César Rodríguez-Garavito (NYU) zu KI-Governance und Klima- sowie indigenen Rechten forscht. Die nigerianische klinische Psychologin Kauna Ibrahim Malgwi bringt zudem ihre Forschung zu algorithmischem Trauma und mentaler Gesundheit in prekären digitalen Arbeitsbedingungen ein.

Praxisnahe Anwendungen bringen schließlich Kateryna Lopatiuk (räumliche Datenanalyse für den Wiederaufbau), Dr. Layla Hosseini-Gerami (Ignota Labs, Chief Data Science Officer für KI-gestützte Medikamentenentwicklung) und Gabriella Di Laccio (Donne, Women in Music) mit Datenanalysen zur Sichtbarkeit von Komponistinnen ein.

Neben den rund 20 TED-Talks am abschließenden Konferenztag will die TEDAI 2026 den Besucher:innen ein umfassendes „Gesamterlebnis“ bieten. Dazu gehören ein festlicher Eröffnungsball, der Wiener Tradition mit moderner Innovation verbinde, sowie der sogenannte „Discovery Day“ mit interaktiven Workshops.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung