Hateblocker.io: Ex-Storebox-Manager zieht Hasskommentar-Poster zur Verantwortung
Hateblocker.io ist eine Plattform, die Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet schützen soll. Dabei unterstützt Gründer Thaddäus Leutzendorff auch bei der rechtlichen Verfolgung von Täter:innen.
„Ich schlitze dir die Kehle auf, du veganes Miststück.“ Das ist nur eine der Hassnachrichten, die Influencerin Julia Gruber im Netz erhalten hat. Sie setzt sich für Empowerment, gegen sexuelle Gewalt sowie gegen die Sexualisierung von Frauen ein und wird bei ihren Posts beinahe täglich mit zumindest seltsamen oder extrem feindseligen Kommentaren konfrontiert. Ihr Bekannter Thaddäus Leutzendorff hat vor fünf Jahren das LegalTech fairesLeben gegründet. Damit möchte er Kund:innen helfen, in finanziell wichtigen Angelegenheiten ihre Rechte gegenüber vermeintlich stärkeren Vertragspartnern wahrnehmen zu können. Im Zuge dessen lernte er Gruber kennen, die ihm erzählte, sie hätte schon wieder Morddrohungen bekommen. So ist zuerst die Meldestelle fairesnetz und später Hateblocker.io als Tochtergesellschaft davon entstanden.
Hateblocker.io: KI-gestützt
„Julia fragte mich“, erzählt Leutzendorff, „ob man da etwas tun kann. Es gab damals wenig Anlaufstellen und kaum Judikatur. Wir haben dann zwei Jahre lang ein Verfahren geführt gegen Täter:innen und Plattformen, auch um zu sehen, wie man am effektivsten gegen Hass im Netz vorgehen kann.“
Anm.: Der deutsche Täter in diesem Fall wurde ausgeforscht und geklagt. Er hat sich außergerichtlich mit Gruber und dem Gründer verglichen und musste über 3.000 Euro bezahlen (Schadenersatz inklusive Rechtsanwaltskosten).
Leutzendorff merkte bald, bei welchen Plattformen man an Daten herankommen kann, erkannte dabei aber ein großes Problem: „Für Kund:innen wie Julia wäre es viel zu viel Arbeit, zu recherchieren, die Identität herauszufinden, alles zu sichern, Screenshots und dergleichen. Also wussten wir, wir müssen eine Software bauen, die alles automatisiert erledigt“, erinnert er sich.
Hateblocker.io hat zum Ziel, Nutzer:innen vor Hassrede, Bedrohungen und Beleidigungen im Internet zu schützen. Dabei analysiert das KI-gestützte System in Echtzeit Kommentare und Nachrichten auf verbundenen Social-Media-Kanälen, um schädliche Inhalte frühzeitig zu erkennen und zu entfernen.
Kategorisierung möglich
User:innen erhalten mittels hateblocker.io eine Übersicht über alle als unangemessen markierten Inhalte und können direkt Maßnahmen ergreifen. Das System hilft zudem dabei, die Identität hinter anonymen Profilen aufzudecken, um bei Bedarf rechtliche Schritte einleiten zu können. Kommentare können zusätzlich nach Schweregrad kategorisiert werden.
„Wir haben 41 verschiedene ‚Marker‘ und können sehen, um welche Art von Hassrede es sich handelt. Ob Rassismus oder Morddrohungen etwa. Dann wird automatisch ein Screenshot erstellt“, sagt Leutzendorff.
Laut einer Erhebung von Statistik Austria aus dem Jahr 2023 waren rund 31 Prozent der österreichischen Bevölkerung mit feindseligen oder erniedrigenden Kommentaren gegenüber bestimmten Personengruppen konfrontiert. Besonders betroffen waren Nutzer:innen sozialer Medien: 39 Prozent von ihnen berichten von solchen Erfahrungen, während es bei Internetuser:innen ohne Social-Media-Aktivität 20 Prozent sind. Inhalte beziehen sich dabei am häufigsten auf politische oder gesellschaftliche Ansichten (27 Prozent), Religion oder Weltanschauung (22 Prozent), ethnische Zugehörigkeit (20 Prozent) sowie sexuelle Orientierung mit 19 Prozent und Geschlecht mit 17 Prozent.
Hateblocker.io mit 10.000 Verarbeitungen pro Tag
Leutzendorff selbst war, bevor er Gründer wurde, von 2019 bis 2020 „Business Operations Manager“ bei Storebox, davor nicht ganz zwei Jahre „Corporate Sales Manager“ bei foodora, bevor er sich selbstständig machte und nun das Thema „Fairness“ bedient: „Bisher haben wir mehr als 1.000.000 Kommentare und Nachrichten unserer Kunden verarbeitet und bearbeiten aktuell rund 10.000 pro Tag. Das Ziel ist es, bis Jahresende auf 200.000 zu erhöhen.“
Zu den Kund:innen von Hateblocker.io gehören, Personen aus dem Sport, der Politik und auch Moderator:innen, hier vorwiegend weibliche, die nach einem Auftritt bis zu 10.000 Mails erhalten – inklusive wüster Beschimpfungen.
Leutzendorff und Gruber treten heute bei „2 Minuten 2 Millionen“ auf und wollen neben einem potentiellen Investment auch die Leute für das Thema Hass im Netz sensibilisieren.
Beim dritten Technology Impact Summit in Graz drehte sich alles um Europas digitale Souveränität. Acht Use Cases zeigten, wie KI heute schon eingesetzt wird, von Kryptographie bis zur Rechts-KI. brutkasten war vor Ort.
Beim dritten Technology Impact Summit in Graz drehte sich alles um Europas digitale Souveränität. Acht Use Cases zeigten, wie KI heute schon eingesetzt wird, von Kryptographie bis zur Rechts-KI. brutkasten war vor Ort.
Europa will bei Künstlicher Intelligenz unabhängiger werden. Aber wie viel Unabhängigkeit ist realistisch, und was kostet sie? Um diese Fragen drehte sich am Mittwoch, dem 11. November, der Technology Impact Summit in der Aula der Universität Graz. Der Tenor fiel eindeutig aus: Souveränität ja, Autarkie nein. Digitale Unabhängigkeit dürfe kein Selbstzweck sein und nicht zum Wettbewerbsnachteil werden, sondern müsse pragmatisch gedacht werden. Wichtiger als perfekte Strategien sei rasches, entschlossenes Handeln.
Rund 400 geladene Gäste aus Wirtschaft, Wissenschaft und Politik kamen zur dritten Auflage der Veranstaltung, hinter der Universität Graz, Technische Universität Graz, Joanneum Research und FH Joanneum stehen. Durch das Programm führte Moderatorin Katrin-Cécile Ziegler. Neben den Debatten gab es Neuigkeiten aus der Bundespolitik und Beispiele aus der Praxis, vom Krankenhaus bis zum Strafvollzug. brutkasten zählte zu den Partnern des Summit und war vor Ort.
KI-Strategie, KI-Zentrum und ein Staatspreis für Graz
Digitalisierungsstaatssekretär Alexander Pröll sprach im Rahmen des Summits über die KI-Pläne der Bundesregierung. Die KI-Strategie aus dem Jahr 2021 werde derzeit im Auftrag des Bundeskanzlers überarbeitet. Die neue Strategie soll die gesamte Gesellschaft mitnehmen. Erste Ergebnisse will Pröll in der kommenden Woche präsentieren.
Ein Teil ist bereits bekannt: Die Bundesregierung bemüht sich um die Ansiedlung eines KI-Zentrums in Wien, das gemeinsam mit der Wissenschaft und den Vereinten Nationen internationale Standards setzen soll. Pröll nannte Österreichs Neutralität und den UNO-Sitz in Wien als Argumente. Es gehe dabei nicht um neue Regulierung, betonte er. KI-Pionier Geoffrey Hinton unterstütze den Vorstoß grundsätzlich.
„Die Universitäten machen Österreich stark und sind ein Wettbewerbsvorteil in der Verbindung aus Wissenschaft und Wirtschaft“, sagte Pröll.
„Ein souveränes digitales Europa entsteht nicht in Brüssel, sondern in forschungsintensiven Regionen wie der Steiermark. Aus einer starken industriellen Basis, innovativen Unternehmen und engagierten Startups gestalten wir die digitale Souveränität Europas aktiv“, sagte der steirische Landesrat Willibald Ehrenhöfer.
Neu ist außerdem: Der Staatspreis für Künstliche Intelligenz wird ab 2027 beim Technology Impact Summit in Graz verliehen, kündigte Pröll an. Ausgezeichnet werden digitale Produkte, Lösungen und Prozesse aus Österreich, die ihre Wirkung bereits unter Beweis gestellt haben. Über die Vergabe entscheidet eine unabhängige Fachjury.
„Jahrhundertchance“ und der Ruf nach mehr Selbstbewusstsein
Agnes Heftberger, Chefin von Microsoft Deutschland, stellte in ihrer Keynote das wirtschaftliche Potenzial in den Mittelpunkt. In der Wachstumsprognose des Internationalen Währungsfonds liegt Österreich derzeit auf Platz 184 von 191. Mit Künstlicher Intelligenz auf heutigem Stand wäre ein Wachstum von 18 Prozent möglich, 2,24 Milliarden Arbeitsstunden könnten von KI geleistet werden, womit sich Engpässe aus dem demografischen Wandel kompensieren ließen.
Heftberger sprach von einer Jahrhundertchance für Europa: „Kein Unternehmen ist zu klein, um KI-Pionier zu werden und sich mit Ambition erfolgreich zu transformieren.“
In der Keynote Debate diskutierten Philipp Amann (Europäische Zentralbank), Georg List (AVL List), Stefan Mangard (Technische Universität Graz) und Hannah Wundsam (Austrian Startups). Ihr gemeinsamer Befund: Die Gefahr geht weniger von der KI aus als von der Bequemlichkeit der Menschen. Europa brauche mehr Selbstbewusstsein und eine gesamteuropäische Investmentstrategie, um mit Big Tech aus den USA und Asien mitzuhalten.
Philipp Töbich (SAP) und Christian Winkelhofer (Accenture) warnten in ihrer Debatte davor, durch das Streben nach Perfektion den Anschluss zu verlieren. Zukunftsforscher Tristan Horx (Horx Future) sprach in seiner Keynote am Abend von einem Epochenwandel ins digitale Zeitalter, mit dem Institutionen wie das Bildungssystem nicht Schritt halten.
Den Praxisteil bildeten wie im Vorjahr die Lightning Talks, in denen jedes Team einen konkreten Anwendungsfall vorstellte.
Use Case 1: Taceo und Technische Universität Graz
Unter dem Titel „Das KI-Rennen, das Europa noch gewinnen kann“ machten Christian Rechberger (Technische Universität Graz) und Lukas Helminger (Taceo) den Auftakt. Ihr Ausgangspunkt: Bei KI fehlen Privatsphäre, Sicherheit und Verifizierbarkeit. Rechberger fragte das Publikum, wer glaube, dass sich KIs an Policies halten.
Die Antwort der beiden ist Kryptographie: Vertrauen soll durch Mathematik entstehen und nicht durch Regeln. Daten sollen nicht nur bei Speicherung und Übertragung geschützt sein, sondern auch während sie verarbeitet werden. Möglich machen das Verfahren wie verschlüsselte Berechnung und Zero-Knowledge-Beweise. Taceo hat dafür eine kryptographische Infrastruktur für Proof of Human gebaut, einen biometrischen Abgleich, bei dem niemand die Daten sieht. Er ist als Antwort auf Deepfakes und Bots gedacht. Laut Helminger erreicht das Unternehmen damit über seine Kunden rund 20 Millionen Menschen.
Ihre Schlussfolgerung: Vertrauenswürdige KI braucht Frontier-Labs für Kryptographie, und Europa sollte sie aufbauen.
Use Case 2: Experts Inside
Gabriel Wernbacher, CEO von Experts Inside, stellte „Die KI-Roadmap für österreichische Unternehmen 2027“ vor. Grundlage sind laut eigenen Angaben Erfahrungen aus der Begleitung von 60.000 Nutzer:innen mit Copilot-Lizenz. Die häufigsten Sorgen in Vorständen seien Datenabfluss, Oversharing und Regulierung. Viele Unternehmen hätten Lizenzen gekauft, steckten aber in der Pilotphase fest oder nutzten KI ohne Struktur.
Wernbacher nannte drei Voraussetzungen, die aufeinander aufbauen: sicher, souverän und produktiv. Dazu gehören bereinigte Berechtigungen, klare Verantwortliche und Freigabestufen für KI-Agenten sowie zwei bis drei Fokusprozesse mit Kennzahlen, die vor dem Start festgelegt werden. Sein Fahrplan für die Einführung reicht über 15 Monate. Ein KI-Projekt sei kein klassisches IT-Projekt mit Start- und Enddatum, sagte Wernbacher.
Gemessen werden solle die aktive Nutzung in den Fokusprozessen, nicht die Zahl der Lizenzen. Als unerwarteten Nebeneffekt nannte Wernbacher aufgeräumte Daten und Berechtigungen.
Use Case 3: EY und AVL
Patrick Ratheiser (EY) und Gerhard Kokalj (AVL List) zeigten KI-Agenten im Projektalltag. Ihr Beispiel stammt aus einem Automotive-Projekt mit vier Partnern in drei Zeitzonen, 429 E-Mails von Lieferanten und 50 Tickets. Informationen lagen verteilt in Mails, PDFs und Tickets und mussten von Hand gesichtet werden.
Die Lösung beschrieben die beiden als Schritt vom Routing zur Orchestrierung: Mitarbeitende geben die Richtung vor, Agenten arbeiten zusammen. Fünf KI-Agenten liefern ein Briefing am Morgen, bereiten Meetings vor und nach und fassen Tag und Woche zusammen. Ein „Project Orchestrator Agent“ bündelt die Ergebnisse und priorisiert Aufgaben. Bestehende Werkzeuge sollen dadurch nicht ersetzt werden.
Kokalj bezifferte den Nutzen mit einer Stunde pro Tag, die er sich bei der Koordination großer Projekte erspare. Er müsse weniger suchen, übersehe weniger und könne das Projekt besser steuern. Künftig sollen die Agenten auch spezifische Risiken bewerten und Entscheidungen vorbereiten.
Use Case 4: FH Joanneum
Helmut Lindner und Sabine Proßnegg präsentierten Ergebnisse aus dem FFG-Projekt Radius unter dem Titel „Souveräne KI für KMU: sicher, planbar, unabhängig“. Lindner sprach lieber von Kontrollverlust als von Souveränität. Sein Beispiel war ein Installateur, der Kundenanfragen und Kalkulationsgrundlagen in ChatGPT eingibt, um schneller zu einem Angebot zu kommen.
Die Alternative ist eine eigene KI im Haus. Sie läuft auf zwei Nvidia-Spark-Rechnern, arbeitet mit lokalen Dokumenten und Handbüchern und schickt nur Suchbegriffe für die Web-Recherche ins Internet. Ab etwa 25 Nutzer:innen sei der lokale Betrieb günstiger als ChatGPT-Business-Accounts, sagte Lindner. Mehr Mitarbeiter:innen bedeuteten dabei nicht automatisch höhere Kosten.
Die Grenzen nannte das Team offen: Lokale Modelle sind schwächer als die besten Cloud-Modelle, Betrieb und Wartung liegen im eigenen Haus, und die Einrichtung braucht Fachwissen. Proßnegg ergänzte die rechtliche Seite mit DSGVO-Prüfung und den Pflichten aus der KI-Verordnung. Deren Logik sei risikobasiert: Je höher das Risiko, desto mehr Kontrolle ist nötig.
Use Case 5: Joanneum Research
Andreas Windisch stellte das Forschungsprojekt PALM vor, kurz für „Prison Analytics with LLMs“, an dem unter anderem das Bundesministerium für Justiz beteiligt ist. Wer im Strafvollzug eine Auswertung braucht, ist bisher auf Datenbankexpert:innen angewiesen. Windischs Beispiel: Ein Justizwachebeamter will wissen, wie viele Insassen einen Fernseher im Haftraum haben, und jemand muss dafür eine SQL-Abfrage schreiben.
Künftig soll ein KI-System die Frage in natürlicher Sprache entgegennehmen und die Abfrage erzeugen, samt Prüfung von Berechtigungen und Rechtsgrundlage. Die Expert:innen würden dadurch nicht wegrationalisiert, sondern für andere Aufgaben frei, betonte Windisch. Das Team setzt bewusst auf europäische Modelle wie Kolibri, die auf eigener Infrastruktur laufen, und gibt dem System nur jene Werkzeuge, die es für die jeweilige Aufgabe braucht.
Das Projekt läuft noch. Getestet wird mit Referenzfragen, Demonstrationsfragen und echten Nutzersitzungen. Offen sind laut Windisch drei Spannungsfelder: Anonymität gegen Beziehungswissen, Sprachfreiheit gegen Korrektheit und Exploration gegen Kontrolle.
Use Case 6: DaphOS und Universität Graz
Andreas Diensthuber, Mitgründer und Geschäftsführer von DaphOS, und Martin Holler (Universität Graz) widmeten sich der Dienstplanung im Gesundheitswesen. Sie bindet Führungskräfte stark, und ein fertiger Plan ist oft schon wieder überholt.
Die Lösung erstellt Dienstpläne automatisch und setzt KI nur dort ein, wo sie nötig und sinnvoll ist. Der Plan selbst entsteht durch mathematische Optimierung, die Arbeitszeitgesetze, Ruhezeiten und Qualifikationen garantiert. Wünsche der Mitarbeiter:innen werden nach Möglichkeit berücksichtigt. KI-Modelle kommen bei der Prognose der Auslastung zum Einsatz, damit sich die Besetzung am erwarteten Patientenaufkommen ausrichten lässt.
Als nächsten Schritt nannte das Team ein europäisches Foundation Model für die Prognose von Patientenströmen.
Use Case 7: MANZ und Noxtua
Susanne Stein-Pressl (MANZ) und Leif-Nissen Lundbæk (Noxtua) betitelten ihre Präsentation mit „Fachwissen trifft KI: Der europäische Weg zur Innovation“. KI mache Rechtsinformation frei verfügbar, sagte Stein-Pressl, deren Verlag über 175 Jahre alt ist. Der Engpass sei künftig nicht mehr der Zugang, sondern Verlässlichkeit, Nachvollziehbarkeit, Aktualität, Einordnung und Legitimität.
MANZ hat sich deshalb für eine Partnerschaft mit dem europäischen Rechts-KI-Anbieter Noxtua entschieden. MANZ liefert die Fachinhalte und den Zugang zum österreichischen Rechtsmarkt, Noxtua die KI-Plattform. Sie stützt jedes Ergebnis auf Quellen wie Gesetze, Urteile und Kommentarliteratur und weist sie aus. Zur Allianz gehören auch C.H. Beck, Helbing Lichtenhahn, Blendow und Ciela Norma.
Das Tempo ist hoch. Wöchentliche Releases seien inzwischen zu langsam, sagte Lundbæk, man müsse sich auf tägliche Veränderungen einstellen. Europas Datenschätze sehen die beiden als entscheidenden Vorteil im globalen KI-Rennen.
Use Case 8: Cancom
Lucas Wartscher (Cancom Austria) schloss mit „AI vs. AI: Mit künstlicher Intelligenz die Probleme lösen, die AI selbst schafft“. Sein Ausgangspunkt waren KI-Modelle, die Schwachstellen in großer Zahl finden. Er verwies auf Project Glasswing, bei dem nach eigenen Angaben zwischen April und Juli 2026 129.000 Schwachstellen gefunden wurden.
IT-Abteilungen müssen Patches also schneller einspielen und zugleich wissen, was ein Update im eigenen System auslöst. Cancom setzt dafür auf eine Multi-Agent-Plattform, die Release Notes, Konfigurationen, Bug-Datenbanken und Knowledgebase verbindet und Risiken vorbewertet. Menschen prüfen nur noch die verbleibenden fünf bis zehn Prozent.
In einem Kundenbeispiel blieben von 1.300 offenen Bugs und Fehlermeldungen 78 tatsächlich relevante Fälle, das sind sechs Prozent. Die Zeitersparnis gab Wartscher mit 80 bis 90 Prozent an. Seine Kernbotschaft: Nicht KI werde das Sicherheitsproblem der Zukunft sein, sondern Unternehmen, die KI nicht zur Absicherung ihrer IT einsetzen.
Blick nach vorn
Nach der Souveränität rückt im kommenden Jahr die Arbeitswelt in den Mittelpunkt. Der nächste Technology Impact Summit findet am 11. November 2027 wieder in Graz statt und steht unter dem Generalthema „Kompetenzen im Wandel – Organisation und Arbeitswelt im KI-Zeitalter“. Dann wird dort auch erstmals der Staatspreis für Künstliche Intelligenz verliehen.
Disclaimer: brutkasten ist Medienpartner des Technology Impact Summit.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.