23.07.2021

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

Aufgrund der Beschimpfungsorgien der letzten Wochen in sozialen Medien, versucht Instagram mit "Limits" dem "Hass im Netz" entgegenzuwirken.
/artikel/limits-nach-rassismus-vorfaellen-instagram-testet-anti-harassment-funktion
Limits, Intsgram, Hamilton, sancho, Rashford, saka, Block, restrict, Hidden Words
(c) mercedesamgf1.com - Auch Serienweltmeister Lewis Hamilton wurde Opfer rassistischer Belästigung im Netz.

Englische Fußballspieler nach dem verlorenen EM-Finale. Lewis Hamilton nachdem er und Max Verstappen bei einem Formel 1 Rennen kollidiert sind. Hierzulande in großer Regelmäßigkeit Politikerinnen. Allgemein, Personen des öffentlichen Lebens. Belästigung rassistischer oder sexistischer Art auf Instagram, Twitter, Facebook und Co. geschieht in einer Häufigkeit, die nach Aktionen verlangt. Dass, das Netz kein rechtsfreier Raum ist, kommt bei den Agitatoren meist erst dann an, wenn eine Klage ins Haus flattert. Die meisten verstecken sich weiterhin in der „Pseudo“-Anonymität ihrer Internetverbindung. Erstellen Fake-Accounts und wähnen sich sicher in ihrem Hass. Meist auch ohne Folgen. Aus diesem Grund hat sich nun die soziale Plattform Instagram etwas einfallen lassen: Limits.

Neues Feature: Limits

Instagram-Chef Adam Mosseri wird auf Techcrunch damit zitiert, dass sein Netzwerk ein neues Feature namens „Limits“ testet, die Nutzern die Möglichkeit geben soll, Konten vorübergehend zu sperren, wenn sie von einer Flut von Belästigungen betroffen sind. Die Ankündigung der neuen Funktion erfolgte während eines Videos, in dem Mosseri den jüngsten Rassismus verurteilte, der auf der Instagram-Plattform nach dem Euro 2020-Finale stattfand, und darauf hinwies, dass das Unternehmen an Verbesserungen sowohl der internen als auch der kundenorientierten Tools arbeitet, um dieses Problem anzugehen.

Das Emoji-Problem

Instagram hatte zuvor die rassistischen Beschimpfungen kommentiert und verurteilt, bei denen die englischen Fußballspieler Bukayo Saka, Marcus Rashford und Jadon Sancho nach der Niederlage gegen Italien mit rassistischen Kommentaren belästigt wurden. Mosseri gab auch zu, dass Fehler passiert seien, die sich mit dem Bezeichnung „das Emoji-Problem“ charakterisieren lassen.

Instagram versucht mittels Technologie von der Community gemeldete Post zu priorisieren, scheiterte aber daran, dass das System diese „Harassments“ als „gutartig“ einstufte. Weil User auf Emojis (in den genannten Fällen: Affen-Emojis) zurückgriffen.

Mosseri erklärte weiter, dass Instagram täglich Millionen Meldungen von problematischen Posts erhalte und selbst bei einer Fehlerrate von einem Prozent weiterhin zehntausende von verstörenden Beiträgen fälschlicherweise auf der Plattform bleiben.

„Block“, „Hidden Words“ und „Restrict“

Der Instagram-Chef verwies auf Tools wie „Block“, „Hidden Words“ und „Restrict“, die User blockieren, bestimmte Keywords ausblenden und eine Genehmigung des Account-Inhabers für die Veröffentlichung fremder Posts voraussetzen.

Die Funktion „Limits“ hingegen zielt darauf ab, Kommentare und Nachrichten von bestimmten Gruppen von Followern vorübergehend einzuschränken. User sind damit in der Lage die zu beschränkenden Gruppen ein- oder auszuschalten, einschließlich neuer Follower und Konten, die immer wieder nur erstellt wurden, um zu belästigen – kurz: Fake Accounts.

Limits als Schutzwerkzeug

„Vielleicht bist du in der Schule und machst gerade eine Trennung durch. Oder vielleicht bist du ein Profifußballer und wirst stark belästigt“, erklärte Mosseri bei Techcrunch, als er beschrieb, wie „Limits“ in verschiedenen Situationen nützlich sein könnte. „Was auch immer es ist, wir wissen, dass Menschen manchmal in Momenten schmerzhaft beleidigt werden, und wir wollen ihnen Werkzeuge zur Verfügung stellen, um sich in diesen Situationen zu schützen.“

Ein genaues Datum für die Einführung von „Limits“ gibt es noch nicht, das Feature wird vorerst auf Mobilgeräten in ausgewählten Ländern getestet.

Deine ungelesenen Artikel:
27.10.2026

Fawks AI-Gründerin: Von Indien über die IAEA zu einem KI-Startup, das Dialekte erkennt

Fawks AI, in Wien von CEO und CTO Neha Agarwal und COO Arun Gaurav gegründet, erhielt vom Austria Wirtschaftsservice für seine Spracherkennungs-Engine eine Förderung in Höhe von 300.000 Euro.
/artikel/fawks-ai-gruenderin-von-indien-ueber-die-iaea-zu-einem-ki-startup-das-dialekte-erkennt
27.10.2026

Fawks AI-Gründerin: Von Indien über die IAEA zu einem KI-Startup, das Dialekte erkennt

Fawks AI, in Wien von CEO und CTO Neha Agarwal und COO Arun Gaurav gegründet, erhielt vom Austria Wirtschaftsservice für seine Spracherkennungs-Engine eine Förderung in Höhe von 300.000 Euro.
/artikel/fawks-ai-gruenderin-von-indien-ueber-die-iaea-zu-einem-ki-startup-das-dialekte-erkennt
Fawks AI
© LinkedIn/Canva - Neha Agarwal, Co-Founderin Fawks AI.

Eigentlich geht es hier nicht um ein Startup aus Indien, aber dennoch muss es kurz erwähnt werden: über 86 Millionen US-Dollar Umsatz, eine geschätzte Firmenbewertung von 200 Millionen US-Dollar, 500 Mitarbeiter:innen. Und das gebootstrapped. Das ist die Geschichte des indischen Proptech Housiey. Gegründet wurde es 2016 von Neha Agarwal und ihrem Bruder Ankit.

Problem Intransparenz

Der Ausgangspunkt der Geschwister damals war ein Markt, in dem es zwar viele Immobilienportale gab, aber es aufgrund laxer Regulierung immer wieder zu Fällen kam, in denen Makler:innen Objekte zu Preisen anboten, die vom tatsächlichen Endpreis stark abwichen. Auch Angaben zu Steuern, Regulierung und Mindestpreisen fehlten und Käufer:innen zahlten häufig zu viel für Immobilien.

Darin sahen die beiden eine Marktlücke. So bauten sie eine Plattform, auf der Bauträger direkt vertreten sind. Ihr Bruder übernahm als CEO den Vertrieb, Agarwal verantwortete die gesamte Technik. Dazu gehörte die Suchmaschinenoptimierung, die die heute in Wien lebende Gründerin als einen der Eckpunkte für den investorenlosen Erfolg nennt. „Housiey sollte bei Google gut ranken, ohne viel Geld für Werbung auszugeben. Das war noch vor dem KI-Zeitalter“, sagt sie. Außerdem entwickelte Agarwal den Anmeldeprozess für Nutzer:innen und setzte zu Beginn auf YouTube-Kanäle, um Immobilien zu präsentieren.

Der andere zentrale Faktor für Erfolg war die Transparenz: Nutzer:innen sollen alle Informationen zu einer Immobilie in einem durchgängigen Ablauf sehen können, vollständig und korrekt. „Das schafft Vertrauen und sie tappen nicht in eine Falle“, so Agarwal.

Von Indien nach Österreich: Fawks AI entsteht

2012 endete das Kapitel Indien und die Founderin kam für einen Job bei den Vereinten Nationen nach Österreich (IAEA). Eigentlich war ein Aufenthalt von sechs Monaten geplant, doch sie blieb, wechselte danach in einen Job bei einem anderen Unternehmen und kündigte dort schließlich, um gemeinsam mit COO Arun Gaurav Fawks AI in Wien zu gründen.

© zVg – Neha Agarwal und Arun Gaurav.

Das Wiener KI-Startup entwickelt eine eigene Speech-Engine zur Kundenkommunikation: eine KI, die Telefonanrufe im Kundensupport wie ein Mensch führen soll und sich an Unternehmen richtet. Erste Tests mit zahlenden Kund:innen laufen bereits.

aws-Förderung

Dafür erhielt das Startup eine Förderung in Höhe von 300.000 Euro von der Austria Wirtschaftsservice (aws) im Rahmen des Förderprogramms aws Preseed | Deep Tech. Damit soll die Kerntechnologie mit dem Codenamen HIVE vom Konzept zu einem produktionsreifen Prototyp weiterentwickelt werden. Im vergangenen Jahr wurde Fawks AI zudem für den ersten Venture-Cake-Jahrgang von weXelerate, dem Wiener Startup-Accelerator, als eines von acht Startups bei 150 Bewerbungen ausgewählt. Ein möglicher Grund dafür: eine sprachliche Besonderheit von Fawks AI.

„Wir haben festgestellt“, präzisiert Agarwal, „dass es bei der deutschen Sprache auf den Dialekt ankommt, etwa Vorarlbergerisch oder Wienerisch. Im Benchmarking lag die Erkennungsrate nur bei 68 Prozent. Wir haben überall gesucht, aber kein Spracherkennungsmodell gefunden, auch nicht in Europa, sondern nur US-Modelle. Wenn ein Anruf zum Beispiel eine Bankangelegenheit betrifft und eine IBAN genannt wird, wird die Nummer nicht korrekt erkannt, und der nächste Workflow wird nicht ausgelöst. Viele große Unternehmen können KI deshalb nicht richtig einsetzen, weil die Spracherkennung nicht gut genug ist.“

Deswegen deckt Fawks AI Standarddeutsch, Wienerisch und Österreichisch-Bairisch ab, und adressiert auch Menschen, die Deutsch nicht als Muttersprache, sondern in der Schule gelernt haben. Künftig möchte man noch Schweizerdeutsch in die Anwendung implementieren.

Damit ist Fawks AI nicht allein und bewegt sich hierzulande in einem Feld, mit großer Konkurrenz wie fonio, KI-Note oder NeedNect. Doch es gibt einen Grund, warum man sich für Wien entschieden hat.

„Ernst genommen“

„Österreich hat uns ernst genommen, bevor es andere taten“, sagt Agarwal. „Die Förderung ist ein Signal, dass die aws bereit ist, anspruchsvolle Ingenieursprobleme zu unterstützen, nicht nur Anwendungen. Europäische KI-Infrastruktur lässt sich nicht mit amerikanischen Standardwerkzeugen aufbauen. Das hat die aws verstanden, und ihre Jury ebenso. Wir sind dankbar für das Vertrauen.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion