23.07.2021

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

Aufgrund der Beschimpfungsorgien der letzten Wochen in sozialen Medien, versucht Instagram mit "Limits" dem "Hass im Netz" entgegenzuwirken.
/artikel/limits-nach-rassismus-vorfaellen-instagram-testet-anti-harassment-funktion
Limits, Intsgram, Hamilton, sancho, Rashford, saka, Block, restrict, Hidden Words
(c) mercedesamgf1.com - Auch Serienweltmeister Lewis Hamilton wurde Opfer rassistischer Belästigung im Netz.

Englische Fußballspieler nach dem verlorenen EM-Finale. Lewis Hamilton nachdem er und Max Verstappen bei einem Formel 1 Rennen kollidiert sind. Hierzulande in großer Regelmäßigkeit Politikerinnen. Allgemein, Personen des öffentlichen Lebens. Belästigung rassistischer oder sexistischer Art auf Instagram, Twitter, Facebook und Co. geschieht in einer Häufigkeit, die nach Aktionen verlangt. Dass, das Netz kein rechtsfreier Raum ist, kommt bei den Agitatoren meist erst dann an, wenn eine Klage ins Haus flattert. Die meisten verstecken sich weiterhin in der „Pseudo“-Anonymität ihrer Internetverbindung. Erstellen Fake-Accounts und wähnen sich sicher in ihrem Hass. Meist auch ohne Folgen. Aus diesem Grund hat sich nun die soziale Plattform Instagram etwas einfallen lassen: Limits.

Neues Feature: Limits

Instagram-Chef Adam Mosseri wird auf Techcrunch damit zitiert, dass sein Netzwerk ein neues Feature namens „Limits“ testet, die Nutzern die Möglichkeit geben soll, Konten vorübergehend zu sperren, wenn sie von einer Flut von Belästigungen betroffen sind. Die Ankündigung der neuen Funktion erfolgte während eines Videos, in dem Mosseri den jüngsten Rassismus verurteilte, der auf der Instagram-Plattform nach dem Euro 2020-Finale stattfand, und darauf hinwies, dass das Unternehmen an Verbesserungen sowohl der internen als auch der kundenorientierten Tools arbeitet, um dieses Problem anzugehen.

Das Emoji-Problem

Instagram hatte zuvor die rassistischen Beschimpfungen kommentiert und verurteilt, bei denen die englischen Fußballspieler Bukayo Saka, Marcus Rashford und Jadon Sancho nach der Niederlage gegen Italien mit rassistischen Kommentaren belästigt wurden. Mosseri gab auch zu, dass Fehler passiert seien, die sich mit dem Bezeichnung „das Emoji-Problem“ charakterisieren lassen.

Instagram versucht mittels Technologie von der Community gemeldete Post zu priorisieren, scheiterte aber daran, dass das System diese „Harassments“ als „gutartig“ einstufte. Weil User auf Emojis (in den genannten Fällen: Affen-Emojis) zurückgriffen.

Mosseri erklärte weiter, dass Instagram täglich Millionen Meldungen von problematischen Posts erhalte und selbst bei einer Fehlerrate von einem Prozent weiterhin zehntausende von verstörenden Beiträgen fälschlicherweise auf der Plattform bleiben.

„Block“, „Hidden Words“ und „Restrict“

Der Instagram-Chef verwies auf Tools wie „Block“, „Hidden Words“ und „Restrict“, die User blockieren, bestimmte Keywords ausblenden und eine Genehmigung des Account-Inhabers für die Veröffentlichung fremder Posts voraussetzen.

Die Funktion „Limits“ hingegen zielt darauf ab, Kommentare und Nachrichten von bestimmten Gruppen von Followern vorübergehend einzuschränken. User sind damit in der Lage die zu beschränkenden Gruppen ein- oder auszuschalten, einschließlich neuer Follower und Konten, die immer wieder nur erstellt wurden, um zu belästigen – kurz: Fake Accounts.

Limits als Schutzwerkzeug

„Vielleicht bist du in der Schule und machst gerade eine Trennung durch. Oder vielleicht bist du ein Profifußballer und wirst stark belästigt“, erklärte Mosseri bei Techcrunch, als er beschrieb, wie „Limits“ in verschiedenen Situationen nützlich sein könnte. „Was auch immer es ist, wir wissen, dass Menschen manchmal in Momenten schmerzhaft beleidigt werden, und wir wollen ihnen Werkzeuge zur Verfügung stellen, um sich in diesen Situationen zu schützen.“

Ein genaues Datum für die Einführung von „Limits“ gibt es noch nicht, das Feature wird vorerst auf Mobilgeräten in ausgewählten Ländern getestet.

Deine ungelesenen Artikel:
17.06.2026

Jeff Bezos und der „Artificial General Engineer“: Das steckt hinter seinem KI-Projekt Prometheus

brutkasten ist auf der VivaTech in Paris vor Ort. Dort hat Jeff Bezos ausführlich über Prometheus gesprochen - das KI-Unternehmen, das er Ende 2025 mitgegründet hat. Es soll das Erfinden selbst beschleunigen.
/artikel/jeff-bezos-und-der-artificial-general-engineer-das-steckt-hinter-seinem-ki-projekt-prometheus
17.06.2026

Jeff Bezos und der „Artificial General Engineer“: Das steckt hinter seinem KI-Projekt Prometheus

brutkasten ist auf der VivaTech in Paris vor Ort. Dort hat Jeff Bezos ausführlich über Prometheus gesprochen - das KI-Unternehmen, das er Ende 2025 mitgegründet hat. Es soll das Erfinden selbst beschleunigen.
/artikel/jeff-bezos-und-der-artificial-general-engineer-das-steckt-hinter-seinem-ki-projekt-prometheus
Jeff Bezos sprach am Mittwoch auf der Theater-Stage der VivaTech in Paris über sein KI-Projekt Prometheus. (c) Screenshot VivaTech

Am Mittwoch fiel der Startschuss für die zehnte Ausgabe der VivaTech. Das Event in Paris zählt zu den größten Startup- und Technologie-Treffen Europas und bringt über vier Tage hinweg Startups, Investor:innen, Tech-Konzerne und Forscher:innen zusammen. Schon am Vormittag herrschte dichter Andrang in den Hallen der Pariser Porte de Versailles: Zwischen Roboterarmen, Demo-Bühnen und unzähligen Startup-Ständen schoben sich Gründer:innen, Investor:innen und Tech-Fans durch die Gänge. brutkasten ist vor Ort. Für besonderen Andrang sorgte eines der Highlights der diesjährigen Ausgabe: Jeff Bezos, der erst zu Wochenbeginn als Speaker angekündigt worden war. Am Vormittag trat der Amazon-Gründer auf der Theater-Stage auf.

Gemeinsam mit Blue-Origin-CEO Dave Limp saß Bezos schließlich auf der Bühne, moderiert vom früheren NASA-Astronauten Mike Massimino. Der Großteil des Gesprächs drehte sich um Raumfahrt. Aufhorchen ließ Bezos aber, als er auf sein jüngstes Projekt zu sprechen kam: Prometheus, das KI-Unternehmen, das er 2025 mitgegründet hat und als Co-CEO führt.

Bezos beschrieb Prometheus als Versuch, einen „artificial general engineer“ zu bauen, also eine KI, die nicht primär Texte verarbeitet, sondern Ingenieursarbeit leistet. Das Ziel sei, den „dream-build cycle“ zu verkürzen, also die Zeit zwischen der Idee für ein Produkt und seiner serienreifen Fertigung.

„Aller Wohlstand beruht auf Erfindungen“

Diesen Anspruch rahmte Bezos grundsätzlich ein: „Aller zivilisatorische Wohlstand beruht auf Erfindungen. Vor 6.000 Jahren hat jemand den Pflug erfunden, und wir alle wurden wohlhabender.“ Wer den Erfindungszyklus beschleunige, schaffe realen Wohlstand. Was das praktisch heißt, machte er an einem Beispiel fest: Ein neues, sparsameres Triebwerk sei heute ein Zehn-Jahres-Programm. Prometheus solle das schrittweise auf fünf, drei, am Ende ein Jahr drücken.

Klassische Sprachmodelle reichen dafür nach seiner Überzeugung nicht aus. „Mit herkömmlichen großen Sprachmodellen lässt sich das nicht machen. Sie haben ihre Berechtigung“, sagte Bezos. Sein Bild dazu: „Wenn ich tausend Bücher darüber lese, wie man ein großartiger Turner wird, wäre ich danach immer noch ein miserabler Turner.“ Engineering brauche eine andere Art von Training als reine Symbolmanipulation, wie sie Sprachmodelle beherrschen.

Der Sorge, KI könnte Menschen überflüssig machen, widersprach Bezos ausdrücklich. Er erwarte eher das Gegenteil: „KI wird einen Arbeitskräftemangel erzeugen, weil sie es den Menschen ermöglicht, mehr Probleme zu identifizieren.“ Heute sei man „nicht durch unsere Vorstellungskraft begrenzt, sondern durch das, was wir tatsächlich umsetzen können“. Beschleunige man das Bauen, drehe sich dieses Verhältnis um. Als Vorgeschmack nannte er die eigene Erfahrung mit Coding-Tools: „Vor drei Jahren war ich ein miserabler Informatiker. Heute aber kann ich an einem einzigen Nachmittag eine iOS-App schreiben.“ Genau das wolle Prometheus in die physische Welt übertragen.

Querverweis zu Emmi AI

Für die heimische Szene hat die Idee einen vertrauten Klang. Mit Emmi AI verfolgt seit 2024 ein Linzer Startup einen ganz ähnlichen Ansatz, nämlich KI-Modelle, die auf die Physik der realen Welt statt auf Sprache trainiert sind und Ingenieurssimulationen drastisch beschleunigen sollen. Das Unternehmen aus dem Umfeld des KI-Labors NXAI wurde im Mai 2026 vom französischen KI-Konzern Mistral übernommen. Die Stoßrichtung, die Bezos nun auf der großen Bühne skizziert, ist also auch in Österreich prominent vertreten.

Was sonst noch ansteht

Die VivaTech feiert heuer ihr zehnjähriges Bestehen und läuft noch bis Samstag, den 20. Juni. Inhaltlich dreht sich die Jubiläumsausgabe vor allem um Künstliche Intelligenz, Deeptech, Cybersecurity und Energie, wobei sich KI durch nahezu jede der vier Bühnen zieht. Neben Bezos sind weitere prominente Stimmen angekündigt, darunter Nvidia-CEO Jensen Huang mit der GTC-Paris-Keynote, Yann LeCun (AMI Labs, zuvor Meta) und Arthur Mensch, CEO des französischen KI-Konzerns Mistral, der das Linzer Startup Emmi AI übernommen hat. Der Deeptech-Schwerpunkt reicht von Quantencomputing bis Biotech. Zum Abschluss verwandelt sich der Publikumstag am Samstag erstmals in ein offenes VivaTech-Festival, das Technologie einem breiten Publikum zugänglich machen soll.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Limits: Nach Rassismus-Vorfällen – Instagram testet „Anti-Harassment“-Funktion