Von einer Metaebene aus betrachtet, ist Facebook ein herausragendes soziales Experiment. Sind doch damit zum ersten Mal Milliarden Menschen an einem – wenn auch digitalen – Ort mit einander vernetzt. Unabhängig von Farbe, Ethnie, Alter oder Geschlecht, können alle Teilnehmer gleichberechtigt kommunizieren, Ideen austauschen und mehr über die anderen Kulturen erfahren. Analoge Grenzen lösen sich auf, große Distanzen werden digital überwunden.

Es ist, kennt man nicht auch andere Realitäten, eine Utopie wahr geworden, die die Herzen vieler gut meinender Menschen höherschlagen lassen müsste. Doch das Gegenteil ist der Fall. Facebook scheitert nicht an seiner Architektur oder Software, nicht an seinen Regeln oder Algorithmen. Es scheitert an uns, den Menschen mit ihren unterschiedlichen Werten und Begehrlichkeiten.


Hintergrundinformation: Die Meinungsfreiheit ist ein Menschenrecht und wird in Verfassungen als ein gegen die Staatsgewalt gerichtetes Grundrecht garantiert, um zu verhindern, dass die öffentliche Meinungsbildung und die damit verbundene Auseinandersetzung mit Regierung und Gesetzgebung beeinträchtigt oder gar verboten wird. In engem Zusammenhang mit der Meinungsfreiheit sichert die Informationsfreiheit den Zugang zu wichtigen Informationen, ohne die eine kritische Meinungsbildung gar nicht möglich wäre. Das Verbot der Zensur verhindert die Meinungs- und Informationskontrolle durch staatliche Stellen. Im Unterschied zu einer Diktatur sind der Staatsgewalt in einer Demokratie die Mittel der vorbeugenden Informationskontrolle durch Zensur ausdrücklich verboten.


Das Dritte Reich errichten wollen, muss erlaubt sein?

Apropos unterschiedliche Werte. Wer schon mal in den USA war, weiß vielleicht: Ein entblößter Busen und sei es nur der einer stillenden Mutter im Restaurant, lässt schon mal die puritanischen Gemüter hochgehen. Was die Meinungsfreiheit angeht, legt man umgekehrt Wert auf möglichst viel Freiheit. So viel, dass manch Europäer damit überfordert wäre.

+++Deine Welt: Das Ende der Globalisierung, wie wir sie kannten+++

So könnte ich mich in den USA auf die Straße stellen und ungestraft die Errichtung des Dritten Reiches fordern, die Passanten mit „Heil Hitler“ begrüßen und SS-Folder verteilen. Ich könnte auch die Scharia predigen oder den Präsidenten beschimpfen. Tue ich das als Frau aber mit entblößten Nippeln, droht eine Gefängnisstrafe.

Die amerikanischen Werte und Moralvorstellungen haben in vielen Bereichen ihre Eigenheiten und prägen damit auch das soziale Netzwerk Facebook.

Facebook: Von Amerika aus in die ganze Welt

Von den 2,3 Milliarden Facebook-Nutzern weltweit kommen etwa 350 Millionen aus Europa sowie 221 Millionen aus den USA selbst. Das bedeutet, dass das soziale Netzwerk, das auf den Rechts- und Wertestandards der USA aufgebaut wurde, damit eigentlich nur rund 10% der Welt repräsentiert. Doch auch andere Länder wollen ihre Werte und Normen abgebildet wissen.

Wenn beispielsweise ein österreichischer Anwalt in Menlo Park beim Facebook Headquarter anklopft, um dem sozialen Netzwerk wegen DSGVO-Verstößen juristisch zu drohen, repräsentiert er knackige 0,17% aller Facebook-User. Verteidigt er damit europäische Rechte, immerhin 15%. Darüber braucht man sich nicht lustig zu machen, denn auch 350 Millionen Menschen sind eine ganze Menge. Aber es rückt die Perspektive zurecht, mit welchen Metriken es die Manager im kalifornischen Headquarter zu tun haben. Mehr als die Hälfte der Facebook-Nutzer kommen übrigens nicht aus Demokratien im westlichen Sinne. Die Inder stellen mit 281 Millionen Usern die größte Facebook-Nation. Indonesien, Vietnam, Brasilien und die Türkei sowie die Philippinen folgen dahinter.

+++Kostete eine Social Media Sabotage Trump den Wahlkampfauftakt?+++

Neben etwaigen DSGVO- und Urheberrechts-Begehrlichkeiten der Europäischen Union gehen bei Facebook also vielleicht auch Forderungen des philippinischen Präsidenten Duterte ein, der Unruhestifter in der Corona-Pandemie ausgeforscht haben und am liebsten sofort erschießen lassen möchte. Vielleicht übermittelt auch eine russische Delegation Begehrlichkeiten, die freundliche Äußerungen gegenüber Homosexuellen gelöscht haben möchte, weil das in ihren Augen die russische Männlichkeit beleidige und Oppositionelle inhaftiert wissen möchte. Oder ein Minister der Türkei, der sich verbittet, den Krieg gegen Armenien in Facebook als „Genozid“ bezeichnet zu sehen und deshalb alle Gruppen gelöscht haben möchte, die das verbreiten.

Der Herr Bolsonaro hätte vielleicht gerne die Gruppen gelöscht, die gegen Regenwald-Rodungen mobilisieren und solche, die seine Corona-Politik kritisieren. Vielleicht kontaktiert Xavier Naidoo Facebook, der glaubt, die Erde sei flach, Corona eine Bio-Waffe und Facebook ein CIA-Projekt? Die islamistischen Länder beklagen vielleicht bei einer Audienz, dass Facebook es Frauen erlaube, dort ohne Verschleierung abgebildet zu werden und überhaut sich öffentlich zu äußern. Auch die gemäßigten islamischen Länder wollen alle User gesperrt und ausgeforscht wissen, die Mohammed-Karikaturen verbreiten oder in ihren Kommentaren Allah beleidigen, denn das sei Haram und verletze ihre Gefühle und Gesetze.

“Facebook wollte die Welt vereinen, doch die Welt ist in all seinen unterschiedlichen Werten, Wahrheiten und Normen noch nicht bereit dazu.”

Die Österreicher wollen unter anderem ihr Verbotsgesetz umgesetzt haben und alle Länder wollen Zugriff auf User-Daten haben, so diese in Verdacht stehen, in kriminelle Handlungen involviert zu sein. Da spielt keine Rolle, ob das Verbrechen in einer Demokratie stattfand oder die öffentliche Enthauptung wegen eines Bagatelldeliktes in einem repressiven Regime droht.

Alle Länder eint nämlich, dass sie von sich selbst fest glauben, die einzig wahren und richtigen Werte zu vertreten und diese müssten in Facebook Anwendung finden. Facebook wollte die Welt vereinen, doch die Welt ist in all seinen unterschiedlichen Werten, Wahrheiten und Normen noch nicht bereit dazu.

Und dann der Hass!

Mit den beschriebenen unterschiedlichen Werten und Normen der Kulturen ist es noch nicht genug der Komplexität für das Unternehmen. Denn Hass spielt eine immer größer werdende Rolle. Hass auf andere Meinungen, Hass auf andere Werte oder einfach Hass auf alles, das nicht der eigenen Orientierung entspricht. Hass von Aktivisten, Politikern, Multiplikatoren oder ganz einfachen Usern. Hassen tun dabei immer die anderen, nie man selbst. Opfer ist man gerne selbst.

Es scheint, der Druck der Beurteilung durch die „offene Arena“, danach wie man sich in der inhaltlichen Auseinandersetzung schlägt, stresst viele zu sehr. Wie im Cirkus Maximus ist der Ruhm groß, wenn man Zustimmung für die sprachliche Performance erntet. Umgekehrt verzweifeln viele, werden destruktiv, wenn sie zu wenig Anerkennung erhalten oder gar von der Community gemobbt werden. Auch wenn es „nur“ eine digitale Plattform ist, die Emotionen die sie auslöst, die Psychologie von uns Menschen und unsere Reaktionsmuster sind dieselben.

+++Alle bisherigen Beiträge von Mic Hirschbrich+++

Aber wie soll man mit dem Phänomen Online-Hass umgehen? Kritiker argumentieren oft in einer Weise, als sei es das einfachste der Welt, Hass zu identifizieren und zu löschen. Derweil ist Hass nicht immer gleich an Deutlichkeit und Ausprägung, so, dass er einfach zu finden und löschen wäre. Sprache ist komplex und besteht aus unterschiedlichen, semantischen Feinheiten und zigfach unterschiedlichen Intensitäten.

Wenn Hass die Meinungsfreiheit aushebelt

Wir wissen, dass Facebook in 211 Ländern aktiv ist und damit in unterschiedlichsten Werte- und Normensystemen. Und selbst innerhalb dieser Länder sind die Forderungen an Facebook bei weitem nicht homogen.

So verurteilten deutsche Gerichte Facebook z.B. dazu, gelöschte Kommentare von AfD-Politikern, die Facebook Standards widersprachen, wegen des Rechts auf freie Meinungsäußerung wieder zu veröffentlichen. Andere forderten umgekehrt das Löschen ähnlicher Kommentare, weil sie für Menschen Hetze und Hass darstellten.

Facebook ist selbst nicht an staatliche Grundrechte gebunden, aber zwischen dem Recht auf freie Meinungsäußerung und dem Recht vor Hass geschützt zu werden stehen die Allgemeinen Geschäftsbedingungen des Netzwerks und Versuche, die Balance zu halten. Der Wunsch vieler, von Hass und Manipulation verschont zu werden und vor allem vulnerable Gruppen davor zu schützen, erscheint mehr als legitim. Aber das Grundrecht auf Meinungsfreiheit steht auch aus guten Gründen im Verfassungsrang, Zensur ist in Demokratien staatlich obendrein verboten.

Dann kommt das Problem der schnellen Verbreitung hinzu. Hass und Fake-News würden sich besonders rasch ausbreiten, so die Kritik: Schuld daran sei der Algorithmus. Dieser Frame wurde schon so oft kommuniziert, dass ihn die meisten für korrekt erachten und weiter verbreiten. Richtig ist aber, dass der Algorithmus die menschliche Nachfrage aufgrund von Verhaltens- und Reaktionsmustern verstärkt und selbst kein moralisches oder inhaltlich wertendes Verständnis hat. Kritiker aber zwingen das Netzwerk nun dazu, dass es oder sein Algorithmus inhaltlich wertend werden müsse, eben um Hass zu identifizieren und zu neutralisieren. Denn man kann die Masse an Inhalten unmöglich mit Moderatoren in Echtzeit kontrollieren. Kommt deshalb die Zeit inhaltlicher Zensur-Algorithmen? Schauen wir uns noch die Zahlen an.

Zensur und verrückte Metriken

rund 500.000 Nutzer treten Facebook immer noch täglich bei, die durchschnittlich 20 Minuten pro Tag darauf aktiv sein werden. 4 Petabyte (also 4.000 Billiarden Byte, eine Billiarde sind 1.000 Billionen, Anm.) an Daten werden dabei pro Tag produziert, damit stehen 100 Millionen Stunden Video zur Verfügung. 250 Milliarden Fotos sind auf den Servern gespeichert und täglich kommen 350 Millionen neue hinzu von 1,5 Milliarden Menschen die täglich aktiv sind, Posts schreiben, liken oder kommentieren. Sie produzieren gigantische Mengen an Inhalten.

Es ist unmöglich, angesichts dieser Metriken die Inhalte von Menschen a priori prüfen oder zensurieren zu lassen und damit Hass potentiell ganz zu verhindern. Nicht nur stellte das ohnehin den Alptraum jedes aufgeklärten Menschen dar, dass Horden an anonymen „Moderatoren“ unsere (privaten) Posts zensurieren (Genau so funktioniert übrigens die chinesische Firewall, nämlich mit einem Millionenheer an Zensur-Beamten). Und es wäre maschinell nicht besser, selbst wenn sprachverarbeitende KI im Bereich Sentiment-Analyse das schon könnte. Wollen wir, dass Zensur-Algorithmen unbemerkt und permanent unsere Worte screenen und sanktionieren? Bei all dem völlig berechtigten Groll auf Hass und Fake-News, mit Zensur-Algorithmen öffnen wir die Büchse der Pandora. Vor solch einem Technologie-Einsatz kann man nur warnen.

Bis jetzt verfolgt Facebook eine Misch-Strategie: Wenn ein User einen Post als unangemessen meldet, sehen es sich menschliche Moderatoren mit technischer Unterstützung an und reagieren im Schnitt binnen 24 Stunden auf über 96% der Meldungen. Doch das reicht nicht, denn zu viel Hass bleibt zu lange ungemeldet und verseucht das soziale Netzwerk.

Im Würgegriff des Marktes

Der #StopHateForProfit-Kampagne, die mit einem rigorosen Werbe-Boykott Facebook gerade unter Druck setzt, haben sich mittlerweile 400 Firmen angeschlossen, darunter auch Kaliber wie Adidas, VW, SAP, Ford, Pfizer und Unilever. Ausgerechnet der Anführer des „land of the free“, Präsident Donald Trump, war Auslöser der Anti-Hass-Kampagne mit einem Tweet, der das Fass zum Überlaufen brachte.

Hoffen wir abschließend auf eine Lösung, die den Hass beseitigen kann, ohne unsere Grundrechte zu schwächen und ohne ein Zensur-Tech-Monster zu erschaffen. Es ist gut, dass (große) Unternehmen auf den Hass im Netz reagieren und ihn nicht mehr neben ihren Einschaltungen dulden wollen. Die Tatsache aber, dass sie erstmals gemeinsam solche Ziele verfolgen, ist historisch. Das könnte die Ära einer „aggregierten Konsumenten-Macht“ einläuten. Und das mit Methoden des Marktes für noch dazu hehre Ziele. Wer hätte sowas für möglich gehalten?


Über den Autor

Mic Hirschbrich ist CEO des KI-Unternehmens Apollo.AI, beriet führende Politiker in digitalen Fragen und leitete den digitalen Think-Tank von Sebastian Kurz. Seine beruflichen Aufenthalte in Südostasien, Indien und den USA haben ihn nachhaltig geprägt und dazu gebracht, die eigene Sichtweise stets erweitern zu wollen. Im Jahr 2018 veröffentlichte Hirschbrich das Buch „Schöne Neue Welt 4.0 – Chancen und Risiken der Vierten Industriellen Revolution“, in dem er sich unter anderem mit den gesellschaftspolitischen Implikationen durch künstliche Intelligenz auseinandersetzt.


Redaktionstipps