Meinungsfreiheit vs. Hate Speech: Facebook im Würgegriff

✨ AI Kontextualisierung

Von einer Metaebene aus betrachtet, ist Facebook ein herausragendes soziales Experiment. Sind doch damit zum ersten Mal Milliarden Menschen an einem – wenn auch digitalen – Ort mit einander vernetzt. Unabhängig von Farbe, Ethnie, Alter oder Geschlecht, können alle Teilnehmer gleichberechtigt kommunizieren, Ideen austauschen und mehr über die anderen Kulturen erfahren. Analoge Grenzen lösen sich auf, große Distanzen werden digital überwunden.

Es ist, kennt man nicht auch andere Realitäten, eine Utopie wahr geworden, die die Herzen vieler gut meinender Menschen höherschlagen lassen müsste. Doch das Gegenteil ist der Fall. Facebook scheitert nicht an seiner Architektur oder Software, nicht an seinen Regeln oder Algorithmen. Es scheitert an uns, den Menschen mit ihren unterschiedlichen Werten und Begehrlichkeiten.

Hintergrundinformation: Die Meinungsfreiheit ist ein Menschenrecht und wird in Verfassungen als ein gegen die Staatsgewalt gerichtetes Grundrecht garantiert, um zu verhindern, dass die öffentliche Meinungsbildung und die damit verbundene Auseinandersetzung mit Regierung und Gesetzgebung beeinträchtigt oder gar verboten wird. In engem Zusammenhang mit der Meinungsfreiheit sichert die Informationsfreiheit den Zugang zu wichtigen Informationen, ohne die eine kritische Meinungsbildung gar nicht möglich wäre. Das Verbot der Zensur verhindert die Meinungs- und Informationskontrolle durch staatliche Stellen. Im Unterschied zu einer Diktatur sind der Staatsgewalt in einer Demokratie die Mittel der vorbeugenden Informationskontrolle durch Zensur ausdrücklich verboten.

Das Dritte Reich errichten wollen, muss erlaubt sein?

Apropos unterschiedliche Werte. Wer schon mal in den USA war, weiß vielleicht: Ein entblößter Busen und sei es nur der einer stillenden Mutter im Restaurant, lässt schon mal die puritanischen Gemüter hochgehen. Was die Meinungsfreiheit angeht, legt man umgekehrt Wert auf möglichst viel Freiheit. So viel, dass manch Europäer damit überfordert wäre.

+++Deine Welt: Das Ende der Globalisierung, wie wir sie kannten+++

So könnte ich mich in den USA auf die Straße stellen und ungestraft die Errichtung des Dritten Reiches fordern, die Passanten mit „Heil Hitler“ begrüßen und SS-Folder verteilen. Ich könnte auch die Scharia predigen oder den Präsidenten beschimpfen. Tue ich das als Frau aber mit entblößten Nippeln, droht eine Gefängnisstrafe.

Die amerikanischen Werte und Moralvorstellungen haben in vielen Bereichen ihre Eigenheiten und prägen damit auch das soziale Netzwerk Facebook.

Facebook: Von Amerika aus in die ganze Welt

Von den 2,3 Milliarden Facebook-Nutzern weltweit kommen etwa 350 Millionen aus Europa sowie 221 Millionen aus den USA selbst. Das bedeutet, dass das soziale Netzwerk, das auf den Rechts- und Wertestandards der USA aufgebaut wurde, damit eigentlich nur rund 10% der Welt repräsentiert. Doch auch andere Länder wollen ihre Werte und Normen abgebildet wissen.

Wenn beispielsweise ein österreichischer Anwalt in Menlo Park beim Facebook Headquarter anklopft, um dem sozialen Netzwerk wegen DSGVO-Verstößen juristisch zu drohen, repräsentiert er knackige 0,17% aller Facebook-User. Verteidigt er damit europäische Rechte, immerhin 15%. Darüber braucht man sich nicht lustig zu machen, denn auch 350 Millionen Menschen sind eine ganze Menge. Aber es rückt die Perspektive zurecht, mit welchen Metriken es die Manager im kalifornischen Headquarter zu tun haben. Mehr als die Hälfte der Facebook-Nutzer kommen übrigens nicht aus Demokratien im westlichen Sinne. Die Inder stellen mit 281 Millionen Usern die größte Facebook-Nation. Indonesien, Vietnam, Brasilien und die Türkei sowie die Philippinen folgen dahinter.

+++Kostete eine Social Media Sabotage Trump den Wahlkampfauftakt?+++

Neben etwaigen DSGVO- und Urheberrechts-Begehrlichkeiten der Europäischen Union gehen bei Facebook also vielleicht auch Forderungen des philippinischen Präsidenten Duterte ein, der Unruhestifter in der Corona-Pandemie ausgeforscht haben und am liebsten sofort erschießen lassen möchte. Vielleicht übermittelt auch eine russische Delegation Begehrlichkeiten, die freundliche Äußerungen gegenüber Homosexuellen gelöscht haben möchte, weil das in ihren Augen die russische Männlichkeit beleidige und Oppositionelle inhaftiert wissen möchte. Oder ein Minister der Türkei, der sich verbittet, den Krieg gegen Armenien in Facebook als „Genozid“ bezeichnet zu sehen und deshalb alle Gruppen gelöscht haben möchte, die das verbreiten.

Der Herr Bolsonaro hätte vielleicht gerne die Gruppen gelöscht, die gegen Regenwald-Rodungen mobilisieren und solche, die seine Corona-Politik kritisieren. Vielleicht kontaktiert Xavier Naidoo Facebook, der glaubt, die Erde sei flach, Corona eine Bio-Waffe und Facebook ein CIA-Projekt? Die islamistischen Länder beklagen vielleicht bei einer Audienz, dass Facebook es Frauen erlaube, dort ohne Verschleierung abgebildet zu werden und überhaut sich öffentlich zu äußern. Auch die gemäßigten islamischen Länder wollen alle User gesperrt und ausgeforscht wissen, die Mohammed-Karikaturen verbreiten oder in ihren Kommentaren Allah beleidigen, denn das sei Haram und verletze ihre Gefühle und Gesetze.

„Facebook wollte die Welt vereinen, doch die Welt ist in all seinen unterschiedlichen Werten, Wahrheiten und Normen noch nicht bereit dazu.“

Die Österreicher wollen unter anderem ihr Verbotsgesetz umgesetzt haben und alle Länder wollen Zugriff auf User-Daten haben, so diese in Verdacht stehen, in kriminelle Handlungen involviert zu sein. Da spielt keine Rolle, ob das Verbrechen in einer Demokratie stattfand oder die öffentliche Enthauptung wegen eines Bagatelldeliktes in einem repressiven Regime droht.

Alle Länder eint nämlich, dass sie von sich selbst fest glauben, die einzig wahren und richtigen Werte zu vertreten und diese müssten in Facebook Anwendung finden. Facebook wollte die Welt vereinen, doch die Welt ist in all seinen unterschiedlichen Werten, Wahrheiten und Normen noch nicht bereit dazu.

Und dann der Hass!

Mit den beschriebenen unterschiedlichen Werten und Normen der Kulturen ist es noch nicht genug der Komplexität für das Unternehmen. Denn Hass spielt eine immer größer werdende Rolle. Hass auf andere Meinungen, Hass auf andere Werte oder einfach Hass auf alles, das nicht der eigenen Orientierung entspricht. Hass von Aktivisten, Politikern, Multiplikatoren oder ganz einfachen Usern. Hassen tun dabei immer die anderen, nie man selbst. Opfer ist man gerne selbst.

Es scheint, der Druck der Beurteilung durch die „offene Arena“, danach wie man sich in der inhaltlichen Auseinandersetzung schlägt, stresst viele zu sehr. Wie im Cirkus Maximus ist der Ruhm groß, wenn man Zustimmung für die sprachliche Performance erntet. Umgekehrt verzweifeln viele, werden destruktiv, wenn sie zu wenig Anerkennung erhalten oder gar von der Community gemobbt werden. Auch wenn es „nur“ eine digitale Plattform ist, die Emotionen die sie auslöst, die Psychologie von uns Menschen und unsere Reaktionsmuster sind dieselben.

+++Alle bisherigen Beiträge von Mic Hirschbrich+++

Aber wie soll man mit dem Phänomen Online-Hass umgehen? Kritiker argumentieren oft in einer Weise, als sei es das einfachste der Welt, Hass zu identifizieren und zu löschen. Derweil ist Hass nicht immer gleich an Deutlichkeit und Ausprägung, so, dass er einfach zu finden und löschen wäre. Sprache ist komplex und besteht aus unterschiedlichen, semantischen Feinheiten und zigfach unterschiedlichen Intensitäten.

Wenn Hass die Meinungsfreiheit aushebelt

Wir wissen, dass Facebook in 211 Ländern aktiv ist und damit in unterschiedlichsten Werte- und Normensystemen. Und selbst innerhalb dieser Länder sind die Forderungen an Facebook bei weitem nicht homogen.

So verurteilten deutsche Gerichte Facebook z.B. dazu, gelöschte Kommentare von AfD-Politikern, die Facebook Standards widersprachen, wegen des Rechts auf freie Meinungsäußerung wieder zu veröffentlichen. Andere forderten umgekehrt das Löschen ähnlicher Kommentare, weil sie für Menschen Hetze und Hass darstellten.

Facebook ist selbst nicht an staatliche Grundrechte gebunden, aber zwischen dem Recht auf freie Meinungsäußerung und dem Recht vor Hass geschützt zu werden stehen die Allgemeinen Geschäftsbedingungen des Netzwerks und Versuche, die Balance zu halten. Der Wunsch vieler, von Hass und Manipulation verschont zu werden und vor allem vulnerable Gruppen davor zu schützen, erscheint mehr als legitim. Aber das Grundrecht auf Meinungsfreiheit steht auch aus guten Gründen im Verfassungsrang, Zensur ist in Demokratien staatlich obendrein verboten.

Dann kommt das Problem der schnellen Verbreitung hinzu. Hass und Fake-News würden sich besonders rasch ausbreiten, so die Kritik: Schuld daran sei der Algorithmus. Dieser Frame wurde schon so oft kommuniziert, dass ihn die meisten für korrekt erachten und weiter verbreiten. Richtig ist aber, dass der Algorithmus die menschliche Nachfrage aufgrund von Verhaltens- und Reaktionsmustern verstärkt und selbst kein moralisches oder inhaltlich wertendes Verständnis hat. Kritiker aber zwingen das Netzwerk nun dazu, dass es oder sein Algorithmus inhaltlich wertend werden müsse, eben um Hass zu identifizieren und zu neutralisieren. Denn man kann die Masse an Inhalten unmöglich mit Moderatoren in Echtzeit kontrollieren. Kommt deshalb die Zeit inhaltlicher Zensur-Algorithmen? Schauen wir uns noch die Zahlen an.

Zensur und verrückte Metriken

rund 500.000 Nutzer treten Facebook immer noch täglich bei, die durchschnittlich 20 Minuten pro Tag darauf aktiv sein werden. 4 Petabyte (also 4.000 Billiarden Byte, eine Billiarde sind 1.000 Billionen, Anm.) an Daten werden dabei pro Tag produziert, damit stehen 100 Millionen Stunden Video zur Verfügung. 250 Milliarden Fotos sind auf den Servern gespeichert und täglich kommen 350 Millionen neue hinzu von 1,5 Milliarden Menschen die täglich aktiv sind, Posts schreiben, liken oder kommentieren. Sie produzieren gigantische Mengen an Inhalten.

Es ist unmöglich, angesichts dieser Metriken die Inhalte von Menschen a priori prüfen oder zensurieren zu lassen und damit Hass potentiell ganz zu verhindern. Nicht nur stellte das ohnehin den Alptraum jedes aufgeklärten Menschen dar, dass Horden an anonymen „Moderatoren“ unsere (privaten) Posts zensurieren (Genau so funktioniert übrigens die chinesische Firewall, nämlich mit einem Millionenheer an Zensur-Beamten). Und es wäre maschinell nicht besser, selbst wenn sprachverarbeitende KI im Bereich Sentiment-Analyse das schon könnte. Wollen wir, dass Zensur-Algorithmen unbemerkt und permanent unsere Worte screenen und sanktionieren? Bei all dem völlig berechtigten Groll auf Hass und Fake-News, mit Zensur-Algorithmen öffnen wir die Büchse der Pandora. Vor solch einem Technologie-Einsatz kann man nur warnen.

Bis jetzt verfolgt Facebook eine Misch-Strategie: Wenn ein User einen Post als unangemessen meldet, sehen es sich menschliche Moderatoren mit technischer Unterstützung an und reagieren im Schnitt binnen 24 Stunden auf über 96% der Meldungen. Doch das reicht nicht, denn zu viel Hass bleibt zu lange ungemeldet und verseucht das soziale Netzwerk.

Im Würgegriff des Marktes

Der #StopHateForProfit-Kampagne, die mit einem rigorosen Werbe-Boykott Facebook gerade unter Druck setzt, haben sich mittlerweile 400 Firmen angeschlossen, darunter auch Kaliber wie Adidas, VW, SAP, Ford, Pfizer und Unilever. Ausgerechnet der Anführer des „land of the free“, Präsident Donald Trump, war Auslöser der Anti-Hass-Kampagne mit einem Tweet, der das Fass zum Überlaufen brachte.

Hoffen wir abschließend auf eine Lösung, die den Hass beseitigen kann, ohne unsere Grundrechte zu schwächen und ohne ein Zensur-Tech-Monster zu erschaffen. Es ist gut, dass (große) Unternehmen auf den Hass im Netz reagieren und ihn nicht mehr neben ihren Einschaltungen dulden wollen. Die Tatsache aber, dass sie erstmals gemeinsam solche Ziele verfolgen, ist historisch. Das könnte die Ära einer „aggregierten Konsumenten-Macht“ einläuten. Und das mit Methoden des Marktes für noch dazu hehre Ziele. Wer hätte sowas für möglich gehalten?

Über den Autor

Mic Hirschbrich ist CEO des KI-Unternehmens Apollo.AI, beriet führende Politiker in digitalen Fragen und leitete den digitalen Think-Tank von Sebastian Kurz. Seine beruflichen Aufenthalte in Südostasien, Indien und den USA haben ihn nachhaltig geprägt und dazu gebracht, die eigene Sichtweise stets erweitern zu wollen. Im Jahr 2018 veröffentlichte Hirschbrich das Buch „Schöne Neue Welt 4.0 – Chancen und Risiken der Vierten Industriellen Revolution“, in dem er sich unter anderem mit den gesellschaftspolitischen Implikationen durch künstliche Intelligenz auseinandersetzt.

Redaktionstipps

Das Ende der Globalisierung…

15.06.2020

„Nicht ohne mein Smartphone“: Tipps fürs digitale Detox

31.08.2016

Redcare Pharmacy ist Europas führende Online-Apotheke und tritt in Österreich unter Shop-Apotheke.at auf. Die Gruppe setzte 2025 rund 2,9 Mrd. Euro um, ein Plus von 24 Prozent, und zählt europaweit über 14,2 Millionen aktive Kund:innen. Laut Handelsverband war das Unternehmen zuletzt der drittgrößte Onlineshop des Landes, nach Amazon und Zalando. Ein zentrales Geschäftsfeld bleibt hierzulande aber verschlossen: Der Versand rezeptpflichtiger Medikamente, in acht EU-Ländern längst erlaubt, ist in Österreich verboten.

Für dieses Thema steht bei Redcare Martina Egger. Die gebürtige Deutsche wurde in der heimischen Startup-Szene als Mitgründerin von Pluz Care bekannt, einer Plattform, die rezeptfreie Medikamente gemeinsam mit lokalen Apotheken nach Hause lieferte. Nach dem Aus des Startups holte sie Redcare Pharmacy als Director Country Management Österreich, unter der Bedingung, unternehmerisch frei agieren zu können.

Im Gespräch mit brutkasten plädiert Egger offen für eine Liberalisierung des Rx-Versands und verweist auf eine von Redcare beauftragte EcoAustria-Studie, die ein volkswirtschaftliches Potenzial im dreistelligen Millionenbereich sieht. Sie erklärt, warum sie kein Apothekensterben fürchtet, wie das Unternehmen Beratung digital abbildet und welche Rolle KI-Agenten künftig spielen sollen.

brutkasten: Du hast Pluz Care mitgegründet, das später in Liquidation übernommen wurde. Was hat dich zu Redcare gebracht?

Ich bin dem Thema treu geblieben. Pluz Care wollte Medikamente binnen einer Stunde nach Hause bringen, in Österreich aber nur rezeptfreie. Als die Finanzierung scheiterte – zwei Due-Diligence-Runden durch, dann geplatzt – hat mich Shop-Apotheke als Country Managerin geholt. Meine Bedingung war, unternehmerisch frei handeln zu können. Heute kann ich viel mehr an der Sache arbeiten als zur Startup-Zeit, in der ich vor allem am Fundraisen war.

brutkasten: Wie entwickelt sich Redcare in Österreich?

Konkrete Österreich-Zahlen nennen wir als börsennotiertes Unternehmen nicht, wir berichten auf Group Level. Aber laut Handelsverband waren wir zuletzt der drittgrößte Onlineshop des Landes, nach Amazon und Zalando. Wir gewinnen weiter eine fünfstellige Zahl neuer Kund:innen pro Monat. Den größten Mehrwert sehen die ländlichen Regionen, dort wird die Online-Bestellung von Medikamenten am stärksten angenommen.

brutkasten: Der Versand rezeptpflichtiger Medikamente ist in Österreich verboten. Warum?

Pharmazeutisch gibt es keinen Grund, der gegen den Rx-Versand spricht. In Deutschland gibt es ihn seit 25 Jahren, in der Schweiz ist er erlaubt. In Skandinavien sind Online-Apotheken bereits lange etabliert. Shop-Apotheke ist eine echte Apotheke, die denselben Regularien unterliegt wie jede andere in Europa. Dass es das Verbot in Österreich gibt, ist eine Frage des politischen Willens. Ähnlich wie bei der Notariatskammer geht es um den Schutz bestehender Strukturen.

brutkasten: Führt der Onlineversand zum Apothekensterben?

In Österreich nicht, im Gegenteil, die Zahl der Apotheken steigt. Das deutsche Problem liegt an der schwierigen Nachfolge und an schließenden Arztpraxen. In Startup-Sprache: Der Arzt ist der Lead Generator für die Apotheke, fällt er weg, ist der Sales Funnel done. Die Dimension ist ohnehin überschaubar: In Deutschland liegt der Online-Anteil am Rx-Geschäft bei fast zwei Prozent, in Märkten mit langer Erfahrung wie Schweden bei etwa 20 Prozent.

Martina Egger im Gespräch mit brutkasten | (c) brutkasten / Haris Dervisevic

brutkasten: Wie versucht ihr, das zu ändern?

Wir sprechen uns seit rund einem Jahr offen für die Rx-Liberalisierung aus, auch im Austausch mit der Apothekerkammer. Eine von uns beauftragte EcoAustria-Studie hat das volkswirtschaftliche Potenzial einer Öffnung berechnet, etwa durch ersparte Wege, herausgekommen ist ein Betrag im dreistelligen Millionenbereich. Auf EU-Ebene erwarte ich viel, gleichzeitig liegt die Entscheidung bei den Mitgliedstaaten. Wichtig ist das hybride Modell: Niemand wird gezwungen, aber wer in Vorarlberg 30 Kilometer zur nächsten Apotheke hat, soll die Option bekommen.

brutkasten: Eine Online-Apotheke verschickt also nicht nur Pakete?

Nein, wir sind eine Apotheke und müssen beraten. Der durchschnittliche Rx-Kunde in Deutschland ist über 60, entsprechend hoch ist die Zahl unserer meist telefonischen Beratungsgespräche. Jede Bestellung durchläuft einen Wechselwirkungscheck, das Vier-Augen-Prinzip bilden wir digital ab. Erkennt das System eine Wechselwirkung, nehmen wir Kontakt auf, notfalls auch zum Arzt.

brutkasten: Wo setzt ihr auf KI?

KI nutzen wir, wo es geht, viel im Hintergrund, etwa im Pricing. Eine eigene AI-Unit beschäftigt sich mit Conversational Commerce. Wir tracken auch schon den Traffic über ChatGPT, der ist noch nicht relevant, steigt aber leicht.

brutkasten: Wo wollt ihr wachsen, und ist Amazon Pharmacy eine Gefahr?

Wachsen wollen wir in allen Bestandsmärkten, neue Markteintritte sind derzeit kein Thema, wir schauen uns aber immer potenzielle Märkte an. Der Fokus liegt klar auf dem Kerngeschäft. Amazon Pharmacy sehe ich nicht als unmittelbare Bedrohung, der US-Markt funktioniert so anders, dass sich die Modelle kaum vergleichen lassen.