Bislang war es für Plattformen leichter, gegen Fake Accounts vorzugehen, als gegen Accounts von „authentischen Personen“. Nun hat Facebook neue Richtlinien gegen schädliche Netzwerke echter Accounts eingeführt und zahlreiche Konten und Seiten der Querdenker-Bewegung gelöscht. Erstmals ist die Plattform damit gegen eine "koordinierte Schädigung der Gesellschaft" (Coordinated Social Harm) vorgegangen und hat darüber einen Paradigmenwechsel vollzogen.

Von Matthias C. Kettemann und Lisa Riedl


Mit Blick auf die jüngere deutschen Rechtsprechung zu Plattformregeln (III ZR 179/20; III ZR 192/20) kann mit Fug und Recht gesagt werden, dass Deutschland (und Europa) in ein normativeres Plattformzeitalter eintritt. Die Zeit der Plattformen ohne (oder mit kaum vorhandener) Moderation ist vorbei. Umgekehrt ist, zumindest in Deutschland, auch die Möglichkeit der Plattformen, Inhalte nach eigenem Gutdünken zu löschen, vorbei. (In Europa könnten ähnliche Regeln mit dem vorgeschlagenen Rechtsakt über digitale Dienste eingeführt werden.)

Social Media-Plattformen vervielfachen den Zugang von Menschen zu Informationen und schaffen neue Räume der Kommunikation. In den durch sie beherrschten, mittels eigener Regeln konstituierten und durch menschliche wie algorithmische Governance kontrollierten Räumen gilt zunächst einmal ihr privates Recht, das aber in zunehmendem Maße von staatlichen Normen korrigiert wird. Die so entstandenen normativen Ordnungen sind hybrid und multiphänomenal.

Ein weiteres Phänomen ist indes, dass Plattformen selbst neue normative Konzepte einführen. Dies begann mit dem Konzept des „koordinierten inauthentischen Verhaltens“, das inzwischen von Politiker:innen wie Medien selbst verwandt wird, ohne dass genau klar wird, was damit gemeint ist. Gekürt hat dieses Konzept Facebook. Nun ist ein weiteres Konzept hinzugekommen, das in Deutschland zuerst Anwendung fand.
 

Stärkeres Vorgehen gegen „koordinierte Schädigung der Gesellschaft“

Am 16.09.2021 verkündeten Nathaniel Gleicher, Head of Security Policy bei Facebook, und Semjon Rens, Public Policy Director D-A-CH, die umfassende Löschung von Konten, Seiten und Gruppen der Querdenker-Bewegung auf den Plattformen Facebook und Instagram. Auch Verlinkungen, die zu Domains der Gruppierung führen, wurden entfernt. Grund dafür ist der Vorwurf, „in koordinierter Weise wiederholte Verstöße gegen die Gemeinschaftsstandards“ begangen zu haben. Nathaniel Gleicher und Semjon Rens nennen dabei Aktivitäten wie die Veröffentlichung von „gesundheitsschädliche Falschinformationen, Aufruf zur Gewalt, Mobbing, Belästigung und Hassrede“, die das Potenzial haben „in reale Gewalt umzuschlagen und auch in anderer Form gesellschaftlichen Schaden anzurichten.“ Nach Angaben des Unternehmens handelt es sich dabei um die weltweit erste gezielte Aktion gegen gut koordinierte Gruppierungen, die wiederholt gegen die Gemeinschaftsstandards verstoßen und dadurch zu schweren gesellschaftlichen Schäden (tightly coordinated, repeatedly violating policies and evading enforcement, and severe social harms) beitragen.

Der Begriff "koordiniertes Netzwerk authentischer Personen"

Interessant ist, dass hierbei nicht ihre Identität verschleiernden Individuen agieren, wie es bei Desinformationsaktivitäten typischerweise Fall ist, sondern „authentische Personen“. Genau das stellt Plattformen vor Schwierigkeiten, denn treten Personen online offen als sie selbst auf, ist ihnen bei Regelverstößen deutlich schwerer die Stirn zu bieten als bei Fake-Accounts. Ein Fake-Account kann unter geringerem Begründungsaufwand gelöscht werden als der Account einer realen Person. Dies ist besonders relevant im Licht der BGH-Judikatur zu Plattformpflichten (ex post-Informationspflichten bei Löschungen und ex ante-Informationspflichten bei Accountsperren).

Facebooks Gleicher und Rems schreiben im Unternehmensblog davon, dass „[k]oordinierte Kampagnen mit dem Ziel, der Gesellschaft zu schaden, […] in der Regel von Netzwerken aus[gehen], die hauptsächlich aus authentischen Nutzer*innen bestehen. Diese organisieren sich, um systematisch gegen unsere Richtlinien zu verstoßen und Schaden auf oder außerhalb unserer Plattform zu verursachen.“ Doch was ist dieser Schaden? Wie genau bemisst sich das Gefahrenpotenzial? Der Blog weiter: „[D]as Gefahrenpotenzial, das durch die Gesamtheit der Aktivitäten des Netzwerks verursacht wird, [übersteigt] die Auswirkungen jedes einzelnen Beitrags bei Weitem“.

Eingebettet sind diese authentischen Personen in ein gut organisiertes Netzwerk, in dem zum Teil auch mehrere Konten gleichzeitig genutzt werden. Dadurch steigert sich nicht nur ihre Reichweite, sondern – bei missbräuchlicher Anwendung – auch ihre Bedrohlichkeit. Das Problem liegt nun daran, wer das Gefahrenpotenziel definiert. Wann beginnt eine koordinierte Handlung missbräuchlich zu sein. Bemisst sich dieses Urteil nur nach Gemeinschaftsstandards?

Facebook bedient sich im Vorgehen gegen derartige Netzwerke authentischer Personen der Terminologie der „koordinierten Schädigung der Gesellschaft“ (wobei das „social harm“ eher das Ergebnis anspricht, während das deutsche Wort „Schädigung“ eher prozessorientiert wirkt). Das Unternehmen definiert die Begriffe selbst und macht sie zum Ausgangspunkt für die Möglichkeit, einer Verletzung der Gemeinschaftsstandards entgegenzuwirken. Mit ihr bekämpft werden sollen eben „koordinierte Kampagnen mit dem Ziel, der Gesellschaft zu schaden,“ die sich „organisieren, um systematisch gegen die Richtlinien zu verstoßen und Schaden auf oder außerhalb der Plattform zu verursachen.“ Gleicher und Rems sehen das Gefahrenpotenzial solcher Netzwerke im Vergleich zu der Auswirkung einzelner Beitrag als derart groß, dass es eine Entfernung dieser rechtfertigt.

Mit der stärkeren Einbeziehung von „social harm“ als Grund zur Löschung von Inhalten erweitert das Unternehmen seinen Handlungsspielraum, um vor allem die Verbreitung der Verschwörungstheorien in Bezug auf die COVID-19 Pandemie einzuschränken. Diese Aktion zielt hauptsächlich auf eine Verringerung der kommunikativen Macht der Querdenker-Bewegung in Deutschland, deren Diskurse in den letzten Monaten an Radikalität spürbar zugenommen haben. Dabei betonen Gleicher und Rems jedoch, dass Facebook nicht gegen das „Querdenken“ generell vorgeht, sondern eben nur gegen schädliche Netzwerke, die bedrohlichen Charakter entwickeln.
 

Rechtliche Beurteilung

Was allerdings genau diesen bedrohlichen Charakter ausmacht, wird in zunehmenden Maße nicht nur von Plattformen selbst definiert werden können. Wie wir an anderer Stelle ausführen, werden die beiden aktuellen Entscheidungen des BGH (III ZR 179/20; III ZR 192/20) normativ nachhaltig wirken: Ja, Facebook kann seine eigenen Regeln für seine eigene Plattform aufstellen, aber die müssen auf eine rechtstaatliche Weise durchgesetzt werden. Ja, Facebook ist nicht direkt an die Grundrechte gebunden wie ein Staat, aber sie gelten trotzdem via Horizontalwirkung zu einem bestimmten Grade.
Facebook ist also grundsätzlich berechtigt, von den Nutzern:innen seines Netzwerks die Einhaltung bestimmter Kommunikationsstandards zu verlangen, die über die Anforderungen des Strafrechts hinausgehen, und zu entscheiden, wann auch authentische Nutzer*innen sich auf eine Weise koordinieren, die gesellschaftlich problematisch ist. Indes dürfen wir auch mächtigen Unternehmen nicht die Diskurshoheit über den Begriff des „social harm“, der Schädigung der Gesellschaft überlassen. Sich darüber zu verständigen, was gesellschaftsschädigend ist und wie darauf reagiert werden kann, ist eine eminent wichtige gesellschaftliche Aufgabe.

Bisher war die Ziehung von Grenzen eine Aufgabe der Gerichte, die sich jedoch teilweise von den Diskursdynamiken des Internets überfordert zeigten. Andererseits zeigen Gerichte auch klar Grenzen auf: So hat das Sächsische OVG erst am 21.9. geurteilt, dass „im Einzelfall Schärfen und Übersteigerungen des öffentlichen Meinungskampfes oder ein Gebrauch der Meinungsfreiheit, der zu sachgemäßer Meinungsbildung nichts beitragen kann, in Kauf zu nehmen sind“ (Abs. 38), dass aber nicht alles geduldet werden muss. Wenn Plakate geeignet seien, „das psychische Klima aufzuheizen, das Aggressionspotential im sozialen Gefüge zu erhöhen und das politische Klima durch Erzeugung von Hass zu vergiften“, müssen sie abgehängt werden.

Das ist in unseren Augen eine tragfähige Definition von „social harm“. Gerade mit Blick auf die Ereignisse der letzten Zeit – das Sächsische Oberverwaltungsgericht erinnert an „Angriffe auf Gesundheit und Leben politisch Andersdenkender und (Lokal-)Politiker (neben anderen auch der Mord am Kasseler Regierungspräsidenten Lübcke im Jahr 2019)“ und an „Straftaten mit politisch-religiösen Hintergründen (erwähnt seien die Anschläge von Halle 2019 und Hanau 2020)“ – müssen Gefahren für den „politischen und gesellschaftlichen Frieden“ möglichst gebannt werden.

Dass Facebook nun verstärkt gegen authentische Netzwerke, die im Aggregat „social harm“ bewirken, vorgeht, ist sinnvoll. Wichtig wäre indes auch, dass soziale Medien ihre algorithmische Governancemethoden und vor allem die Empfehlungsalgorithmen einer genauen Kontrolle unterwerfen und prüfen, ob sie nicht beitragen zu der Schaffung erst jener Netzwerke, gegen die sie dann vorgehen müssen.

Richtig und wichtig ist übrigens das Fazit des Sächsischen OVG: „Die Menschenwürde ist im Verhältnis zur Meinungsfreiheit nicht abwägungsfähig.“
 
Photo by Glen Carrie on Unsplash