27.02.2023

Das Bundesverwaltungsgericht gelangt mit einiger Anstrengung zu einer generellen Pflicht öffentlich-rechtlicher Rundfunkanstalten, Inhalte auf ihren Social Media-Präsenzen zu moderieren und Nutzendenkommentare ohne hinreichenden Sendungsbezug zu löschen. Die Chance, ein zukunftweisendes Judikat zum Auftrag des ÖRR in der plattformisierten Öffentlichkeit zu erlassen, lässt der 6. Senat ungenutzt, dabei hatte das erstinstanzlich befasste VG Leipzig einen Weg dorthin aufgezeigt.

Von Dr. Tobias Mast und Prof. Dr. Wolfgang Schulz

Dieser Beitrag erschien zuerst im Verfassungsblog.

Der Fall

Die Entscheidung vom 30. November 2022 (BVerwG 6 C 12.20) deren Gründe seit einigen Tagen vorliegen, befasst sich mit der Praxis des Mitteldeutschen Rundfunks (MDR), eine Präsenz auf Facebook vorzuhalten, um dort auf aktuelle Sendungen hinzuweisen und Kommentare entsprechend einer selbstgesetzten Netiquette zuzulassen, soweit sich diese inhaltlich auf die entsprechenden Sendungen beziehen. Ein Nutzer kommentierte rege unter den Beiträgen des MDR. Nachdem einer seiner Kommentare durch den MDR gelöscht wurde, begann er, in den Kommentarspalten gegen die von ihm als Zensur empfundene Inhaltsmoderation anzuschreiben, wobei seine Posts wiederum mangels Sendungsbezug gelöscht wurden, sodass sich der Kreislauf aus Echauffieren und Löschung fortspann. Die betrauten Verwaltungsgerichte erkannten den Eingriffscharakter der Löschungen und begaben sich auf die Suche nach Kompetenztiteln und Rechtfertigungserwägungen.

Wer die Entscheidungen liest, wird der verfassungsrechtlichen Maßstabslosigkeit gewahr, die in diesem Bereich auch noch etwa 15 Jahre, nachdem die Phänomene relevant wurden, vorherrscht. In diesem Feld hat man es mit einem hochkomplexen Interessengeflecht zu tun, bestehend aus gleichermaßen grundrechtsverpflichteten (Art. 1 Abs. 3 GG) wie auch grundrechtsberechtigten (Art. 19 Abs. 3 GG) ÖRR-Anstalten (Rn. 34), den mit ihnen interagierenden Privatpersonen, den ihrerseits privatrechtlich organisierten und die Kommunikationsarchitektur bereitstellenden Plattformunternehmen wie auch der potenziell in ihren Wettbewerbschancen durch die ÖRR-Aktivitäten beeinträchtigten privaten Medienunternehmen. Anstatt einen verfassungsrechtlich imprägnierten Verständnisvorschlag des Medienrechts zu unterbreiten, rettete man sich aber ins Kleinklein einer Staatsvertragsanlage.

Vom Unionsrecht in die Anlage

Das Gericht geht von einem Eingriff in die Meinungsfreiheit des Nutzers durch den MDR aus und prüft dessen Berechtigung. Als Rechtsgrundlage für die Kommentarlöschungen zog das BVerwG § 11d Abs. 5 RStV a.F. i. V. m. Ziff. 17 Hs. 1 der Anlage 4 zum RStV a.F. (heute § 30 Abs. 5 S. 1 Nr. 4 MStV i.V.m. Anlage zu § 30 Abs. 5 Ziff. 17 Hs. 1), die Negativliste öffentlich-rechtlicher Telemedien heran, die den Betrieb von „Foren, Chats ohne Bezug zu Sendungen und redaktionelle Begleitung“ durch ÖRR-Anstalten per se untersagt. Die Liste ist Resultat des sog. Beihilfekompromisses, der 2007 zwischen der Europäischen Kommission und Deutschland geschlossen wurde, um den ursprünglich durch Gerätegebühren, seit 2013 durch Haushaltbeiträge finanzierten ÖRR nicht als Verfälschung des privatwirtschaftlichen Medienwettbewerbs an den primärrechtlichen Vorgaben des Beihilferechts zerschellen zu lassen. Nachdem die deutsche Seite der Kommission eine lange Liste an Zusagen erteilt hatte (Ziff. 338 der Beihilfe-Entscheidung: Internet-Chats), die 2008 mit dem 12. RÄStV umgesetzt wurden, stellte die Kommission ihr beihilferechtliches Verfahren ein. Mit alldem sollen die Chancen privater Wettbewerber aufrechterhalten und damit mittelbar der Meinungsvielfalt gedient werden (Rn. 46).

Während die meisten in der Negativliste ausgeschlossenen Telemedien recht weit vom demokratischen Zentralanliegen öffentlicher Meinungsbildung entfernt liegen und mit Anzeigen- und Preisvergleichsportalen, Partner- und Tauschbörsen vornehmlich Telemedien betreffen, deren ökonomisches Primäranliegen und das damit provozierte Konkurrenzverhältnis zu privatwirtschaftlichen Anbietern augenfällig ist, provoziert die hier interessierende Ziff. 17 Fragen, die an die eigentliche Rolle und Funktion des ÖRR unter heutigen medialen Bedingungen rühren. Der Beihilfe-Kompromiss bezog die Chat- und Forenvorgaben nicht auf Kommentarspalten auf sozialen Netzwerken. Die sich dort entwickelnden Erwartungen des Publikums an Journalismus, die mit Schlagworten wie „Audience Turn“ oder „Participatory Turn“ umschrieben werden (Überblick bei Loosen/Reimer/Hölig 2020), und auch öffentlich-rechtliche Medienanbieter zu gewissen Anpassungen drängen (Jarren/Fischer, Leviathan Sonderband 37 (2021), 365), waren noch nicht vollauf absehbar. Es hätte deswegen nun nahegelegen, darüber nachzudenken, was uns der Auftrag des ÖRR, seine Programmfreiheit in digitalen Kommunikationsumgebungen zu sagen hat. Eine Prüfung der Verfassungskonformität des Verbotes müsste sich vertieft mit der Entwicklungsgarantie des öffentlich-rechtlichen Rundfunks auseinandersetzen. Hier zeigt sich dann das zentrale Problem der Gesamtkonstruktion des BVerwG: Würde man – zugunsten des Senders – von einer Verfassungswidrigkeit dieses Teils der Negativliste ausgehen, fehlte der Rechtsgrund für eine Löschung, da das Gericht eine Kuratierung der Inhalte anhand der „Hausregeln“ in Form der Netiquette und deren verfassungsrechtliche Verankerung nicht ernsthaft in Erwägung zieht (vgl. Rn. 58 ff., 68).

Wann kippt ein Forum?

Beginnt man mit dem BVerwG bei der Auslegung des einfachen Rundfunkrechts, stellt sich zunächst die Frage, ob die Kommentarspalte unter den MDR-Beiträgen ein Chat oder Forum im Sinne der Negativliste darstellt. Soll den Begriffen jeweils normativer Eigengehalt zukommen, liegt es nahe, den Chat als Gespräch unter gleichzeitiger Anwesenheit der Kommunizierenden, das Forum dagegen als thematisch gegliederte und weniger zeitgebundene Diskussionsplattform zu begreifen. Die Kommentarspalten bei Facebook regen dazu an, sich zu einem konkreten Post der ÖRR-Anstalt auszutauschen, sodass man insoweit von einem Forum sprechen kann. Ein solches ist nach Ziff. 17 der Negativliste verboten, wenn es „ohne Bezug zu Sendungen und redaktionelle Begleitung“ daherkommt.

Sendungsbezogen hat also das Forum, nicht der einzelne Kommentar zu sein (in diese Richtung auch Held in Binder/Vesting, RundfunkR, 4. Aufl. 2018, § 11d Rn. 139). Ein einzelner Kommentar auf thematischen Abwegen wird einem Forum kaum den Sendungsbezug nehmen. Versteht man den Sendungsbezug und die redaktionelle Begleitung als kumulativ zu wahrende Voraussetzungen, hätte es sonst jeder Nutzende in der Hand, die ÖRR-Präsenz zeitweilig durch einen neben der Sache liegenden Post zum rechtswidrigen Telemedium werden zu lassen – ein eher abwegiges Szenario. Wesentlich näher liegt es, für den erforderlichen Sendungsbezug auf das Gesamtgepräge der Diskussion abzustellen und einen Kipppunkt zu bestimmen, bei dem der Diskussionscharakter nicht mehr als auf die Sendung bezogen begriffen werden kann. Etwas anderes gilt lediglich, wenn die ÖRR-Anstalt ein Forum bereits sendungsfern selbst eröffnet.

Löschbefugnis nur bei Löschpflicht
Das BVerwG setzte freilich stattdessen den einzelnen Kommentar mit dem Forum gleich, entnahm Ziff. 17 der Anlage folgerichtig eine absolute Löschpflicht für sendungsferne Kommentare und musste im weiteren Prüfprogramm der überbeanspruchten Ziff. 17 auch noch eine dem Vorbehalt des Gesetzes genügende Befugnis für all die mit den Löschungen einhergehenden Grundrechtseingriffe entnehmen. Andernfalls hätte man sämtliche Facebookpräsenzen der ÖRR-Anstalten mit Kommentarfunktion als rechtswidrig begreifen müssen, weil die Anstalten den Vorgaben des einfachen Rundfunkrechts nicht in verfassungsmäßiger Weise genügen könnten und überdies nach der BVerwG-Lesart das Damoklesschwert der Unionsrechtswidrigkeit über denselben schwebte. Dass aber § 11d Abs. 5 S. 4 RStV a.F. i.V.m. Ziff. 17 der Anlage, der sprachlich eindeutig auf eine Unterlassungspflicht der Rundfunkanstalten beschränkt ist, zu Eingriffen in die Meinungsäußerungsfreiheit der Facebooknutzenden berechtigt, liegt alles andere als nahe. Anders als das BVerwG ausführt (Rn. 31), enthält die Negativliste auch gerade keinen materiellen Auftrag für die Rundfunkanstalten.

Hätte man dagegen wie hier auf das Gesamtgepräge der Kommentarspalte abgestellt, hätten sich interessante und wichtige Rechtsfragen angeschlossen, deren Beantwortung nun auf unbestimmte Zeit verschoben ist. Zunächst hätte sich zu klären aufgedrängt, ob und welche Spielräume dem MDR bei der redaktionellen Begleitung, also der Inhaltsmoderation seiner Kommentarspalten, zukommt. Die Spielräume hätten wiederum normativ verankert werden müssen, etwa im Auftrag des ÖRR auf Internetplattformen oder als Anhängsel einer Programmfreiheit ebendort. Letztere sichert einen journalistischen und künstlerischen Freiraum ab, der sich jedenfalls auf die Gestaltung der publizistischen Formate erstreckt (vgl. Cornils in Stern/Sodan/Möstl, StaatsR, 2. Aufl. 2022, § 120 Rn. 76), aber durchaus auch aufs Digitale ausstrahlen könnte (so das vorbefasste VG Leipzig, 1 K 1642/18, Rn. 89). Die Netiquetten der ÖRR-Anstalten hätten wiederum als Ausdruck dieser Gestaltungskompetenzen interpretiert werden können. Hier wären Aussagen zu treffen gewesen, die die seit Jahren schwelenden Diskussionen ein Stück weit hätten voranbringen können.

Rechtsstreit (weitgehend) gewonnen, an Macht verloren

Nun ist eine Löschpflicht natürlich für die mit ihr betrauten Organisationen bedeutend unliebsamer, als eine Löschbefugnis. Die ÖRR-Anstalten werden durch die Lösung des BVerwG aber nicht lediglich im Verhältnis zu den Nutzenden verstärkt in Anspruch genommen, sondern auch maßgeblich im Verhältnis zu den Plattform- und Netzwerkbetreibenden geschwächt. Facebook, Instagram, TikTok und Co. können nun mit einer einfachen Änderung ihrer Rechtezuweisungen die ÖRR-Anstalten dazu drängen, die Plattform zu verlassen, ohne sich mit einzelnen Sperrungen derselben die Finger schmutzig zu machen. Es genügt nun, recht unauffällig für Plattformpräsenzen eines bestimmten Zuschnitts die Befugnis zur Inhaltsmoderation unter eigenen Posts einzuschränken oder zu entziehen. Die ÖRR-Anstalten müssten dann, wollten sie das Verdikt der Rechtswidrigkeit vermeiden, den Dienst verlassen – ein Shadow Ban der etwas anderen Art. Man darf hoffen, dass sich die Journalistinnen und Journalisten in den Anstalten bei ihrer Berichterstattung über die großen Plattformunternehmen hiervon nicht beeinflussen lassen. Ein Entweder-oder – redaktionelles Angebot oder ganz offene Plattform – wird weder beim öffentlich-rechtlichen Rundfunk noch bei kommerziellen Angeboten der kommunikativen Funktion von Foren und ähnlichen Angebote gerecht. Wir brauchen Meta-Normen, die Möglichkeiten, Grenzen und Verfahren für „Hausregeln“ unterschiedlicher Anbieter, auch für staatliche Foren, definieren. Das Gericht hat die Chance nicht genutzt, zu explorieren, was sich aus der Verfassung dazu ableiten lässt.

Titelfoto: Simão Moreira, pexels

05.01.2023

50 Jahre Sesamstraße – eine Kindersendung feiert Geburtstag. Das HBI gratuliert aufs Herzlichste, hat es doch die Sendung gerade in ihren Anfängen intensiv und forschend begleitet. Dr. Claudia Lampert und Dr. Hans-Ulrich Wagner haben einen Blick in das Institutsarchiv geworfen.

Am 8. Januar 1973 ging die deutschsprachige Version der Sesame Street auf Sendung, ambitioniert und mit einem umfangreichen Zielkatalog, mitunter heftig kritisiert und umstritten (insbesondere wegen der Orientierung am US-amerikanischen Original und dessen starke Fokussierung auf die Förderung kognitiver Fähigkeiten), von Kindern aber immer gern gesehen. In den USA lief das Original Sesame Street schon seit 1969. Mit dem Start der Sesamstraße in Deutschland wurde das Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI) (damals noch „Hans-Bredow-Institut für Rundfunk und Fernsehen an der Universität Hamburg”) vom Bundesministerium für Bildung und Wissenschaft mit der Begleitforschung zur Sendung beauftragt (Berghaus et al. 1978).

Vom Vorschulexperiment zum erfolgreichen Kinderfernsehprogramm

Im Zentrum stand die Frage, inwieweit Fernsehsendungen in der Lage sind, vorschulpädagogische Aufgaben zu übernehmen. Wie in der Sendung, standen auch in der Forschung die sozialen Lernziele im Vordergrund, d. h. „Erziehungseffekte, welche die gesellschaftlichen Handlungsorientierungen bei Kindern betreffen” (S. 8). Neben dem Sendungsinhalt wurden familiäre Faktoren sowie das Alter und Geschlecht der Kinder berücksichtigt. Nicht nur die Sesamstraße hatte damals Pioniercharakter (Wagner 2013). Auch die Begleitforschungsgruppe betrat mit der umfangreichen „Mehrebenenanalyse“ (Berghaus et al. 1978, S. 15) Neuland, da Anfang der 1970er Jahre noch kaum Forschung zu dieser jungen Altersgruppe existierte.

Begleitforschung in den 1970er Jahren

Im Rahmen der Begleitforschung wurden am HBI insgesamt sechs aufwändige Teilstudien durchgeführt, die hier nur kurz aufgeführt werden, um die Komplexität und den Aufwand zu verdeutlichen, der damals investiert wurde, um ein gutes, empirisch fundiertes Bildungsprogramm für Kinder zu entwickeln:

1. Sendungsanalyse (Inhaltsanalyse von 62 Sendefolgen aus 1973 und 1974);
2. Beobachtung von 190 Kindern während der Nutzung (zu Hause bzw. im Kindergarten);
3. Verhaltens-, Fertigkeiten- und Informationstests zur Untersuchung des Einflusses der Sendung auf die soziale Wahrnehmung, das Sozialverhalten und die Entwicklung intellektueller Fertigkeiten bei Vorschulkindern (Vergleich zwischen „Seher*innen” und „Kontrollgruppe”);
4. Elternbefragung („Soziale Beziehungen”): Mündliche und schriftliche Befragungen von über 700 Eltern zur Erfassung der sozialen Umwelt- und Beziehungssituation;
5. Erzieher*innenbefragung: Befragung von über 900 Vorschulpädagog*innen und Grundschullehrer*innen;
6. Repräsentativerhebung (mündliches Interview) in 1.700 Familien mit Kindern im Alter von 3 bis 10 Jahren zum allgemeinen und sendungsbezogenen Fernsehverhalten sowie zur Beurteilung der Sendung.

Erziehung ohne Zeigefinger

Die ausführliche Darstellung der Teilerhebungen und der Befunde würde den Rahmen dieses Beitrags sprengen. Es lohnt sich aber in jedem Fall, einen Blick in die zusammenfassende Dokumentation von Berghaus et al. (1978) zu werfen. Unter anderem wurde der Sendung eine breite Akzeptanz bei Kindern, Eltern und Pädagog*innen bescheinigt, die nicht zuletzt auch durch die öffentliche Debatte und begleitende Kommunikation (mit Feedback-Möglichkeiten) begünstigt wurde (Kob 1976, 1978). Die Sendungsstruktur, Inhalte, Darbietungsformen sowie die Regelhaftigkeit und Dichte der Ausstrahlung wurden als relevante Faktoren gesehen (damals wurde die Sendung häufiger angeboten als andere Sendungen, und für viele Kinder bedeutete 18 Uhr jahrelang „Sesamstraßen-Zeit“). Inhaltlich überzeugte Eltern und Kinder vor allem die Komik, die dazu beitrug, dass „bei aller „pädagogischer Dichte“ […] mit ihrer Hilfe die Penetranz des „pädagogischen Zeigefingers“ vermieden [wurde]“ (Kob 1976, S. 116).

Profitiert haben Kinder aus der Mittelschicht

Die Ergebnisse zu den Lernzielen fielen allerdings sehr ambivalent aus (ebd., S. 118): Eine Förderung intellektueller Fähigkeiten wurde durchaus festgestellt. Bei höheren Anforderungen erwies sich die Begleitung durch Eltern bzw. Pädagogen als bedeutsam. Das bedeutete aber auch, dass Kinder mit mehr Begleitung durch die Eltern (und eher aus der Mittelschicht) in höherem Maße von dem Angebot profitierten als Kinder aus Familien mit niedrigem sozioökonomischem Hintergrund. Heterogen fielen die Ergebnisse zu den sozialen Lernzielen aus: Positive Effekte zeigten sich z. B. in Bezug auf „Verständnis für das Handeln Erwachsener“ und „Autonomie gegenüber Erwachsenen“, keine Effekte beim Abbau von Geschlechterrollenfixierungen und sogar gegenteilige Effekte im Hinblick auf das Verhalten gegenüber Minderheiten.

Der damalige Direktor des HBI, Janpeter Kob, schlussfolgerte aus den Forschungsergebnissen u. a., dass soziale Lernziele nur im Einklang mit den Haltungen der Erziehungsverantwortlichen gefördert werden können und dass entsprechend auch die Eltern mit begleitenden Materialien zu informieren seien (Kob 1976, S. 120) – eine Erkenntnis, die bis heute nicht an Bedeutung verloren hat und auch mit Blick auf gegenwärtige medienbezogene Herausforderungen unbedingt beherzigt werden sollte.

Deutsche vs. US-amerikanische Sesamstraße

Nicht unerwähnt bleiben sollte, dass im Kontext der Begleitforschung auch Sendungen getestet wurden, die Anfang der 1970er Jahre eigens für die deutsche Version der Sesamstraße produziert wurden. Als zentraler Befund wird berichtet, dass sich die ursprünglichen (US-amerikanischen) Straßenszenen als nicht relevant bzw. verzichtbar erwiesen und infolgedessen durch ein anderes Setting und Protagonist*innen ersetzt wurden (Weitzel 1976). Anstelle von Susanne, Bob, Gordon, Herrn Huber, dem gelben Riesenvogel Bibo und Oskar aus der Mülltonne (der ohnehin vielen Erwachsenen aufgrund seiner grantigen Art ein Dorn im Auge war) traten die Schauspielerin Liselotte Pulver und der Moderator Henning Venske sowie Knuddelbär Samson, die rosafarbene Vogeldame Tiffy und das eitle Meerschweinchen Herr von Bödefeld, die in den nachfolgenden Jahren durch weitere Puppen und Schauspieler*innen ergänzt oder auch ersetzt wurden.

Kinderfernsehen (und Forschung) im Wandel

Nicht nur die Sesamstraße hat sich in den letzten 50 Jahren (mehrfach) gewandelt und weiterentwickelt. Auch die Medienlandschaft hat sich fundamental verändert: Mit der Einführung des privaten Fernsehens Mitte der 1980er Jahre wurden die Kinder als lukrative Zielgruppe für den Werbemarkt erkannt. Als Folge entstanden zahlreiche Fernsehangebote für Kinder als Teil eines umfassenden Werbenetzes. Ende der 1990er Jahre wurden mit den Teletubbies schließlich auch Ein- bis Dreijährige in den Blick genommen, eine Altersphase, die bis dahin als offiziell als „fernsehfrei“ galt. Die Debatte um die Teletubbies erinnerte sehr an die Diskussion, die zum Zeitpunkt der Einführung der Sesamstraße in Deutschland geführt wurde (Neuss 2001). Inzwischen scheinen Fernsehangebote für Kleinkinder weitestgehend akzeptiert und sind angesichts gegenwärtiger, durch die Digitalisierung bedingten Herausforderungen, kaum mehr Gegenstand öffentlicher Debatten.

Obwohl der Kinderfernsehmarkt heute deutlich umfangreicher und vielfältiger ist, kommt der Sesamstraße als eine der wenigen Sendungen, die seit 50 Jahren Kinder begeistert, und als unterhaltsames Bildungsangebot ein besonderer Stellenwert zu. Es wird interessant sein, zu verfolgen, wie die Sesamstraße auf künftige technologische Entwicklungen reagieren wird, inwieweit es ihr gelingt, die Kinder über die verschiedenen Kommunikationskanäle zu erreichen und welche Spuren sie auch in der Mediensozialisation künftiger Generationen junger Zuschauer*innen, aber auch in der Medienerziehung von Eltern hinterlassen wird. Viele spannende Fragen für die kommunikationswissenschaftliche und medienpädagogische Forschung.

Wir gratulieren der Sesamstraße und wünschen ihr, dass die Redaktion sich ihre Leidenschaft erhält, ein gutes und unterhaltsames Fernsehprogramm für Kinder zu machen. HERZLICHEN GLÜCKWUNSCH!

Quellen

Berghaus, Margot; Kob, Janpeter; Marencic, Helga; Vowinckel, Gerhard (1978): Vorschule im Fernsehen. Ergebnisse der wissenschaftlichen Begleitforschung zur Vorschulserie Sesamstraße. Weinheim und Basel: Beltz Verlag.
Kob, Janpeter (1976). Lehren aus Sesamstraße. In: Internationale Zeitschrift für Medienpsychologie und Medienpraxis, Jg. 10, H. 1/2, S. 115-122.
Kob, Janpeter (1978): Lehren aus der ‘Sesamstraße’. In: Berghaus, Margot; Kob, Janpeter; Marencic, Helga; Vowinckel, Gerhard (1978): Vorschule im Fernsehen. Ergebnisse der wissenschaftlichen Begleitforschung zur Vorschulserie Sesamstraße. Weinheim und Basel: Beltz Verlag, S. 191-199.
Neuss, Norbert (2001) (Hrsg.): Teletubbies und Co. Schadet Fernsehen unseren Kindern? Weinheim: Beltz Verlag.
Wagner, Hans-Ulrich (2013): Die „Sesamstraße“: Ein Pionier des Kinderfernsehens. Online: https://www.ndr.de/der_ndr/unternehmen/chronik/sesamstrasse2167_page-2.html [7.1.2013]
Weitzel, Jürgen (1976): Zur deutschen Bearbeitung der “Sesam”-Straßenszenen. In: Fernsehen und Bildung. Internationale Zeitschrift für Medienpsychologie und Medienpraxis, Jg. 10, H. 1/2, S. 110-114.

Foto: NDR/Sesame Workshop

01.12.2022

Nach einer Online-Abstimmung hat Elon Musk den Twitter-Account von Donald Trump wieder freigeschaltet mit den Worten: „The people have spoken. Trump will be reinstated. Vox Populi, Vox Dei”. Plattformdemokratie funktioniere anders, meint Prof. Dr. Matthias C. Kettemann.

Dieser Beitrag erschien zuerst auf verfassungsblog.de

Grundlage für Musks Entscheidung war eine Online-Abstimmung mit 15 Millionen Teilnehmer*innen, die 51,8% zu 48,2% für eine Entsperrung von Trumps Account ausgegangen ist. Die Knappheit des Ergebnisses ist bemerkenswert, weil zumindest die klassischen Follower von Musk eher libertär orientiert sind und auch Musk hat – zumindest solange es ihm nicht um Geld geht – einer unkritischen Glorifizierung des freien Meinungsaustauschs gehuldigt.

Das Problem liegt aber tiefer: So geht digitale Demokratie nicht, so geht Plattformregulierung nicht. Klar, in der „mediatisierten Demokratie” bedarf repräsentative Demokratie technischer Vermittlung, aber, wie Digitalforscherin Jeanette Hofmann schreibt, ist das „sich wandelnde Zusammenspiel von demokratischer Organisation und Kommunikationsmedien […] eine kontingente Konstellation”. Die Transformation der repräsentativen Demokratie ermögliche ein „Experimentieren mit neuen Formen demokratischen Handelns”. Dies hat Elon Musk nun zum Anlass genommen, mit Twitter-Volksabstimmungen zu experimentieren. Das ist natürlich leichter, als sich zu überlegen, wie mit Accounts umzugehen ist, die Regeln verletzen. Dies ist indes unumgänglich.

Meta hat es sich nicht so leicht gemacht: In einer profund recherchierten Studie der ersten beiden Jahre Aktivitäten des Meta Oversight Boards identifiziert Steven Levy für Wired, welche zentralen Konflikte sich bei der Plattform-Governance stellen und wie Meta mit dem Board ein Wagnis eingegangen ist, das sowohl positive wie auch negative Deutungen zulässt, jedenfalls aber eine mögliche Antwort auf die zentrale Frage der Plattform-Governance ist: Wie können die Regeln und Praxen der Online-Inhalteregulierung optimiert werden und dies gerade mit Blick auf bekannte Accounts?

Wir alle sind Stakeholder

Diese Fragen gehen uns alle etwas an. Man muss nicht Jürgen Habermas’ pessimistische Einschätzung des neuen Strukturwandels der Öffentlichkeit teilen (Vielstimmigkeit ohne kompetente Moderation ist schlecht), auch wenn die neue Kommunikationsrealität jedenfalls dem Modell quo ante (Meinungs-Governance als Elitenprojekt) vorzuziehen ist. Man muss aber anerkennen, dass Entscheidungen über Kommunikationsregeln und deren Durchsetzung durch eine breitere Beteiligung besser und differenzierter ausfallen und auch als legitimer angesehen werden. Wir alle haben ein „stake”, ein wertunterlegtes Teilhabeinteresse, an den Ergebnissen der Regulierung von Plattformen und an der Art, wie Plattformen selbst Regeln setzen und durchsetzen.

Klar, Onlinekommunikation ist komplex. Normative Ordnungen sind entweder öffentlich oder privat oder gemischt (hybrid). Private Ordnungen, die auf Verträgen beruhen, sind legitim und oft erfolgreich bei der Regulierung von Kommunikationsräumen. Plattformordnungen sind im Kern privat. Aber eben nicht nur: In den letzten Jahren sind sie zunehmend mit hybriden (öffentlichen) Elementen durchsetzt worden, da diese Kommunikationsräume zunehmend einen demokratischen Diskurs tragen.

Neue Modelle der Plattformdemokratie

Hybride normative Ordnungen sind sowohl durch private als auch öffentliche Merkmale gekennzeichnet, die sich auf die Eigentumsverhältnisse, Teilnehmer*innen, Ausrichtung und ihnen eingeschriebene Werte beziehen. Innerhalb hybrider Ordnungen stellen sich schwierige normative Fragen hinsichtlich der Anwendung von Grund- und Menschenrechten (Drittwirkung; horizontale Anwendung) und der Rolle, die Dritte (Nichtnutzer*innen, die Öffentlichkeit, die Gesellschaft) spielen sollten. Staaten regulieren zunehmend Onlinekommunikationsräume – und Plattformen experimentieren damit, Stakeholder-Beteiligung zuzulassen.

Hier sind seit einiger Zeit neue Modelle der Plattformdemokratie in Ausarbeitung, die auch schon im aktuellen Koalitionsvertrag Platz gefunden haben („Den Aufbau von Plattformräten werden wir voranbringen”, S. 14). Die NGO ARTICLE 19 veröffentlichte einen Bericht über ein Experiment mit einem Social Media Council in Irland. Harvard-Politikwissenschaftler Aviv Ovadya plädiert energisch für eine Demokratisierung von Plattformen durch Bürger*innenversammlungen. Meta hat angekündigt, im Dezember Community-Foren abhalten zu wollen, an denen fast 6.000 Menschen aus 32 Ländern und 24 Sprachen teilnehmen werden. Internationale Organisationen, wie die UNESCO, machen sich Gedanken darüber, wie die Kluft zwischen zentralisierter Regelsetzung und lokalen Stimmen bei der Moderation von Inhalten überbrückt werden kann (auch zum Nachhören).

Schnell mal seine Follower befragen, was sie von einer Account-Entsperrung halten, ist leicht. Diesen Ansatz zu kritisieren ebenso. Beides enthebt indes nicht von der Verantwortung, sich zu überlegen, welche Grundfrage der Verknüpfung von Plattformen und Demokratie hier gestellt wird.

Vox populi, vox Dei?

So einfach ist es mit der Stilisierung der Volksstimme zur alleinigen und primären Quelle der Legitimität von Entscheidungen nämlich nicht. Das lehren Jahrhunderte der kritischen Auseinandersetzung mit Legitimität, Rationalität und Repräsentativität. Das wusste übrigens schon Alcuin.

Alcuin, wie Oxfords „Essential Quotations” zu entnehmen ist, ist jener englische Gelehrter und Theologe des 8. Jahrhunderts, der als zentrale mittelalterliche Quelle für Vox populi, vox Dei gilt. Im Original liest man indes: Nec audiendi qui solent dicere, Vox populi, vox Dei, quum tumultuositas vulgi semper insaniae proxima sit. Nun muss Elon Musk nicht Latein können, eine Übersetzungsmaschine tut’s auch: Und man sollte nicht auf die Leute hören, die immer wieder behaupten, die Stimme des Volkes sei die Stimme Gottes, denn der Aufruhr der Menge ist immer sehr nahe am Wahnsinn.

‚Nahe am Wahnsinn’ wäre jetzt keine überschießende Beschreibung der erratischen Governance-Ansätze Musks in den letzten „terrible weeks“ auf Twitter. Indes ist, die Schweizer Verfassung nickt zustimmend, die Befragung des Volkes durchaus ein legitimes Mittel, um politische Entscheidungen zu treffen. Doch die Sicherstellung von guten Regeln und Moderationspraxen (und den normativen Regel-Algorithmen-Arrangements) in komplexen Plattformökosystemen kann man nicht zur Volksabstimmung stellen.

Nicht verrückt, aber nicht ausreichend rational

Verrückt ist es also nicht, das „Twitter-Volk” zu befragen, aber Plattformen müssen weit rationaler verwaltet werden. So leicht kann es sich Musk nicht machen. Governance von Plattformen macht nicht Spaß, wie evelyn douek schreibt, diese „cold dose of reality” wird Elon Musk noch zu spüren bekommen. Und leider wir alle auch. Das finden nicht alle schlecht: Mr. Beast, einer der erfolgreichsten Online-Content-Producer reagierte auf die Wiederfreischaltung von Trumps Konto mit einem Popcorn-Emoji.

Spannend wird’s, Zuschauen wird allerdings nicht reichen: Gerade jetzt ist die Plattformforschung gefragt – und die Regulatoren dies- und jenseits des Atlantiks. Auf den DSA und das Durchsetzungsinstrumentarium mit den Digital Service Coordinators kommt einiges an normativer Arbeit zu. Elon Musk indes hat schon etwas Neues vor. Sein aktuelles Versprechen: „best coverage by far” der Fußballweltmeisterschaft.

Headerbild: Gordon Johnson / pixabay

29.11.2022

Die Regeln für Plattformen sind vorhanden und auch in Geltung. Angesichts der Eigengesetzlichkeiten der Plattformwirtschaft fehlt es jedoch an der effektiven Anwendung und Durchsetzung dieser Regeln. Prof. Dr. Matthias C. Kettemann diskutiert den Zusammenhang und gibt Einblicke in den aktuellen Stand der Debatte.

Dieser Beitrag ist zuerst auf te.ma erschienen.

Jürgen Habermas ist unzufrieden. Als vor 60 Jahren sein Strukturwandel der Öffentlichkeit[1] erschien, sah er die individuelle Kommunikation und die partizipative Kultur in Gefahr durch Massenmedien, Film, Funk und Fernsehen. Passive Zuhörer*innen und Zuschauer*innen würden sich nicht mehr demokratisch engagieren, sondern nur noch konsumieren. Fast forward ins Jahr 2020: Film, Funk und Fernsehen verlieren an Publikum, die Kommunikation ist so partizipativ wie nie zuvor. Ist für Habermas ein goldenes Zeitalter deliberativer Politik angebrochen? Mitnichten: Im jüngst erschienenen Neuen Strukturwandel der Öffentlichkeit und die deliberative Politik[2] identifiziert er eine neue Gefahr, nämlich, dass sich die politische Öffentlichkeit in den stark und sehr individuell kuratierten Plattformen gar nicht mehr finden kann.

Zugespitzt heißt das: Während es vor einem halben Jahrhundert wegen mächtiger Medien keine eigene Meinung mehr gab, gibt es nun vor lauter Meinungen keine öffentliche Meinung mehr. Wir alle kommunizieren, können es aber nicht wirklich. In Habermas’ Worten: „Wie der Buchdruck alle zu potenziellen Lesern gemacht hatte, so macht die Digitalisierung heute alle zu potenziellen Autoren. Aber wie lange hat es gedauert, bis alle lesen gelernt hatten?”[3]

Nicht gesagt, aber gemeint: Wir sind noch nicht reif dafür, zu allem eine Meinung zu haben und zu äußern. Das erscheint (wenn auch an anderen Stellen wieder abgeschwächt) doch demokratiepolitisch bedenklich, zumal die demokratische Herausforderung wohl nicht im 80. Facebook-Katzenfoto, dem TikTok-Tanz oder dem überästhetisierten Instagram-Dessert zu verorten ist. Es sind nicht primär die vielen Inhalte, die Meinungsbildungsprozesse herausfordern, sondern die Eigengesetzlichkeiten der Plattformwirtschaft mit ihren auf Wertextraktion optimierten Empfehlungsalgorithmen.

Step 1: Solve Free Speech

Elon Musk ist auch unzufrieden. Er wird 45 Milliarden Dollar ausgeben, um den Kurznachrichtendienst Twitter zu kaufen. Das ist viel Geld. Und er hat viel mit Twitter vor: Er möchte aus dem besonders unter Politiker*innen und Medienmenschen beliebten (weltweit aber vergleichsweise kleinen) Dienst das digitale Äquivalent eines öffentlichen Forums machen und free speech sicherstellen. Wäre das eine Entwicklung, die Habermas gefallen könnte? Eher nicht, und da hilft auch nicht, dass Axel Springer-CEO Mathias Döpfner Musk in privaten Nachrichten beipflichtet und ihm etwas blauäugig schreibt: „Step 1.) Solve Free Speech”.

Leider ist das nicht so einfach. Zunächst ist die Sicherung von free speech eine regulatorische Herausforderung, die nicht gelöst werden kann; sie ist ein sogenanntes wicked problem. Auch die öffentliche Gesundheit oder der Klimawandel können nicht gelöst werden. Notwendig sind vielmehr parallel zu ergreifende, individuell schützende und strukturstabilisierende Maßnahmen. Zur Sicherung von Meinungsäußerungsfreiheit und eines lebhaften politischen Diskurses (denn die institutionelle Dimension der free speech wird oft gerne vergessen) ist gerade nicht ein Weniger an Regulierung und ein Mehr an Freiheit nötig. Wenn Elon Musk, Donald Trump und Kanye West (dessen Inhalte bei Instagram wegen antisemitischer Äußerungen in ihrer Verbreitung reduziert bzw. entfernt wurden) wieder auf Twitter zulässt, liegt darin wohl nur formal ein Gewinn an Meinungsfreiheit. Das kann man schön an den Phänomenen von Desinformation (Was darf gesagt werden?), Deplatforming (Wer bestimmt, wer eine Stimme hat?) und Deliberation (Wie machen wir die Kommunikationsräume demokratischer?) zeigen.

Recht und Regeln

Zunächst aber: Welches Recht, welche Regeln gelten in Online-Kommunikationsräumen, und wie werden sie durchgesetzt? Grundsätzlich gelten die Allgemeinen Geschäftsbedingungen der Plattformen, ihre Gemeinschaftsstandards; das ist in privaten Offline-Räumen, wie im Aldi um die Ecke, auch nicht anders. In der Tat sind Facebook und TikTok aber nicht wie der Aldi, da die Regelsetzung und Regeldurchsetzung – durch menschliche wie weit überwiegend algorithmische Moderation – Teil des Plattformangebots sind. Die Regeln, die algorithmische Aufmerksamkeitslenkung und die Moderation sind zusammen genommen die “special sauce” der jeweiligen Plattform, ihr Coca-Cola-Rezept. (Daher sind sie auch gegenüber Transparenzanforderungen an die automatisierten Empfehlungssysteme eher zurückhaltend). Die internen Regeln – dies darf nicht vergessen werden – sind ein Teil des Plattformdesigns, das auch Empfehlungsalgorithmen und die Praxis der Plattformregulierung umfasst.

Sodann gilt – im deutschen Rechtsraum, den man auch nicht verlässt, wenn man Online-Angebote nutzt – deutsches Recht. Plattformen, die hier aktiv sind, müssen sich daher an deutsches Recht halten. Dass manche, wie Telegram, dies nicht tun, ist kein Geltungsproblem, sondern ein Problem der effektiven Anwendung bzw. Rechtsverfolgung. (Hier nach neuem Recht zu rufen, ist regelmäßig nicht zielführend; besser ist die Professionalisierung der forensischen Ausbildung der Polizei sowie finanziell gut ausgestattete Schwerpunktstaatsanwaltschaften).

Die Plattformen haben zu einem großen Teil nationales Recht in ihre internen Regeln überführt, sodass sie regelmäßig nur nach Gemeinschaftsstandards prüfen (was etwa die niedrigen Meldequoten von Verstößen gegen das Netzwerkdurchsetzungsgesetz erklärt). Manche Inhalte verstoßen nur gegen interne Regeln, sind also nicht rechtswidrig – wie etwa der größte Teil von Desinformation, manche Schimpfwörter und Nacktheit. Auch diese Inhalte – „lawful, but awful” – können besonders im Aggregat, und wenn sie algorithmisch verstärkt werden, zu einem Problem werden. An diesen Inhalten entzündet sich die Debatte um die „Zensur” durch Plattformen (die keine „Zensur” ist, zumindest nicht im Rechtssinn, weil Zensur nur von Behörden ausgeübt werden kann). Hinsichtlich dieser Inhalte können Plattformen, was unlängst der Bundesgerichtshof bestätigt hat, strenger sein, als dies das Gesetz vorschreibt. Sie müssen lediglich bei der Moderation bestimmte Verfahrensrechte einhalten, etwa die User, deren Inhalte sie löschen möchten, informieren: ex post, wenn es um einzelne Inhalte geht, ex ante, wenn ein ganzer Account dran glauben soll.

Desinformation: Wer weiß schon, was wahr ist

Elon Musk will mehr Freiheit auf Twitter. Er meint damit alle Inhalte, die legal sind. Das ist ein Problem, denn der größte Teil von Desinformation – wie etwa falsche Aussagen zur Effektivität von Corona-Impfungen – ist nicht illegal, sondern einfach sozial abträglich. In einem Gutachten für die Landesmedienanstalt Nordrhein-Westfalen haben Expert*innen des Leibniz-Instituts für Medienforschung aus Hamburg aufgezeigt, warum eine Regulierung von Desinformation zu schwierig ist. Zum einen ist Wahrheitsfindung keine Aufgabe des Staates, sondern ein gesellschaftlicher Prozess kommunikativer Konstruktion; zum anderen sind diskursunterstützende Ansätze nötig, die über klassische Regelungsformen nicht verfolgt werden können. Selbst Fact-Checking-Verfahren, Hinweise und Warnungen können für rechtmäßige Inhalte nicht zur gesetzlichen Pflicht gemacht werden. Die Expert*innen schlagen stattdessen vor, Maßnahmen zur Vertrauensförderung in journalistisch-redaktionell gestaltete Inhalte durch Forderungen zur Einhaltung von Sorgfaltspflichten zu setzen. Entsprechende Pflichten könnten dann auch für nicht-journalistische Akteure mit hoher Meinungsbildungsrelevanz – Politiker*innen, Influencer*innen – gelten.

In diese Richtung geht auch Jürgen Habermas im Neuen Strukturwandel. Er fordert Mindeststandards für die Qualität von Online-Texten. Das mag zwar als grundsätzliche Forderung vertretbar sein, lässt sich aber, wie hier ausgeführt, rechtlich nicht bewerkstelligen (wie übrigens für Texte im Offline-Bereich auch nicht). So erscheint es doch schwierig, die von Habermas angedachte Haftung der Plattformen für die Verbreitung von falschen Informationen europa- und verfassungsrechtskonform auszugestalten. In jedem Fall setzt der Rechtsakt über Digitale Dienste (DSA) hier neue Akzente und erhöht die Rechenschaftspflicht der Plattformakteure, die etwa jährlich berichten müssen, welche Maßnahmen sie gegen Inhalte treffen, die demokratiegefährdend oder gesundheitsschädigend sind. Darüber hinaus haben Plattformen ein wachsendes Eigeninteresse, gegen koordinierte inauthentische Kommunikationen vorzugehen, und haben zuletzt etwa nach dem Angriff Russlands auf die Ukraine gezeigt, dass sie sehr schnell reagieren können, um Desinformation – hier durch die russischen Staatsmedien – zu entfernen. Das bringt uns zum Deplatforming.

Deplatforming

Das Internet verschafft jedem von uns ein Podium. Aber wissen wir es zu nutzen? Nein, meint Jürgen Habermas, der Traum von der direkten deliberativen Demokratie, so Habermas, sei ausgeträumt. Doch dürfen die Plattformen entscheiden, wem das Podium entzogen wird?

Wie gezeigt, sind Plattformen grundsätzlich berechtigt, von den Nutzer*innen eines Netzwerks die Einhaltung bestimmter Kommunikationsstandards zu verlangen, die über die Anforderungen des nationalen Rechts hinausgehen. Das haben für den deutschen Rechtsraum mehrfach Höchstgerichte bestätigt. Sie können sich das Recht vorbehalten, bei einem Verstoß gegen ihre Gemeinschaftsstandards Beiträge zu entfernen und das betreffende Nutzerkonto zu sperren. Um jedoch einen interessengerechten Ausgleich zwischen den kollidierenden Grundrechten zu schaffen, ist es erforderlich, dass sich die Plattformen in den Geschäftsbedingungen verpflichten, die betroffenen Nutzer*innen zumindest nachträglich über die Entfernung eines Beitrags und vorab über eine beabsichtigte Sperrung des Benutzerkontos zu informieren, ihnen den Grund für die Maßnahme mitzuteilen und ihnen Gelegenheit zur Stellungnahme zu geben, woraufhin gegebenenfalls eine neue Entscheidung ergeht. Gerade die Pflicht zur Begründung von Entscheidungen, die algorithmisch prädeterminiert sind, ist noch nicht fertig gedacht.

Der Freiheitsschutz ist auch dem Bundesgerichtshof wichtig: „Die Grundrechte von Facebook sind mit denen der Nutzer so abzuwägen, dass die Grundrechte der Nutzer die größtmögliche Wirkung entfalten.“[4] Erstens muss es objektive Gründe für die Entfernung von Inhalten und die Sperrung von Nutzerkonten geben. Obwohl Facebook für die allgemeine Kommunikation und den Informationsaustausch genutzt wird, darf das Netzwerk nicht willkürlich bestimmte (z.B. politische) Meinungen verbieten. Ein Verbot politischer Werbung wäre jedoch noch in Ordnung. Ein komplettes Verbot politischer Äußerungen wäre nach dieser Lesart ein Verstoß gegen die Kommunikationsrechte der Nutzer*innen. Umgekehrt müssen die Gemeinschaftsstandards objektive und klare Regeln enthalten, die wenig bis keinen Spielraum für Interpretationen lassen. Mit anderen Worten: Wenn Facebook etwas verbieten will, sollte jeder verstehen können, worum es sich dabei handelt.

Die Welt ist schwierig genug. Zumindest die Regeln müssen klar sein. Die zweite Anforderung des Gerichts an die Moderation von Inhalten zielt auf die Größe von Facebook ab: Wenn ein Unternehmen die freie Meinungsäußerung von Millionen von Menschen einschränken will (wie ein Staat), muss es sich an die Anforderungen eines ordentlichen Verfahrens halten (wie ein Staat). Das ist „Grundrechtsschutz durch Verfahren“.

Deliberative Demokratie im Netz

Blicken wir nach vorne: Mit Sorge sieht Jürgen Habermas eine Gesellschaft, die zerborsten in „Halböffentlichkeiten“ ihre gemeinsamen Bezugspunkte verliert. Die Räume, in denen kommuniziert wird, scheinen eine eigenartige „[…] anonyme Intimität zu gewinnen: Nach bisherigen Maßstäben können sie weder als öffentlich noch als privat, sondern am ehesten als eine zur Öffentlichkeit aufgeblähte Sphäre einer bis dahin dem brieflichen Privatverkehr vorbehaltenen Kommunikation begriffen werden.”[5] Wir sagen dazu „hybride Räume”, weil private Regeln und öffentlichkeitsrelevante Kommunikation zusammenfallen. Und in genau diesen Räumen wird die Zukunft der digital vermittelten Demokratie verhandelt.

Doch wer soll nun die Demokratie im digitalen Zeitalter retten? Für Jürgen Habermas ist es klar: der Staat. In einem ebenfalls im Neuen Strukturwandel abgedruckten Essay schließt er mit einer Erinnerung an die Verantwortung des Verfassungsrechts für die Stabilisierung der Wahrheitsordnung einer Gesellschaft: „Es ist keine politische Richtungsentscheidung, sondern ein verfassungsrechtliches Gebot, eine Medienstruktur aufrechtzuerhalten, die den inklusiven Charakter der Öffentlichkeit und einen deliberativen Charakter der öffentlichen Meinungs- und Willensbildung ermöglicht.”[6]

Das trifft zu: Der Staat wird in der komplexen Gesellschaft von heute nicht primär als Gefährder von Freiheit, sondern auch als deren Garant gesehen. Diese Garantiefunktion ist gerade in einer Demokratie besonders wichtig. Demokratien beruhen darauf – hier sind wir wieder auf Habermas’ ureigenem Spielfeld –, dass sich alle Bürger*innen kommunikativ entfalten können. Dazu braucht es einer Kommunikationsordnung, die gegen Gefahren von innen wie außen abgesichert ist. Die Kommunikationsfreiheit und die Medienfreiheiten sind also in einem System verschiedener Verbürgungen zu verorten. Wie die Hamburger Medienrechtler Keno Potthast und Prof. Dr. Wolfgang Schulz in einem Gutachten für die Berlin-Brandenburgischen Akademie der Wissenschaften schreiben, braucht die Demokratie im Lichte des Grundgesetzes den Staat zur Sicherung des Funktionierens einer freien und offenen, individuellen und öffentlichen Meinungsbildung.

Die Zukunft der Demokratie im Digitalen

Der Staat allein ist indes nicht genug: Die Plattformen haben erkannt, dass sie ihre Regeln und Moderationspraxen zunehmend legitimieren müssen, um sich gesellschaftlichem Druck und regulatorischer Kontrolle zu entziehen. Aktuell testen sie verschiedene Modelle: Ein großes soziales Netzwerk hat ein Oversight Board eingerichtet, das bei inhaltlichen Entscheidungen und algorithmischen Empfehlungen helfen soll. Das gleiche soziale Netzwerk experimentiert mit deliberativen Prozessen in großem Maßstab. Ein Spiele-Label experimentiert mit Spielerräten, die den Programmierern helfen sollen, spannende Spieldesign-Entscheidungen zu treffen. Der Beirat des deutschen öffentlich-rechtlichen Fernsehens möchte ein Bürgergremium einrichten, um mehr Einfluss auf Programmentscheidungen zu nehmen. Die größte Online-Wissensplattform der Welt, Wikipedia, lässt seit ihrer Gründung ihre User über inhaltliche Konflikte entscheiden.

All diese Beispiele haben ein grundlegendes Ziel: Es soll sichergestellt werden, dass Entscheidungen über Kommunikationsregeln und deren Durchsetzung durch eine breitere Beteiligung besser und differenzierter ausfallen und als legitim angesehen werden. Das setzt natürlich auch eine informierte Öffentlichkeit voraus, die bereit ist, sich zu beteiligen, die interessiert ist, die erkennt, dass wir alle Stakeholder der sich entwickelnden neuen Medienrealität sind. Wir haben ein „stake”, ein wertunterlegtes Teilhabeinteresse, an den Ergebnissen der Regulierung von Plattformen. Vor diesem Hintergrund ist ein Publikationsorgan wie te.ma bedeutsam, besonders mit Blick auf die systematische Verknüpfung zwischen Wissenschaften und Öffentlichkeit.

Titelbild: Marcelo Martins / unsplash.com

Literatur

[1] Jürgen Habermas: Strukturwandel der Öffentlichkeit. Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft. Suhrkamp, Berlin, 1962.
[2] Jürgen Habermas: Ein neuer Strukturwandel der Öffentlichkeit und die deliberative Politik. Suhrkamp, Berlin, 2022.
[3] Ebd., S. 46.
[4] Bundesgerichtshof zu Ansprüchen gegen die Anbieterin eines sozialen Netzwerks, die unter dem Vorwurf der „Hassrede“ Beiträge gelöscht und Konten gesperrt hat [Pressemeldung]. Bundesgerichtshof, 2021, abgerufen am 12. Oktober 2022.
[5] Habermas, Neuer Strukturwandel, S. 62.
[6] Ebd., S. 67.

28.11.2022

Seit Elon Musk Twitter übernommen hat, schauen sich viele User*innen nach Alternativen um. Mastodon tritt als Gewinner auf. Die Plattform hätte nun die Chance, neue Wege nachhaltiger Content-Governance zu pilotieren und zum Experimentierraum für demokratische Diskurse zu werden, finden Lena Hinrichs und Prof. Dr. Matthias C. Kettemann.

Toots statt Tweets, Föderation statt Zentralisierung, Non-Profit statt Profitlogik, Macht für alle statt Machtkonzentration bei einem erratischen Eigentümer. Mastodon ist dezentral aufgebaut, was bedeutet, dass es verschiedene Server (Instances) gibt, auf denen sich die Nutzenden registrieren können. Die verschiedenen Instances gehören unterschiedlichen Personen oder Gemeinschaften, meist Freiwilligen. Das reduziert die Abhängigkeit von großen Unternehmen und bringt den Vorteil, dass die eigenen Daten keinem Unternehmen gehören, welches diese verkauft. Jedoch legt man seine Daten in die Hände der jeweiligen privaten Admins des Servers, auf dem man sich anmeldet. Welche Verpflichtungen diese treffen, ist noch unklar. Hiermit geht jedoch auch die Werbe- und Trackingfreiheit des Netzwerks einher.

Die dezentralisierte Struktur von Mastodon ermöglicht es Nutzenden, samt ihren Accounts und Einstellungen auf andere Instances umzuziehen, ohne Follower zu verlieren oder selbst einen eigenen Instance zu gründen. Da Mastodon auch seinen Quellcode offengelegt hat, ist die Hemmschwelle, eine neue Instance zu erstellen, niedriger. Allerdings besteht das Risiko, dass dies durch Gruppen missbraucht wird, wie bei der Ansiedlung von Gab.ai (einer rechtsextremen Gruppierung, die mittlerweile von den meisten Instances auf Mastodon geblockt ist) geschehen.

Ein öffentliches Forum?

Die jeweiligen Inhaber der Instances legen selbst fest, welche Moderationsregeln auf ihrem Server gelten sollen, sodass die Nutzenden sich aussuchen, wie sie moderiert werden wollen. Inzwischen betreiben auch deutsche Behörden Instanzen. Dies ist rechtlich nicht unkomplex, denn sie sind bei der Moderation ihrer Inhalte an die Grundrechte gebunden und sind verpflichtet, so diese Moderation als Informationstätigkeit gesehen wird, gewisse Qualitätskriterien einzuhalten. Die Moderation kann gerechtfertigt sein, wenn ein sachlicher Grund hierfür vorliegt und dies verhältnismäßig ist. Die Befugnisse deutscher Behörden sind somit weiter als in den USA, wo die Betreibung einer Instanz als Eröffnung eines “public forums” gesehen werden könnte, was staatliche Moderationstätigkeit verbieten würde (dies in analoger Anwendung der, indes kritisierten, Entscheidung Knight/Trump). Der Unterschied besteht bei Mastodon darin, dass staatliche Akteure die Moderationsregeln gänzlich selbst schaffen. Wie deutsche Behörden mit dieser Möglichkeit umgehen, bleibt abzuwarten.
Innere Demokratisierung von Mastodon noch in Kinderschuhen
Auch Rechtsschutz gegen Moderationsentscheidungen besteht nicht. Eine höhere oder weitere Instanz, an die man sich wenden kann, wenn man mit einer Entscheidung unzufrieden ist, gibt es nicht. Dabei könnten ganz neue Arten föderierter Content Governance über die Instanzen hinweg pilotiert werden, etwa durch Zusammenschlüsse verschiedener Instanzen in Moderationsfragen, der gemeinsamen Übernahme von Standards, wie der Santa Clara Principles, der analogen Anwendung der Verpflichtungen aus dem Digital Services Acts (DSA) oder dem Aufbau von Nutzendenbeiräten.

Mastodon-Anhänger hingegen begegnen dem Fehlen höherer Instanzen in der Moderation mit dem grundlegenden Argument der Instanzstruktur: gefalle einem die Moderation auf einem Server nicht, könne man ja umziehen. Dieses Argument lässt außer Acht, dass die „alten” Inhalte, die auf dem ersten Server geteilt wurden, nicht mitkommen. Einmal auf einem Server in der Community eingerichtet, könnte es zudem vor allem für das Klima der Community von Vorteil sein, wenn sich auch andere User*innen als die Serverinhaber in der Moderation engagieren und diese mit verändern können. Die innere Demokratisierung von Mastodon steckt noch in den Kinderschuhen.

Wenig bekannt: Transparenz als Herausforderung

Moderationsentscheidungen werden selten transparent mitgeteilt. Die Administrator*innen prüfen die Meldungen und haben eine Reihe von Tools zur Verfügung, um hierauf zu reagieren. Auf der Instanz mastodon.social etwa soll das Löschen von Inhalten oder Blocken von Personen ultima ratio sein. Eine Verpflichtung für andere Instanzen, ähnlich zu verfahren, besteht aktuell nicht. Aus dem NetzDG und aus dem DSA lässt sich eine solche Pflicht aufgrund der (noch) geringen Größe der meisten Instanzen nicht ableiten. Sollte dies jedoch der Fall sein, ergeben sich erhebliche rechtliche Risiken für die Serverinhaber aus einem DSA, der nicht mit Blick auf nichtkommerzielle, föderierte Plattformen geschrieben wurde.

Vieles sichtbar: Mängel im Privatsphärenschutz

Anfänglichen Beobachtungen zufolge tendieren die Moderierenden in einigen Instanzen dazu, sehr aktiv einzugreifen. Zudem können Autor*innen eines Inhalts selbst eine Triggerwarnung des Posts hinzufügen. Auch die Nutzenden können die Inhalte, die ihnen angezeigt werden, einschränken und die Sichtbarkeit eigener Inhalte individuell einstellen. Durch diese Funktionen lassen sich „Direktnachrichten“ verschicken: die Sichtbarkeit eines Posts lässt sich so einschränken, dass nur eine oder ein paar Personen diesen sehen können. Dadurch, dass es sich jedoch um einen gewöhnlichen Post handelt, wird der Inhalt unverschlüsselt auf dem Server gespeichert, sodass die Inhaber des Instances jederzeit Zugriff darauf haben. Mastodon reagierte hierauf, indem es eine Ende-zu-Ende-Verschlüsselung ankündigte.

Individualisierung der Inhaltesuche

Der Feed der Nutzenden ist chronologisch organisiert. Es gibt mehrere Feeds, die teils nur servereigene, teils serverübergreifende Inhalte anzeigen, was die Nutzung komplexer macht. Auch die Suchfunktion zeigt automatisch nur Accounts an, die auf dem eigenen Server liegen. Sucht man nach Personen auf anderen Servern, muss man den jeweiligen Server mit angeben.

Dies kann auch zur Zentralisierung des Fediverses führen: schon jetzt konzentrieren sich viele Nutzende Inhalte auf einige ausgewählte Instances. Dann jedoch trägt das Argument der Stabilität des Fediverses nur bedingt, denn so führt auch der Ausfall eines Servers zu einer erheblichen Störung des Netzwerks.

Antivirale Kultur

Die Unübersichtlichkeit Mastodons ist gerade durch die Community Mastodons gewollt. Das antivirale Design ist Programm: dadurch, dass Inhalte schwerer auffindbar sind, verlangsamt sich die Konversation. Es entsteht ein Aufwand, um ins Gespräch einzusteigen, der dazu führt, sich intensiver und weniger emotional mit dem Inhalt auseinanderzusetzen. Genau diese Kultur ist für viele der Mastodon-User:innen ausschlaggebend. Features, die dem entgegenstehen, werden von der Community schnell abgelehnt, wie die serverübergreifende Suche nach Inhalten. Ein Vorteil kann das für Gruppen sein, die befürchten, auf einer öffentlicheren Plattform angegriffen zu werden, wenn sie sich über Diskriminierungserfahrungen austauschen. Die erschwerte Auffindbarkeit ihrer Inhalte kann sie davor schützen.

Das demokratische Potenzial ernstnehmen

Über die letzten 20 Jahre sind die großen Social Media Plattformen zu Regelmacher*innen, Regeldurchsetzer*innen und Richter*innen ihrer eigenen Entscheidungen geworden. Sie haben Kommunikationsräume geschaffen, in denen der demokratische Diskurs den Anforderungen der Aufmerksamkeitsökonomie unterworfen wird. Elon Musk zeigt uns nun, wozu das führen kann. Sind föderierte Netzwerke wie Mastodon der bessere Weg?

Wie gezeigt, hat Mastodon viele Vorteile, löst aber nicht das Versprechen der Demokratisierung der Regelsetzung und -durchsetzung durch Dezentralisierung ein. Schließlich sollten wir mehr gesellschaftliche Gruppen in die Entwicklung von Regeln dafür einbeziehen, was online gesagt werden darf. Die deutschen Akademien der Wissenschaften forderten kürzlich die Beteiligung von „Vertretern staatlicher und zivilgesellschaftlicher Stellen sowie (…) von Nutzern (…) an Entscheidungen über Grundsätze und Verfahren der Inhaltskuration“. Auch die deutschen Regierungsparteien bekannten sich im Koalitionsvertrag dazu, „die Einrichtung von Plattformräten“ voranzutreiben. Zuletzt hat die Bundesregierung in der Beantwortung einer kleinen Anfrage der CDU/CSU-Bundestagsfraktion im Juni erneut bestätigt, dass sie sich “aktiv in die Entwicklung von Konzepten zum Aufbau von Plattformräten ein[bringe]” und dass Plattformräte “eine sinnvolle Ergänzung zum Rechtsrahmen darstellen” könnten.

Mastodon könnte die Demokratisierung von Plattformregeln pilotieren, indem es User*innen niederschwellig in die Moderation miteinbezieht. Föderierte Netzwerke haben großes demokratisches Potenzial. Mastodon löst dieses aber (noch) nicht ein.

Eine längere Fassung dieses Beitrags erscheint auf LTO – Legal Tribune Online.

Titelbild: Battenhall / unsplash.com

25.11.2022

Donald Trump darf wieder twittern. Welchen Einfluss der ehemalige US-Präsident nun auf der Plattform erlangt, hänge weniger von Trump selbst ab, als von journalistischen Medien und wie sie mit seinen Tweets umgehen, sagt PD. Dr. Jan-Hinrik Schmidt.

Obwohl er angekündigt hatte, weitreichende Entscheidungen nicht ohne einen erst einzurichtenden Plattformrat treffen zu wollen, entschied der neue Twitter-CEO Elon Musk nach einer kurzen Stimmungsumfrage unter seinen Follower*innen das Profil von Ex-Präsident Donald Trump zu reaktivieren. Noch hat Trump keinen Tweet abgesetzt und behauptet auch, er wolle auf seiner aktuellen Plattform Truth Social bleiben. Sein Twitter-Account war nach dem Sturm auf das Kapitol am 6. Januar 2021 gesperrt worden. Trump hatte damals mit einem Tweet in Augen der Twitter-Mitarbeitenden die explosive Stimmung anheizt und zu Gewalt aufgerufen. Ein Verstoß gegen die Plattformregeln.

Was die Reaktivierung des Account für die Stimmung auf der Plattform vor allem im Hinblick auf Trumps mögliche Kandidatur bei den Präsidentschaftswahlen 2024 bedeuten könnte, hat das Science Media Center Germany bei Expert*innen aus Politik- und Kommunikationswissenschaft nachgefragt. Unter ihnen PD Dr. Jan-Hinrik Schmidt, dessen Stellungnahme wir hier wiedergeben:

Meinungsfreiheit ohne Regeln

„Zunächst einmal ist die Rückkehr von Donald Trump ein Signal an diejenigen Menschen, die unter ‚freier Meinungsäußerung‘ den völligen Verzicht auf zivilisierende Regeln und Schranken der Kommunikation verstehen. Musk heißt sie auf Twitter willkommen und macht zugleich deutlich, dass er in keiner Weise verstanden hat, welche Verantwortung er mit der Kontrolle von Twitter – eine, wenn nicht die zentrale Plattform für globale politische Öffentlichkeit – übernommen hat.“

Journalist*innen sind gefragt

„Ob Donald Trump wieder in seinen alten ‚Twitter-Modus‘ zurückfällt, weiß ich nicht. Vieles hängt meines Erachtens auch davon ab, ob gerade die US-amerikanischen Medien erneut dazu übergehen werden, jeden Tweet von Trump als bahnbrechende Nachricht zu betrachten und entsprechend kommunikativ zu begleiten. Denn für Trump bestand die Macht seines Twitter-Accounts nicht nur darin, dass er viele Millionen Follower*innen direkt erreichen konnte, sondern dass er via Twitter die journalistischen Medien nach seiner Pfeife tanzen ließ.“

Vertrauen zerstört

„Ich halte die momentane Entwicklung von Twitter in mehrerlei Hinsicht für bedenklich. Elon Musk hat durch seine erratische Art, die Tatkraft nur simuliert aber in Wirklichkeit eine unüberlegte Entscheidung an die nächste reiht, das Vertrauen von vielen wichtigen Bezugsgruppen zerstört. Dazu zählen viele Nutzer*innen, die Twitter als globalen Kommunikationsraum geschätzt haben, aber nicht mit dem Musk’schen Verständnis von ‚free speech‘ als ‚es gelten keine Regeln‘ einverstanden sind und sich nun nach Alternativen umschauen. Auch viele Anzeigenkunden, auf die die Finanzierung von Twitter angewiesen ist, möchten nicht an einem Ort werben, an dem Hassrede, Desinformation und andere Formen inziviler Kommunikation unkontrolliert stehen bleiben. Und über kurz oder lang wird die technische Basis der Plattform erodieren, weil Musk Twitter zu einem unattraktiven Arbeitsort gemacht hat und nicht mehr genug kompetentes Personal beschäftigen wird.

Twitter-Alternative Mastodon: Dezentral und nicht-kommerziell

„All diese Entwicklungen machen meiner Einschätzung nach Twitter bereits jetzt recht instabil und ich sehe nicht, dass sich das in den kommenden Wochen und Monaten bessern wird. Eine positive Folge hat diese Entwicklung allerdings: Es ist deutlich geworden, wie wichtig dezentrale, offene und nicht allein durch Werbung finanzierte Kommunikationsplattformen – wie zum Beispiel Mastodon – für unsere digitale Öffentlichkeit sind, weil sie nicht mal eben in die Hände eines Einzelnen fallen können, der sie nach Belieben verändert und ruiniert. Wenn sich im Rückblick der ‚Musk-Moment‘ von Twitter als entscheidende Stärkung einer solchen alternativen und offenen Kommunikationsinfrastruktur herausstellt, hätte es doch etwas Gutes.

Die weiteren Expert*inneneinschätzungen sind auf der Website des Science Media Center zu lesen.

Blog-Artikel zum Thema

Trumps Social Media Ban: Reviewing the Constitutionality of Capital Digital Punishment von Edoardo Celeste

Twitter, Trump and the Taliban: The Need for better Rules for Online Speech Governance von Martin Fertmann, Matthias C. Kettemann, David Morar und Wolfgang Schulz

Can Platforms Cancel Politicians? von Martin Fertmann und Matthias C. Kettemann

Democracy at Stake: The Capitol Siege as a Digital Crisis? von Jan Rau

29.09.2022

Wir schreiben das Jahr 2041. Irgendwo in Deutschland lebt Chris, der ideale Lokaljournalist. Sechs Praktiker*innen haben sich auf dieses Gedankenspiel eingelassen und Geschichten über Chris geschrieben. Welche Metaphoriken verwenden sie dabei und was lässt sich daraus für die Zukunft schließen?

von Antonia Eichenauer

Zugespitzt formuliert ist es so: Alle wollen Lokaljournalismus.[1] Aber dem Lokaljournalismus geht es schlecht. Diese Ausgangslage legt für Zukunftsstudien nahe, dass es Lokaljournalismus auch in 20 Jahren noch geben soll. Nur wie, ist die große Frage.

Antworten darauf geben Lokaljournalist*innen aus Deutschland in Geschichten über eine Idealversion ihres Berufs im Jahr 2041, die sie für meine Studie geschrieben haben. Konkret sah das so aus, dass die teilnehmenden Lokaljournalist*innen auf eine gedankliche Reise in das Jahr 2041 geschickt wurden. Ein kurzer Text über die plausible Entwicklung von Megatrends wie Globalisierung und Digitalisierung gab ihnen einen ersten Eindruck, was in rund 20 Jahren los sein könnte. Auf dieser gedanklichen Reise treffen die Teilnehmenden Chris. Chris macht Lokaljournalismus und hat es geschafft, ideal mit den Chancen und Herausforderungen seiner Zeit umzugehen. Über Chris und seinen idealen Lokaljournalismus sollten die Teilnehmenden eine Geschichte schreiben. Dabei war es vollkommen offen, was das ist – Lokaljournalismus.[2] Sie geben damit einen Einblick in mögliche, wünschenswerte Zukünfte für den Lokaljournalismus in Deutschland.

Zukunft in Geschichten

Der Ansatz zur Datenerhebung stammt aus dem arts based research.[3] Hier wird Kunst als Medium genutzt, im Fall dieser Studie die Kunstform Geschichte. Über die Kunst soll es möglich sein, Raum für Neues, für subjektive Wahrnehmungen und für Komplexität zu geben. Damit eignet sich dieser Ansatz hervorragend für die Zukunftsforschung, bei der immer auch die Frage im Raum steht, wie wir uns von der Gegenwart lösen können, um andere Zukünfte zu imaginieren.

Lokaljournalismus in Metaphern

In der Zukunftsforschung existieren verschiedene Forschungsstränge. Diese Studie basiert auf den Annahmen der kritischen Zukunftsforschung. Soziale Wirklichkeit wird grundsätzlich als sprachlich konstruiert angenommen. Ziel des kritischen Ansatzes ist es, diese Konstruktionen zu erkennen, zu verstehen, zu beschreiben und kritisch zu hinterfragen.[4]

Die systematische Metaphernanalyse ist ein noch wenig erprobtes Werkzeug aus dem Methodenkasten der kritischen Zukunftsforschung. Mit ihr wird herausgearbeitet, auf welche sprachlichen Bilder die Teilnehmenden in den Geschichten zurückgreifen, um einen künftigen idealen Lokaljournalismus zu erklären. Metaphern sind hier allerdings keine rhetorischen Stilmittel, sondern Denkmuster.[5] Nach Lakoff und Johnson sind Metaphern all die Momente, in denen wir als Menschen ein komplexes, wenig erfahrenes Phänomen mithilfe eines anderen Phänomens, das wir besser kennen und verstehen, beschreiben.[6] Eine Metapher liegt also dann vor, wenn man zum Beispiel eine sprachkritische Methode als „Werkzeug“ beschreibt.

Lakoff und Johnson gehen davon aus, dass Metaphern nicht allein stehen, sondern in einem Zusammenhang. Ein metaphorisches Konzept besteht dann aus einzelnen Metaphern, die alle den gleichen Aspekt erklären – zum Beispiel wissenschaftliche Methoden – und dafür auf den gleichen Quellbereich zurückgreifen – zum Beispiel das Werkzeug. Daraus ergibt sich das metaphorische Konzept ‚Methode ist Werkzeug‘.

Metaphern dienen uns dazu, einen Aspekt eines Phänomens besser verstehbar zu machen. Dadurch geraten aber andere Aspekte des Phänomens aus dem Blick. Metaphern lenken also unsere Aufmerksamkeit. Aufgabe der Metaphernanalyse ist es, diesen Fokus herauszuarbeiten, aber auch zu analysieren, wovon die Metapher ablenkt und was sie außen vor lässt.

Wie wird nun also die Zukunft, noch dazu eine ideale Zukunft, von Lokaljournalismus metaphorisiert? Sechs Geschichten wurden eingereicht. Aus ihnen haben sich fünf plus zwei metaphorische Konzepte ergeben. Sie zeigen die gedanklichen und sprachlichen Konstruktionen der Zukunftsvorstellungen und lassen außerdem Rückschlüsse darauf zu, wie in dieser Zukunft Öffentlichkeit hergestellt wird.

Lokaljournalismus ist Gebäude

Das metaphorische Konzept ‚Lokaljournalismus ist Gebäude‘ lässt Lokaljournalismus zu einem Ort der Informationen werden. In einer Geschichte arbeitet Chris „bei einem kleinen Portal“, also metaphorisch am Eingang zu diesem Ort. Es lässt sich ableiten, dass es die Aufgabe von Lokaljournalist*innen ist, Informationen leicht zugänglich zu machen.

Das Publikum und die Finanzierung werden als Stützen dargestellt. Das zeigt sich zum Beispiel an der Wortwahl „Unterstützer*innen“ für ein spendendes Publikum. Unterstützung ist etwas, das Menschen meist aus freien Stücken anbieten. Auch in den Geschichten gibt das Publikum freiwillig aus Wertschätzung für den Lokaljournalismus. Dazu passt, dass um den Ort Lokaljournalismus kein Zaun steht. Die Lokaljournalist*in am Eingang zu diesem Ort steht dort als hilfsbereite Lots*in, nicht um Eintritt zu verlangen.

Das Publikum wird so auf sprachlicher Ebene auf seine geldgebende Funktion reduziert. Gleichzeitig wird aus anderen Beschreibungen deutlich, dass das Lokalmedium von Chris gemeinsam mit seinem Publikum arbeitet und die Lokaljournalismus-Publikumsbeziehung eher kumpelhaft ist.

Lokaljournalismus ist Dienstleistung

Die Metaphern aus dem Bereich von Gebäuden erklären, was das Publikum an den Lokaljournalismus gibt. Aber sie lassen außen vor, dass Lokaljournalismus auch etwas an das Publikum zurückgibt. Dieser Aspekt wird durch Metaphern aus dem Bereich der Wirtschaft beschrieben. Das metaphorische Konzept ‚Lokaljournalismus ist Dienstleistung‘ betont das Idealbild einer am Publikum orientierten Lokaljournalist*in, die ihre Arbeit als Service versteht. Kohärent dazu wird das Publikum als Kunde metaphorisiert. Es teilt sich in adressierbare Zielgruppen, für die Informationen aufbereitet werden.

Die Einschätzung der journalistischen Qualität durch das Publikum hängt an der Lokaljournalist*in als Person. Sie wird zur Marke. Das Lokalmedium als Marke tritt dafür in den Hintergrund. Besonders schön kommt das in einer Geschichte heraus. Dort steht: „Der Journalist Chris ist eine Marke, ein Vertrauter, ein Bekannter, ein verlässlicher Mittler, Kommentator und überparteilicher Informant.“

Eine ideale Lokaljournalist*in wird aber auch in einer kritisch kontrollierenden Rolle gesehen. Lokaljournalist*innen nehmen so in den Zukunftsvorstellungen eine Missstände aufdeckende und investigative Rolle ein und orientieren sich genau damit am Publikum. Das ideale Publikum, das hier konstruiert wird, zeigt Wertschätzung für Recherchen und Formate.

Damit wird inhaltlich in den Geschichten aufgefangen, was die Metapher verdeckt. Die funktionale Aufgabe des Journalismus, eine breit geteilte Wissensbasis bereitzustellen,[7] sowie die normative Aufgabe, ausgewogen und unparteilich zu berichten,[8] geraten nämlich in diesem Sprachbild in den Hintergrund. Es wird außerdem offengelassen, was das Publikum für den Service, den ihm Lokaljournalismus bietet, zurückgibt. Diesen Aspekt beleuchtet die Metapher ‚Lokaljournalismus ist Gebäude‘ (s.o.). So ergänzen sich die beiden Metaphern und bieten zusammen eine Erklärung für die Beziehung zwischen Lokaljournalismus und Publikum.

Lokaljournalismus ist Transportsystem oder Ausstellung

Zwei Metaphern strukturieren den Moment der Veröffentlichung. Sie stehen komplementär zueinander, weil in den Geschichten entweder die eine oder die andere Metapher genutzt wird.

Metaphern aus dem Transportwesen, wie „Kanalvielfalt“ oder „Ausspielkanäle“, rücken die Logistik hinter einer Veröffentlichung in den Fokus. Es wird hervorgehoben, dass Inhalte in festen Bahnen mit einer vorgegebenen Richtung veröffentlicht werden, wobei die Rollen des Sendens und Empfangens klar verteilt sind. Die Strecke zwischen diesen beiden Rollen soll überwunden werden. Das Konzept steht in der Tradition des Broadcastings, einer one-to-many-Kommunikation der Massenmedien.[9]

Verborgen wird mit den Transportmetaphern, wie wenig geradlinig die Verbreitung von Informationen im Internet abläuft.[10] Die Transportmetaphern reduzieren also sehr gekonnt die Komplexität der sozialen Nutzung des Internets. Betont wird das, was aus der Perspektive einer Redaktion beherrschbar ist: das Losschicken von journalistischen Beiträgen.

In den anderen Geschichten wird nur beschrieben, dass etwas „in den Chat“ gepostet wird oder „auf das Newsportal gestellt“ wird. Der Chat wird, wie andere soziale Medien auch, metaphorisch zu einem Gefäß, das „befüllt“ werden kann. Das Newsportal wird zu einer Oberfläche, auf die etwas gestellt wird. Um den Unterschied zu den Transportmetaphern deutlich zu machen, habe ich die Metapher der Ausstellung konstruiert. Journalistische Formate funktionieren wie Schaukästen oder Sockel, in oder auf denen Lokaljournalist:innen Informationen präsentieren. Hier liegt der Fokus darauf, Sichtbarkeit für Themen herzustellen.

Die Metapher der Ausstellung verbirgt den Wert der Aktualität, der Journalismus in der Gegenwart kennzeichnet. Die Vorstellung von Formaten als Gefäßen macht sie zu abgeschlossenen Kästen, deren Form vorgegeben ist. Damit wird eine Knappheit und Starrheit suggeriert, von der das Internet gerade befreit.

Lokaljournalismus ist Körper

Das metaphorische Konzept ‚Lokaljournalismus ist Körper‘ hat viele Facetten. Recherche wird als Greifen dargestellt, wenn Chris Vielfalt „erfassen“ will, oder als Sehen, wenn Chris in einer anderen Geschichte „genau hinschauen“ soll. Das Publikum als „Follower“ „verfolgt“ die „Rechercheschritte“ von Chris, wie bei einer Jagd.

Die Metapher stellt zudem heraus, dass thematisch relevant ist, was körperlich nah ist. Die ideale Lokaljournalist*in selbst ist ebenfalls nah dran: nah an den Ereignissen, aber auch nah an ihrem lokalen Publikum. Sie ist persönlich bekannt und nimmt am lokalen Gespräch teil. Sie ist außerdem mobil und flexibel und kommt als Reporter*in an den Ort des Geschehens.

Damit verbirgt die Metapher die Distanz, die für eine ausgewogene Berichterstattung als notwendig erachtet wird. Denn Nähe zwischen Lokaljournalismus und Publikum ist zwar gut für das Gemeinschaftsgefühl, aber schlecht für eine kritische Berichterstattung.[11] In der Vorstellung eines idealen Lokaljournalismus löst sich der Gegensatz zwischen persönlicher Nähe und kritischer Distanz allerdings auf.

In der Öffentlichkeitstheorie gilt Distanz zum Publikum als Merkmal für Massenmedien.[12] Durch die Metaphorik wird deutlich, dass sie in einem idealen Lokaljournalismus kleiner werden soll. Teilweise wird die Distanz sogar vollkommen aufgehoben, wenn Lokaljournalismus auch zufällige, persönliche Begegnungen umfasst.

Lokaljournalismus ist hybrid

Andrew Chadwick sieht in seinem Buch „The Hybrid Media System“ die Bezeichnung hybrid als Metapher dafür, dass sich vormals nicht Passendes zu einer neuen Einheit zusammenfindet, dem man seine Ursprünge noch ansieht.[13] In zwei Geschichten passiert so eine Verschmelzung.

In einer Geschichte sind Technisches und Menschliches wie zwei Pole eines Stromkreislaufs, die nur zusammen funktionieren. Auf der einen Seite gibt es in dieser Geschichte Sensoren, die es ermöglichen, zum Beispiel schnell über Wetteränderungen zu informieren – eine Notwendigkeit bei der Klimaberichterstattung im Jahr 2041. Auf der anderen Seite gibt es Streetworker, die Teil des Lokaljournalismus sind und auf der Straße mit den Leuten das Gespräch suchen. Sprachlich zeigt sich das Hybride besonders in der Bezeichnung „Impact-Tracker“, ein durchaus technisches Vokabular, für einen menschlichen Mitarbeiter im imaginierten Lokalmedium.

In einer anderen Geschichte hat Chris einen Chat mit seinem Publikum. Der Chat ist ein persönlicher Liveticker, in dem Chris Nachrichten veröffentlicht, aber auch darüber berichtet, wie er arbeitet und wie es ihm dabei geht. Hier vermischen sich die Logiken von Gespräch und Massenmedium, aber auch das Gegensatzpaar subjektiv/objektiv verschmilzt zu einem neuen Ganzen.

Was bedeutet das für Lokaljournalismus und Öffentlichkeit im Jahr 2041?

Ein idealer Lokaljournalismus im Jahr 2041 erleichtert es, an Informationen zu kommen. Öffentlichkeit ist damit ein zugänglicher Ort ohne Zaun, es wird keine Zahlung für den Zugang verlangt. Die ideale Lokaljournalist*in ist eine nahbare und bekannte Reporter*in. Ihre Arbeit der kritischen Informationsvermittlung ist ein Service für das lokale Publikum. Das ideale Publikum empfindet Lokaljournalismus darum als wertvolles Gut und zahlt freiwillig. Öffentlichkeit ist partizipativ angelegt: Bürger*innen bekommen Artikulationschancen.

Und was machen wir mit den Metaphern?

Metaphern wird ein transformatives Potential zugeschrieben. Sie verfestigen, wie wir Phänomene verstehen, und können damit Wandel aufhalten. Wenn man Metaphoriken allerdings ändert, kann das wiederum das Umdenken erleichtern.[14] Dafür ist es notwendig, dass wir uns die Metaphern vergegenwärtigen, die wir wie selbstverständlich verwenden. Diese Vergegenwärtigung leistet die Metaphernanalyse. Die herausgearbeiteten Metaphern können Ausgangspunkt für weitere Diskussionen über die Zukunft und den Wandel des Lokaljournalismus sein.

Vier Metaphern für die Rolle der Lokaljournalist*in haben sich darüber hinaus aus der Analyse ergeben. Auch sie können genutzt werden, um Debatten über alternative Zukünfte anzuregen.

• Lokaljournalist*innen als Portier*innen: Aus den Metaphern ‚Lokalmedium ist Portal‘ und ‚Lokaljournalismus ist Dienstleistung‘ kann man schließen, dass Lokaljournalist*innen Portiere sind. Sie stehen am Eingang zum Ort der Informationen und bieten mit lokalem Wissen einen Service für das ankommende Publikum.
• Lokaljournalist*innen als Künstler*innen: Gerne wird Journalismus als Handwerk beschrieben, das man erlernen und anwenden kann. In einer Ausstellung wäre es aber plausibler, wenn Lokaljournalist*innen Künstler*innen wären. Damit würde der Fokus auf die Gestaltung gelenkt und die Interpretation der Werke dem Publikum überlassen.
• Lokaljournalist*innen als Kurator*innen: Ebenfalls im Bild der Ausstellung sehr plausibel wären Lokaljournalist*innen als Kurator*innen. Die schwerpunktmäßige Aufgabe wäre dann die Zusammenstellung dessen, was Lokaljournalismus zeigt, also die Selektion.
• Lokaljournalist*innen als Forscher*innen: Wenn man sich die Ausstellung eher als Museum vorstellt, dann können Lokaljournalist*innen dort wie Forscher*innen arbeiten. Hier würde die Vermittlung von Fakten und deren Einordnung im Fokus stehen.

Dieser Text basiert auf meiner Masterarbeit „Lokaljournalismus wie er sein sollte. Wie sich Lokaljournalist*innen ihre ideale Zukunft vorstellen – eine systematische Metaphernanalyse“ im Studiengang Zukunftsforschung an der FU Berlin. Sie wurde von Prof. Dr. Wiebke Loosen und Sascha Dannenberg betreut, denen ich an dieser Stelle herzlich danken möchte.

[1] Studien zeigen: Für das Publikums sind lokale Nachrichten wichtig. Vgl. Möhring, Wiebke: Lokaljournalismus im Fokus der Wissenschaft: Zum Forschungsstand Lokaljournalismus – unter besonderer Berücksichtigung von Nordrhein-Westfalen, Düsseldorf: Eine Expertise im Auftrag der Landesanstalt für Medien Nordrhein-Westfalen (LfM), 2015.
Auch für demokratische Partizipation sowie für die Kontrolle von politischen und wirtschaftlichen Entscheidungsträger:innen ist Lokaljournalismus relevant: vgl. Kübler, Daniel und Goodman, Christopher: Newspaper markets and municipal politics: how audience and congruence increase turnout in local elections, in: Journal of elections, public opinion and parties, 29, 1, 2019; Gao, Pengjie, et al.: Financing dies in darkness? The impact of newspaper closures on public finance, in: Journal of Financial Economics, 135, 2, 2020; Heese, Jonas, et al.: When the local newspaper leaves town: The effects of local newspaper closures on corporate misconduct, in: Journal of Financial Economics, 2021.
[2] Die Datenerhebung fand zwischen Dezember 2021 und Februar 2022 statt.
[3] Vgl. Barone, Tom und W. Eisner, Elliot: Arts Based Research, Los Angeles: SAGE Publications, Inc, 2011.
[4] Vgl. Inayatullah, Sohail: Causal Layered Analysis – Poststructuralism as method, in: Futures, 30, 8, 1998.
[5] Vgl. Lakoff, George und Johnson, Mark: Leben in Metaphern – Konstruktion und Gebrauch von Sprachbildern, 10. Auflage, Heidelberg: Carl-Auer Verlag, 2021.
[6] Eine Gruppe Sozialwissenschaftler:innen hat basierend auf dieser Definition von Metaphern die systematische Metaphernanalyse entwickelt. Vgl. Schmitt, Rudolf, et al.: Systematische Metaphernanalyse: Eine Einführung, Wiesbaden: Springer Fachmedien, 2018.
[7] Vgl. insbesondere die Kapitel zu systemorientierten Ansätzen der Journalismustheorie in Löffelholz, Martin (Hrsg.): Theorien des Journalismus – Ein diskursives Handbuch, Wiesbaden: VS Verlag für Sozialwissenschaften, 2004.
[8] Vgl. Möhring, 2015.
[9] Vgl. Neuberger, Christoph: Internet, Journalismus und Öffentlichkeit: Analyse des Medienumbruchs, in: Journalismus im Internet: Profession – Partizipation – Technisierung, hrsg. v. Christoph Neuberger et al., Wiesbaden, 2009.
[10] Eine Kritik, die Manfred Rühl schon im Jahr 1998 geäußert hat. Vgl. Rühl, Manfred: Von fantastischen Medien und publizistischer Medialisierung, in: Publizistik im vernetzten Zeitalter: Berufe — Formen — Strukturen, hrsg. v. Beatrice Dernbach et al., Wiesbaden, 1998.
[11] Vgl. Freeman, Julie: Differentiating distance in local and hyperlocal news, in: Journalism, 21, 4, 2020.
[12] Vgl. Gerhards, Jürgen und Neidhardt, Friedhelm: Strukturen und Funktionen moderner Öffentlichkeit: Fragestellungen und Ansätze, Berlin: Wissenschaftszentrum Berlin für Sozialforschung, 1990.
[13] Vgl. Chadwick, Andrew: The Hybrid Media System: Politics and Power, New York: Oxford University Press, 2013.
[14] Vgl. Inayatullah, Sohail, et al.: Metaphors in futures research, in: Futures, 84, 2016.

Foto: Pixabay

29.06.2022

Digitale Identitätssysteme dürfen nicht verpflichtend sein, bis sie den Menschenrechten entsprechen.

As states ramp up their digital policy strategies to curb the power of dominant technology platforms, they also seize greater control over digital infrastructures. While the past decade favoured global connectivity and export-oriented digital innovation by private actors, today states assume a new role as digital gatekeepers – on social media platforms, in “smart cities”, and perhaps soon also in the metaverse. For many of these services, it is paramount for governments and companies to identify citizens online. This is why digital identity (ID) schemes gain popularity worldwide, along with the speedy uptake of personal data and biometrics for identity verification. With the speedy uptake, human rights safeguards for digital ID technology and data governance insufficient. This warrants acute attention for mandatory digital ID schemes, which have already been implemented in several countries.

Identifying and authenticating citizens’ identity has become a de-facto standard for many citizens to access the most basic online services and platforms to communicate or work. Digital ID systems are run by governments, sometimes by private companies, or by a combination of both. The recent international trend – or rather, push – to implement digital ID projects is seemingly rooted in digitising public administration and digital development. Digital ID systems are said to provide legal identity for citizens without an ID card – an universal right enshrined in Article 6, UN Human Rights Declaration (right to recognition as a person before the law) and a sustainable development goal 16.9 (right to legal identity). This is why states around the world are increasingly mandating citizens to register in national digital ID systems. It gets problematic when governments are at the same time self-attributing greater power to determine the rules for digital ID systems if identification online becomes a prerequisite in citizens’ daily lives.

According to World Bank data, of 168 countries that have a national identification scheme, 94% are classed as a ‘digitised ID system’, and approximately 65% of those schemes use biometric information, such as fingerprints or iris scans. While biometric data promises greater accuracy and more seamless identification checks, the use and processing of such data bears risks and thus cannot be implemented without proper scrutiny. Refugee camps are often testing sites for biometric technologies. Because biometric registrations become increasingly mandatory for refugees to receive welfare provisions, power inequalities between refugees and humanitarian agencies are reinforced. The implementation of new biometric technology is also costly and a market opportunity for technology companies.

In light of the rapid and often unscrutinised adoption, it is paramount to first understand the impact of digital ID schemes on human rights. As states take an increasingly ambiguous role in controlling the implementation and governance of digital identification, civil rights organisations point to a number of potential harms arising in numerous use cases . Numerous documented disproportionate impacts on vulnerable and marginalised populations make it imperative to better understand the design and features of digital ID systems and the impact on human rights.

How digital ID systems challenge the right to equality, privacy and good administration

The right to equality is at risk because digital ID schemes structurally exclude individuals and groups because of them not being recognized by the system, so-called false negatives and false positives. Digital ID systems can also be discriminatory based on the categories that determine whether an individual can register or not, as well as other technical or logistical barriers. Individuals can also be excluded from enrollment and verification processes due to gender categories or braised fingers from physical work, a distinct challenge for farming communities. The right to privacy is a second challenge around the implementation of digital ID systems. Personal data can be exploited by government agencies, whether intentionally or by accident. For example, the linking of different databases for identity verification can reveal sensitive information, leaving personal data exposed to unauthorized entities. Connecting datasets beyond the initial legitimate purpose is not only illegal but also creates risks for abuse by foreign governments or criminal actors. The third risk stemming from the implementation of digital ID systems is surveillance through tracing and tracking individuals both nationally and internationally, leading to disproportionate and unnecessary interference with privacy and human rights and a chilling effect on surveillance practices in general. The right to good administration is put at risk when governments self-assert the right to centralise datasets and run automated analysis, and in turn, the potential for misuse or unwarranted inferences on people’s lives increases.

Mandatory digital ID systems declared invalid in Tunisia and Jamaica

In Tunisia, a biometric ID draft law was introduced in 2016 that would require Tunisians to link their href=“https://www.accessnow.org/biometric-id-tunisia/“>mandatory national ID to biometric data for the digital version. After significant pushback from civil society and digital rights organisations in 2018, the proposal was withdrawn by the Tunisian Ministry of the Interior due to the insufficient data protection and privacy safeguards. However, a new biometric ID bill was introduced without further additional human rights safeguards in 2019 in the wake of rising protests, during which the Tunisian police has also rolled out remote identification technology to prosecute opponents. Independent scrutiny and human rights safeguards are necessary to prevent public surveillance through abuse of the biometric database.
In Jamaica, the Supreme Court declared the digital ID scheme as unconstitutional in 2019. According to the ruling, the mandatory digital ID system fundamentally challenged citizens’ freedoms and puts privacy rights at risk. The obligatory digital ID system, the breadth of application and the lack to opt out, were all “not justified or justifiable in a free and democratic society” as stated by the Supreme Court. Similar to the case of Tunisia, a new national ID bill was introduced in 2022 including a biometric ID card issuance pilot. Details about human rights protection and independent scrutiny are yet to be announced.

To summarise, the dual function of states as provider of digital IDs and rulemakers thereof is incompatible in its current setting and requires in-depth scrutiny. Digital ID systems challenge human rights, in particular the right to equality, privacy and good administration, and no such system should be made mandatory until it is proven to be fully compliant with the international human rights framework.

Cover photo: George Prentzas / unsplash

29.06.2022

Sollte eine große Social-Media-Plattform entscheiden, legale Inhalte zu blockieren? Sollte eine Plattform mit mehr als drei Milliarden Nutzern in der Lage sein, den Zugang zu geschützter Meinungsäußerung einzuschränken, zu entscheiden, dass Kritik an der Covid-19-Politik Fehlinformation ist oder dass Sterbehilfe gleichbedeutend mit Selbstmord ist – und das weltweit? Die Antworten hängen davon ab, was man von Social-Media-Plattformen hält und welches Rechtssystem (öffentlich, privat oder eine Kombination aus beiden) man im Bereich der Inhaltsmoderation für angemessen hält.

When asked, neither the users of social media platforms know whether their interactions on the platform are public or private, as shown by an empirical study (n=1699) in 2020. Can platforms be compared to anything in the physical world around us? According to Elon Musk, directly after it became public that he had offered $44 billion to acquire Twitter, he tweeted that “Twitter is the digital town square where matters vital to the future of humanity are debated”. Three years earlier, in March 2019, Mark Zuckerberg reached that same conclusion, stating that “over the last 15 years, Facebook and Instagram have helped people connect with friends, communities, and interests in the digital equivalent of a town square.”

This ‘town square’-argument is not solely reserved for multibillionaire owners of large-scale social media platforms. Similarly, in an early proposal for the Digital Services Act package, the European Commission stated that these platforms have “become de facto ‘public spaces’ in the online world”, omitting any further argumentation as to why they would qualify as such.

However, social media platforms are private companies and thus – by nature – not an extension of any state. This renders the discussion on the qualification of a social media platform even more difficult, because by default, a platform does not constitute a ‘purely public space, such as many traditional town squares (in Europe)’. Private companies are – in principle – free to agree on the terms of service they want to apply. According to this point of view, social media platforms would be free to exclude whichever content they want, including content that falls within the scope of protected speech.

This interpretation of the freedom of contract is, however, incorrect. The freedom of contract does not provide a free pass to moderate content, at least not in the European Union. The freedom of contract is included in the freedom to conduct a business in article 16 of the Charter of Fundamental Rights of the European Union. This freedom is not an absolute right. A previous study by the author into the scope of this article has shown that social media platforms can be (severely) limited in the freedom to draft user terms, for example to protect society, the internal market, and the rights and freedoms of others. For the dissemination of illegal content, platforms can be held liable, impairing their “free choice” to provide access to such content.

European discrepancy on the role of social media platforms

The confusion on the qualification of social media platforms can also be observed in the recent case-law in the Member States of the European Union. In a proposal for a law regulating social media (lov om regulering af sociale medier), the Danish legislator seemingly qualified social media platforms as public fora, pointing to the double role social media platforms play in Danish society as, on the one side, interactive communication platforms, and on the other side, a source of information. Unfortunately, the law nor the preparatory works mention the origin of this argument, nor substantiate the reasoning for this normative stance.

In the Netherlands the national case-law shows definitions varying between private property and a “continuous agreement”. In the former, the District Court of Amsterdam compares social media platforms to a shopping mall – a privately owned, publicly accessible place, without a seeming proper justification as to why the Court has chosen to do so. The Dutch legislator has not taken an active stance on defining social media platforms and thus the current legal landscape remains unclear.

The German case-law has a clearer, but no less normative, approach. In July 2021, the Bundesgerichtshof (BGH) concluded in two cases (III ZR 192/20 and III ZR 179/20) that a social media platform’s service does not equal the communication function of the State, and thus does not face the same requirements to safeguard fundamental rights on the platform. Social media platforms cannot be compared to a state monopoly, nor a privatized equivalent. The BGH highlights that large-scale social media platforms offer a significant communication possibility on the internet, but they do not guarantee access to the internet as such. In the end, social media companies are private companies that can choose to open their platform to the general public.

In Italy, the Appeal’s court of Aquila concluded that “social media platforms are non-essential service” and that the scope of permissible speech is defined by the terms of service. On the assessment of the service offered by Facebook, the Appeal’s court of Aquila concludes that Facebook does not offer a “general” expression platform: it offers a service that allows the exchange of expression that does not harm other users. Thus, it was justified to remove content that would endanger the safety and well-being of other users or the integrity of the values of the Community. Previously, also the Court in Rome defined the relationship between a platform and a user as a purely private agreement.

The necessity to find a qualification for social media platforms

Seemingly, there is no consensus on a qualification for social media platforms. Therefore, defining the rights of users on these platforms is difficult, because which legal order should prevail: user terms, national private law, or fundamental rights? Defining the role of social media platforms is necessary for the interaction of these plural legal orders. If platforms are solely private companies contracting with another private party, then the (in)direct application of fundamental rights seems out of place outside the scope of traditional open norms in private law. After all, agreements between two private parties are a matter governed by private law. Opposingly, resolving content restrictions on platforms qualified as “public fora“ calls for the protection of the fundamental rights of the participants in the public forum, at least indirectly.

It could be that these online communication spaces constitute something we have not yet observed in the physical world and therefore call for a qualification of their own. Though, before reaching that conclusion, other comparisons to existing concepts must be ruled out. Recalling Easterbrook’s call to “prevent a law of the horse”, taking a normative stance on a qualification of social media platforms will avoid any unnecessary “laws of the social media platform”. Such fragmentation – on a worldwide scale – will create a complicated legal framework that can potentially only be navigated and complied with by large-scale platforms.

There is not one type of social media platform

Whereas few will intuitively oppose a decision of an adult sexual platform to remove cat videos, many will have a subconscious unease or concern with the moderation of this exact type of content on large-scale social media platforms like Twitter, Facebook, or TikTok. After all, cat content rules these more general social media platforms. The answer to why certain types of online platforms have more leeway to moderate speech than others.

The Italian case-law shows that also a broad scoped expression platform like Facebook is, in fact, not an open and general platform. Facebook only allows speech upholding the “social co-existence” within the Community. Platforms can decide to be “themed”, but will have to communicate clearly to their users what is allowed within the scope of the theme. The leeway to moderate more speech than others (read: to remove cat videos) therefore boils down to the definition of the service in the user terms of the platform. The latter seems to pose problems for those platforms that offer their service as “general exchanges of opinions and ideas”.

Cover Photo: Xavier von Erlach / unsplash

29.06.2022

Die Vorteile der Online-Kommunikation liegen auf der Hand. Sie ermöglicht einen internationalen Dialog mit Menschen und beschleunigt Geschäftsabläufe. Gleichzeitig werden Online-Plattformen auch von Personen genutzt, die illegale Aktivitäten betreiben. Viele Staaten reagieren mit Vorschriften, die Moderation, Überprüfung und Berichtspflichten ermöglichen. Die Frage ist: Wie lässt sich der Schutz grundlegender Freiheiten mit der Einschränkung illegaler Inhalte in Einklang bringen?

For most users access to online communication creates opportunities for border-free dialog with people from distant countries, speeds up business operations, and finally realizes the idea of the ,,global village”. The advantages of online platforms are manifold, however, they are also being used by those who engage in illegal activity.

Therefore, many countries have already introduced regulations that allow law enforcement interference and moderation of user-generated content. This means that some of the uploaded content, if not all, is subject to an internal screening or further scrutiny by a service provider to limit this type of activity. Oftentimes, such proactive measures are related to transparency reporting obligations, i.e., making publicly available information about the amount or type of content that has been disabled or removed. Additionally, some countries expect that service providers will report on the criminal activity that arises through these channels.

It also became a gold standard among EU countries to secure a collaboration with these platforms through a contact point that can enable lawful interception, which is nothing else but reviewing the user-generated content by law enforcement. Since a service provider or state officials can monitor not everything, some EU member states impose on the platform an obligation to build software that allows users to report illegal content, making them an active collaborator of flagging content, which should be moderated or reviewed. As much as limiting illegal activity is needed and valuable, it also poses a threat of potential infringement of users’ freedom and right to privacy.

The general term “privacy” in this context, would mean a right to secrecy of correspondence as well as secure storing of data without making it public, which historically played a significant role in democratic states. The need to protect this role is even greater, due to the pressure from the authorities, who see the limitation of these rights as an opportunity to cease any criminal activity. There is no argument about that, but the cost, in this case, privacy, might be too great.

The more software and data analytics employed, the more valuable information is available for the intelligence. So-called ,,BigTech” has been asked to support the surveillance. For example, in 2015, FBI director James Comey attacked Silicon Valley for embracing end-to-end encryption (that is, simply put, closed exchange of data between users, with restricting access for the third parties) in an effort to “deprive police and intelligence companies of potentially life-saving information.”

Significant support in quarterly reporting of content disabled or removed is provided to the authorities by an EU regulation on disseminating the terrorist content online (2021/784). It not only provides statistics on the type of terrorist-promoting material removed to the law enforcement but also streamlines the “Notice and Takedown process”, in which due to a court or law enforcement order the illegal content is being removed by the service provider. Whilst the process itself includes the ability to respond to orders to remove terrorist content.

To sum up, the removal of illegal content is a prerequisite for a safe and healthy Internet environment. A separate issue is what illegal content means and how it should be regulated. There is no doubt that material that violates intellectual property, disseminates child abuse material, or supports terrorism must be effectively removed. Such regulations are already present in every EU country and there is consensus on them. But how to separate the cultural prism while guaranteeing freedom of speech with respect for certain minorities? Who should decide whether language is already hateful or a biased representation of events?

Finally, what can guarantee that progressive and inclusive views that are currently dominant in many European countries will prevail in an era of rising nationalist movements? What if the political landscape changes and those who call for greater moderation of content now become victims of it later? Questions such as these should guide a proper debate about content moderation. Whatever decisions are made, the secrecy of correspondence and freedom of speech should not be curtailed, because only these values guarantee that individual freedom in the Internet age will be protected.

Cover Photo: Niklas Ohlrogge / unsplash