Element 68Element 45Element 44Element 63Element 64Element 43Element 41Element 46Element 47Element 69Element 76Element 62Element 61Element 81Element 82Element 50Element 52Element 79Element 79Element 7Element 8Element 73Element 74Element 17Element 16Element 75Element 13Element 12Element 14Element 15Element 31Element 32Element 59Element 58Element 71Element 70Element 88Element 88Element 56Element 57Element 54Element 55Element 18Element 20Element 23Element 65Element 21Element 22iconsiconsElement 83iconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsElement 84iconsiconsElement 36Element 35Element 1Element 27Element 28Element 30Element 29Element 24Element 25Element 2Element 1Element 66

Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System

Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System

Facebook hat erstmals Wissenschaftlern direkten Zugang zu internen Entscheidungsgremien gewährt. PD Dr. Matthias C. Kettemann und Prof. Dr. Wolfgang Schulz vom HBI haben untersucht, wie Facebook Kommunikationsregeln für seine Plattform entwickelt. Die Ergebnisse dieser Pilotstudie wurden nun veröffentlicht:

Kettemann, Matthias C.; Schulz, Wolfgang: Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System: Results of a Pilot Study. Hamburg: Working Papers of the Hans-Bredow-Institut | Works in Progress # 1, January 2020 (pdf).

Studie downloaden

Sie regeln, was auf der Plattform Facebook gesagt werden darf und was gelöscht werden muss, und beeinflussen damit, wie 2,7 Milliarden Nutzer miteinander in Kontakt treten können: Facebooks Gemeinschaftsstandards sind ein Beispiel für den großen Einfluss, den Regeln privater Akteure auf die öffentliche Kommunikation haben.

In einer Pilotstudie haben Forscher des Leibniz-Instituts für Medienforschung nun erforscht, wie Facebook seine Regeln entwickelt und welche Maßstäbe und Interessen in diesen Prozess einfließen. Matthias C. Kettemann, Forschungsprogrammleiter und Senior Researcher am HBI, hat eine Woche lang als Beobachter an sämtlichen Meetings des Product Policy Teams teilgenommen, das im Hauptquartier von Facebook in Kalifornien für die Entwicklung der Gemeinschaftsstandards verantwortlich ist. Darüber hinaus hat er in ausführlichen Interviews mit den verantwortlichen Personen untersucht, was die Entstehung neuer Regeln und deren Design motiviert und wie Facebook versucht, durch Konsultationen mit gesellschaftlichen Stakeholdern die Legitimität der privaten Normenordnung zu erhöhen.

„Über das Entstehen von Gesetzen wissen wir viel, aber über die Entwicklung der selbst auferlegten Regeln, nach denen Facebook etwa Inhalte löscht, wussten wir bisher nichts“, so Kettemann. „Das war lange eine Black Box“, meint Prof. Dr. Wolfgang Schulz, Direktor des HBI, „in die wir nun Licht bringen konnten“.

Ergebnisse im Überblick

Zu den Erkenntnissen des Pilotprojektes gehört, dass Prozesse der Regelsetzung bei Facebook, etwa zum Problem der Hassrede, aus vielerlei Richtungen angestoßen werden, etwa durch eigene Mitarbeiter/innen, durch Hinweise von Usern (Flagging), durch Presseartikeln usw. Es handelt sich um einen vom nationalen und internationalen Recht im Wesentlichen unabhängigen Prozess, der aber – so konnten die Forscher zeigen – der legitimitätserzeugenden Wirkung staatlicher Regulierung nachgebildet wird. Auch innerhalb von Staaten werden Interessensgruppen konsultiert, wenn Gesetze verabschiedet werden.

Die Normenentwicklung bei Facebook ist mittlerweile ein komplexer mehrstufiger Prozess mit klaren Rollen und Zeitvorgaben „Die Mechanismen des Interessensausgleichs ähneln denen in einem Gesetzgebungsprozess“, so Schulz. „Externen Interessenvertretern im Netzwerk von Facebook kommt eine deutliche wichtigere Funktion zu, als wir vermutet haben.“ So konsultiert das für „Stakeholder Engagement“ verantwortliche Team von Facebook regelmäßig ein großes Netzwerk an zivilgesellschaftlichen Akteuren, die um Input für neue Moderations-Regeln gebeten werden.

„Die Ergebnisse zeigen“, so Institutsdirektor Wolfgang Schulz, „wie ein zentrales Social-Media-Unternehmen seinen Kommunikationsraum gestaltet. Facebook hat eine autonome und private normative Ordnung für öffentliche Kommunikation konstruiert, die – abgesehen von einigen Verankerungen im US-Recht aufgrund Facebooks Herkunft als US-Unternehmen – weitgehend ohne Bezug auf staatliches Recht oder internationale Menschenrechtsstandards konzipiert ist“. Natürlich ist das Unternehmen, wenn es in Deutschland agiert, auch an deutsches (und europäisches) Recht gebunden – wie etwa das Netzwerkdurchsetzungsgesetz. Gleichzeitig baut es eine immer stärker ausdifferenzierte, eigene und unabhängige Normordnung auf, die definiert, was auf der Plattform sagbar ist.

Das sei charakteristisch für die Online-Kommunikation, ergänzt Kettemann: „Diese findet maßgeblich in privaten Räumen statt. Die Gesellschaft hat die privaten Normen von Facebook zu lange wie jene von Edeka oder Budni betrachtet und das Hausrecht der Plattform nicht hinterfragt. Dabei ist es bei Facebook so, dass die Regeln Teil des Produkts sind. Das sieht man schon daran, dass bei Facebook das Product Policy Team mit der Regelentwicklung betraut ist: ein sprachlicher Hinweis darauf, dass  Facebooks „Produkt“ auch der sozio-kommunikative Raum ist, den es der Öffentlichkeit zur Verfügung stellt, einschließlich der kommunikativen Infrastruktur und den Gemeinschaftsstandards.

Beide Medienrechtler betonen: „Angesichts der Auswirkungen, die private Ordnungsansätze auf die Sphären der kommunikativen Freiheit der Individuen und den sozialen Zusammenhalt der Gesellschaft haben, müssen wir besser verstehen, wie diese normativen Prozesse funktionieren. Unsere Forschungen legen dafür die Basis“.

Ausblick

Die Pilotstudie ist ein erster Schritt zur Erforschung der Normenentwicklung bei Facebook. 2020 wird bei Facbook ein „Oversight Board“ seine Arbeit aufnehmen, ein globales Gremium von Expertinnen und Experten für Meinungsäußerungsfreiheit, dem als Quasi-Gericht schwierige Fragen der Löschung oder Nichtlöschung von Inhalten vorgelegt werden können, das aber auch Facebook Empfehlungen hinsichtlich der anzuwenden Regeln für die Inhaltsmoderation geben kann. Die Analyse des Oversight Boards und dessen Auswirkungen auf die private Kommunikationsordnung von Facebook wird die nächste Aufgabe der Forscher aus Hamburg sein.

Hintergrund

Das Leibniz-Institut für Medienforschung | Hans-Bredow-Institut hat für das Projekt kein Geld von Facebook erhalten, sondern die Studie selbst finanziert. Facebook hatte das Recht, die Studie vor Veröffentlichung einzusehen, um die versehentliche Veröffentlichung geschützter Informationen (v. a. hinsichtlich der Privatsphäre der Nutzerinnen und Nutzer) zu vermeiden.  Es wurden seitens Facebook keine Änderungen des Textes gefordert.

Hauptverantwortliche / Ansprechpartner für die Studie

Prof. Dr. Wolfgang Schulz ist Direktor des Leibniz-Instituts für Medienforschung | Hans-Bredow-Institut (HBI) sowie Direktor des Alexander von Humboldt-Instituts für Internet und Gesellschaft in Berlin. Er ist Professor für Öffentliches Recht an der Universität Hamburg und Inhaber des UNESCO-Lehrstuhls für Informations- und Medienfreiheit. Er ist auch beratend tätig, etwa für die Bundesregierung und Multistakeholder-Gremien wie das Internet&Jurisdiction Policy Network.

PD Dr. Matthias C. Kettemann, LL.M. (Harvard) ist Leiter des Forschungsprogramms „Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen“ am HBI sowie Projektleiter für das „Völkerrecht des Netzes“ am Berliner Humboldt-Institut für Internet und Gesellschaft. 2019 habilitierte er sich als erster Forscher in Deutschland zum „Internetrecht“ an der Goethe-Universität Frankfurt. Zurzeit vertritt er die Hengstberger-Professur für Grund- und Zukunftsfragen des Rechtsstaates an der Universität Heidelberg.

Beide Medienrechtler verfügen über umfangreiche Forschungserfahrung im Hinblick auf Intermediäre. Wolfgang Schulz war Vorsitzender und Matthias C. Kettemann Berichterstatter des Expertenausschusses des Europarates zu Internet-Intermediären. Beide wurden als Experten im Deutschen Bundestag zur Fragen der Regulierung von Intermediären und dem Netzwerkdurchsetzungsgesetz gehört.

In vorliegender Pilotstudie wurden sie von einem interdisziplinären Team von Wissenschaftlerinnen und Wissenschaftlern am HBI (aus der Mediensoziologie, der Anthropologie und der Ethnologie) unterstützt.

Das HBI verfügt über einen Datenschutzbeauftragten, der dafür sorgt, dass bei allen Forschungsprojekten die Datenschutzstandards eingehalten werden.

Forschungsergebnisse erscheinen im Geiste der Leibniz-Gemeinschaft Open Access, um den freien gesellschaftlichen Zugang zu Wissen zu fördern.

Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System

Facebook hat erstmals Wissenschaftlern direkten Zugang zu internen Entscheidungsgremien gewährt. PD Dr. Matthias C. Kettemann und Prof. Dr. Wolfgang Schulz vom HBI haben untersucht, wie Facebook Kommunikationsregeln für seine Plattform entwickelt. Die Ergebnisse dieser Pilotstudie wurden nun veröffentlicht:

Kettemann, Matthias C.; Schulz, Wolfgang: Setting Rules for 2.7 Billion. A (First) Look into Facebook’s Norm-Making System: Results of a Pilot Study. Hamburg: Working Papers of the Hans-Bredow-Institut | Works in Progress # 1, January 2020 (pdf).

Studie downloaden

Sie regeln, was auf der Plattform Facebook gesagt werden darf und was gelöscht werden muss, und beeinflussen damit, wie 2,7 Milliarden Nutzer miteinander in Kontakt treten können: Facebooks Gemeinschaftsstandards sind ein Beispiel für den großen Einfluss, den Regeln privater Akteure auf die öffentliche Kommunikation haben.

In einer Pilotstudie haben Forscher des Leibniz-Instituts für Medienforschung nun erforscht, wie Facebook seine Regeln entwickelt und welche Maßstäbe und Interessen in diesen Prozess einfließen. Matthias C. Kettemann, Forschungsprogrammleiter und Senior Researcher am HBI, hat eine Woche lang als Beobachter an sämtlichen Meetings des Product Policy Teams teilgenommen, das im Hauptquartier von Facebook in Kalifornien für die Entwicklung der Gemeinschaftsstandards verantwortlich ist. Darüber hinaus hat er in ausführlichen Interviews mit den verantwortlichen Personen untersucht, was die Entstehung neuer Regeln und deren Design motiviert und wie Facebook versucht, durch Konsultationen mit gesellschaftlichen Stakeholdern die Legitimität der privaten Normenordnung zu erhöhen.

„Über das Entstehen von Gesetzen wissen wir viel, aber über die Entwicklung der selbst auferlegten Regeln, nach denen Facebook etwa Inhalte löscht, wussten wir bisher nichts“, so Kettemann. „Das war lange eine Black Box“, meint Prof. Dr. Wolfgang Schulz, Direktor des HBI, „in die wir nun Licht bringen konnten“.

Ergebnisse im Überblick

Zu den Erkenntnissen des Pilotprojektes gehört, dass Prozesse der Regelsetzung bei Facebook, etwa zum Problem der Hassrede, aus vielerlei Richtungen angestoßen werden, etwa durch eigene Mitarbeiter/innen, durch Hinweise von Usern (Flagging), durch Presseartikeln usw. Es handelt sich um einen vom nationalen und internationalen Recht im Wesentlichen unabhängigen Prozess, der aber – so konnten die Forscher zeigen – der legitimitätserzeugenden Wirkung staatlicher Regulierung nachgebildet wird. Auch innerhalb von Staaten werden Interessensgruppen konsultiert, wenn Gesetze verabschiedet werden.

Die Normenentwicklung bei Facebook ist mittlerweile ein komplexer mehrstufiger Prozess mit klaren Rollen und Zeitvorgaben „Die Mechanismen des Interessensausgleichs ähneln denen in einem Gesetzgebungsprozess“, so Schulz. „Externen Interessenvertretern im Netzwerk von Facebook kommt eine deutliche wichtigere Funktion zu, als wir vermutet haben.“ So konsultiert das für „Stakeholder Engagement“ verantwortliche Team von Facebook regelmäßig ein großes Netzwerk an zivilgesellschaftlichen Akteuren, die um Input für neue Moderations-Regeln gebeten werden.

„Die Ergebnisse zeigen“, so Institutsdirektor Wolfgang Schulz, „wie ein zentrales Social-Media-Unternehmen seinen Kommunikationsraum gestaltet. Facebook hat eine autonome und private normative Ordnung für öffentliche Kommunikation konstruiert, die – abgesehen von einigen Verankerungen im US-Recht aufgrund Facebooks Herkunft als US-Unternehmen – weitgehend ohne Bezug auf staatliches Recht oder internationale Menschenrechtsstandards konzipiert ist“. Natürlich ist das Unternehmen, wenn es in Deutschland agiert, auch an deutsches (und europäisches) Recht gebunden – wie etwa das Netzwerkdurchsetzungsgesetz. Gleichzeitig baut es eine immer stärker ausdifferenzierte, eigene und unabhängige Normordnung auf, die definiert, was auf der Plattform sagbar ist.

Das sei charakteristisch für die Online-Kommunikation, ergänzt Kettemann: „Diese findet maßgeblich in privaten Räumen statt. Die Gesellschaft hat die privaten Normen von Facebook zu lange wie jene von Edeka oder Budni betrachtet und das Hausrecht der Plattform nicht hinterfragt. Dabei ist es bei Facebook so, dass die Regeln Teil des Produkts sind. Das sieht man schon daran, dass bei Facebook das Product Policy Team mit der Regelentwicklung betraut ist: ein sprachlicher Hinweis darauf, dass  Facebooks „Produkt“ auch der sozio-kommunikative Raum ist, den es der Öffentlichkeit zur Verfügung stellt, einschließlich der kommunikativen Infrastruktur und den Gemeinschaftsstandards.

Beide Medienrechtler betonen: „Angesichts der Auswirkungen, die private Ordnungsansätze auf die Sphären der kommunikativen Freiheit der Individuen und den sozialen Zusammenhalt der Gesellschaft haben, müssen wir besser verstehen, wie diese normativen Prozesse funktionieren. Unsere Forschungen legen dafür die Basis“.

Ausblick

Die Pilotstudie ist ein erster Schritt zur Erforschung der Normenentwicklung bei Facebook. 2020 wird bei Facbook ein „Oversight Board“ seine Arbeit aufnehmen, ein globales Gremium von Expertinnen und Experten für Meinungsäußerungsfreiheit, dem als Quasi-Gericht schwierige Fragen der Löschung oder Nichtlöschung von Inhalten vorgelegt werden können, das aber auch Facebook Empfehlungen hinsichtlich der anzuwenden Regeln für die Inhaltsmoderation geben kann. Die Analyse des Oversight Boards und dessen Auswirkungen auf die private Kommunikationsordnung von Facebook wird die nächste Aufgabe der Forscher aus Hamburg sein.

Hintergrund

Das Leibniz-Institut für Medienforschung | Hans-Bredow-Institut hat für das Projekt kein Geld von Facebook erhalten, sondern die Studie selbst finanziert. Facebook hatte das Recht, die Studie vor Veröffentlichung einzusehen, um die versehentliche Veröffentlichung geschützter Informationen (v. a. hinsichtlich der Privatsphäre der Nutzerinnen und Nutzer) zu vermeiden.  Es wurden seitens Facebook keine Änderungen des Textes gefordert.

Hauptverantwortliche / Ansprechpartner für die Studie

Prof. Dr. Wolfgang Schulz ist Direktor des Leibniz-Instituts für Medienforschung | Hans-Bredow-Institut (HBI) sowie Direktor des Alexander von Humboldt-Instituts für Internet und Gesellschaft in Berlin. Er ist Professor für Öffentliches Recht an der Universität Hamburg und Inhaber des UNESCO-Lehrstuhls für Informations- und Medienfreiheit. Er ist auch beratend tätig, etwa für die Bundesregierung und Multistakeholder-Gremien wie das Internet&Jurisdiction Policy Network.

PD Dr. Matthias C. Kettemann, LL.M. (Harvard) ist Leiter des Forschungsprogramms „Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen“ am HBI sowie Projektleiter für das „Völkerrecht des Netzes“ am Berliner Humboldt-Institut für Internet und Gesellschaft. 2019 habilitierte er sich als erster Forscher in Deutschland zum „Internetrecht“ an der Goethe-Universität Frankfurt. Zurzeit vertritt er die Hengstberger-Professur für Grund- und Zukunftsfragen des Rechtsstaates an der Universität Heidelberg.

Beide Medienrechtler verfügen über umfangreiche Forschungserfahrung im Hinblick auf Intermediäre. Wolfgang Schulz war Vorsitzender und Matthias C. Kettemann Berichterstatter des Expertenausschusses des Europarates zu Internet-Intermediären. Beide wurden als Experten im Deutschen Bundestag zur Fragen der Regulierung von Intermediären und dem Netzwerkdurchsetzungsgesetz gehört.

In vorliegender Pilotstudie wurden sie von einem interdisziplinären Team von Wissenschaftlerinnen und Wissenschaftlern am HBI (aus der Mediensoziologie, der Anthropologie und der Ethnologie) unterstützt.

Das HBI verfügt über einen Datenschutzbeauftragten, der dafür sorgt, dass bei allen Forschungsprojekten die Datenschutzstandards eingehalten werden.

Forschungsergebnisse erscheinen im Geiste der Leibniz-Gemeinschaft Open Access, um den freien gesellschaftlichen Zugang zu Wissen zu fördern.

Infos zur Publikation

ÄHNLICHE PUBLIKATIONEN UND VERWANDTE PROJEKTE

Newsletter

Infos über aktuelle Projekte, Veranstaltungen und Publikationen des Instituts.

NEWSLETTER ABONNIEREN!