Element 68Element 45Element 44Element 63Element 64Element 43Element 41Element 46Element 47Element 69Element 76Element 62Element 61Element 81Element 82Element 50Element 52Element 79Element 79Element 7Element 8Element 73Element 74Element 17Element 16Element 75Element 13Element 12Element 14Element 15Element 31Element 32Element 59Element 58Element 71Element 70Element 88Element 88Element 56Element 57Element 54Element 55Element 18Element 20Element 23Element 65Element 21Element 22iconsiconsElement 83iconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsElement 84iconsiconsElement 36Element 35Element 1Element 27Element 28Element 30Element 29Element 24Element 25Element 2Element 1Element 66
Neue Regulierungsansätze für algorithmische Systeme in der öffentlichen Kommunikation (STEAM)

Neue Regulierungsansätze für algorithmische Systeme in der öffentlichen Kommunikation (STEAM)

Die öffentliche Kommunikation hat sich im Zuge der Digitalisierung stark verändert. Es sind neue Akteure aktiv, und oft kommen algorithmische Systeme und andere Technologien zum Einsatz, die auch neue Ansätze in der Medienregulierung erforderlich machen können. War bislang vor allem der Erhaltung von Medienvielfalt das Ziel, bestimmen nun nicht mehr knappe Kanäle, sondern komplexe Systeme, welche Chance ein bestimmter Inhalt hat, wahrgenommen zu werden.

An den Fallbeispielen „Facebook“ bzw. „Facebook News“ und der amerikanischen Social-Networking-Plattform „Parler“ wird in dem zwischen Medienrecht und Informatik angesiedelten Projekt von Forschenden der Universität Hamburg und des Leibniz-Instituts für Medienforschung eine neue sogenannte „Socio-Technical Ecosystem Architecture Method“ (STEAM) entwickelt.
 
Beide Fälle zeigen, dass bereits bestehende Mechanismen zum Schutz der gesellschaftlichen Kommunikation und ihrer wesentlichen Funktionen infrage gestellt werden. Denn hier haben bei der Generierung, Selektion, Kuratierung und Priorisierung von Inhalten neuartige Anbieter und Technologien, insbesondere im Bereich der Künstlichen Intelligenz, an Relevanz gewonnen. Zu dem Zeitpunkt, an dem ein Inhalt dem Nutzer oder der Nutzerin ausgespielt wird, sind im Vorfeld zahlreiche Entscheidungen getroffen worden.
 
Die Methode, die nun entwickelt werden soll, wird eine ganzheitliche Sicht auf die Nachrichtenverbreitung in einem Ökosystem wie dem der Nachrichtenverbreitung auf Facebook ermöglichen und dazu beitragen, diese Ökosysteme mit ihren Beziehungen zwischen Akteuren, Datenflüssen und Software-Komponenten so darzustellen, dass sich Probleme identifizieren lassen und wenn nötig Anknüpfungsmöglichkeiten für neue regulatorische Ansätze bieten.

Das Projekt ist eines von sieben Projektkonsortien aus den Gesellschafts- und Technikwissenschaften, die von der VolkswagenStiftung gefördert werden. Alle ausgewählten Vorhaben sind auf drei bis vier Jahre angelegt und erhalten jeweils rund 1,5 Mio. Euro Förderung. Weitere Informationen zu der Initiative „Künstliche Intelligenz ‒ Ihre Auswirkungen auf die Gesellschaft von morgen“ der VolkswagenStiftung finden Sie unter https://www.volkswagenstiftung.de/kuenstliche-intelligenz.
 
Photo by fabio on Unsplash
mehr anzeigen

Projektbeschreibung

Ziel des Projekts ist es, eine sozio-technische Ökosystem-Architektur-Methodik zu entwickeln. Diese Methode baut auf bestehenden Architekturkonzepten der Informatik auf und ergänzt sie um normative Konzepte und Frameworks mit juristischem und ethischem Hintergrund sowie Ansätze des Horizon Scannings, um so eine ganzheitliche Beschreibung eines Ökosystems, seiner Akteure und seiner Handlungsdynamiken zu ermöglichen und Gefahren für die öffentliche Kommunikation sowie geeignete Anknüpfungspunkte für ihr regulatorisches Entgegenwirken sichtbar zu machen.

Bei der Generierung, Aggregation, Selektion, Kuratierung und Priorisierung von Inhalten haben neuartige Akteure und von ihnen genutzte Technologien, insbesondere im Bereich der Künstlichen Intelligenz (KI), an Relevanz gewonnen. Zu dem Zeitpunkt, zu dem ein Inhalt in den Aufmerksamkeitsbereich eines Individuums gelangt, sind im Vorfeld zahlreiche Entscheidungen getroffen worden, die die Verbreitung des Inhalts und die Wahrscheinlichkeit beeinflussen, dass er in das Medienrepertoire des Individuums aufgenommen wird. Im Einzelnen haben verschiedene Akteure (z. B. Ersteller von Inhalten, digitale Plattformen oder Anbieter von Inhalten), die am gesamten Prozess von der Erstellung bis zur Bereitstellung von Inhalten beteiligt sind, Einfluss auf die gesellschaftliche Kommunikation. In diesem Zusammenhang nutzen diese Akteure auch zunehmend algorithmische Systeme und insbesondere KI. Zwei Beispiele verdeutlichen dieses Phänomen:

  1. Das erste anschauliche Beispiel ist Facebook und seine Anwendung Facebook News, die Nachrichten zusammenfasst. Die Plattform besteht aus einer Konstellation von menschlichen, technischen und institutionellen Akteuren und Dynamiken sowie Interdependenzen zwischen ihnen. Letztlich generieren menschliche Kuratoren zusammen mit Empfehlungs- und Filteralgorithmen eine Auswahl von Medienbeiträgen, die dem Nutzer angeboten werden. Der Pool der verfügbaren Beiträge wird jedoch bereits durch verschiedene einschränkende Faktoren im weiteren Umfeld eingegrenzt. Facebook wählt gemeinsam mit externen Partnern die Medien aus, die zugelassen werden. Darüber hinaus legt Facebook Publisher Guidelines fest, an die sich die Anbieter halten müssen, und Monetarisierungsmodelle, denen die Publisher zustimmen müssen. Das Medienrepertoire eines Nutzers von Facebook News wird also durch eine Reihe von Entscheidungen mitbestimmt, die von verschiedenen Akteuren getroffen werden.

  2. Das zweite Beispiel betrifft die amerikanische Social-Networking-Plattform Parler, die häufig wegen Nutzerinhalten diskutiert wird, die rechtsextreme Beiträge, Antisemitismus und Verschwörungstheorien beinhalten. Im Januar 2021 übten drei Unternehmen einen bedeutenden Einfluss auf die Zugänglichkeit und Nutzung von Parler aus. Beide großen Anbieter mobiler Plattformen – Google und Apple – entfernten Parler aus ihren jeweiligen App-Stores für iOS und Android. Darüber schloss Amazon Parler von seinem Cloud-Hosting-Dienst Amazon Web Services (AWS) aus. Durch dieses Eingreifen von Amazon war Parler offenbar nicht in der Lage, seine Plattform weiter zu betreiben und musste offline gehen. Das Beispiel unterstreicht, dass Akteure, die verschiedene Funktionen im Zugänglichmachen von Inhalten erfüllen, Einfluss darauf haben, welche Inhalte in den Aufmerksamkreisbereich von Nutzer:innengelangen, ohne dass dies zuvor gerichtlich oder behördlich angeordnet wurde und ohne dass sie bisher als wichtige Akteure der öffentlichen Kommunikation im Rampenlicht standen.

Beide Fälle zeigen, dass bereits bestehende Mechanismen zum Schutz der gesellschaftlichen Kommunikation und ihrer wesentlichen Funktionen in Frage gestellt werden. Die Fälle könnten auf Probleme für relevante Qualitäten gesellschaftlicher Kommunikation hinweisen, die durch das derzeitige System des Kommunikationsrechts nicht abgedeckt sind. Daher müssen wir grundlegend überdenken, wie wir weiterhin sicherstellen können, dass gesellschaftlich relevante Kommunikation offen und frei erfolgt.

Um die Forschungsziele zu erreichen, entwickeln wir die Socio-Technical Ecosystem Architecture Method (STEAM), um eine ganzheitliche Sicht auf die Nachrichtenverbreitung in einem Ökosystemen zu ermöglichen. Diese Methode wird dazu beitragen, Ökosysteme und ihre Akteure und Beziehungen so darzustellen, dass sie aus regulatorischer Sicht die Grundlage für die Bewertung der Einflussmöglichkeiten der Akteure bildet. Um STEAM zu entwickeln, integrieren wir architektonisches Denken und normatives Denken innerhalb dreier Iterationen mit einem Design Science Research (DSR) Ansatz.

Infos zum Projekt

Überblick

Laufzeit: 2022-2026

Forschungsprogramm:
FP2 - Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen

Drittmittelgeber

VolkswagenStiftung

Kooperationspartner

Prof. Dr. Tilo Böhmann, Prof. Dr. Ingrid Schirmer und Prof. Dr. Judith Simon (alle Fachbereich Informatik, Universität Hamburg)

Ansprechpartner

Prof. Dr. Wolfgang Schulz
Direktor (Vorsitz im Direktorium)

Prof. Dr. Wolfgang Schulz

Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI)
Rothenbaumchaussee 36
20148 Hamburg

Tel. +49 (0)40 45 02 17 0 (Sekretariat)

E-Mail senden

VIELLEICHT INTERESSIEREN SIE AUCH FOLGENDE THEMEN?

Newsletter

Infos über aktuelle Projekte, Veranstaltungen und Publikationen des Instituts.

NEWSLETTER ABONNIEREN!