Neue Regulierungsansätze für algorithmische Systeme in der öffentlichen Kommunikation (STEAM)

Ziel des Projekts ist es, eine sozio-technische Ökosystem-Architektur-Methodik zu entwickeln. Diese Methode baut auf bestehenden Architekturkonzepten der Informatik auf und ergänzt sie um normative Konzepte und Frameworks mit juristischem und ethischem Hintergrund sowie Ansätze des Horizon Scannings, um so eine ganzheitliche Beschreibung eines Ökosystems, seiner Akteure und seiner Handlungsdynamiken zu ermöglichen und Gefahren für die öffentliche Kommunikation sowie geeignete Anknüpfungspunkte für ihr regulatorisches Entgegenwirken sichtbar zu machen.

Bei der Generierung, Aggregation, Selektion, Kuratierung und Priorisierung von Inhalten haben neuartige Akteure und von ihnen genutzte Technologien, insbesondere im Bereich der Künstlichen Intelligenz (KI), an Relevanz gewonnen. Zu dem Zeitpunkt, zu dem ein Inhalt in den Aufmerksamkeitsbereich eines Individuums gelangt, sind im Vorfeld zahlreiche Entscheidungen getroffen worden, die die Verbreitung des Inhalts und die Wahrscheinlichkeit beeinflussen, dass er in das Medienrepertoire des Individuums aufgenommen wird. Im Einzelnen haben verschiedene Akteure (z. B. Ersteller von Inhalten, digitale Plattformen oder Anbieter von Inhalten), die am gesamten Prozess von der Erstellung bis zur Bereitstellung von Inhalten beteiligt sind, Einfluss auf die gesellschaftliche Kommunikation. In diesem Zusammenhang nutzen diese Akteure auch zunehmend algorithmische Systeme und insbesondere KI. Zwei Beispiele verdeutlichen dieses Phänomen:

1. Das erste anschauliche Beispiel ist Facebook und seine Anwendung Facebook News, die Nachrichten zusammenfasst. Die Plattform besteht aus einer Konstellation von menschlichen, technischen und institutionellen Akteuren und Dynamiken sowie Interdependenzen zwischen ihnen. Letztlich generieren menschliche Kuratoren zusammen mit Empfehlungs- und Filteralgorithmen eine Auswahl von Medienbeiträgen, die dem Nutzer angeboten werden. Der Pool der verfügbaren Beiträge wird jedoch bereits durch verschiedene einschränkende Faktoren im weiteren Umfeld eingegrenzt. Facebook wählt gemeinsam mit externen Partnern die Medien aus, die zugelassen werden. Darüber hinaus legt Facebook Publisher Guidelines fest, an die sich die Anbieter halten müssen, und Monetarisierungsmodelle, denen die Publisher zustimmen müssen. Das Medienrepertoire eines Nutzers von Facebook News wird also durch eine Reihe von Entscheidungen mitbestimmt, die von verschiedenen Akteuren getroffen werden.

2. Das zweite Beispiel betrifft die amerikanische Social-Networking-Plattform Parler, die häufig wegen Nutzerinhalten diskutiert wird, die rechtsextreme Beiträge, Antisemitismus und Verschwörungstheorien beinhalten. Im Januar 2021 übten drei Unternehmen einen bedeutenden Einfluss auf die Zugänglichkeit und Nutzung von Parler aus. Beide großen Anbieter mobiler Plattformen – Google und Apple – entfernten Parler aus ihren jeweiligen App-Stores für iOS und Android. Darüber schloss Amazon Parler von seinem Cloud-Hosting-Dienst Amazon Web Services (AWS) aus. Durch dieses Eingreifen von Amazon war Parler offenbar nicht in der Lage, seine Plattform weiter zu betreiben und musste offline gehen. Das Beispiel unterstreicht, dass Akteure, die verschiedene Funktionen im Zugänglichmachen von Inhalten erfüllen, Einfluss darauf haben, welche Inhalte in den Aufmerksamkreisbereich von Nutzer:innengelangen, ohne dass dies zuvor gerichtlich oder behördlich angeordnet wurde und ohne dass sie bisher als wichtige Akteure der öffentlichen Kommunikation im Rampenlicht standen.

Beide Fälle zeigen, dass bereits bestehende Mechanismen zum Schutz der gesellschaftlichen Kommunikation und ihrer wesentlichen Funktionen in Frage gestellt werden. Die Fälle könnten auf Probleme für relevante Qualitäten gesellschaftlicher Kommunikation hinweisen, die durch das derzeitige System des Kommunikationsrechts nicht abgedeckt sind. Daher müssen wir grundlegend überdenken, wie wir weiterhin sicherstellen können, dass gesellschaftlich relevante Kommunikation offen und frei erfolgt.

Um die Forschungsziele zu erreichen, entwickeln wir die Socio-Technical Ecosystem Architecture Method (STEAM), um eine ganzheitliche Sicht auf die Nachrichtenverbreitung in einem Ökosystemen zu ermöglichen. Diese Methode wird dazu beitragen, Ökosysteme und ihre Akteure und Beziehungen so darzustellen, dass sie aus regulatorischer Sicht die Grundlage für die Bewertung der Einflussmöglichkeiten der Akteure bildet. Um STEAM zu entwickeln, integrieren wir architektonisches Denken und normatives Denken innerhalb dreier Iterationen mit einem Design Science Research (DSR) Ansatz.