Element 68Element 45Element 44Element 63Element 64Element 43Element 41Element 46Element 47Element 69Element 76Element 62Element 61Element 81Element 82Element 50Element 52Element 79Element 79Element 7Element 8Element 73Element 74Element 17Element 16Element 75Element 13Element 12Element 14Element 15Element 31Element 32Element 59Element 58Element 71Element 70Element 88Element 88Element 56Element 57Element 54Element 55Element 18Element 20Element 23Element 65Element 21Element 22iconsiconsElement 83iconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsiconsElement 84iconsiconsElement 36Element 35Element 1Element 27Element 28Element 30Element 29Element 24Element 25Element 2Element 1Element 66
Neue Regulierungsansätze für algorithmische Systeme in der öffentlichen Kommunikation mittels STEAM (Socio-Technical Ecosystem Architecture Method)

Neue Regulierungsansätze für algorithmische Systeme in der öffentlichen Kommunikation mittels STEAM (Socio-Technical Ecosystem Architecture Method)

Öffentliche Kommunikation hat sich im Zuge der fortschreitenden Digitalisierung tiefgreifend verändert, ohne dass die medienrechtlichen Instrumente und Ansätze sich hinreichend darauf eingestellt haben. Angesichts neuartiger Akteurskonstellationen und dem Einsatz von algorithmischen Systemen und anderen Technologien sind andere Ansätze der Mediengovernance erforderlich. War es bislang vor allem das Ziel der Erhaltung von Medienvielfalt, bestimmen nun nicht mehr knappe Kanäle, sondern komplexe Systeme unterschiedlichste Akteure, welche Chance ein bestimmter Inhalt hat, wahrgenommen zu werden. 

Ziel des Projekts ist es, eine sozio-technische Ökosystem-Architektur-Methodik zu entwickeln. Diese Methode baut auf bestehenden Architekturkonzepten der Informatik auf und ergänzt sie um normative Konzepte und Frameworks mit juristischem und ethischem Hintergrund sowie Ansätze des Horizon Scannings, um so eine ganzheitliche Beschreibung eines Ökosystems, seiner Akteure und seiner Handlungsdynamiken zu ermöglichen und Gefahren für die öffentliche Kommunikation sowie geeignete Anknüpfungspunkte für ihr regulatorisches Entgegenwirken sichtbar zu machen.

Bei der Generierung, Aggregation, Selektion, Kuratierung und Priorisierung von Inhalten haben neuartige Akteure und von ihnen genutzte Technologien, insbesondere im Bereich der Künstlichen Intelligenz (KI), an Relevanz gewonnen. Zu dem Zeitpunkt, zu dem ein Inhalt in den Aufmerksamkeitsbereich eines Individuums gelangt, sind im Vorfeld zahlreiche Entscheidungen getroffen worden, die die Verbreitung des Inhalts und die Wahrscheinlichkeit beeinflussen, dass er in das Medienrepertoire des Individuums aufgenommen wird. Im Einzelnen haben verschiedene Akteure (z. B. Ersteller von Inhalten, digitale Plattformen oder Anbieter von Inhalten), die am gesamten Prozess von der Erstellung bis zur Bereitstellung von Inhalten beteiligt sind, Einfluss auf die gesellschaftliche Kommunikation. In diesem Zusammenhang nutzen diese Akteure auch zunehmend algorithmische Systeme und insbesondere KI. Zwei Beispiele verdeutlichen dieses Phänomen:
  1. Das erste anschauliche Beispiel ist Facebook und seine Anwendung Facebook News, die Nachrichten zusammenfasst. Die Plattform besteht aus einer Konstellation von menschlichen, technischen und institutionellen Akteuren und Dynamiken sowie Interdependenzen zwischen ihnen. Letztlich generieren menschliche Kuratoren zusammen mit Empfehlungs- und Filteralgorithmen eine Auswahl von Medienbeiträgen, die dem Nutzer angeboten werden. Der Pool der verfügbaren Beiträge wird jedoch bereits durch verschiedene einschränkende Faktoren im weiteren Umfeld eingegrenzt. Facebook wählt gemeinsam mit externen Partnern die Medien aus, die zugelassen werden. Darüber hinaus legt Facebook Publisher Guidelines fest, an die sich die Anbieter halten müssen, und Monetarisierungsmodelle, denen die Publisher zustimmen müssen. Das Medienrepertoire eines Nutzers von Facebook News wird also durch eine Reihe von Entscheidungen mitbestimmt, die von verschiedenen Akteuren getroffen werden.
  2. Das zweite Beispiel betrifft die amerikanische Social-Networking-Plattform Parler, die häufig wegen Nutzerinhalten diskutiert wird, die rechtsextreme Beiträge, Antisemitismus und Verschwörungstheorien beinhalten. Im Januar 2021 übten drei Unternehmen einen bedeutenden Einfluss auf die Zugänglichkeit und Nutzung von Parler aus. Beide großen Anbieter mobiler Plattformen – Google und Apple – entfernten Parler aus ihren jeweiligen App-Stores für iOS und Android. Darüber schloss Amazon Parler von seinem Cloud-Hosting-Dienst Amazon Web Services (AWS) aus. Durch dieses Eingreifen von Amazon war Parler offenbar nicht in der Lage, seine Plattform weiter zu betreiben und musste offline gehen. Das Beispiel unterstreicht, dass Akteure, die verschiedene Funktionen im Zugänglichmachen von Inhalten erfüllen, Einfluss darauf haben, welche Inhalte in den Aufmerksamkreisbereich von Nutzer:innengelangen, ohne dass dies zuvor gerichtlich oder behördlich angeordnet wurde und ohne dass sie bisher als wichtige Akteure der öffentlichen Kommunikation im Rampenlicht standen.
Beide Fälle zeigen, dass bereits bestehende Mechanismen zum Schutz der gesellschaftlichen Kommunikation und ihrer wesentlichen Funktionen in Frage gestellt werden. Die Fälle könnten auf Probleme für relevante Qualitäten gesellschaftlicher Kommunikation hinweisen, die durch das derzeitige System des Kommunikationsrechts nicht abgedeckt sind. Daher müssen wir grundlegend überdenken, wie wir weiterhin sicherstellen können, dass gesellschaftlich relevante Kommunikation offen und frei erfolgt.

Um die Forschungsziele zu erreichen, entwickeln wir die Socio-Technical Ecosystem Architecture Method (STEAM), um eine ganzheitliche Sicht auf die Nachrichtenverbreitung in einem Ökosystemen zu ermöglichen. Diese Methode wird dazu beitragen, Ökosysteme und ihre Akteure und Beziehungen so darzustellen, dass sie aus regulatorischer Sicht die Grundlage für die Bewertung der Einflussmöglichkeiten der Akteure bildet. Um STEAM zu entwickeln, integrieren wir architektonisches Denken und normatives Denken innerhalb dreier Iterationen mit einem Design Science Research (DSR) Ansatz.

Das Projekt ist eines von sieben Projektkonsortien aus den Gesellschafts- und Technikwissenschaften, die von der VolkswagenStiftung mit insgesamt 9,8 Mio. Euro gefördert werden. Alle ausgewählten Vorhaben sind auf drei bis vier Jahre angelegt und erhalten jeweils rund 1,5 Mio. Euro Förderung. Weitere Informationen zu der Initiative „Künstliche Intelligenz ‒ Ihre Auswirkungen auf die Gesellschaft von morgen“ der VolkswagenStiftung finden Sie unter https://www.volkswagenstiftung.de/kuenstliche-intelligenz.

Photo by bert b on Unsplash
mehr anzeigen

Projektbeschreibung

Die Notwendigkeit einer sozio-technischen Ökosystem-Architektur-Perspektive

Neuere Forschungs- und Regulierungsansätze haben diese seismischen Verschiebungen in der Bereitstellung von Inhalten erkannt, indem sie beispielsweise Transparenz und Fairness von automatisierten Entscheidungsalgorithmen fordern oder traditionelle Regulierungskonzepte auf neuartige Akteure, insbesondere auf sogenannte Intermediäre und Plattformen, ausweiten (Schulz & Dankert 2017, Müller-Terpitz 2017, Paal 2018; vgl. die jüngste deutsche Regulierung im sogenannten "Medienstaatsvertrag", der sich derzeit im Ratifizierungsprozess befindet). Die Komplexität der Akteure und Mechanismen, die die einzelnen Medienrepertoires prägen, wird bei all diesen Ansätzen noch nicht ausreichend berücksichtigt. Viel Aufmerksamkeit wurde der "letzten Meile" gewidmet - d. h. den letzten Entscheidungspunkten, die oft von Vermittlern, z. B. durch Empfehlungssysteme, eingerichtet werden - im Fluss einer öffentlichen Information hin zum Medienrepertoire einer Person. Doch selbst die Verlagerung des Schwerpunkts vom Absender zum Empfänger in neueren Ansätzen berücksichtigt nicht, was zwischen diesen beiden Akteuren in einem komplexen soziotechnischen Ökosystem geschieht. Wie die Konfiguration dieses Ökosystems die Wahrscheinlichkeit beeinflusst, dass ein Inhalt im Medienrepertoire einer Person erscheint, bleibt eine Blackbox. Dies ist ein schwerwiegendes Versäumnis angesichts der wachsenden Vielfalt von Diensten und Plattformen, die in medienbezogenen Ökosystemen auftauchen und den Prozess der Auswahl von Medieninhalten auf bislang unerkannte Weise beeinflussen. Unser Projekt schließt diese Forschungslücke, indem es eine neue architektonische Perspektive auf diese Ökosysteme entwickelt und evaluiert. Wir argumentieren, dass eine architektonische Perspektive eine systematische Zerlegung komplexer Ökosysteme ermöglicht und Transparenz auf verschiedenen Granularitätsebenen schafft, einschließlich der Beziehungen zwischen Akteuren (z.B. Datenflüsse, Verträge, Datenschutzerklärungen), der organisationsinternen Datenverarbeitung (z.B. eingebettete Arten von KI wie maschinelles Lernen und verwandte Algorithmen, KI-Zwecke wie Profiling oder Manipulation) und der Infrastruktur (z.B. Geräte, Anwendungen, Anwendungsprogrammierschnittstellen (API)).

Wir verstehen soziotechnische Ökosysteme als "eine dynamische Gemeinschaft von konkurrierenden und voneinander abhängigen Menschen, Organisationen und Computersystemen, die in einer komplexen, unberechenbaren Umgebung operieren" (McConahy et al. 2012). Diese Ökosysteme sind durch die Offenheit, das Auftauchen und die Dynamik der Akteure und ihrer Beziehungen gekennzeichnet (Iansiti & Levien 2004). In diesem Projekt konzentrieren wir uns auf sozio-technische Ökosysteme in Medienkontexten. In diesen Ökosystemen werden Inhalte generiert, aggregiert, ausgewählt, kuratiert und priorisiert und bilden schließlich das Medienrepertoire der Nutzer. Je nach den verschiedenen Verbreitungskanälen sind unterschiedliche Akteure, Technologien und Geschäftsmodelle beteiligt. Eine erweiterte Perspektive, die sowohl über den traditionellen Fokus der Medienkonzentration als auch über die derzeitige Fixierung auf die Funktionsweise und Logik algorithmischer Empfehlungssysteme hinausgeht, ist notwendig. Die auf Informationssystemen basierende architektonische Perspektive ermöglicht den Zugang zur zunehmenden Komplexität der soziotechnischen Beziehungen in Ökosystemen.

Wir verwenden den Oberbegriff "gesellschaftliche Kommunikation" für Kommunikation, die zu den wesentlichen Funktionen beiträgt, die eine Gesellschaft benötigt (z.B. Zusammenhalt und demokratische Selbstverwaltung). Dieser Schwerpunkt ermöglicht es uns, zwei wichtige Merkmale sozio-technischer Ökosysteme für gesellschaftliche Kommunikation zu untersuchen: ihre Zusammensetzung und ihre Dynamik. Um die neue Hybridität zu erfassen, werden wir uns auf "Nachrichten"-Inhalte im weitesten Sinne konzentrieren, die ein wesentlicher Bestandteil der gesellschaftlichen Kommunikation sind. Wir werden auf dem Verständnis aufbauen, das durch den jährlichen Reuters Institute Digital News Survey entwickelt wurde: 'Nachrichten' sind Informationen über internationale, nationale, regionale/lokale oder andere aktuelle Ereignisse, die über Radio, Fernsehen, Printmedien oder online zugänglich sind (Hölig & Hasebrink 2018). Quellen können journalistische Massenmedien, aber auch andere Institutionen, Gruppen oder Einzelpersonen sein. Aufbauend auf dieser Definition können wir die Daten von Reuters auch nutzen, um die Seite der individuellen Nutzung von Nachrichten besser zu verstehen, die wir in dieser Studie nicht mit unserer eigenen Originalforschung abdecken werden. 

Unsere Methode zielt also darauf ab, gesellschaftlich relevante Belange für Nachrichten im Ökosystem - auf dem Weg von der Produktion zur Rezeption - zu identifizieren. Zukünftige Governance-Konzepte, die darauf abzielen, einen Kommunikationsprozess zu gewährleisten, der den Bedürfnissen einer Gesellschaft entspricht, müssen diese Komplexität berücksichtigen. Dieses Projekt soll einen Rahmen für diese Bemühungen schaffen.

Forschungsfragen und Auswirkungen des Projekts

Wir werden die Nachrichtenverbreitung in sozio-technischen Ökosystemen mit Hilfe eines architektonischen Blickwinkels untersuchen. Dieser Blickwinkel ermöglicht es zu verstehen, wie verschiedene Akteure und Technologien bei der Gestaltung gesellschaftlicher Kommunikation zusammenwirken. Die IT-architektonische Linse berücksichtigt also nicht nur den Ersteller von Inhalten und den Akteur der "letzten Meile", der Nachrichteninhalte an die Empfänger liefert, sondern die gesamte Konstellation von Akteuren und algorithmischen Systemen, die an der Generierung, Aggregation, Auswahl, Kuratierung und Priorisierung von Inhalten beteiligt sind. Systeme aus menschlichen, technischen und kollektiven Akteuren beeinflussen gemeinsam die gesellschaftliche Kommunikation und die Art und Weise, wie eine Entscheidung, die sich auf die Präsentation eines Inhalts auswirkt, letztendlich getroffen wird. Die Möglichkeiten der Einflussnahme der einzelnen am Entscheidungsprozess beteiligten Akteure sind jedoch sehr unterschiedlich und hängen vom Ökosystem und seinen Interdependenzen ab. Wir gehen in unserem Projekt den folgenden Hauptforschungsfragen nach:
  • Welche Akteure und damit verbundenen Elemente in Ökosystemen beeinflussen die Wahrscheinlichkeit, dass Inhalte in den Nachrichtenrepertoires von Individuen und damit in der gesellschaftlichen Kommunikation insgesamt erscheinen? Wie können wir ein solches Ökosystem so beschreiben, dass wir potenzielle Einflüsse, die als unangemessen angesehen werden können, identifizieren können?
  • Wie können wir Ökosysteme normativ - ethisch und rechtlich - hinsichtlich der Risiken für eine funktionierende gesellschaftliche Kommunikation bewerten? 
  • Wo sind erfolgversprechende Ansatzpunkte für regulatorische Impulse in sozio-technischen Ökosystemen, um als unzulässig erkannten Einflüssen von Akteuren entgegenzuwirken?
  • Wie können Mechanismen zur Sicherung und Förderung gesellschaftlicher Kommunikation angeregt werden?
Die Ergebnisse unseres Projekts haben Auswirkungen auf mehrere Gruppen von Akteuren aus unterschiedlichen Bereichen:

Erstens können Akteure aus dem juristischen Bereich wie Gesetzgeber und Regulierungsbehörden eine architektonische Sichtweise als eine Art Baukasten für politische Bestrebungen nutzen, wenn sie versuchen, mögliche Einfallstore für die frühzeitige Erkennung und Verhinderung gesellschaftlicher Bedrohungen zu finden.

Zweitens können Akteure in Ökosystemen wie App- oder Plattform-Anbieter, die direkt involviert sind, auf die von uns vorgeschlagene Architekturperspektive zurückgreifen, um ihre Zusammenarbeit ganzheitlich zu strukturieren, sowohl die technischen als auch die organisatorischen Schnittstellen zu anderen Akteuren zu optimieren und die Gesamttransformation eines Ökosystems unter Berücksichtigung der regulatorischen Rahmenbedingungen schrittweise zu gestalten und umzusetzen.

Drittens bieten wir der Zivilgesellschaft als Ganzes eine Grundlage, um die Rollen und Verantwortlichkeiten der Akteure im Ökosystem zu diskutieren und insbesondere zu beurteilen, welche Maßnahmen als angemessen oder unangemessen angesehen werden können.

Viertens bieten wir Medienforschern mit unserer neuartigen Perspektive einen neuen ganzheitlichen Ansatz zur Untersuchung zunehmend komplexer Ökosysteme. Darüber hinaus schaffen wir die Grundlagen für interdisziplinäre Kooperationsmöglichkeiten in den Bereichen Informatik, Informationssysteme, Recht und Philosophie. Diese umfassende Perspektive kann letztlich dazu beitragen, den Weg zu einem modernen Nachfolger des derzeitigen rundfunkzentrierten Ansatzes zur Verhinderung unzulässiger Einflussnahme und vorherrschender Meinungsmacht zu ebnen.

Infos zum Projekt

Überblick

Laufzeit: 2022-2026

Forschungsprogramm:
FP2 - Regelungsstrukturen und Regelbildung in digitalen Kommunikationsräumen

Drittmittelgeber

VolkswagenStiftung

Kooperationspartner

Prof. Dr. Tilo Böhmann, Prof. Dr. Ingrid Schirmer und Prof. Dr. Judith Simon (alle Fachbereich Informatik, Universität Hamburg)

Ansprechpartner

Prof. Dr. Wolfgang Schulz
Direktor (Vorsitz im Direktorium)

Prof. Dr. Wolfgang Schulz

Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI)
Rothenbaumchaussee 36
20148 Hamburg

Tel. +49 (0)40 45 02 17 0
Fax +49 (0)40 45 02 17 77

E-Mail senden

VIELLEICHT INTERESSIEREN SIE AUCH FOLGENDE THEMEN?

Newsletter

Infos über aktuelle Projekte, Veranstaltungen und Publikationen des Instituts.

NEWSLETTER ABONNIEREN!