Human In The Loop? Autonomie und Automation in sozio-technischen Systemen

Das Forschungsprojekt Human in the Loop? untersucht, wie menschliche Beteiligung automatisierte Entscheidungsprozesse verbessern kann.

Automatisierte Entscheidungen sind nicht immer fehlerfrei. Das liegt daran, dass sie auf Trainingsdaten beruhen, die unbeabsichtigte Vorurteile (Biases) beinhalten können oder das menschliche Kontextverständnis fehlt. So werden einzelne maschinelle Entscheidungen den individuellen Situationen von Personen häufig nicht gerecht. Ein bekanntes Beispiel ist die Kreditvergabe, bei der Banken technologische Systeme einsetzen, um die Kreditwürdigkeit von Antragsteller*innen automatisch zu bewerten. Deshalb wird schon lange gefordert, Menschen in solche Prozesse zu integrieren, damit sie die Entscheidungsprozesse überwachen und so zur Verbesserung der technologischen Systeme beitragen.

Das Projekt stellt die Fragen: Wie sollte eine sinnvolle Interaktion zwischen Mensch und Maschine gestaltet sein? Welche Rolle spielen menschliche Entscheidungen bei der Qualitätssicherung von automatisierten Entscheidungen? Wie können wir sicherstellen, dass diese Interaktion nicht nur rechtssicher, sondern auch transparent und nachvollziehbar ist? Und welche Anforderungen gelten für die Interaktion zwischen Mensch und Maschine, wenn man das technische System, die menschlichen Entscheidungsträger*innen, ihren Kontext und ihre Umwelt betrachtet?

Projektschwerpunkte und Transfer

Vier Fallstudien

Analyse der menschlichen Beteiligung in automatisierten Entscheidungsprozessen durch Feldanalysen, Workshops und Dialogformate in vier ausgewählten Szenarien.

Einflussfaktoren-Taxonomie

Untersuchung der Faktoren, die menschliche Entscheidungen beeinflussen und Identifizierung der Fehler, Anfälligkeiten und Stärken aller an Entscheidungsprozessen beteiligten technischen Systeme und Personen.

Handlungsempfehlungen

Entwicklung praxisnaher Lösungen, um die Zusammenarbeit zwischen Mensch und Maschine zu optimieren und die Umsetzung und Interpretation bestehender Gesetzes- und Regulierungsvorhaben zu verbessern (Datenschutzgrundverordnung, Artifical Intelligence Act und Digital Services Act).

Bild von Luís Eusébio auf unsplash.com

Projektdetails

Überblick

Laufzeit Beginn: 2023; Laufzeit Ende: 2027

Forschungsprogramm: FP 1 Transformation öffentlicher Kommunikation

Drittmittelgeber

Stiftung Mercator

Ansprechpartner

Portrait Wolfgang Schulz

Prof. Dr. Wolfgang Schulz

Wissenschaftlicher Direktor (Vorstandsvorsitzender)

Wir sind nicht mehr in der Rothenbaumchaussee 36, sondern vorübergehend unter folgender Postadresse zu erreichen:

Leibniz-Institut für Medienforschung | Hans-Bredow-Institut
c/o betahaus | Gänsemarkt
Gänsemarkt 43
20354 Hamburg

Ähnliche Projekte & Publikationen

Cover des Buchs "Recht der Digitalisierung"
Publikation Als Open Access verfügbar

Recht der Digitalisierung

Kann den zentralen Herausforderungen der Digitalisierung mit Recht begegnet werden? Die Beiträge in dem von Prof. Dr. Matthias C. Kettemann herausgegebenen Band zeigen, welche neuen Rechtsgebiete von Bedeutung sind, wie KI reguliert werden kann, welche Rolle digitale Dienste haben und wie gute Technologiepolitik und sinnvolles Innovationsrecht aussieht.

Screenshot der ersten "Seite" des Artikels auf dem Verfassungsblog
Publikation Beitrag auf Verfassungsblog

Zur Durchsetzung des DSA durch die EU-Kommission

Die problematische Rolle der Europäischen Kommission bei der Durchsetzung des Digital Services Act (DSA) sowie mögliche Alternativen stehen im Zentrum eines englischsprachigen Blogbeitrags, den Jan-Ole Harfst, Dr. Tobias Mast und Prof. Dr. Wolfgang Schulz am 16. Juli 2025 auf dem Verfassungblog veröffentlicht haben.

Cover des Papers aus der Reihe Working Papers des Rates für Sozial- und Wirtschaftsdaten (RatSWD)
Publikation Frisch veröffentlicht

Community-Datentreuhand für sensible Daten

Jan Rau, Moritz Fürneisen und Gregor Wiedemann haben das Konzept einer Community-Datentreuhand mitentwickelt, um eine gemeinsame Erstellung und Nutzung sensitiver Daten in der Kommunikationswissenschaft zu erleichtern. Am Beispiel der Forschung rechtsextremer Onlinekommunikation zeigen sie, wie eine Community-Datentreuhand aufgebaut sein kann. 

Cover of the journal UFITA
Publikation Soeben erschienen

Zum Public Value öffentlich-rechtlicher Medien

"Was können Ergebnisse der Publikumsforschung über den Public Value öffentlich-rechtlicher Medien aussagen?" haben sich Uwe Hasebrink und Jan-Hinrik Schmidt gefragt und ihre Überlegungen in Heft 2/2024 in der Zeitschrift UFITA veröffentlicht.

Cover der Zeitschrift New Media & Society
Publikation Zum Download

Persönliche Einstellungen bei der politischen Informationssuche

Lisa Merten hat mit fünf Ko-Autor*innen erforscht, wie sich Persönlichkeitsmerkmale und -einstellungen auf die politische Informationssuche auswirken. Der englischsprachige Artikel ist nun open access in der Zeitschrift New Media & Society erschienen.

Cover des Arbeitspapiers
Publikation Arbeitspapier zum Download

Fertilität und Ethik in der Onkologie

Für Krebspatient*innen mit Kinderwunsch sind mediale Angebote wie Webseiten, Gesundheitsportale und Soziale Medien neben Ärzt*innen wichtige Informationsquellen. Welche Inhalte Krebspatient*innen zum Fertilitätserhalt begegnen und welche ethischen sowie medizinischen Fragen dabei adressiert werden, haben Claudia Lampert und Christina Leppin untersucht.

Cover der Broschüre zum 75. Geburtstag
Publikation Broschüre zum Download

Facetten aus 75 Jahren Hans-Bredow-Institut

Mit einer Broschüre werfen wir einen Blick auf die Entwicklung des Instituts seit 1950. Wir haben dabei nicht den Anspruch, eine lückenlose Geschichte nachzuzeichnen, sondern möchten einige Schlaglichter auf Besonderheiten des Instituts werfen, festgemacht an Zeitpunkten in der Vergangenheit, an denen diese Besonderheiten besonders in Erscheinung traten.

Cover des Arbeitspapiers "Für den Reuters Institute Digital News Report 2024 zur Nachrichtennutzung im internationalen Vergleich wurden zeitgleich Befragungen in 47 Ländern realisiert, um generelle Trends, aber auch nationale Besonderheiten erkennen zu können. Das HBI ist verantwortlich für die deutsche Teilstudie; es wird dabei von den Landesmedienanstalten und dem ZDF unterstützt. Cover des Arbeitspapiers "Reuters Report 2025"
Publikation Nachrichtennutzung im internationalen Vergleich

Reuters Institute Digital News Report 2025 – Ergebnisse für Deutschland

Für den Reuters Institute Digital News Report 2025 zur Nachrichtennutzung im internationalen Vergleich wurden zeitgleich Befragungen in 48 Ländern realisiert, um generelle Trends, aber auch nationale Besonderheiten erkennen zu können. Das HBI hat die Ergebnisse für Deutschland erarbeitet.

Cover von Heft 2/2025 M&K
Publikation Frisch erschienen

M&K 2/2025 Themenheft „Medienstrukturen revisited“

Heft 2/2025 "Medien & Kommunikationswissenschaft" ist als Themenheft "Medienstrukturen revisited" erschienen, herausgegeben von Josef Seethaler, Marlis Prinzing, Petra Herczeg und Mark Eisenegger. Das gesamte Heft ist open access über die Nomos-eLibrary zugänglich.

Cover des Beitrags aus Media Perspektiven 12/2025
Publikation Beitrag in Media Perspektiven

Öffentlich-Rechtliche im Nachrichtenrepertoire

Auf Basis der für Deutschland erhobenen Daten des Reuters Institute Digital News Surveys für 2018 bis 2024 haben Dr. Sascha Hölig, Hannah Immler und Nina Nevermann untersucht, wie sich die Verteilung von Nachrichtenrepertoires von Onlinern in diesem Zeitraum entwickelt hat.

1 2 3 18

Seite 1 von 18

Newsletter

Infos über aktuelle Projekte, Veranstaltungen und Publikationen des Instituts.

Jetzt abonnieren