Automatisierte Entscheidungen sind nicht immer fehlerfrei. Das liegt daran, dass sie auf Trainingsdaten beruhen, die unbeabsichtigte Vorurteile (Biases) beinhalten können oder das menschliche Kontextverständnis fehlt. So werden einzelne maschinelle Entscheidungen den individuellen Situationen von Personen häufig nicht gerecht. Ein bekanntes Beispiel ist die Kreditvergabe, bei der Banken technologische Systeme einsetzen, um die Kreditwürdigkeit von Antragsteller*innen automatisch zu bewerten. Deshalb wird schon lange gefordert, Menschen in solche Prozesse zu integrieren, damit sie die Entscheidungsprozesse überwachen und so zur Verbesserung der technologischen Systeme beitragen.
Das Projekt stellt die Fragen: Wie sollte eine sinnvolle Interaktion zwischen Mensch und Maschine gestaltet sein? Welche Rolle spielen menschliche Entscheidungen bei der Qualitätssicherung von automatisierten Entscheidungen? Wie können wir sicherstellen, dass diese Interaktion nicht nur rechtssicher, sondern auch transparent und nachvollziehbar ist? Und welche Anforderungen gelten für die Interaktion zwischen Mensch und Maschine, wenn man das technische System, die menschlichen Entscheidungsträger*innen, ihren Kontext und ihre Umwelt betrachtet?
Analyse der menschlichen Beteiligung in automatisierten Entscheidungsprozessen durch Feldanalysen, Workshops und Dialogformate in vier ausgewählten Szenarien.
Untersuchung der Faktoren, die menschliche Entscheidungen beeinflussen und Identifizierung der Fehler, Anfälligkeiten und Stärken aller an Entscheidungsprozessen beteiligten technischen Systeme und Personen.
Entwicklung praxisnaher Lösungen, um die Zusammenarbeit zwischen Mensch und Maschine zu optimieren und die Umsetzung und Interpretation bestehender Gesetzes- und Regulierungsvorhaben zu verbessern (DSGVO, AI Act und DSA).
Bild: Luís Eusébio / unsplash
(Hamburg, 12. März 2024)
Laufzeit: 2023-2027
Forschungsprogramm:
FP1 - Transformation öffentlicher Kommunikation
Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG)
Leibniz-Institut für Medienforschung │ Hans-Bredow-Institut (HBI)
Rothenbaumchaussee 36
20148 Hamburg
Tel. +49 (0)40 45 02 17 0 (Sekretariat)
E-Mail senden