Zu diesem Leibniz Media Lunch Talk begrüßen wir Philipp Mahlow, wissenschaftlicher Mitarbeiter am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG). Er präsentiert Zwischenergebnisse des Forschungsprojekts Human in the Loop? Autonomie und Automation in sozio-technischen Systemen und stellt zur Diskussion, ob menschliche Beteiligung Problemlösung in Automatisierungsprozessen verspricht.
Moderation: Katharina Mosene
Uhrzeit
12 bis 13 Uhr
Zum Vortrag
Das Konzept menschlicher Beteiligung in einem automatisierten Entscheidungsprozess, eines sogenannten „Human in the Loop“, wird seit langer Zeit als Garant für die Qualität dieser Prozesse verstanden. Während maschineller Lernvorgänge oder zur Beaufsichtigung in Betrieb befindlicher Systeme: Sobald ein menschlicher Akteur eingeschaltet ist, gehen wir davon aus, dass den Gefahren automatisierter Systeme begegnet ist. Doch können „Humans in the Loop“ den hohen Erwartungen gerecht werden? Oder müssen bei der Prozessplanung bestimmte Einflussfaktoren beachtet und geschaffen werden, damit sie wirksam auf den Entscheidungsprozess einwirken können? Diese Fragen beleuchtet Philipp Mahlow am Beispiel der Kreditvergabe.
Zur Person
Philipp Mahlow forscht zu juristischen Implikationen von Systemen der Künstlichen Intelligenz (KI). Er hat von 2015 bis 2020 Rechtswissenschaften in Köln studiert und 2019 die ersten Berührungspunkte mit KI-Rechtsfragen gehabt. Seit der Veröffentlichung des ersten Entwurfs der Europäischen KI-Verordnung im April 2021 untersucht er diese in unterschiedlicher Hinsicht. Er gab seinen Input zu den Gesetzgebungsverfahren der KI-Verordnung und eines etwaigen deutschen Umsetzungsgesetzes ab. Daneben arbeitet er am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) in einem Forschungsprojekt, welches Mensch-Maschinen-Interaktionen erforscht („Human in the Loop“) und promoviert an der Universität Innsbruck zu Voraussetzungen an die Erklärbarkeit von KI-Systemen.