In einem Modellversuch entwickeln die Freiwillige Selbstkontrolle Fernsehen (FSF) und die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM) unter Begleitung der Kommission für Jugendmedienschutz (KJM) Qualitätsstandards für automatisierte und KI-gestützte Bewertungssysteme. Als Mitglied der Expertenkommission „Pilotprüfung und Kriterienentwicklung“ entwickelt und erprobt Dr. Stephan Dreyer Prüf- und Anerkennungskriterien für automatisierte und KI-gestützte Bewertungssysteme im Jugendmedienschutz.
Der Modellversuch bietet die Chance, verbindliche Maßstäbe für den Einsatz von automatisierten Systemen und Prüfverfahren bei der jugendschutzrechtlichen Bewertung von Medieninhalten zu setzen und Unternehmen, die automatisierte Systeme einsetzen, Rechtssicherheit zu bieten.
Mehr Informationen über den Modellversuch finden sich hier.
Über die Expertenkommission „Pilotprüfung und Kriterienentwicklung“
Die Kriterien für die Prüfung und Anerkennung von automatisierten Systemen werden von einer Gruppe von Expertinnen und Experten aus den Bereichen KI-Technik, KI-Recht, KI-Governance in Unternehmen und FSF-Prüfpraxis entwickelt. Neben Dr. Stephan Dreyer sind Prof. Dr. Oksana Arnold (FH Erfurt) sowie Prof. Dr. Judith Simon (Uni Hamburg) Mitglieder der Kommission.
Gegenstand des Pilotverfahrens ist eine vorgelegte KI-Anwendung, die bereits bei der Identifizierung und Klassifizierung von AV-Inhalten unter Jugendschutzgesichtspunkten zum Einsatz kommt. Das System wird zum einen auf seine Eignung und damit Anerkennungsfähigkeit für die Bewertung audiovisueller Inhalte geprüft; zum anderen wird seine Einbindung in unternehmensinterne Governance- und Prüfprozesse in den Blick genommen.
Der Modellversuch erstreckt sich von Januar bis Juli 2026.