Das Deutsche Kinderhilfswerk hat beim HBI ein Rechtsgutachten in Auftrag gegeben, das die EU-KI-Verordnung auf ihre kinderrechtlichen Anknüpfungspunkte analysiert und erste Schritte für eine Advocacy-Strategie setzt, mit welcher die Kinderrechte besser in der Umsetzung der Verordnung berücksichtigt werden können.
Medienrechtler Dr. Stephan Dreyer arbeitet in dem Gutachten „Die KI-Verordnung, ihr Verhältnis zu Kinderrechten im digitalen Raum und Optionen für Advocacy-Zugänge“ heraus, auf welche Art und Weise die in der EU-Grundrechte-Charta verankerten Kinderrechte in der Verordnung berücksichtigt werden. Sein Gutachten benennt dabei kinderrechtliche Regulierungslücken. Es zeigt auf, wie unsichtbar die Kinderrechte in der KI-Verordnung bislang geblieben sind und warum das in der Zusammenschau mit den produktsicherheitsrechtlichen Ansätzen der Verordnung ein strukturelles Problem für die Umsetzung der kinderrechtlichen Gewährleistungen darstellt.
Hier geht es zum Gutachten.
Das Gutachten gibt einen Rahmen, der die Rolle von Kindern in einer KI-durchsetzten Welt stärken kann. NGOs sowie Institutionen können darauf zurückgreifen, um kinderrechtliche Aspekte in der KI-Regulierung besser zu berücksichtigen.
Künstliche Intelligenz in der Lebenswelt von Kindern
Spätestens seit dem Erscheinen von ChatGPT prägt künstliche Intelligenz auch den Alltag von Kindern, beispielsweise als vermeintlicher Hausaufgabenhelfer oder Gesprächspartner. „Vermeintlich“, weil mit der Nutzung auch Risiken einhergehen. So ist nicht jede durch KI erzeugte Information wahr, generierte Antworten können Vorurteile bestätigen und reagieren mitunter auch auf problematische Anfragen (Prompts). In den falschen Händen kann KI gar Missbrauchsdarstellungen erstellen, Erpressung und Betrug über soziale Medien vereinfachen oder Tipps zu selbstschädigendem Verhalten geben.
Die KI-Verordnung der EU
Am 1. August 2024 ist die europäische Verordnung über künstliche Intelligenz in Kraft getreten. Die Verordnung fußt auf einem Risiko-basierten Ansatz, welcher unterschiedliche Anforderungen für KI-Modelle stellt, je nachdem wie hoch das Risiko des Einsatzes der Technologie ist. Dabei stehen die Verpflichtungen der EU-Grundrechte-Charta im Mittelpunkt und damit verbunden auch die Rechte der Kinder.