„Künstliche Intelligenz sagt nicht die Zukunft voraus, sondern die Vergangenheit“, sagt Katharina Mosene, Co-Leiterin des Programmbereichs „Wissenschaftskommunikation, Agile Formate und Bibliotheksdienste“ am HBI und wissenschaftliche Mitarbeiterin am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG).
Im BredowCast erläutert Katharina Mosene, warum Künstliche Intelligenz (KI) nicht neutral ist und warum es eine intersektional-feministische Perspektive braucht, um Macht- und Ungleichheitsverhältnisse zu erkennen und ihnen entgegenzuwirken.
Zentrale Aspekte aus dem Gespräch
KI ist deswegen nicht neutral, weil sie auf historischen Daten basiert und sich hier gesellschaftliche Ausschlüsse und Diskriminierungsmuster der Vergangenheit unweigerlich technisch reproduzieren und verstärken. Zudem spiegeln diese Systeme Stereotype und Vorurteile ihrer meist männlichen und weißen Schöpfer wider.
Eine intersektional-feministische Perspektive ist notwendig, um KI als soziotechnisches Macht- und Herrschaftssystem kritisch zu analysieren. Sie macht sichtbar, dass sich Diskriminierungsdimensionen wie Gender, Race und Class nicht nur addieren, sondern wechselseitig verstärken.
Eine intersektional-feministische Perspektive setzt dem weitgehenden Status Quo homogener Entwickler*innenteams im Globalen Norden eine diverse Beteiligung entgegen. Dabei setzt sie sowohl einen aktiven Zugang als auch die Mitbestimmung betroffener und marginalisierter Communities bei der Gestaltung technologischer Architekturen von Beginn an voraus.
Welche Gelingensbedingungen müssen erfüllt sein, damit KI nicht benachteiligt?
Katharina Mosene: „Wir müssen gesellschaftlich anerkennen, dass KI mehr ist als neutrale Technologie und dass Diskriminierung in die Systeme eingeschrieben ist. Sowohl im Bereich der automatisierten Entscheidungssysteme als auch im Bereich der großen Sprachmodelle. Wir müssen anerkennen, dass hegemoniale Deutungshoheiten vorherrschen, dass diese Systeme Machtlogiken beinhalten. Und dann gilt es zu fragen, wer eigentlich Zugang zur Gestaltung dieser Systeme hat. Das ist eine uralte feministische Frage und Forderung nach Zugang für marginalisierte Gruppen, um mitbestimmen zu können, wie technologische Architekturen aussehen, wie sie sich auswirken und wer am Ende auch den Preis bezahlt.“
Verweise:
- Newsletter der NGO AlgorithmWatch: https://algorithmwatch.org/de/newsletter/
- Rainer Mühlhoff: „Künstliche Intelligenz und der neue Faschismus“ (2025) https://www.reclam.de/produktdetail/kuenstliche-intelligenz-und-der-neue-faschismus-9783150147894
- Timnit Gebru und Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence (2024) https://doi.org/10.5210/ fm.v29i4.13636
- Netzpolitik.org: Niederlande zahlen Millionenstrafe wegen Datendiskriminierung (2021) https://netzpolitik.org/2021/kindergeldaffaere-niederlande-zahlen-millionenstrafe-wegen-datendiskriminierung/
- KI-Übersetzungstool für Leichte Sprache: https://summ-ai.com/
- AI Alliance: https://thealliance.ai/
- Catherine D’Ignazio und Lauren Klein: Data Feminism (2020) https://data-feminism.mitpress.mit.edu/
- Forschungsprojekt „Human in the Loop“ am Alexander von Humboldt Institut für Internet und Gesellschaft: https://www.hiig.de/en/project/human-in-the-loop/
- Forschungsprojekt „KI und Gleichstellung“ am Alexander von Humboldt Institut für Internet und Gesellschaft: https://www.hiig.de/project/ki-und-gleichstellung/