Die Verrechtlichung kommunikativer KI

Unter welchen rechtlichen Rahmenbedingungen agieren kommunikative Bots (insbesondere ChatGPT) und Social Bots (insbesondere X und Facebook) zum einen aus kommunikationsrechtlicher Sicht, zum anderen aus der Sicht sich abzeichnender KI-Regulierung? Das Projekt im Rahmen der DFG-Forschungsgruppe „Kommunikative KI (ComAI) – Die Automatisierung gesellschaftlicher Kommunikation“ untersucht die Verrechtlichung kommunikativer KI.

Das Projekt unter der Leitung von Prof. Dr. Wolfgang Schulz stellt die Rechtslage in Deutschland in den Mittelpunkt und rekonstruiert medienrechtliche Grundbegriffe wie „Persönlichkeit“, „Meinung“ und „Äußerung“. Das Projekt befasst sich auch mit der aktuellen und bald in Kraft tretenden EU-Gesetzgebung – namentlich dem „AI Act“ –, um die Konstruktionen einzubeziehen, die der Regulierung von kommunikativer KI zugrunde liegen.

Außerdem wird ein funktionaler Vergleich mit britischen, österreichischen und US-amerikanischen Rechtskontexten geleistet, um weitere Ansätze zur laufenden Verrechtlichung kommunikativer KI in die Analyse einzubeziehen. Im Mittelpunkt stehen die Fragen, inwieweit rechtliche Definitionen und Konzepte die soziomaterielle Konstitution von kommunikativer KI prägen und welche Elemente und Verbindungen hybrider Figurationen rechtlich bedeutsam sind. Auf diese Weise adressiert das Projekt die Herausforderungen hybrider Agency aus juristischer Perspektive.

Das Gesamtprojekt

Das Projekt ist Teil des Gesamtprojekts „Kommunikative KI (ComAI) – Die Automatisierung gesellschaftlicher Kommunikation„. Die Forschungsgruppe der Deutschen Forschungsgemeinschaft (DFG) untersucht, welche Konsequenzen, Risiken, aber auch Potenziale mit dem tiefgreifenden Wandel der Medienumgebung durch kommunikative Künstliche Intelligenz (KI) verbunden sind. Neben dem HBI (Prof. Dr. Wiebke Loosen) und dem ZeMKI (Prof. Dr. Andreas Hepp), die die Forschungsgruppe koordinieren, sind die Universität Wien und die Universität Graz beteiligt.

Insgesamt neun Forschungsprojekte plus Koordinationsprojekt gehen der Frage nach, wie sich gesellschaftliche Kommunikation verändert, wenn kommunikative KI ein Teil von ihr wird. Beteiligt sind Spitzenforscher*innen aus den Bereichen Kommunikations- und Medienwissenschaft, Mensch-Computer-Interaktion, Wissenssoziologie, Governance-Forschung und Medienrecht. Gemeinsam verbindet sie das Ziel, die Transformation gesellschaftlicher Kommunikation unter dem Einfluss künstlicher Intelligenz systematisch zu analysieren, indem sie die Folgen ihres Einsatzes in unterschiedlichen sozialen Bereichen und den gesellschaftlichen Diskurs darüber erforschen.

Im Fokus der Forschung stehen gesellschaftliche Pionier*innen, die Entwicklung von Interfaces, der rechtliche Umgang als auch jener von Unternehmen mit kommunikativer KI, ihre Rolle im Journalismus, im öffentlichen (Online-)Diskurs, im persönlichen Alltag durch technologische Begleiter, im Gesundheitsbereich sowie beim Lernen und Lehren.

Für die Forschungsgruppe wird unter ComAI.space eine gemeinsam genutzte Forschungsumgebung der beteiligten Einrichtungen aufgebaut, um standortübergreifend eine gesteigerte Sichtbarkeit für die Erkenntnisse der Forschungsgruppe für Entscheidungsträger*innen in diversen Gesellschaftsbereichen herzustellen. Zentral ist hierbei die begleitende Ermittlung möglicher Zukunftsszenarien für die Verbreitung und Folgenabschätzung der Automatisierungsprozesse auf unterschiedlichen Ebenen gesellschaftlicher Kommunikation.

Teilprojekte am HBI

Neben dem Projekt „Die Verrechtlichung von kommunikativer KI“ werden zwei weitere Teilprojekte am HBI umgesetzt:

Journalismus: Die Automatisierung der Nachrichten und journalistische Autonomie: Das Projekt unter der Leitung von Prof. Dr. Wiebke Loosen untersucht kommunikative KI im Journalismus durch eine Analyse der damit verbundenen Herausforderungen für journalistische Autonomie auf interaktionaler, organisationaler und gesellschaftlicher Ebene.
Politischer Diskurs: Kommunikative KI und deliberative Qualität:Das Projekt unter der Leitung von Prof. Dr. Cornelius Puschmann und Dr. Gregor Wiedemann erforscht kommunikative KI in der sozialen Domäne des politischen Diskurses mithilfe von Diskurs-Monitoring und Diskurs-Intervention. Mit einem weitgehend experimentellen Ansatz werden die Auswirkungen von Social Bots, die Large Language Models (LLMs) verwenden, auf die Qualität der Deliberation untersucht. Als Fallstudien dienen hierbei deutschsprachige Debatten zum Thema Klimawandel auf X, Mastodon und Bluesky.