Kommunikative KI und deliberative Qualität

Welche Auswirkungen haben Social Bots, die Large Language Models (LLMs) verwenden, auf die Qualität der politischen Diskurses? Das Projekt erforscht kommunikative KI in der sozialen Domäne des politischen Diskurses mithilfe von Diskurs-Monitoring und Diskurs-Intervention und somit mit einem weitgehend experimentellen Ansatz. Als Fallstudien dienen hierbei deutschsprachige Debatten zum Thema Klimawandel auf X, Mastodon und Bluesky.

Indem die Diskurstheorie mit den jüngsten Innovationen im Bereich der LLM kombiniert wird, soll der öffentliche politische Diskurs sowohl beobachtet als auch in ihn eingegriffen werden. Dabei wird eine Gruppe öffentlicher Sprecher*innen zum Thema Klimawandel einbezogen, die ihr Einverständnis zur Teilnahme von Bots an den von ihnen initiierten Debatten geben.

Dies ermöglicht es, die Wirksamkeit von Social Bots im politischen Diskurs genau zu untersuchen, indem Diskursverläufe mit und ohne Bot-Intervention verglichen und durch begleitende Nutzer*innenbefragungen analysiert werden. Das Projekt wird geleitet von Prof. Dr. Cornelius Puschmann und Dr. Gregor Wiedemann.

Das Gesamtprojekt

Das Projekt ist Teil des Gesamtprojekts „Kommunikative KI (ComAI) – Die Automatisierung gesellschaftlicher Kommunikation„. Die Forschungsgruppe der Deutschen Forschungsgemeinschaft (DFG) untersucht, welche Konsequenzen, Risiken, aber auch Potenziale mit dem tiefgreifenden Wandel der Medienumgebung durch kommunikative Künstliche Intelligenz (KI) verbunden sind. Neben dem HBI (Prof. Dr. Wiebke Loosen) und dem ZeMKI (Prof. Dr. Andreas Hepp), die die Forschungsgruppe koordinieren, sind die Universität Wien und die Universität Graz beteiligt.

Insgesamt neun Forschungsprojekte plus Koordinationsprojekt gehen der Frage nach, wie sich gesellschaftliche Kommunikation verändert, wenn kommunikative KI ein Teil von ihr wird. Beteiligt sind Spitzenforscher*innen aus den Bereichen Kommunikations- und Medienwissenschaft, Mensch-Computer-Interaktion, Wissenssoziologie, Governance-Forschung und Medienrecht. Gemeinsam verbindet sie das Ziel, die Transformation gesellschaftlicher Kommunikation unter dem Einfluss künstlicher Intelligenz systematisch zu analysieren, indem sie die Folgen ihres Einsatzes in unterschiedlichen sozialen Bereichen und den gesellschaftlichen Diskurs darüber erforschen.

Im Fokus der Forschung stehen gesellschaftliche Pionier*innen, die Entwicklung von Interfaces, der rechtliche Umgang als auch jener von Unternehmen mit kommunikativer KI, ihre Rolle im Journalismus, im öffentlichen (Online-)Diskurs, im persönlichen Alltag durch technologische Begleiter, im Gesundheitsbereich sowie beim Lernen und Lehren.

Für die Forschungsgruppe wird eine gemeinsam genutzte Forschungsumgebung der beteiligten Einrichtungen aufgebaut, um standortübergreifend eine gesteigerte Sichtbarkeit für die Erkenntnisse der Forschungsgruppe für Entscheidungsträger*innen in diversen Gesellschaftsbereichen herzustellen. Zentral ist hierbei die begleitende Ermittlung möglicher Zukunftsszenarien für die Verbreitung und Folgenabschätzung der Automatisierungsprozesse auf unterschiedlichen Ebenen gesellschaftlicher Kommunikation.

Teilprojekte am HBI

Neben dem Projekt „Politischer Diskurs: Kommunikative KI und deliberative Qualität“ werden zwei weitere Teilprojekte am HBI umgesetzt:

Die Verrechtlichung von kommunikativer KI: Das Projekt unter der Leitung von Prof. Dr. Wolfgang Schulz untersucht die Verrechtlichung kommunikativer KI. Der Fokus liegt auf den rechtlichen Rahmenbedingungen für kommunikative Bots (insbesondere ChatGPT) und Social Bots (insbesondere X und Facebook) – zum einen aus kommunikationsrechtlicher Sicht, zum anderen aus der Sicht sich abzeichnender KI-Regulierung.
Die Automatisierung der Nachrichten und journalistische Autonomie: Das Projekt unter der Leitung von Prof. Dr. Wiebke Loosen untersucht kommunikative KI im Journalismus durch eine Analyse der damit verbundenen Herausforderungen für journalistische Autonomie auf interaktionaler, organisationaler und gesellschaftlicher Ebene.