Neue DFG-Forschungsgruppe zur Automatisierung gesellschaftlicher Kommunikation

Hamburg, 05.07.2024. Das HBI und das Zentrum für Medien-, Kommunikations- und Informationsforschung (ZeMKI) der Universität Bremen haben gemeinsam mit weiteren Forschungseinrichtungen in Graz und Wien erfolgreich eine Forschungsgruppe bei der Deutschen Forschungsgemeinschaft (DFG) zum Thema „Kommunikative Künstliche Intelligenz“ eingeworben.

Die Forschungsgruppe wird untersuchen, welche Konsequenzen, Risiken, aber auch Potenziale mit dem tiefgreifenden Wandel der Medienumgebung durch kommunikative KI verbunden sind.

Sprachassistenten, die unsere Befehle entgegennehmen, Social Bots, die Debatten beeinflussen, und Maschinen, die Texte generieren — all diese Beispiele stehen für Formen der Automatisierung von Kommunikation. Auch die öffentliche Diskussion zu derartigen Phänomenen verdeutlicht, wie sehr die Automatisierung von Kommunikation voranschreitet — und gleichzeitig als Herausforderung wahrgenommen wird. Die gegenwärtige Gesellschaft scheint ihre Kommunikation nur mit Hilfe von Automatisierung bewältigen zu können, was wiederum Bedarfe erzeugt, für die automatisierte Kommunikation die Lösung zu sein scheint.

Neun Forschungsprojekte plus Koordinationsprojekt – sechs davon in Bremen – gehen der Frage nach, wie sich gesellschaftliche Kommunikation verändert, wenn kommunikative KI ein Teil von ihr wird. Koordiniert wird die Forschungsgruppe vom ZeMKI (Prof. Dr. Andreas Hepp) und dem HBI (Prof. Dr. Wiebke Loosen). Beteiligt sind Spitzenforscher:innen aus den Bereichen Kommunikations- und Medienwissenschaft, Mensch-Computer-Interaktion, Wissenssoziologie, Governance-Forschung und Medienrecht. Gemeinsam verbindet sie das Ziel, die Transformation gesellschaftlicher Kommunikation unter dem Einfluss künstlicher Intelligenz systematisch zu analysieren, indem sie die Folgen ihres Einsatzes in unterschiedlichen sozialen Bereichen und den gesellschaftlichen Diskurs darüber erforschen.

Im Fokus der Forschung stehen gesellschaftliche Pionier*innen, die Entwicklung von Interfaces, der rechtliche Umgang als auch jener von Unternehmen mit kommunikativer KI, ihre Rolle im Journalismus, im öffentlichen (Online-)Diskurs, im persönlichen Alltag durch technologische Begleiter, im Gesundheitsbereich sowie beim Lernen und Lehren.

Für die Forschungsgruppe wird eine gemeinsam genutzte Forschungsumgebung der beteiligten Einrichtungen aufgebaut, um standortübergreifend eine gesteigerte Sichtbarkeit für die Erkenntnisse der Forschungsgruppe für Entscheidungsträger*innen in diversen Gesellschaftsbereichen herzustellen. Zentral ist hierbei die begleitende Ermittlung möglicher Zukunftsszenarien für die Verbreitung und Folgenabschätzung der Automatisierungsprozesse auf unterschiedlichen Ebenen gesellschaftlicher Kommunikation.

Prof. Dr. Andreas Hepp, Sprecher des ZeMKI an der Universität Bremen und designierter Ko-Sprecher der Forschungsgruppe „ComAI“, betont die weitreichende Bedeutung von Grundlagenforschung für die aktuelle Verbreitung kommunikativer KI auf allen gesellschaftlichen Ebenen: „Durch die beschleunigte Verbreitung von kommunikativer KI und den damit verbundenen gesellschaftlichen Risiken und (Re-)Produktionen von Ungleichheit ist eine kritische Auseinandersetzung mit ihr dringend angezeigt. Nur so können wir dazu beitragen zu verstehen, ob automatisierte Kommunikation den aktuellen gesellschaftlichen Herausforderungen gerecht wird. Wir als international etablierte interdisziplinäre Forschergruppe verfügen über die kollektive Forschungserfahrung, den notwendigen Feldzugang und die methodische Kompetenz dazu.“

Die DFG fördert die Forschungsgruppe „Kommunikative KI: Die Automatisierung der gesellschaftlichen Kommunikation“ in einer ersten Förderphase für die Jahre 2025 bis 2028. Beteiligte Forscher:innen sind neben Prof. Dr. Andreas Hepp (ZeMKI, Universität Bremen) und Prof. Dr. Wiebke Loosen (HBI) Prof. Dr. Rainer Malaka (TZI, Universität Bremen), Prof. Dr. Wolfgang Schulz (HBI), Prof. Dr. Christian Katzenbach (ZeMKI), Prof. Dr. Cornelius Puschmann (ZeMKI), Dr. Gregor Wiedemann (HBI), Prof. Dr. Michaela Pfadenhauer (Universität Wien), Prof. Dr. Juliane Jarke (Universität Graz) und Prof. Dr. Andreas Breiter (ifib/ZeMKI).

Projektüberblick

Pioniergemeinschaften: Imaginationen kommunikativer KI und ihre möglichen Zukünfte (Prof. Dr. Andreas Hepp)

Am Beispiel der historischen Entwicklungen an der Stanford University und am MIT sowie der heutigen Entwicklungen bei OpenAI (GPT-4) und Aleph Alpha (Luminous) erforscht das Projekt die Rolle von Pioniergemeinschaften bei der soziomateriellen Konstitution von kommunikativer KI.

Als Pioniergemeinschaften werden Gruppen verstanden, die durch ihre Imaginationen und experimentellen Praktiken „soziale Horizonte“ zukünftiger Entwicklungen von kommunikativer KI schaffen. Das Projekt kombiniert eine historische Perspektive auf frühere Pioniergemeinschaften und technische Bewegungen mit einer Perspektive auf aktuelle Einflüsse und einer Perspektive auf den Beitrag von gegenwärtigen Pioniergemeinschaften zur Verbreitung von kommunikativer KI.

Die Analyse wird von vier Forschungsfragen geleitet:

1. Wie haben technische Bewegungen und Pioniergemeinschaften die heutige kommunikative KI präfiguriert?
2. Was kennzeichnet ihre Imaginationen von kommunikativer KI und ihren Einfluss auf aktuelle Entwicklungen kommunikativer KI?
3. In welcher Weise tragen die Pioniergemeinschaften zur Verbreitung von kommunikativer KI bei?
4. Welche Rolle spielen Pioniergemeinschaften bei der soziomateriellen Konstitution von kommunikativer KI?

Um diese Forschungsfragen zu beantworten, verwendet das Projekt ein Mehrmethodendesign, das historische Quellen, Mediendiskurse, Interviews, Beobachtungen und Online-Netzwerke in Deutschland, Großbritannien und den USA analysiert.

Interfaces: Implementierung von nutzerzentrierter kommunikativer KI (Prof. Dr. Rainer Malaka)

Mit der zunehmenden Verbreitung von Large Language Models (LLMs) und ihrer Anpassung an die Mensch-Computer-Kommunikation auf der Grundlage von menschlichem Feedback, erwarten Nutzende mehr und mehr auch eine menschenähnliche Interaktion mit kommunikativer KI. Die speziell für die Mensch-Computer-Kommunikation entwickelten Modelle haben jedoch vor allem zwei Probleme:

1. Zum einen stützen sie sich nur auf die Daten, mit denen sie trainiert wurden, die oft verzerrt und unzureichend sind.
2. Zum anderen sind sie nur darauf ausgelegt, Texte und Antworten zu produzieren, aber es gibt keine Validierung der Gültigkeit der generierten Ausgaben während des Trainings.

Es ist daher bedeutsam, dass Nutzende von kommunikativer KI wissen und dass solche Probleme ein Merkmal von LLMs sind, was bei der Implementierung und beim Design beachtet werden muss. Das Interface ist wichtig, um Nutzenden zu helfen, problematische Informationen zu identifizieren und die Qualität und Zuverlässigkeit der Datenquellen zu beurteilen.

Vor diesem Hintergrund untersucht das Projekt am Beispiel von kommunikativen Bots die Gestaltung und Implementierung von Interfaces kommunikativer KI als einer Dimension ihrer soziomateriellen Konstitution. Untersucht werden die sprachlichen und paralinguistischen Merkmale von Interfaces sowie welche Implementierungsmerkmale des Designs Nutzende auf welche Art beeinflussen.

Die Verrechtlichung von kommunikativer KI (Prof. Dr. Wolfgang Schulz)

Das Projekt untersucht die Verrechtlichung kommunikativer KI. Der Fokus liegt auf den rechtlichen Rahmenbedingungen für kommunikative Bots (insbesondere ChatGPT) und Social Bots (insbesondere X/Twitter und Facebook) – zum einen aus kommunikationsrechtlicher Sicht, zum anderen aus der Sicht sich abzeichnender KI-Regulierung.

Das Projekt stellt die Rechtslage in Deutschland in den Mittelpunkt und rekonstruiert medienrechtliche Grundbegriffe wie „Persönlichkeit“, „Meinung“ und „Äußerung“. Das Projekt befasst sich auch mit der aktuellen und bald in Kraft tretenden EU-Gesetzgebung – namentlich dem „AI Act“ –, um die Konstruktionen einzubeziehen, die der Regulierung von kommunikativer KI zugrunde liegen. Außerdem wird funktionaler Vergleich mit britischen, österreichischen und US-amerikanischen Rechtskontexten geleistet, um weitere Ansätze zur laufenden Verrechtlichung kommunikativer KI in die Analyse einzubeziehen. Im Mittelpunkt stehen die Fragen, inwieweit rechtliche Definitionen und Konzepte die soziomaterielle Konstitution von kommunikativer KI prägen und welche Elemente und Verbindungen hybrider Figurationen rechtlich bedeutsam sind. Auf diese Weise adressiert das Projekt die Herausforderungen hybrider Agency aus juristischer Perspektive.

Das „Private Ordering“ kommunikativer KI durch Unternehmenskommunikation und Unternehmensregeln (Prof. Dr. Christian Katzenbach)

Das Projekt untersucht „Private Ordering“, also die Rechtsetzung durch private Akteure, als eine Dimension der soziomateriellen Konstitution kommunikativer KI durch Unternehmenskommunikation und -regeln. Dies geschieht vor dem Hintergrund öffentlicher Kontroversen und mit Fokus auf Deutschland, Großbritannien und die USA.

Um zu verstehen, wie sich kommunikative KI herausbildet und etabliert, nimmt das Projekt die Unternehmensperspektive ein. Untersucht wird, wie Unternehmen wie Alphabet, Amazon und OpenAI in ihrer Kommunikation und ihren Nutzungsregeln für ihre Produkte dazu beitragen, was als Produkte kommunikativer KI gilt und wie sie reguliert werden.

Die Analyse erfolgt mit Blick auf die folgenden Fragen:

• Wie wird kommunikative KI und ihre normative Dimension in öffentlichen Kontroversen dargestellt und politisiert?
• Wie positionieren Unternehmen kommunikative KI als Produkt?
• Wie sehen die Richtlinien und Nutzungsbedingungen aus, die Unternehmen für die Nutzung ihrer Produkte formulieren und durchsetzen?
• Welche Rolle spielt „Private Ordering“für die soziomaterielle Konstitution kommunikativer KI?
• Und wie wird hierbei Agency von kommunikativer KI verhandelt und zugeschrieben?

Diese Fragen werden anhand von vier kommunikativen Bots und Artificial Companions (Alphabets Bart und OpenAIs ChatGPT, Amazons Alexa plus einen weiteren, noch zu bestimmenden Fall) untersucht.

Das Projekt arbeitet mit qualitativen und quantitativen (computergestützten) Inhaltsanalysen von öffentlichem Material sowie mit Interviews mit Unternehmensvertreter*innen.

Journalismus: Die Automatisierung der Nachrichten und journalistische Autonomie (Prof. Dr. Wiebke Loosen)

Das Projekt untersucht kommunikative KI im Journalismus durch eine Analyse der damit verbundenen Herausforderungen für journalistische Autonomie auf interaktionaler, organisationaler und gesellschaftlicher Ebene.

Die Forschung basiert auf der Annahme, dass Mensch/Maschine-Beziehungen und gesellschaftliche Kommunikation im Journalismus in einem besonderen Wechselverhältnis stehen und dass dies auch für journalistische Selbstreflexion und Formen der Aneignung von kommunikativer KI im Journalismus relevant ist. Das Projekt ist von vier Fragen geleitet:

1. Wie interagieren Journalist:innen und andere professionelle Akteure im Journalismus mit kommunikativer KI und wie konstruieren sie dabei Agency?
2. Welche Muster der Einbettung von kommunikativer KI in journalistischen Organisationen lassen sich identifizieren und welche Formen hybrider Agency ergeben sich hieraus?
3. Wie verhält sich kommunikative KI zu Konzeptionen von Nachrichten und Objektivität, journalistischen Rollen und Publikumsbeziehungen und welche Imaginationen zukünftiger Entwicklungen von kommunikativer KI im Journalismus lassen sich ausmachen?
4. In welcher Weise fordert der Einsatz von kommunikativer KI im Journalismus journalistische Autonomie heraus?

Bearbeitet werden diese Fragen mit Hilfe eines Mehrmethodendesigns, das aus Ethnographien in verschiedenen Typen von Medienorganisationen in Deutschland, Österreich und Großbritannien sowie aus Interviews, Gruppendiskussionen und Ethnographien auf Events besteht.

Politischer Diskurs: Kommunikative KI und deliberative Qualität (Prof. Dr. Cornelius Puschmann und Dr. Gregor Wiedemann)

Debatten im Internet werden aufgrund ihrer Schnelligkeit, ihres Umfangs und ihrer Zugänglichkeit als wichtig für den politischen Diskurs über grundlegende gesellschaftliche Herausforderungen angesehen. Gleichzeitig sind Debatten auf Social-Media-Plattformen oft polarisiert und durch Probleme wie Hassrede, Inzivilität, mangelnde Sachlichkeit und Einseitigkeit der Argumente gekennzeichnet.

In dem Projekt wird kommunikative KI in der sozialen Domäne des politischen Diskurses mit Hilfe von Diskurs-Monitoring und Diskurs-Intervention erforscht. Mit einem weitgehend experimentellen Ansatz werden die Auswirkungen von Social Bots, die Large Language Models (LLMs) verwenden, auf die Qualität der Deliberation untersucht.

Als Fallstudien dienen hierbei deutschsprachige Debatten zum Thema Klimawandel auf Twitter/X, Mastodon und Bluesky. Indem wir die Diskurstheorie mit den jüngsten Innovationen im Bereich der LLM kombinieren, werden wir den öffentlichen politischen Diskurs sowohl beobachten als auch in ihn eingreifen. Wir werden eine Gruppe öffentlicher Sprecher*innen zum Thema Klimawandel einbeziehen, die ihr Einverständnis zur Teilnahme von Bots an den von ihnen initiierten Debatten geben.

Dies ermöglicht es uns, genau zu untersuchen, wie Social Bots im politischen Diskurs wirksam werden, indem wir Diskursverläufe mit und ohne Bot-Intervention vergleichen und durch begleitende Nutzer:innenbefragungen analysieren.

Persönlicher Alltag: Begleitung und kommunikative KI (Prof. Dr. Michaela Pfadenhauer)

Das Projekt untersucht Begleitungs-Apps (z. B. Replika, Nomi, Paradot) im Bereich des persönlichen Alltags. Die zunehmende Verbreitung derartiger Begleitungs-Apps steht in einer reflexiven Beziehung zur Ausbreitung von Begleitungsangeboten in der Gesellschaft. Da diese Apps auf professionelle Expertise aus Beratungsbereichen zurückgreifen, erforscht das Projekt diese Art der „künstlichen Begleitung“ im Hinblick auf bereits existierende Begleitungsangebote.

Mit Trauer- und Alltagsbewältigung vergleichen wir zwei Varianten der Begleitung im persönlichen Alltag, die sich im Hinblick auf ihr jeweiliges Maß an Intervention unterscheiden. Begleitung wird als kommunikative Form analysiert, die eine idealerweise annähernd gleichberechtigte, aber dennoch asymmetrische Beziehung konstituiert. Als kommunikative Form wird sie durch einen Austausch von narrativen Episoden realisiert und bildet sich damit situationsübergreifend aus. Begleitung stellt als kommunikative nicht nur eine persönliche, sondern auch eine Form gesellschaftlicher Kommunikation dar.

Untersucht wird diese Form von Begleitung mit Diskurs- und Gattungsanalysen, dabei entstehende Agencymit Hilfe (digitaler) Ethnographie. Vier Forschungsfragen sind dabei leitend:

1. Wie wird Begleitung diskursiv konstruiert?
2. In welcher Weise konstituieren narrative Episoden Begleitung als kommunikative Form?
3. Wie strukturieren Begleitungs-Apps die Begleitungsbeziehung im Hinblick auf Agency?
4. Wie lässt sich die Aneignung von kommunikativer KI im Hinblick auf die Herausforderung von Begleitung im Alltag theoretisieren?

Gesundheit: Sorgearbeit durch kommunikative KI (Prof. Dr. Juliane Jarke)

Kommunikative KI wird zunehmend als Lösung für den Pflegebedarf einer immer älter werdenden Bevölkerung betrachtet und u. a. als Unterstützung für „gesundes Altern“ propagiert. Dies geschieht oft in einem alarmierenden Diskurs über den demografischen Wandel, indem zum Beispiel vor der Überlastung von Gesundheitssystemen und dem Mangel an Pflegekräften gewarnt wird.

In diesem Kontext prägen auch Technologieunternehmen und politische Entscheidungsträger*innen Erwartungshaltungen, welche Aufgaben kommunikative KI übernehmen kann und soll. Hierzu zählen etwa die Bereitstellung von Gesundheitsinformationen, die Erleichterung des Zugangs älterer Menschen zur Gesundheitsversorgung und die alltägliche Unterstützung zur Förderung eines gesunden Lebensstils.

Das Projekt erforscht die Entstehung und Konstruktion hybrider Figurationen der Gesundheitsversorge mithilfe digitaler Methoden und qualitativer Fallstudien in Österreich, Deutschland, Großbritannien und den USA. Das Projekt zielt auf die Rekonstruktion ab, wie sich Sorgearbeit professioneller Pflegekräfte und Angehöriger durch kommunikative KI verändert. Untersucht wird, wie sich verschiedene Gruppen älterer Menschen kommunikative KI aneignen und wie dadurch ihr Altern geprägt wird. Dies trägt zu den Forschungszielen der Forschungsgruppe bei, Muster der Aneignung in sozialen Domänen zu typisieren und neue Formen hybrider Agency zu erfassen.

Bildung: Kommunikative KI für Lernen und Lehren (Prof. Dr. Andreas Breiter)

In der Bildung und insbesondere in Hochschulen werden digitale Technologien schon seit langem zur Verbesserung von Lernen und Lehren und für administrative Prozesse eingesetzt. Gleichzeitig werden in jüngster Zeit GPT-4 und andere LLMs in der Medienberichterstattung und in der Politik als „Game Changer“ für die Hochschulbildung angesehen. Dies konfrontiert Hochschulen mit weitreichenden gesellschaftlichen Erwartungen und rechtlichen Rahmungen, die Chancen und Risiken kommunikativer KI in der Bildung betreffen.

Vor diesem Hintergrund behandelt das Projekt die Herausforderungen, die sich für das Lernen und Lehren durch die Aneignung von kommunikativer KI ergiben, und nimmt dabei auch die Rolle der damit verbundenen Verwaltungsprozesse in den Blick. Untersucht wird, wie Hochschulen technologische Veränderungen und Anforderungen aus dem gesellschaftlichen Diskurs aufgreifen und dabei gleichzeitig versuchen, die Ungleichheiten zu adressieren, die kommunikativer KI immanent sind. Hierbei stellt sich die Frage, wie kommunikative KI in einen dauerhaften Betrieb und damit in die IT-Governance von Hochschulen integriert werden kann.

Für die Forschung in dem Projekt werden an fünf deutschen Hochschulen verschiedene Gruppendiskussionen durchgeführt. Daneben werden bundesweite Befragungen von Studierenden ausgewertet und Analysen von Datenflüssen, Softwarearchitekturen und Serviceprozessen erstellt.

Um die Dynamik der Aneignung von kommunikativer KI und die Herausforderung für das Lernen und Lehren zu verstehen, wird die Forschung mit weiteren Fokusgruppen-Interviews an drei US-amerikanischen Universitäten kontextualisiert sowie mit einer landesweiten Befragung von Studierenden in den USA, wo kommunikative KI bereits in größerem Umfang eingesetzt wird.

Kontakt

Prof. Dr. Andreas Hepp
ZeMKI, Zentrum für Medien-, Kommunikations- und Informationsforschung
Universität Bremen
Tel: +49 421 218-67620
Sekretariat (Frau Schmidt): +49 421 218-67606
E-Mail: andreas.hepp@uni-bremen.de

Foto von Igor Omilaev auf Unsplash