Generative KI wird zunehmend in Suchmaschinen integriert, steht jedoch wegen plausibel klingender, aber teils ungenauer Inhalte in der Kritik. Über die Faktoren, die Nutzer*innen zur Überprüfung solcher Antworten bewegen, ist bislang wenig bekannt. Die englischsprachige Studie „Determinants of verification behavior in generative search: Evidence from a conjoint experiment“ von Eva-Luise Knor, Dr. Michael V. Reiss, Prof. Dr. Judith Möller und Dr. Lisa Merten schließt diese Lücke und untersucht, basierend auf politischen Suchanfragen zu den Europawahlen 2024, Überprüfungsabsichten der Nutzenden.
Hier geht es zum Artikel.
Abstract
Generative AI is increasingly integrated into search engines but is often criticized for generating plausible yet inaccurate content, delivered with authoritative language. Although developers encourage users to verify responses, little is known about the factors influencing this decision. This study addresses this gap by investigating user verification intentions in a preregistered conjoint experiment with German participants (N = 1417), focusing on political queries about the 2024 European elections. In a 3x4x3x3 factorial design, we examined the effects of verifiability attributes (verification disclaimers and cited sources) and content attributes (content veracity and topic) on verification choice. Results show that despite their intended design, verifiability attributes did not significantly increase the probability of verification choice compared to their absence, while content attributes did. Beyond the primary attributes, our study also addressed dispositional factors influencing verification decisions. Conditional trust in cited sources did not significantly affect verification likelihood, but sources with high credibility reduced the likelihood of verification, irrespective of trust levels. Additionally, participants were more likely to verify information when they were already skeptical of its accuracy. Personal topic relevance inconsistently influenced the likelihood of verification. These results suggest that simply providing verification cues may not be sufficient to promote responsible AI usage. Instead, they point to a critical design vulnerability. Verification cues may unintentionally reduce inclinations to scrutinize information, as verification appears to be driven more by preexisting doubt than by habitual critical engagement.
Wichtige Erkenntnisse
- Inhaltsmerkmale beeinflussten die Entscheidung zur Überprüfung stärker als Merkmale der Überprüfbarkeit.
- Hinweise zur Überprüfung erhöhten die Wahrscheinlichkeit einer Überprüfung im Vergleich zu Situationen ohne solche Hinweise nicht.
- Quellen mit hoher Glaubwürdigkeit verringerten die Wahrscheinlichkeit einer Überprüfung insgesamt.
- Die Entscheidung zur Überprüfung nahm zu, wenn die Teilnehmenden der Richtigkeit der Inhalte skeptisch gegenüberstanden.
- Hinweise zur Überprüfung können dazu führen, dass die Ergebnisse generativer Suchmaschinen weniger kritisch hinterfragt werden.
E. L. Knor, M. Reiss, J. Möller, L. Merten (2026): Determinants of verification behavior in generative search: Evidence from a conjoint experiment. In: Computers in Human Behavior Reports, 22, 101056. https://doi.org/10.1016/j.chbr.2026.101056