Understanding the AI responsibility gap: The role of perceived control, cognitive engagement, and trust in Human-AI collaboration

Abstract

Artificial intelligence (AI) systems are increasingly integrated into professional and decision-making contexts, raising pressing questions about how responsibility is distributed between humans and machines. While prior research has primarily focused on efficiency gains and trust, far less is known about the psychological mechanisms that determine when individuals feel responsible for AI-supported outcomes. This dissertation addresses this gap by examining how perceived control, cognitive engagement, and trust shape personal responsibility in human–AI collaboration. Across three empirical studies, the dissertation investigates when and why users offload responsibility to AI systems. Study 1 explores the degree to which software developers and graduate students offload responsibility and cognitively disengage when conducting work-related tasks together with LLMs. Study 2 uses a simulated medical diagnostic context to investigate the reasons for responsibility offloading, such as the influence of trust invested in AI-based agents or design cues such as disclaimers and anthropomorphism. Study 3 then experimentally manipulated system trustworthiness and automation levels to deliver more robust evidence on the link between trust and responsibility and uncover whether responsibility attributions are mediated by users’ perceived control and information processing. The findings of the three studies highlight that responsibility offloading is not merely a structural or legal issue, but a cognitive and motivational one, shaped by how users perceive control, engage with system outputs, and trust AI agents. Beyond theoretical contributions to research on trust in automation and human–AI interaction, this work underscores the importance of designing AI systems that foster active user engagement and preserve psychological ownership of outcomes. On a broader level, the dissertation calls for human-centered AI design and accountability frameworks that safeguard responsibility, prevent moral disengagement, and ensure that AI-augmented decisions remain both effective and ethically grounded.

Künstliche Intelligenz (KI) wird zunehmend in die Arbeitswelt integriert und wirft zentrale Fragen zur Verteilung von Verantwortung zwischen Mensch und Systemen auf. Während frühere Forschung vor allem Effizienzgewinne und Vertrauen in KI-Systeme untersuchte, ist bislang wenig darüber bekannt, wann und warum Menschen sich für KI-gestützte Ergebnisse verantwortlich fühlen. Diese Dissertation schließt diese Forschungslücke, indem sie untersucht, wie wahrgenommene Kontrolle, aktive Informationsverarbeitung und Vertrauen die persönliche Verantwortungsübernahme in der Mensch–KI-Zusammenarbeit beeinflussen. Drei empirische Studien analysieren, unter welchen Bedingungen Nutzende Verantwortung an KI-Systeme abgeben. Studie 1 zeigt, in welchem Ausmaß Softwareentwickelnde und Studierende Verantwortung abgeben und weniger aktiv Informationen verarbeiten, wenn sie Aufgaben mit großen Sprachmodellen bearbeiten. Studie 2 untersucht die Ursachen dieser Verantwortungsabgabe im medizinischen Kontext, insbesondere den Einfluss von Vertrauen in KI-Agenten sowie von Gestaltungsmerkmalen wie der Nutzung von Haftungsausschlüssen und stärkerem Anthropomorphismus. Aufbauend darauf manipuliert Studie 3 die Vertrauenswürdigkeit und den Automatisierungsgrad eines Systems, um den Zusammenhang zwischen Vertrauen, wahrgenommener Kontrolle, Informationsverarbeitung und Verantwortungszuschreibung zu untersuchen. Die Ergebnisse der drei Studien zeigen, dass Verantwortungsabgabe kein rein strukturelles oder rechtliches, sondern ein kognitiv-motivationales Phänomen ist. Sie wird davon geprägt, wie Nutzende Kontrolle erleben, sich mit Systemausgaben auseinandersetzen und KI vertrauen. Die Arbeit betont die Bedeutung von KI-Designs, die aktives Engagement der Nutzenden fördern. Übergeordnet plädiert die Dissertation für menschenzentrierte KI-Systeme und Verantwortungsrahmen, die moralische Distanzierung verhindern und sicherstellen, dass KI-unterstützte Entscheidungen sowohl effektiv als auch ethisch vertretbar bleiben