中国人民大学心理学系齐玥团队在《心理科学进展》（CSSCI 核心期刊，中国最具国际影响力学术期刊之一）发表题为“通用人工智能时代的人与AI信任”的研究论文，系统回顾社会心理学与工程心理学中的信任模型研究成果，从人际信任视角提出了“人与AI动态互信模型”，为人与AI的信任研究提供新的理论视角。该研究为我系齐玥老师团队与中国科学院心理研究所杜峰老师的合作成果。

1. 研究背景与科学问题

随着通用人工智能（AGI）技术突破，人与AI的关系正从工具的使用关系转向协作关系，信任成为影响人与AI交互的关键因素，但是当前研究并未准确理解人与AI信任关系的转变。理解不足体现在三方面：一是对人与AI信任定义不明确；二是现有信任模型割裂了人际信任与人机信任研究，与新型人与AI信任关系不贴合；三是现有信任模型仅关注人对AI的单向信任，忽视AI对人信任的角度。为解决上述局限性，本研究将围绕人与AI信任的定义、信任模型的发展展开探讨。

2. 定义提出与模型构建

随着AI智能化水平提升，人与AI的关系正从单向信任转变为双向互信。本研究提出人与AI信任的新定义：无论是否意识到AI算法的存在，人们与AI系统之间所持有的认为对方能帮助自己实现特定目标的态度和信心，以及在互动过程中接受对方的不确定和脆弱性并为之承担相应风险的意愿。

该定义综合了以往人机信任与自动化信任的内容：首先包含两个信任主体（人与AI），其次涉及存在风险的互动场景，最后要求受托方具备完成任务的能力和动机。同时，新定义充分考虑当今人与AI互动的特点：一方面AI技术具有隐蔽性，信任关系可能存在于用户未明确感知AI参与的场景；另一方面人与AI信任角色发生了转变，信任既包括用户作为委托者对AI能力的信任，也涵盖AI作为委托者对用户输入的依赖与适应。

在通用人工智能时代背景下，人与AI的互动关系日趋复杂，过往人机信任模型在解释动态双向信任关系方面存在局限，已不足以准确描述人与AI之间的信任交互过程，因此本研究提出了“人与AI动态互信模型”。模型包含三个阶段（初始阶段、感知阶段和行为阶段）和两个主体（人与AI）。模型提出了人与AI信任中的两个重要特征：“互信”与“动态”。“互信”强调AI与人相似的主体地位，双方均可作为信任方或被信方，“动态”表现为信任校准机制，通过初始信任倾向、实时状态感知与行为结果反馈的持续交互，实现信任水平的动态调整（如图）。

人与AI动态互信模型

 

3. 主要贡献和学术价值

本研究基于当今人与AI的新型信任关系，明确了人与AI信任的定义，并提出了“人与AI动态互信模型”，首次将AI对人的信任以及二者互信的动态交互过程纳入分析，构建了包含初始、感知、行为三个阶段、人与AI两个主体的动态互信模型，为人与AI信任的研究提供可靠理论框架。

研究团队

齐玥老师专注于人与AI信任以及人际信任的相关研究，主持多项国家项目，近年来围绕人与AI的信任发表了相关研究成果。包括：人对自动驾驶汽车、虚拟主播（ESI前1%高被引论文、前0.1%热点论文）、拟人化AI产品的信任，面孔可信度评价及其影响因素（详见网页http://psy.ruc.edu.cn/szdw2/fjs2/qy.html）。

团队也围绕人机交互与用户体验开展校企合作研究。

 

课题组部分成员合影

论文信息

题目：《通用人工智能时代的人与 AI 信任》

期刊：《心理科学进展》(CSSCI 核心期刊，中国最具国际影响力学术期刊之一)

DOI：10.3724/SP.J.1042.2024.02124

作者：齐玥（第一作者、通讯作者），陈俊廷，秦邵天，杜峰（通讯作者）

引用：齐玥, 陈俊廷, 秦邵天, 杜峰. (2024). 通用人工智能时代的人与 AI 信任. 心理科学进展, 32(12), 2124-2136.

原文连接：https://doi.org/10.3724/SP.J.1042.2024.02124

联系方式

学术合作：qiy@ruc.edu.cn

常年招募人与人工智能信任，社会认知，人机交互，用户体验，工程心理学等领域基础和应用研究的实习生，欢迎与我们联系。