人机信任校准的双途径:信任抑制与信任提升


摘" 要" 信任是人机成功合作的基础。但个体在人机交互中并不总是持有恰当的信任水平, 也可能会出现信任偏差:过度信任和信任不足。信任偏差会妨碍人机合作, 因此需要对信任进行校准。信任校准常常通过信任抑制与信任提升两条途径来实现。信任抑制聚焦于如何降低个体对机器人过高的信任水平, 信任提升则侧重于如何提高个体对机器人较低的信任水平。未来研究可进一步优化校准效果评估的测量方法、揭示信任校准过程中以及信任校准后个体的认知变化机制、探索信任校准的边界条件以及个性化和精细化的信任校准策略, 以期助推人机协作。
关键词" 信任校准, 信任偏差, 信任抑制, 信任提升, 人机交互
分类号" B849
1" 引言
信任广泛存在于任何关系的建立与发展之中, 如亲密关系(Rempel et al., 1985)、消费关系(Kwon et al., 2021)、组织关系(Meng amp; Berger, 2019)、医患关系(Petrocchi et al., 2019)等。它不仅是人际交往的重要因素, 也是社会发展的润滑剂(乐国安, 韩振华, 2009)。随着机器人逐渐走进人们的生活, 研究者们发现信任也存在于人机交互之中(Hoff amp; Bashir, 2015; Khavas, 2021)。本文结合前人的研究(高在峰 等, 2021; Lee amp; See, 2004; Mayer et al., 1995), 将人机信任定义为:个体在情境不确定或具有脆弱性时, 对机器人能帮助己方实现目标或不会利用己方弱点所持有的信心和心理预期。信任对于人机交互至关重要, 它不仅是人类使用与接受算法的前提(Sanders et al., 2019), 也是人机合作的基础(Esterwood amp; Robert, 2021)。
本文主要关注人与智能机器人、算法、人工智能之间的交互, 且以人与智能机器人之间的交互为主。以智能机器人为例, 人机交互中, 个体对智能机器人的信任水平可能过高, 也可能过低, 前者为过度信任(Over-trust), 后者为信任不足(Under-trust) ......
您现在查看是摘要页,全文长 67512 字符。