张语嫣 许丽颖 喻 丰 丁晓军 邬家骅 赵 靓

    算法拒绝的三维动机理论*

    张语嫣1许丽颖2喻 丰1丁晓军3邬家骅1赵 靓4

    (1武汉大学哲学学院心理学系, 武汉 430072) (2清华大学社会科学学院心理学系, 北京 100084) (3西安交通大学人文社会科学学院哲学系, 西安 710049) (4武汉大学信息管理学院出版科学系, 武汉 430072)

    算法拒绝意指尽管算法通常能比人类做出更准确的决策, 但人们依然更偏好人类决策的现象。算法拒绝的三维动机理论归纳了算法主体怀疑、道德地位缺失和人类特性湮没这三个主要原因, 分别对应信任、责任和掌控三种心理动机, 并对应改变算法拒绝的三种可行方案: 提高人类对算法的信任度, 强化算法的主体责任, 探索个性化算法设计以突显人对算法决策的控制力。未来研究可进一步以更社会性的视角探究算法拒绝的发生边界和其他可能动机。

    算法决策, 算法拒绝, 心理动机, 人?机器人交互

    1 引言

    决策在生活中普遍存在。传统上, 决策过程的主体是人类自身(当事人或他人)。但由于人类决策能力存在局限(如受决策者经验和情绪影响), 容易导致决策失误, 造成不良决策后果。随着算法技术的发展与普及, 为了克服人类决策的局限性, 基于信息整合和理性计算原则的算法决策被广泛引入工作甚至日常生活中。算法决策(algorithmic decision making)是一系列相关概念的总称, 包含增强决策、决策辅助、决策支持系统、专家系统、决策公式和计算机辅助等(Burton et al., 2020), 新近研究也将算法决策概念扩展于机器决策、机器人决策和人工智能决策等(Malle et al., 2015)。相较于人类决策, 算法决策具有快速(Bonnefon et al., 2016)、准确(Donnelly, 2017; Lohr, 2016)、客观(Andrews et al., 2006)、普适(Esteva et al., 2017)和低耗(Common Cents Lab, 2017)等优点。凭借这些特点, 算法决策在社会生活的各领域, 包括医疗(Biró et al. 2021; van den Berg et al., 2017)、经济(Harvey et al., 2017; Kaya et al., 2017)、司法(Angwin et al., 2016)、交通(Badue et al., 2020; Fournier, 2016)、军事(Horowitz, 2016; Shin et al., 2019)以及日常生活(Roberts, 2017)中的应用都日益增多 ......