(1.浙江工业大学管理学院，杭州 310023；2.浙江警察学院，杭州 310053)

    1 引 言

    智能机器/人工智能指的是能够在不确定的环境中自主做出合理(智能)行为的机器(系统)(Albus,1991)。随着现代科技的发展，智能机器正逐步迈入民众的实际生活。“AlphaGo”战胜围棋大师，谷歌、起亚等自动驾驶汽车获得上路执照、即将实用化等，无不意味着智能时代的迫近(唐宁等,2018;周吉帆等,2016)。人工智能无疑将给人类社会带来巨大的进步，在各行各业发挥巨大的作用。如自动驾驶汽车可极大地降低交通事故，缓解交通压力，减少空气污染等；智能看护机器人可在家庭中照顾老人，其对老龄化日益严重、人力成本不断高涨的国家尤为重要。然而，人工智能也受到来自社会各界及相关领域的争议，如技术、立法、伦理道德等方面。鉴于人类社会的复杂性和智能机器的“自主性”，在人-智能机器交互(甚至智能机器-智能机器交互)中，智能机器必然面临诸多的道德情境，做出自主选择的相关道德行为。如当自动驾驶汽车遭遇道德两难困境时(紧急避险可拯救多人性命，但会导致少量无辜者牺牲)，应当如何决策？看护机器人是否可以通过“善意的谎言”让抗拒吃药的病人吃药(如机器人欺骗病人说如果病人不按时吃药，那它就会因为无法胜任工作而被回收毁灭)？因此，如何设计人工智能体的道德决策体系，使其在社会交互中符合社会公众的道德准则，成为影响智能机器实用化的关键因素，受到越来越多该领域研究者的重视，并成为一个研究热点(Allen,Varner,& Zinser,2000;Anderson & Anderson,2011;Scheutz & Malle,2014)。

    目前，关于智能机器道德研究主要集中在以下两个方面。绝大部分研究者关注于如何为智能机器构建道德相关模块及整体道德框架，如道德体系设计取向、道德图灵测试(moral turing test,MTT)(Arnold & Scheutz,2016;Gerdes & ?hrstr?m,2015)、道德算法(algorithmic morality)(Goodall,2014,2016;Purves,Jenkins & Strawser,2015)、道德模块组成(Malle & Scheutz,2014,2015;Scheutz & Malle,2014)等，其主要致力于如何采用算法、决策树等建立智能机器道德决策的规范集(moral principle set)。然而，此取向显然简化了人类的道德判断，仅将人类的道德准则、行为规范等赋予智能机器 ......