(浙江大学心理科学研究中心,杭州 310058)

    1 引 言

    1.1 从自动化到自主化技术的应用

    自动化(automation)技术已经广泛地应用在人们的工作和生活中,从简单的室内恒温器，到复杂的工业自动化生产线、飞机驾驶舱自动化飞行系统以及航天在轨设备等。自动化技术为提高人机系统可靠性和效率、降低操作员体力工作负荷等方面带来了许多益处。随着技术的日益成熟，自动化技术已经触碰到了其发展的“天花板”,尤其在一些特殊操作环境中(例如，不需要或者无法人工干预、设计无法预料的操作场景)，人们需要自适应、智能化、个性化和更高水平“自动化”的技术系统。

    智能时代的自主化(autonomy)技术应运而生。自主化技术采用了人工智能(AI)等技术，具有学习、自我导向、独立执行等能力，在特定的场景下可以自主地完成独立于人工干预的一些特定任务。目前，我们开始进入一个逐渐充满自主化技术的世界，越来越多的自主化系统(autonomous systems)开始投入使用或者正在开发。例如，采用软件自主代理和基于语音输入的智能音箱、智能决策支持系统、大型智能无人机、智能机器人、自动驾驶车(具有高等级自动驾驶功能)、空间行走机器人(月球车、火星车等)自主武器系统，甚至包括网上自主传播的Stuxnet病毒软件等。

    1.2 基于自主化技术的自动驾驶车安全问题

    目前许多企业投入了大量资金来研发基于AI等自主智能技术的自动驾驶车(autonomous vehicles，根据智能技术和英文原文，应该严格地称之为自主驾驶车)，希望在未来能够开发出全自主化的无人驾驶车。在美国与汽车驾驶相关的交通死亡事故中，约94%是由驾驶员的人为差错所导致，美国国家公路交通安全管理局(NHTSA)(2018)希望未来的无人驾驶车可以通过消除这些人为差错来大幅度减少死亡事故。然而，Lee & Kolodge(2018)的研究表明，在被调查的8571名美国司机中，35%的司机表示他们肯定或不太会相信自动驾驶车在没有驾驶员控制情况下具备安全运行的能力。CARAVAN(2018)的民意调查也表明，在1005名受调查的美国司机中，64%的司机出于对安全的担心而表示不愿意与自动驾驶车分享道路,63%的司机不支持降低目前联邦道路安全标准以便让更多的自动驾驶车上路。另外，近几年在美国发生了多起自动驾驶车致命事故(NTSB，2017；Endsley,2018)。

    在人因学(Human Factors)界，一些资深人因学家表达了对自主化技术的应用可能引起的安全问题的担心 ......