朱滢

    (北京大学心理与认知科学学院，北京 100871)

    怎样面对来自人工智能的危胁？

    朱滢

    (北京大学心理与认知科学学院，北京 100871)

    谷歌公司研制的人工智能程序 (AlphaGo,阿尔法狗)2016年3月打败了围棋世界冠军李世石，一石激起千层浪，人们纷纷议论人工智能正在赶超人类。我们应当怎样面对人工智能飞速的发展？本文综述了一些看法和应对办法。简要说来就是：机器意识 (machine consciousness)并不像人们认为的那么重要，阻止人工智能发展意识同阻止人工智能发展伤害人类的能力不是一回事；我们需要把人类的价值观和伦理规则植入人工智能，为此人工智能的设计者和研究者要采取社会系统分析途径 (social-systems analyses)来工作。

    人工智能，机器意识，社会系统分析途径。

    近年来人工智能发展神速。无人驾驶汽车已在城市的马路上进行实测检验，无人机已应用于各经济领域和军事领域，各种用途的工业机器人、特种机器人和服务机器人已进入工厂、战争与救灾现场、医院、商场和家庭。2016年关于人工智能的头条新闻是，谷歌公司研制的人工智能程序AlphaGo(人们戏称其为 “阿尔法狗”)打败了围棋世界冠军李世石，世人称为人机大战。由于围棋的复杂程度远胜于国际象棋，因此，这个战绩比1997年美国深蓝计算机打败国际象棋世界冠军卡斯帕罗夫要辉煌得多。还有报道说，微软公司已实现了与人同等水平的语音识别技术。

    人工智能正以超出很多人想象的速度取得重大突破的事实，引发了人们对人工智能的担忧。美国白宫2016年10月12日发布报告，讨论聪明机器人可能具有的对人类的威胁。2016年11月在浙江乌镇召开的世界互联网大会上 ......