本书纸版由浙江教育出版社于2018年6月出版

    作者授权湛庐文化(Cheers Publishing)作中国大陆(地区)电子版

    发行(限简体中文)

    版权所有?侵权必究

    书名：生命3.0

    著者：[美]迈克斯?泰格马克

    电子书定价：89.99元

    Life 3.0: being human in the age of artificial intelligence

    by Max

    Tegmark.

    Copyright ? 2017 by Max Tegmark. All right reserved

    致

    未来生命研究所团队

    是你们让这一切成为可能

    To the FLI team,who made everything possible

    赞誉

    人类应该以更好的姿态拥抱人工智能技术，通过让技术适应人类，让个体变得更加强大，让地球文明变得更加美好。《生命3.0》这本书

    给我们提供了一个路线图：如果我们小心谨慎地改进技术，深谋远虑地

    避免陷阱，那生命就有可能在地球上，甚至地球以外繁荣昌盛长达数十

    亿年的时间，远超人类祖先最不羁的梦想。期待这一天的到来!

    王小川

    搜狗公司CEO

    如果人工智能有几本煌煌巨著，《生命3.0》就是其中的《天演

    论》。生命3.0挣脱了自然“进化”的束缚，进入自我“设计”的阶

    段，“她”成为自己命运的主人。而这本书正是我们作为生命2.0与生

    命3.0以及未来的对话，书中谓之“我们这个时代最重要的对话”并不

    为过。《生命3.0》这本书横跨社会与宇宙，从我们能活到的未来穿行

    10亿年，又从可见的智能潜入不可见的意识，其所呈现的世界观之宏

    大，令人荡气回肠。

    吴甘沙

    驭势科技(北京)有限公司联合创始人兼CEO

    将人工智能与人类未来进化放在一起，越来越成为理解“新物

    种”的独特视角。作为警觉的乐观主义者，泰格马克的《生命3.0》与

    其说是提供答案，不如说是促进对话和思考。在这一波强大而迅猛的人

    工智能浪潮面前，每个人都无法置身事外——如果你感到焦虑，或者在

    思考人工智能时厘不清头绪、抓不住要点，这本书会让你跟上时代的步

    伐，找回思考的自信，同时抓住人与机器共生演化的焦点。

    段永朝

    财讯传媒集团首席战略官

    苇草智酷创始合伙人

    如果说《时间简史》讲透了宇宙物理，《未来简史》讲透了文明进

    化，《生命3.0》的作者则是从物理学家的角度对宇宙进化进行畅想。

    人类正推动着智能进化的史诗进程：以人工智能算力6年提升30万倍的

    超级摩尔定律发展，数字生命必然实现智能飞越，人机融合将孕育一个

    万物智能的新宇宙。

    杨静

    新智元创始人

    生于这个人工智能极大发展时代的人们，不自觉便会陷入一种焦虑

    ——对智能机器进步的极大恐慌。与其说是焦虑，不如说是“短视”，因为从长远来看，让“生命”最终升级到可以自我设计的“生命

    3.0”的最后一块拼图，很可能就是人工智能。理性地认知人工智能，正确地做出选择，才能让生命走得更远。

    罗振宇

    “得到”App创始人

    无论你是科学家、企业家还是将军，所有人都应该扪心自问，现在

    可以做些什么，才能提升未来人工智能趋利避害的可能性。这是这个时

    代最重要的对话，而迈克斯·泰格马克发人深省的著作《生命3.0》能

    帮助我们参与到这场对话中来。

    史蒂芬·霍金

    物理学家，宇宙学家

    在探索地球上以及地球以外的生命、智能和意识的宏伟未来的旅程

    中，人类该如何应对随之而来的挑战与选择，《生命3.0》这本书提供

    了一份精彩的指南。

    埃隆·马斯克

    美国太空探索技术公司(SpaceX)创始人兼CEO

    特斯拉汽车公司创始人兼CEO

    人工智能可能是21世纪最重要的一股变革力量。迈克斯·泰格马克

    新作《生命3.0》一书从政治与哲学的角度预测了人工智能革命的前景

    与风险，并清晰地阐明了一些基本概念和重要争议，澄清了一些常见的

    误解。比如，科幻作品使得许多人担心邪恶的机器人，而他则适当地强

    调，真正的问题乃是开发能力超强的人工智能会带来一些无法预见的后

    果。人工智能并不是只有变得邪恶或者装在机器人身上才会肆虐人间。

    泰格马克的写作风格通俗易懂，十分吸引人，适合大众阅读。

    尤瓦尔·赫拉利

    世界知名历史学家

    畅销书《人类简史》《未来简史》作者

    迈克斯·泰格马克著作《生命3.0》是这个时代最重要的对话的深

    度指南。本书描述了，当我们逐渐将生物学意义上的“思维”与我们自

    己创造出来的更伟大的智能相融合时，如何创造出一个友善、仁爱的未

    来文明。

    雷·库兹韦尔

    发明家兼未来学家

    畅销书《奇点临近》《人工智能的未来》作者

    作为一个物种，我们希望创造出什么样的未来？关于这个问题，迈

    克斯·泰格马克希望促成一场更加广泛的对话。虽然他谈及的话题——

    人工智能、宇宙学、价值甚至意识经验的本质，都十分富有挑战性，但

    他采用了一种平易近人的方式，鼓励读者形成自己的观点。

    尼克·波斯特洛姆

    牛津大学人类未来研究所创始人

    畅销书《超级智能》作者

    迈克斯·泰格马克是一位出色的物理学家，同时也是未来生命研究

    所的领袖。这样的身份给了他一种独特的有利视角，在《生命3.0》这

    本书中，他用一种通俗易懂、辞简理博的方式为读者讲述了这个时代最

    重要问题的“独家内幕”。

    扬·塔里安

    Skype公司联合创始人

    《生命3.0》是一本读起来令人愉快的书，它会改变我们对人工智

    能、智能与人类未来的看法。

    巴特·塞尔曼

    康奈尔大学计算机科学系教授

    人工智能释放出了前所未有的力量，这意味着接下来的10年对人类

    来说，可能是最好的时代，也可能是最坏的时代。迈克斯·泰格马克在

    《生命3.0》这本书中对人工智能的探索是我所读过的最发人深省的，但同时又十分简单有趣。如果你还没有见过泰格马克有趣的灵魂，这本

    书一定会让你大饱眼福。

    埃里克·布莱恩约弗森

    麻省理工斯隆管理学院教授

    畅销书《第二次机器革命》作者

    我被《生命3.0》这本书迷住了。我们很快就会面临人工智能带来

    的变革性后果，问题是，那会是乌托邦，还是一场大灾难？这个问题尚

    无定论。但这本由一位杰出科学家写就的富于启迪、生动易读的书，能

    帮我们估算出这一可能性。

    马丁·里斯

    宇宙学先驱

    英国皇家学会天文学家

    推荐序一

    如何正确地关心人类命运

    万维钢

    科学作家，“得到”App《精英日课》专栏作者

    每个人都关心自己的命运，也有很多人关心国家的命运，但除此之

    外，你还应该关心人类的命运。人类命运是个大尺度的问题，虽然对你

    我的生活没有直接影响，但我们总有一点儿好奇心，想知道未来究竟会

    怎样。

    你肯定对未来有过各种推测和想象。虽然我没见过未来，但我敢打

    赌，你自己的推测和想象有很多不合理之处。

    一般人在预测短期的未来时往往过分乐观。20世纪六七十年代，很

    多人相信21世纪将是一个宇航的时代，人类很快就能殖民火星。结果，我们今天所谓的高科技只不过是——智能手机。想象一件事总比做成一

    件事容易，我们容易高估技术进步的速度。

    如果要预测长期的未来，人的想象力往往又不太够用。一两百年前

    的人想象21世纪的生活时，根本就想不到会有智能手机和计算机这些东

    西，他们能想象的大概是一个蒸汽朋克的世界，天空中飘着巨大的飞

    艇。

    所以，如果你要严肃地关心人类命运，就需要科学推测。迈克斯·

    泰格马克新作《生命3.0》就是这样一本书。

    泰格马克可能是当今物理领域活跃着的最有意思的一位物理学家。

    他在量子力学和宇宙学这些最正宗的物理领域里获得过很了不起的成

    就，而且还涉猎广泛，跨界搞过人工智能方面的理论研究；他也很有思

    想，提出了“数学宇宙”这个哲学的世界观；他还热衷于社会活动，跟

    物理学和人工智能界的很多大佬经常互动。此外，他还很会写书。

    李鸿章年轻时写过这样一句诗“一万年来谁著史”，泰格马克这本

    《生命3.0》的气魄比这个还大，研究的是人类的终极命运。

    这个问题本来是交给哲学家和科幻作家去解决的，物理学家能干什

    么呢？答案是物理学家的推导更精确，而且更富有想象力。

    比如一想到未来，我们就关心地球环境会不会被破坏，能源够不够

    用，哲学家可能深表忧虑。但物理学家知道，我们人类目前的能源汲取

    水平远远没达到极限，跟将来可以使用的聚变核能和太阳能相比，连九

    牛一毛都算不上。但只要考虑物理定律的限制，宇宙就是你的大舞台，能源根本不是问题。

    再比如人工智能。科幻作家在畅想未来时，经常会犯两种跟人工智

    能有关的错误。一种错误是他没有充分考虑人工智能，还是认为是人类

    在主导一切；另一种错误是他误判了人工智能。在有些作品里，机器人

    动不动就活了，具有了人类的意识，但智力水平居然并不明显高于人

    类，有时候还挺笨的!而科学家会告诉你，让人工智能获得意识非常非

    常困难，但是，让人工智能的智能超过人则相当容易。

    《生命3.0》这本书给我的感悟是，决定人类终极命运的只有这一

    个问题最重要——人工智能到底能不能拥有人的意识。

    在我们的流行文化中，经常会谈论人工智能，但很少涉及“意

    识”。可能大多数人都没有意识到，人有一个“意识”的问题。

    简单地说，意识是我们对世界的主观体验。我们的喜怒哀乐，一切

    感情都是因为我们有意识。一辆自动驾驶汽车也许可以出色地完成运输

    任务，但当遇到红灯时它不会暴躁，有危险时它不会害怕，撞了车时它

    不会疼，没油时它不会饿，完成任务时它也不会高兴，它只是机械地做

    事而已。

    实际上，现在生物学家认为，人在做事的时候，本质上也是机械

    的。我们的各种感情只是附带产生的多余的情绪。就算没有任何主观感

    受，你还是一样能做好各种事情。

    但是主观体验赋予了我们生活的意义。你工作之余，偶尔抬头看看

    星空，感慨一下宇宙多么美好，那是因为你有意识。如果人没有意识，那就跟一堆沙子没有本质区别，人生就没有意义，整个宇宙的存在就没

    有价值。

    泰格马克把生命分成三个阶段，人类只能算第二阶段，叫“生命

    2.0”。我们能学习新知识，但不能随便升级自己的身体，因而受到了

    很大的限制。而人工智能则是“生命3.0”，它们将可以随意升级软件

    和硬件，它们终将超过我们。

    那将来的人工智能是否具有意识？

    科幻作家会说，既然世界上并没有“灵魂”这种东西，人类纯粹是

    由原子组成的，那么人工智能当然可以有意识。按理说是这样的，但科

    学家会给人工智能的意识做出一些限制。比如这本书中介绍了一种叫

    作“信息整合理论”的意识理论，这个理论要求有意识的物体必须是信

    息高速整合的，而物理定律要求信息的传播速度有限，人工智能大脑的

    大小就必须限制在一个不太大的范围之内。人工智能的聪明程度将是有

    限的。

    但再有限也比人类厉害得多，那么，将来的结局就是，人工智能将

    会淘汰人类。如果双方和平交接，人工智能将作为人类文明的代表去征

    服宇宙的各个角落，人类将是人工智能的宠物。

    如果人工智能一直都没有意识，事情就更麻烦了。据泰格马克推

    演，人工智能就算没有意识也可能会有自己的目的，它们可能会不自觉

    地发展壮大，并且最终抛弃人类。那将是人类文明最坏的结局，我们可

    能会被没有意识的僵尸人工智能取代，留下一个空洞的、毫无意义的宇

    宙。

    鉴于这些结局好像都不怎么理想，我们迫切地需要知道意识到底是

    怎么一回事儿，将来的人工智能到底会怎样。

    这并不是泰格马克自己在杞人忧天。我看美国上上下下，从学者到

    企业家和老百姓，现在对意识和人工智能的思考非常深入，主流媒体上

    也经常讨论，新研究、新思想层出不穷。

    虽然中国人对人工智能的各种应用非常关心，也很了解，但对人的

    意识、人工智能的原理这些问题关心不够。我们有太多面向过去的思想

    家，他们总想用过去指导未来，但是未来世界的逻辑很可能跟过去很不

    一样。

    到底什么是意识？人到底是一种什么样的机器？就算你觉得未来太

    遥远，只要你关心人，这些问题就会让你寝食难安。这就是现在世界上

    最聪明的大脑都在想的问题。而《生命3.0》这本书告诉你的大约就是

    目前已知最好的答案了。

    推荐序二

    重新定义生命

    余 晨

    易宝支付联合创始人，《看见未来》作者

    法国思想家布莱兹·帕斯卡曾说：人只不过是一根芦苇，是自然界

    里最脆弱的东西；但他是一根会思想的芦苇。宇宙可以轻松地将人毁

    灭，一团雾气、一滴水都足以致人于死地。然而，纵使宇宙毁灭了人

    类，人类却仍然要比世界万物高贵得多。因为人知道自己终有一死，也

    了解宇宙的秉性和优势，而宇宙对此却一无所知。因而，人类全部的尊

    严就在于思想。

    帕斯卡设计制造了历史上第一台机械计算器，为了纪念这项发明，一种计算机编程语言Pascal便以他命名。在计算机技术高速发展的今

    天，人类是否会被人工智能取代，我们是否还能捍卫思想的尊严，或许

    是这个时代最需要思考的问题。

    迈克斯·泰格马克新著《生命3.0》便是这样一次思考。作者把广

    义的生命看作是一种能够自我复制的信息处理系统，物理结构是其硬

    件，行为和“算法”是其软件。1.0版的生命是以细菌为代表的简单生

    物阶段，其硬件和软件都是靠进化获得，行为则是完全固化的；2.0版

    的生命是以人类为代表的文化阶段，进化决定了我们的硬件，但我们可

    以自行设计软件，通过学习来获得知识、改变行为和优化“算法”；而

    3.0版的生命是以人工智能为代表的科技阶段，生命不仅可以自行设计

    软件，还可以自行设计硬件，由碳基变为硅基，最终摆脱进化的枷锁，让会思考的芦苇变得不再脆弱。但当生命变得面目全非时，我们还算是

    人类吗？人工智能的降临或许是宇宙创生以来最重要的事件，也有可能

    是人类的最后一项发明，或许会实现科技的乌托邦，也有可能带来人类

    的毁灭。无论如何，这是一场关于我们这个时代最重要的对话。

    人工智能是会像马克·扎克伯格宣扬的那样造福人类生活，还是会

    像埃隆·马斯克警告的那样威胁人类生存？泰格马克全方位、系统深入

    地探讨了人工智能可能给人类文明带来的一系列深远影响，包括就业、经济、法律、伦理、政治、军事。也逐一列举分析了当优于人类的超级

    智能出现后可能带来的各种未来图景：超级智能是会带来自由主义或平

    等主义的乌托邦，成为能够控制整个人类社会的善意独裁者，或是增进

    人类幸福感的守护神，还是完全被人类所控制驾驭的公仆？超级智能会

    成为毁灭人类的征服者，还是会成为让我们引以为豪的新物种后裔？或

    许超级智能还未降临，人类就已经毁灭于核战争或环境危机等其他灾

    难。如果你关心这个星球未来的命运、人类的困境和希望、我们子孙世

    世代代的福祉，那么就应该认真读读这本书。

    真正让这部著作从汗牛充栋的人工智能书籍中脱颖而出的，是泰格

    马克作为一位物理学家，从宇宙学的宏大视野和物理学第一性原理中，展示了未来生命和智能令人眼花缭乱的无限可能性。在物理学家看来，生命现象不过是粒子特殊的排列组合，生命通过从环境中汲取负熵来抵

    抗自然的熵增，通过让环境变得更混乱而维持自身的秩序和复杂度。物

    理定律的极限，决定了我们如何可以最大程度地利用宇宙的禀赋，实现

    生命的最大潜力。人类今天所能驾驭的物质和能量，只不过是宇宙所能

    够赋予我们全部资源的极其微小的零头。如果我们能深谋远虑地改进技

    术并计划周全地避免陷阱，便可以通过重组物质、能量和信息将生命最

    大化。未来的超级智能可以收割黑洞辐射和夸克引擎的巨大能量，逼近

    计算力的理论上限，以光速进行宇宙殖民，将现有的生物圈增长几十个

    数量级。生命在未来数十亿年时间内的美丽绽放，会远远超越我们祖先

    最不羁的梦想。

    宇宙虽然可以轻易地毁灭人类，但事实是，宇宙通过我们人类才真

    正活了过来，并逐渐获得了自我意识，并非宇宙将意义赋予了有意识的

    实体，而是有意识的实体将意义赋予了宇宙。让有智能和意识的生命这

    束微弱的光，点亮这个冷漠荒芜的宇宙中无尽的黑暗，或许是我们的最

    高职责。

    中文版序

    我们只看到了人工智能的冰山一角

    我很高兴也很荣幸《生命3.0》这本书能在中国出版。在中国，人

    工智能的发展突飞猛进，目前已拥有许多世界顶尖的人工智能研究者和

    人工智能公司，这令我印象十分深刻。

    从短期来看，这意味着中国已经遇到了我在第3章讨论的许多近期

    机遇和挑战。中国究竟会如何处理这些问题呢？我对这个问题兴致盎

    然。譬如说，我很高兴中国政府最近决定支持一项针对致命性自动化武

    器的禁令，这使得中国不仅仅在人工智能研发方面变得首屈一指，也成

    了促进人工智能有益运动的领军人。

    从长期来看，我认为中国会扮演越来越重要的角色。我的个人经验

    告诉我，中国一定会出现极具天赋的研究者，因为在我带过的最优秀的

    研究生中，有许多都来自中国。目前在西方国家，很多时候，科学研究

    资金正遭遇停滞不前甚至日渐萎缩的困境，但中国却在科研方面(包括

    人工智能)投入了大量资金，即将赶超西方，成为人工智能领域的世界

    领跑者。

    这会产生一个重要的结果：就是我在这本书中主要谈论的通用人工

    智能(Artificial General Intelligence，简称AGI)出现的可能性，这种人工智能在任何任务上都可以与人类智能相提并论。大多数人工智

    能研究者认为，通用人工智能会在短短几十年内发生。如果这是真的，我认为这将发生在中国。那么，有一件事情就会变得非常重要，那就

    是：你，我亲爱的中国读者，请开始认真思考，你想看到一个什么样的

    未来社会。正如我在这本书中所说，极好的可能性与巨大的风险同时存

    在。因此，想要实现好的结局，就必须认真斟酌后果，并思考如何才能

    平稳地实现目标，而不带来灾难。在这方面，中国拥有独特的机会，因

    为中国的长期计划能力远远超过大多数西方国家。此外，几千年的历史

    也能启发中国人看到同样遥远的未来，并能严肃地思考本书后半部分所

    聚焦的那些波澜壮阔的可能性。

    如今，距离《生命3.0》英文版的出版已有将近一年的时间。在这

    段时间里，发生着一件重要的事情，那就是：人们开始更加严肃认真地

    对待这本书的一个重要观点——人工智能可能会在几十年内变成现实，我们必须认真思考如何保证人工智能的安全性和有益性。其原因是，人

    工智能在各个方面都取得了史无前例的进展。我很欣慰地看到，译者汪

    婕舒能够在本书中加入我发给她的关于这些进展的最新内容，比如说

    AlphaZero的故事，它最近成功碾压了那些花了几十年时间来手工开发

    围棋软件和象棋软件的世界顶尖人工智能研究者。

    过去，我们一直认为，智能是一种神秘的东西，只能存在于生物

    (特别是人类)身上。但是，从我作为一位物理学家的角度出发，智能

    只是运动的基本粒子处理信息的特殊过程，并没有一条物理定律

    说，“建造一台在各方面都比人类聪明的机器是不可能的”。这意味

    着，关于智能，我们只看到了冰山一角，我们还有巨大的潜力来开启潜

    伏在大自然中的全部智能，并用它来帮助人类实现繁荣昌盛。我认为，人工智能有可能成为人类有史以来最美好的事情，也可能成为最糟糕的

    事情。虽然我在《生命3.0》这本书中描述了许多你或爱或恨的未来场

    景，但最重要的问题并不是计较哪一种场景最有可能发生，而是思考我

    们想让哪一种场景成为现实，并且，需要哪些具体步骤才能最大限度地

    保证人类拥有一个欣欣向荣而非每况愈下的未来。我希望这本书能帮助

    你——我亲爱的中国读者厘清这个问题!

    扫码获取“湛庐阅读”App，搜索“生命3.0”，观看作者迈克斯·泰格马克TED演讲视频。

    目 录 赞誉

    推荐序一 如何正确地关心人类命运

    推荐序二 重新定义生命

    中文版序 我们只看到了人工智能的冰山一角

    引言 欧米茄传奇

    01 欢迎参与我们这个时代最重要的对话

    02 物质孕育智能

    03 不远的未来：科技大突破、故障、法律、武器和就业

    04 智能爆炸？

    05 劫后余波，未知的世界：接下来的1万年

    06 挑战宇宙禀赋：接下来的10亿年以及以后

    07 目标

    08 意识

    后记 未来生命研究所团队风云传

    注释

    致谢

    引言

    欧米茄传奇

    欧米茄团队是这家公司的灵魂。虽然该公司其他部门通过开发各种

    狭义人工智能(narrow AI)的商业应用赚得盆满钵满，让公司得以按

    部就班地运转下去，但欧米茄团队却一直秉承并追寻着公司CEO的梦

    想：建造通用人工智能(Artificial General Intelligence，简称

    AGI)。因此，其他部门的员工都亲切地称他们为“欧米茄”，并把他

    们视为一群不切实际的梦想家，因为他们似乎总是与自己的目标差着几

    十年的距离。但是，人们喜欢纵容这些人，因为欧米茄团队的前沿工作

    为公司带来了声望，他们为此感到高兴。同时，欧米茄团队偶尔会改进

    一些算法供其他部门使用，这让他们十分感激。

    然而，其他部门的同事不知道的是，欧米茄团队之所以精心打造自

    己的形象，是为了隐藏一个秘密：他们马上就要启动人类历史上最勇敢

    无畏的计划了。那位极富个人魅力的CEO亲自挑选了这些人，不只是为

    了培养杰出的研究人员，还为了实现他帮助全人类的雄心壮志和坚决承

    诺。他告诫欧米茄团队，这个计划极端危险，如果被不怀好意的人发现

    了，他们就会不择手段地甚至实施绑架来制止这个计划，或者盗走他们

    的代码。但是，这些人已经全身心投入其中了。他们的理由和当年众多

    世界顶尖物理学家加入“曼哈顿计划”开发核武器的原因差不多：因为

    他们都坚信，如果自己不率先做出来，就会有其他不那么高尚的人捷足

    先登。

    欧米茄团队建造的人工智能昵称叫“普罗米修

    斯”(Prometheus)，它一天比一天强大。诚然，它的认知能力在社交

    技能等许多方面还远远落后于人类，但欧米茄团队竭尽全力让它在一个

    任务上表现超凡，这个任务就是编写人工智能系统。他们之所以选择这

    个计划，是因为他们相信英国数学家欧文·古德在1965年提出的“智能

    爆炸” (1)

    理论。古德说道：

    让我们给“超级智能机器”(ultraintelligent

    machine)下一个定义，那就是：一台能超越任何人(无论这

    个人多么聪明)的所有智力活动的机器。由于设计机器也属于

    这些智力活动中的一种，因此，一台超级智能机器就能设计出

    更好的机器；那么，毫无疑问会出现一种“智能爆炸”，到那

    时，人类的智能会被远远甩在后面。于是，第一台超级智能机

    器就会成为人类最后一个发明，只要它足够驯良，并告诉人类

    如何控制它就行。

    欧米茄团队认为，只要他们能让这个不断迭代的“自我改善”过程

    持续下去，那么最终，这台机器就会变得非常聪明，足以自学其他有用

    的人类技能。

    第一个100万美元

    一个星期五的早晨9点钟整，欧米茄团队决定启动这个计划。在一

    间闲人免进的巨大空调房间内，层层叠叠的架子排成长列。普罗米修斯

    就在这一排排为它“量身定制”的计算机集群中嗡嗡鸣响。为了安全起

    见，它没有接入互联网。不过，它在本地存储着一份包含互联网大部分

    内容的副本作为训练数据，以便从中学习 (2)

    ，这些数据来自各大知识

    汇集网站及社交平台数据库。欧米茄团队挑选这个时间点是为了可以不

    受打扰地工作：亲朋好友都以为他们参加公司的周末拓展活动去了。办

    公室的小厨房里塞满了微波食品和提神饮料。一切准备就绪。

    启动伊始，普罗米修斯在编写人工智能系统上的表现还是比人类略

    逊一筹，但很快，这个缺点就被它极快的速度所弥补了。当欧米茄团队

    正猛灌红牛时，普罗米修斯也在以破竹之势解决着问题。如果换算成人

    类需要的时间，那得几千年之久。到早上10点钟，普罗米修斯已经完成

    了对自身的第一次迭代。这个2.0版本虽然比过去稍微好一点，但还是

    比不上人类。然而，到了下午2点钟，当普罗米修斯迭代到5.0版本时，欧米茄团队惊呆了：它已经大大超越了他们的预期，而且它进步的速度

    似有加快的迹象。夜幕降临时，他们决定用普罗米修斯10.0版本来启动

    计划的第二阶段：赚钱。

    欧米茄团队的第一个目标是亚马逊的MTurk (3)。这是一个众包网

    络市场，于2005年上线后，发展十分迅速，很快就聚集了成千上万来自

    全球各地的人。他们夜以继日地奏出了一支支“HIT”奏鸣曲——HIT指

    的是“人类智力任务”(Human Intelligence Tasks)，范围十分广

    泛，从音频录制到图像分类和网页描述撰写，应有尽有，但它们都有一

    个共同点：只要你完成得足够好，没人在乎你是不是人工智能。对于其

    中大约一半的任务，普罗米修斯10.0版本完成得都还算可以。欧米茄团

    队让普罗米修斯用狭义人工智能设计出了一个简洁的软件模块，专门用

    于处理这些任务，但除此之外，这个模块什么也干不了。接着，他们把

    这个模块上传到了亚马逊的网络服务器上，这是一个可以运行虚拟机的

    云计算平台。在这个云平台上，他们租了多少虚拟机，就可以运行多少

    虚拟机。欧米茄团队在亚马逊云计算服务上每花费一美元，都能从

    MTurk上赚回超过两美元的价值。亚马逊一点儿也没发现，自己公司内

    部竟然存在着这样惊人的套利机会!

    为了掩盖踪迹，在前几个月中，欧米茄团队小心谨慎地用假名创建

    了几千个MTurk账户。现在，普罗米修斯建造的软件模块正冒名顶替着

    这些账户的身份。MTurk的客户通常会在事后8小时左右付款。一旦收

    款，欧米茄团队又将这些钱用来购买更多的云空间，供给普罗米修斯使

    用。在这个过程中，普罗米修斯不断升级，它的最新版本写出来的任务

    模块也变得越来越厉害。由于欧米茄团队的钱每8小时就能翻一番，因

    此在MTurk上的任务很快便达到了峰值。同时，他们发现，如果不想引

    起过多的注意，最好把日收入控制在100万美元以下。不过，普罗米修

    斯已经为他们的下一步计划提供了足够多的钱，欧米茄团队已经无须向

    公司财务总监申请经费了。

    危险游戏

    启动普罗米修斯之后，除了在人工智能研究上取得突破之外，欧米

    茄团队最近还热衷于用它来赚钱：赚得越快越好。从本质上来说，整个

    数字经济的红利都是唾手可得的，但从哪里开始比较好呢？是开发计算

    机游戏，还是做音乐、电影或者软件？是写书、写文章，还是炒股，或

    者捣鼓和贩卖新发明？简单来说，这个问题归根结底是如何才能实现投

    资回报率的最大化，但一般的投资策略在欧米茄团队面前实属小巫见大

    巫：在通常情况下，如果年均回报率能达到9%，投资者就会很满意了；

    然而，欧米茄团队在MTurk上的投资达到了每小时9%的回报率，平均每

    天能赚到8倍多的钱。那么，他们的下一个目标是什么呢？

    欧米茄团队的第一个想法是去股票市场大捞一笔，毕竟，许多对冲

    基金都在这上面砸了重金，而欧米茄团队中的几乎每个人都曾在人生中

    的某一时刻，拒绝过为对冲基金开发人工智能系统的高薪工作。你可能

    还记得，这也正是电影《超验骇客》(Transcendence )中的人工智能

    赚得第一桶金的方法。但是，前些年的一场股市崩盘促使政府对金融衍

    生品出台了一些规范措施，限制了他们的选择范围。很快，欧米茄团队

    就意识到，即便他们能够获得远高于其他投资者的回报，但这点利润比

    起销售自家的产品来说还是相差甚远。毕竟，当全世界第一个超级智能

    都在为你工作时，你显然最好投资自家的产品，而不是寄希望于别人家

    的。当然，例外也是可能存在的，比如，你可以用普罗米修斯超人的黑

    客技能来获取内幕消息，然后购买那些即将上涨的股票的看涨期权。但

    欧米茄团队认为，这可能会引来不必要的注意，因此不值得这么做。

    于是，欧米茄团队将重点转向了那些可以研发和销售的产品，其

    中，电子游戏看起来是个很不错的选择。普罗米修斯很快就具备了极为

    高超的技能，能够设计出引人入胜的游戏，还能轻易地应对程序、平面

    设计、光线追踪等成品所必需的任务。此外，它还分析了网络上关于人

    们偏好的所有数据，知晓了哪一类游戏是玩家的最爱，据此发展出了一

    种根据销售收入来优化游戏的超能力。尽管不愿意承认，但欧米茄团队

    的许多成员都曾夜以继日地泡在游戏《上古卷轴5：天际》(The Elder

    Scrolls V: Skyrim )中。2011年，这款游戏在刚发布的第一星期，总

    销售额就超过了4亿美元。因此，欧米茄团队相信，在100万美元的云计

    算资源的支持下，普罗米修斯在24小时内一定能开发出一款像《上古卷

    轴》一样令人上瘾的游戏。他们可以在线销售这款游戏，并让普罗米修

    斯在博客圈里假扮玩家来大聊特聊，引爆热度。如果能在第一个星期入

    账2.5亿美元，他们就能在8天内将投资翻8倍，每小时的回报率高达

    3%，虽然比他们在MTurk上的表现略显逊色，但更具可持续性：假如普

    罗米修斯能每天开发出一款游戏，不久之后，他们就能赚到100亿美

    元，而不用担心游戏市场饱和。

    但是，欧米茄团队中的一位网络安全专家坦率地表达了对这个游戏

    计划的不安。她指出，这个计划可能会带来一个可怕的风险：普罗米修

    斯可能会“逃脱”，并“抢夺自己命运的控制权”。过去，由于不清楚

    普罗米修斯的目标在自我提升的过程中会如何变化，因此为了安全起

    见，欧米茄团队决定不遗余力地将普罗米修斯“关起来”，囿

    于“盒”中，让它无法“逃”到互联网上。对运行在服务器机房中的普

    罗米修斯主机，他们采取了物理隔绝的手段：那里根本没有网络连接，普罗米修斯输出的所有数据都以信息和文件的形式传输给一台被欧米茄

    团队严格控制的计算机。

    将普罗米修斯开发的复杂程序放到联网的计算机上运行，是一件风

    险很大的事情：欧米茄团队根本不清楚它会做什么，也完全不知道它会

    不会做某些事情，比如在互联网上像病毒一样扩散自己。在测试普罗米

    修斯为MTurk上的任务写的软件时，为了谨慎地提防这种情况的发生，欧米茄团队只在虚拟机中运行这些软件。虚拟机是一个模拟计算机的程

    序，比如，苹果电脑的许多用户会购买虚拟机软件，通过“欺骗”苹果

    电脑这是一台Windows电脑，来让它们运行Windows程序。欧米茄团队建

    造了自己的虚拟机，其昵称叫“潘多拉魔盒”。它模拟的是一台超级简

    单的机器，去除了计算机通常拥有的所有附件，没有键盘，没有显示

    器，没有音箱，也没有网络连接，什么都没有。举个例子，对于MTurk

    上的音频誊录任务，欧米茄团队对虚拟机进行了设置，只允许一个音频

    文件输入潘多拉魔盒，也只允许一个文本文件输出，即誊录好的文字。

    这些规则之于魔盒内部的软件，就好像物理定律之于身处宇宙中的人类

    一样：软件无法冲出魔盒的藩篱，就好比人类再聪明，也无法实现超越

    光速的星际旅行。除了上面所说的输入和输出单个文件之外，潘多拉魔

    盒内部的软件实际上就像被困在了一个拥有自己的计算规则的平行宇

    宙。欧米茄团队患有严重的“逃脱”恐惧症，因此，他们也在时间维度

    上加了枷锁，限制了不受信任代码的生存期限。比如，潘多拉魔盒中的

    誊录软件每完成一个音频文件的誊录，魔盒中的所有内存都会被自动抹

    去，程序会自动从零开始重新安装。这样，当它开始下一个誊录任务

    时，就不知道过去发生了什么，也就不能从过去中学习。

    当欧米茄团队在MTurk项目中使用亚马逊的云服务时，他们能将普

    罗米修斯编写的所有任务模块都装进云端的潘多拉魔盒，因为在MTurk

    上输入数据和输出数据都非常简单。但是，对严重依赖图像的计算机游

    戏来说，这是行不通的。他们无法将游戏装进潘多拉魔盒，因为它们需

    要彻底访问玩家计算机上的所有硬件。此外，他们不想冒险，因为一些

    懂计算机的用户可能会分析游戏代码，从而发现潘多拉魔盒，并调查其

    中的秘密。“逃脱”风险不仅置游戏市场于危险当中，还可能会牺牲其

    他软件市场，而后者是规模巨大并且有利可图的，遍地都是千亿美元的

    机会。

    第一个10亿美元

    欧米茄团队缩小了搜寻的范围，只关注那些价值极高、数字化、易

    于理解的产品，因为数字化产品的生产周期短，而那些易于理解的产

    品，比如文字或电影等不会带来“逃脱”的风险。最后，他们决定成立

    一家媒体公司，以动画片为起点。公司的网站、市场计划和新闻稿在普

    罗米修斯变得超级智能之前就已经准备好了，而唯一欠缺的，就是内

    容。

    为了设计出人工智能系统来编写软件，好完成那些令人抓狂的

    MTurk上的任务，普罗米修斯经过了慎重的优化。到了星期日的早上，尽管它的能力已经变得异常强大，能够持续不断地从MTurk中敛财，但

    它的智力依然比不上人，在某些事情上它并不擅长，譬如制作电影，不

    擅长这些事并不是因为某些深层的原因，而更像是詹姆斯·卡梅隆并不

    是出生时就擅长拍电影一样：这是一个需要时间来学习和打磨的技能。

    与人类儿童一样，普罗米修斯能从手边的数据中学习任何它想学的东

    西。卡梅隆为了学习读写，花了几年时间，而普罗米修斯在星期五一天

    就完成了这项任务，那一天，它还腾出时间阅读了Wikipedia的所有词

    条，外加几百万本书。不过，制作电影更加不易。写出一个让人们觉得

    有趣的剧本，和写书一样困难，需要细致入微地理解人类社会，并了解

    人们认为的具有娱乐性的事情；将剧本最终变成视频不仅需要对虚拟演

    员以及它们身处的复杂场景进行大量的光线追踪，还需要制作大量的虚

    拟声音和扣人心弦的音乐音轨，诸如此类。到了星期日早晨，普罗米修

    斯不仅能够在一分钟内看完一部时长两小时的电影，还能够看完由这部

    电影改编的所有书籍、网上的所有评论和评分。欧米茄团队注意到，当

    普罗米修斯一口气看了几百部电影之后，开始能很精准地预测一部电影

    会得到什么样的评价，以及它会如何吸引不同的观众。实际上，它还学

    会了撰写影评。欧米茄团队觉得普罗米修斯的影评写得颇有见解，对剧

    情、演技、技术细节(例如光线和拍摄角度)等方面都能提出独到的看

    法。欧米茄团队认为，这意味着，当普罗米修斯能自己制作电影时，就

    会知道什么样的电影能获得成功。

    为避免人们到时追问虚拟演员的真实身份，欧米茄团队要求普罗米

    修斯先制作一些动画片。到了星期日晚上，为了犒劳这个疯狂的周末，他们决定把灯光调暗，边吃爆米花，边喝啤酒，然后一起观看普罗米修

    斯的电影处女作。这是一部和迪士尼的《冰雪奇缘》差不多的奇幻喜剧

    动画片，其中的光线追踪是由普罗米修斯在亚马逊云端编写的“盒中代

    码”来完成的，这项任务几乎把当天在MTurk上赚到的100万美元利润都

    用光了。电影一开始，他们就在感叹，这样一部电影竟然是由机器在无

    人指导的情况下创作出来的，这是一件多么令人惊讶又害怕的事情啊!

    不过不久之后，他们就顾不上想这些了，他们开始为电影中的插科打诨

    而开怀大笑，为激动人心的时刻而屏住呼吸。在感人的结局处，有些人

    甚至流下了眼泪。他们是如此地全神贯注，都忘了这部电影的创作者是

    谁。

    欧米茄团队计划在下一个星期五上线他们的网站，因为要给普罗米

    修斯留出充足的时间来生产更多的内容，也要给他们自己腾出时间来做

    一些普罗米修斯做不到的事情，例如购买广告位，并为过去几个月中创

    立起来的空壳公司招聘员工。为了掩盖踪迹，他们的官方介绍告诉大

    家，这家媒体公司从独立的电影制作人那里购买内容，这些制作人通常

    是那些低收入地区的高科技创业公司。为了方便起见，欧米茄团队把这

    些虚假的供应商设立在偏远的地区，例如蒂鲁吉拉伯利

    (Tiruchirapalli)和雅库茨克(Yakutsk)。这些地方，连最好奇的

    记者也懒得去拜访。他们招聘的员工全部隶属于市场和管理部门。这些

    员工会告诉所有询问的人，他们的制作团队位于另一个地方，此时不便

    接受访问。欧米茄团队也没公开与这家媒体公司的关系。为了与官方介

    绍相吻合，他们为公司想了一个口号——连接世界上的创作天才，并宣

    传说，他们的品牌是摧枯拉朽且与众不同的，因为他们用前沿技术将力

    量赋予那些具有创造力的人，特别是那些身处发展中国家的人。

    星期五到来了。好奇的访客开始登录欧米茄团队的网站。他们看到

    的内容令人联想到奈飞和葫芦(Hulu)这类在线娱乐服务商，不过，又

    有点有趣儿的不同。所有动画系列片都是全新的，从来没有人听说过它

    们。这些动画片相当迷人：大部分系列都由45分钟长的剧集组成，剧情

    超级吸引人，每集的结尾都会使你对下一集充满期待。并且，与竞争对

    手相比，它们的价格更便宜。每部片子的第一集都是免费的，剩下的每

    集你可以试看49秒，或者以折扣价格观看整个系列。一开始，总共只有

    三个系列，每个系列只有三集。但很快，每天都有新的剧集加入。同

    时，迎合不同口味的新系列也在源源不断地更新进来。

    最初两个星期，普罗米修斯的电影制作技术突飞猛进，不仅在于影

    片质量方面，还在于它具备了更高明的算法来进行人物模拟和光线追

    踪，这极大地降低了制作每集片子所需的云计算成本。结果，欧米茄团

    队在第一个月就发布了几十部新片，针对的人群涵盖了幼儿和成人，同

    时扩张到了所有主要的语言市场，使得他们的网站远比所有竞争对手的

    更加国际化。一些影评人感到十分震惊，因为这些动画片不仅音轨是多

    语言的，连视频本身也是。例如，当某个角色在讲意大利语时，他的嘴

    部活动与意大利语是匹配的，而且也会相应地做出意大利人特有的手

    势。尽管普罗米修斯现在有能力完美地将电影中的虚拟人物制作得与真

    人无异，但欧米茄团队没让它这么做，以避免泄露底牌。相比之下，他

    们动画片中的人物形象都是半写实风格的，内容则主要集中在那些传统

    上多采用实景真人电视剧和电影的流派，以便与它们竞争。

    欧米茄团队的网站令人上瘾，用户量迅速地增长起来。许多粉丝发

    现，这些动画片中的人物比好莱坞最大手笔的电影作品中的人物更聪

    明，情节更有趣，而且还欣喜地发现，其价格也更低，更容易负担得

    起。在广告的积极推动下(欧米茄团队能负担得起广告费，因为他们的

    制作费几乎为零)，他们获得了极佳的媒体覆盖率和口碑。在网站上线

    后的一个月内，全球收入就激增到每天100万美元。两个月后，他们击

    败了奈飞公司。三个月后，每日入账1亿美元，开始与时代华纳公司、迪士尼公司、康卡斯特公司和21世纪福克斯公司比肩，成为全世界最大

    的媒体帝国之一。

    欧米茄团队的成功引起了轰动，招致了大量不必要的关注。一些人

    开始怀疑，为什么他们在财政上只投入了一小部分就拥有了强大的人工

    智能。欧米茄团队策划了一场相当成功的“虚假内容”营销活动。在光

    鲜亮丽的曼哈顿新办公室中，他们新招聘了一批发言人，来传递他们的

    理念。欧米茄团队还在全世界雇用了许多人来作幌子，请他们来创作新

    系列，其中甚至包括一些真正的剧作家，但没有人知道普罗米修斯的存

    在。欧米茄团队的国际承包商网络错综复杂，令人迷惑，这让他们的员

    工相信，大部分工作一定是其他地方的什么人来完成的。

    为了不让过多的云计算量引起怀疑，欧米茄团队还雇用了工程师，开始在世界各地修建一系列庞大的计算中心，而这些计算中心都隶属于

    他们的空壳公司。由于这些计算中心大都依靠太阳能，因此欧米茄团队

    对当地政府宣称，它们是“绿色数据中心”，但实际上，它们的功能主

    要是计算而不是存储数据。普罗米修斯设计了蓝图的每一个细节，而且

    只使用现成硬件，并对其进行了优化，使得施工时间被尽可能地缩短。

    那些修建和运营这些中心的人根本不知道那里计算着什么。他们认为自

    己管理的是商用云计算设备，就像亚马逊公司和微软公司的一样；他们

    只知道，所有的销售行为都是由远程控制的。

    新技术

    几个月之后，由于普罗米修斯超人的规划能力，由欧米茄团队操控

    的商业帝国开始涉足世界经济中越来越多的领域，并开始站稳脚跟。通

    过仔细分析全球的数据，普罗米修斯在第一个星期就已经向欧米茄团队

    展示了一份详细的逐步增长计划，并在数据和计算资源持续增长的过程

    中不停地改善和精炼。尽管普罗米修斯还远算不上无所不知，但它现在

    的能力已经大大超过了人类，因此被视为完美的“先知”，尽心尽责地

    对人们提出的所有问题给出精妙的回答与建议。

    普罗米修斯的软件现在已经被高度优化，将它所栖身的硬件功能发

    挥到了极限。但这些硬件是由人类设计的，能力乏善可陈。因此，正如

    欧米茄团队所预计的那样，普罗米修斯提出了一些能极大改进这些硬件

    的建议。但因为害怕它“逃脱”，他们拒绝修建可供普罗米修斯直接操

    控的机器人施工设备。相反，欧米茄团队在世界各地雇用了大量顶级科

    学家和工程师，让他们阅读普罗米修斯撰写的内部研究报告，谎称那是

    由其他地方的人所写的。这些报告详细叙述了新颖的物理效应和生产工

    艺，他们的工程师很快对其进行了测试，并很快理解和掌握了这些技

    术。人类的研发周期通常需要若干年的时间，而试错的周期又很缓慢，但当下的情况十分不同：普罗米修斯已经想出了下一步，所以，唯一的

    限制因素就是在普罗米修斯的指导下，人们能以多快的速度理解和制造

    出正确的东西。一个好老师能帮助学生迅速地学习科学知识，远远快于

    学生自己从零开始，这正是普罗米修斯神不知鬼不觉地对这些研究人员

    所做的事情。由于普罗米修斯可以精确地预测，在工具不同的条件下，人类分别需要多长时间才能理解和制造出正确的东西，因此，它开发出

    了一条最快的前进路线，即优先考虑那些能迅速被人类理解和制造的新

    工具。有了这些新工具，人类就很容易开发出更加先进的工具。

    本着创客精神，欧米茄团队鼓励工程师团队使用自己的机器来制造

    更好的机器。这种自给自足不仅节省了资金，还让他们在面对未来的外

    界威胁时不至于变得那么脆弱。在两年内，他们制造出了世界上空前先

    进的计算机硬件。为了避免外部竞争，他们把这项技术隐藏起来，只用

    它来升级普罗米修斯。

    对于外部世界来说，人们只是注意到了一波惊人的科技繁荣。世界

    各地突然爆发出许多新公司，在几乎所有领域都发布了革命性的新产

    品。韩国一家初创公司发布了一种新电池，能存储笔记本电脑电池两倍

    的电量，但重量轻了一半，还能在一分钟之内充满电。芬兰一家公司发

    布了一款便宜的太阳能电池板，效能达到了当前最强竞争者的两倍。德

    国一家公司发布了一种可大规模生产的新型电线，在室温下具有超强的

    导电性能，颠覆了能源产业。波士顿一家生物技术集团宣布，他们正在

    对一款减肥药进行二期临床实验，据他们声称，这是第一款绝无副作用

    的高效减肥药；而有流言称，一家印度机构已经在黑市上销售与这种减

    肥药差不多的药物。一家位于加利福尼亚的公司也在对一种引起轰动的

    癌症药物进行二期临床实验，这种药物能够让身体的免疫系统识别和攻

    击常见的几种癌症变异。

    这样的例子层出不穷，引发了一场关于“科学黄金新时代”的大讨

    论。最后，同样重要的是，机器人公司开始像雨后的蘑菇一样在全世界

    各地冒出来。虽然这些公司造出的机器人，没有一个能与人类智能相媲

    美，并且大多数看起来压根不像人，但它们对经济却造成了极大的扰

    动。在接下来的几年里，它们逐步取代了制造、运输、仓储、零售、建

    筑、采矿、农林渔业等多个行业的人类劳动力。

    多亏了高明的律师团队的艰苦工作，全世界没有一个人注意到，所

    有这些公司其实都是受欧米茄团队控制的，只不过中间存在着一系列媒

    介罢了。普罗米修斯通过不同的代理人，用引起轰动的专利，洪水般席

    卷了全世界的专利局。这些发明逐渐占据了各大科技领域的主导地位。

    虽然这些破坏性的新公司在竞争中树立了强大的敌人，但它们也培

    养了更强大的伙伴关系。这些新公司的利润实在太高了，并且，在“投

    资我们的社区”这种口号之下，它们用大部分利润为社区项目雇用员

    工，而这些人通常是那些从被迫破产的公司扫地出门的失业员工。这些

    新公司用普罗米修斯生成的详细分析报告来寻找，什么样的工作能以最

    低的成本为员工和社区创造出最大的价值，通常聚焦在社区建设、文化

    事务和看护服务上；在较贫穷的地区，还包括了建立和维护学校、医疗

    机构、日托中心、老年看护中心、经济适用房、停车场以及基础设施建

    设等。几乎所有地方的人都赞同，这些事情早就应该做了。慷慨的捐赠

    还流进了当地政客的腰包，以保证他们在公司进行社区投资时会保持好

    脸色，并给予鼓励。

    获得权力

    欧米茄团队成立媒体公司不只是为了投资那些早期的技术公司，还

    为了他们大胆计划的下一步：统治世界。在成立后的第一年，欧米茄团

    队在全球节目表中都增加了非常精彩的新闻频道。与其他频道不同，这

    些频道被定位为公共服务，是亏钱的。实际上，他们的新闻频道也赚不

    到一分钱，因为没有广告植入，任何人只要有网络就可以免费观看。这

    个媒体帝国的其他部门可谓印钞机，因此，他们可以在新闻服务上倾注

    极多的资源，比世界历史上任何一家新闻机构都要多，这一点显而易

    见。通过极具竞争力的薪酬雇用到的新闻记者和调查记者将精彩的故事

    与发现搬上了荧幕。任何一个人，只要向欧米茄团队控制的全球新闻网

    络提供一些有报道价值的内容，比如从本地的公众焦点到暖心的市民故

    事，都会获得一笔奖励。有了这样的机制，许多具有轰动效应的故事往

    往都是由他们率先报道的，至少人们是这么相信的；而实际上，欧米茄

    团队能抢先报道的原因是，那些归功于公民记者的故事其实都是由普罗

    米修斯在实时监控互联网的过程中发现的。这些视频新闻网站同时也提

    供专栏播客和文章。

    欧米茄团队新战略第一阶段的目的是获取人们的信任，结果非常成

    功。他们空前的散财精神引发了区域及本地新闻报道热潮，调查记者揭

    发了许多夺人眼球的丑闻事件。每次，当某个国家在政治上出现严重的

    分歧，导致人们习惯于偏颇的党派新闻时，欧米茄团队就会成立一个新

    的新闻频道来迎合各个派系。这些频道表面上分属不同的公司，但逐步

    赢得了各个派系的信任。有时候，欧米茄团队也会通过中介来购买最具

    影响力的现有的频道，然后逐步去除广告，进行改善，并引入他们自己

    的内容。欧米茄团队内部遵从着一个秘密的口号：“真相，只要真相，但不一定要全部真相。”在这些情况下，普罗米修斯通常能提供极好的

    建议，告诉他们哪些政客需要以正面形象示人，而哪些(通常是那些贪

    污腐败的人)需要被曝光。

    这个策略在世界各地都取得了巨大的成功。从此，欧米茄团队控制

    的电视频道成了最受信赖的新闻来源。欧米茄团队建立起了“值得信

    任”的口碑，他们的许多新闻故事通过小道消息在大众中流行。欧米茄

    团队的竞争对手感觉自己被卷入了一场毫无胜算的战争：如果你的对手

    拥有更多资金，同时还能提供免费的服务，你怎么可能在竞争中赢得利

    润？随着这些竞争对手节目的收视率骤减，越来越多的电视网络服务商

    决定卖掉自家的频道，而购买方通常都是一些后来被证实受欧米茄团队

    控制的财团。

    在普罗米修斯发布的两年后，“获取信任”的阶段已经基本完成，欧米茄团队接着发布了新战略第二阶段的目标：说服。早在这之前，有

    些敏锐的观察者就已经注意到这些新媒体背后的政治意图：有一股温和

    的力量在推动着国际社会远离各种形式的极端主义，向中间立场靠拢。

    虽说他们有许多频道依然在迎合不同的群体，而且这些频道还在继续反

    映不同宗教信仰和政治派系等之间的敌意，但批评的矛头却变得缓和了

    一些，主要集中在与金钱和权力有关的具体问题上，而不是有失偏颇的

    攻击，更不是危言耸听或者风言风语。一旦第二阶段开始变得白热化，这种旨在消解旧日冲突的推动力将会变得日益尖锐起来。欧米茄团队掌

    控的媒体时常会报道一些关于老冤家陷入困境的感人故事，同时也夹杂

    着一些声称许多极端战争分子都是受个人利益驱使的调查报道。

    政治评论家还注意到，在地区冲突受到抑制的同时，似乎还有一股

    坚定的力量朝着减少全球威胁的方向推动。比如，世界各地都突然开始

    讨论核战争的风险。几部卖座的大片刻画了全球核战争在无意或蓄意的

    情况下爆发了，戏剧化地演绎了战后“核冬天”的场景：基础设施瘫

    痪，饿殍遍野，眼前呈现的是一幅惨淡的反乌托邦画面。手法老练的新

    纪录片详细地描绘了“核冬天”会如何影响每一个国家。支持“核降

    级”(nuclear de-escalation)的科学家和政客在电视上出尽了风

    头，大肆讨论他们对“应该采取什么有效措施”的最新研究结果，这些

    研究资金都来自一些科学组织，而这些科学组织是从那些新兴科技公司

    那里获得了大量捐赠的。结果，一股政治势力开始抬头，解除了核导弹

    一触即发的警报状态，缩减了核装备。媒体开始重新关注全球气候变

    化，通常会突出强调普罗米修斯所带来的技术突破，这些突破极大地削

    减了可再生能源的成本，意在鼓励政府投资这类新能源的基础设施。

    在控制媒体的同时，欧米茄团队还利用普罗米修斯掀起了一场教育

    革命。普罗米修斯能根据每个人的知识和能力，为他们定制新知识的最

    快学习方法，让他们高度参与其中，并一直保持高涨的学习动力。它还

    制作了视频、阅读材料、练习题等学习工具，并对其进行了相应的优

    化。这样一来，欧米茄团队控制的公司在网络教育方面几乎覆盖了所有

    学科，并针对不同的用户，在语言、文化背景甚至受教育情况等方面进

    行了高度的定制。无论你是想学习读写的40岁文盲，还是想了解最新癌

    症免疫疗法的生物学博士，普罗米修斯都能找到最适合你的课程。这些

    课程与当今大部分网络课程截然不同：它用超凡的电影制作技能将这些

    课程视频打造得非常吸引人。而且视频中还加入了许多绝妙的比喻，可

    以帮助你快速联想、迅速理解，并渴求学得更深入。这些课程多数是免

    费的，所有想要学习的人为此很开心，同时也正中世界各地教师的下

    怀，因为他们可以在课堂上播放这些视频，而不用顾及版权问题。

    事实上，这一在教育行业风靡起来的超级势力也被证明是一种有效

    的政治工具，因为它创造出了一条基于在线视频的“说服链”。在这个

    链条中，视频带来的洞察力不仅更新了人们的观念，还激起了他们继续

    观看下一个相关视频的兴趣。通过一个接一个的视频，他们一步步地被

    说服了。比如，为了消解两个国家之间的冲突，欧米茄团队会在两个国

    家内部分别发布一些历史纪录片，用一种更加微妙的手法来讲述冲突的

    起源和爆发。极具教育性的新闻故事告诉人们，一些坚持立场的人只是

    为了从持续的冲突中获得利益而已，并向人们解释了他们所使用的方

    法。与此同时，那些像是来自敌对国家的角色开始出现在娱乐频道的大

    众节目中，而这些节目的论调充满同情心。

    不久后，政治评论家发现，有7个政治口号的支持率开始显著上

    升：

    民主；

    减税；

    削减政府的社会性服务；

    削减军费；

    自由贸易；

    开放边境；

    企业社会责任。

    不过，鲜有人注意到这些表象下面隐藏的目的，那就是：侵蚀世界

    上所有的权力结构。第2～6项侵蚀的是国家权力，世界性的民主化进程

    让欧米茄团队操控的商业帝国能够在政治领袖的遴选过程中施加更大的

    影响力。对企业社会责任的强调进一步削弱了国家的力量，因为企业越

    来越多地接管了过去由政府所提供或者应当由政府提供的服务。传统商

    界精英的力量也被削弱了，原因很简单，因为他们根本无法在自由市场

    中与普罗米修斯控制的企业抗衡。因此，他们在世界经济中占据的份额

    开始逐步萎缩。传统的意见领袖，无论是来自政党还是宗教团体，都缺

    乏与欧米茄团队操控的媒体帝国相竞争的说服机制。

    在这一骤变的风云之下，几家欢喜几家愁。由于教育机制、社会服

    务和基础设施建设有了长足的改善，冲突得到平息，各地的公司都发布

    了轰动全球的突破性技术，因此，大多数国家明显笼罩在乐观主义的氛

    围之中。但是，并不是所有人都很高兴。虽然许多失业人员都得以在社

    区项目中重新就业，但那些曾经手握权力和财富的人的境遇却每况愈

    下。这种情况首先开始于媒体和科技领域，但很快就席卷全球。由于冲

    突减少，各国的军费开支骤降，军方承包商的利益受损。纷纷涌现的初

    创企业极少公开上市，据它们解释说，因为一旦上市，追寻利益最大化

    的股东就会阻止公司在社区项目上投入较多的资金。因此，世界股票市

    场持续下跌，不仅威胁着金融大亨，还威胁着那些指望着以养老基金过

    活的普通人。公开上市交易的公司利润持续萎缩，更糟的是，全世界的

    投资公司都注意到了一个令人不安的趋势：所有过去成功的交易算法似

    乎都失效了，甚至比指数基金的表现还差。似乎总有什么人比他们更精

    明，在他们自己设计的游戏中击败了他们。

    尽管大量权贵人士都开始抵制这一变化，但令人惊讶的是，他们的

    反对却收效甚微，就好像他们掉进了一个暗中布好的圈套中。巨大的变

    化以摧枯拉朽之势迅速席卷全球，令人很难追踪，也很难想出一个组织

    有序的对策。此外，这些权贵人士也完全不清楚自己应该往哪个方向推

    动。过去的政治势力所呼吁的大部分政治权力都已经实现，但实际上，减税和构建良好商业环境的措施反而是在帮助那些科技水平更高的竞争

    者。几乎所有的传统工业都在求助，但政府资金却非常有限。这一事实

    让传统行业陷入了一场毫无希望的战争，但媒体则把它们描绘为一帮没

    有能力在竞争中立足却又要求政府救济的“大恐龙”。传统的左翼政治

    势力反对自由贸易和削减政府的社会服务，而青睐削减军费和减少贫困

    人口，但现在他们的风头却被人抢了。一个毋庸置疑的事实是，如今的

    社会服务已经改善了许多，但却不是由政府实现的，而是由富有情怀的

    公司推动实现的。一个接一个的调查显示，世界各地的大部分选民都觉

    得，自己的生活质量得到了大幅提升，一切都在朝好的方向发展。这可

    以用一个简单的数学计算来解释：在普罗米修斯之前，地球上最贫穷的

    50%人口只赚取了全球收入的4%。因此，即便普罗米修斯旗下的公司向

    穷人分享的利润只算得上是九牛一毛，也依然能赢得他们的心，更不必

    说选票了。

    世界新秩序

    在许多国家，支持欧米茄团队提出的7个口号的政党最终大获全

    胜。在精心优化过的竞选活动中，他们把自己描绘为中立的政治势力，谴责右翼是只知道寻求救济的贪婪的战争贩子，同时斥责左翼已沦为高

    税收、高支出的“大政府”窒碍创新的枷锁。但是，大部分人都没有意

    识到，这些人都是普罗米修斯精心挑选出来装扮成候选人的。普罗米修

    斯在幕后操纵着一切，确保他们取得胜利。

    在普罗米修斯问世之前，曾经有一段时间，支持“全民基本收

    入”(Universal Basic Income)运动的呼声很高。这个运动提出，政

    府应当用税收向每个公民发放一笔最低收入，作为技术性失业的补偿。

    这个运动在企业社区项目运动开启之后就不了了之，因为欧米茄团队控

    制的商业帝国实际上向人们提供了同样的东西。在以“促进社区项目合

    作”为口号的掩饰下，一个由许多公司组成的跨国组织成立了一个名

    为“人道主义联盟”(Humanitarian Alliance)的非政府组织，旨在

    寻找和资助世界各地最有价值的人道主义项目。不久之后，人道主义联

    盟得到了欧米茄团队掌控的整个帝国的支持，开始启动规模空前的全球

    性项目，其中包括帮助那些错过了上一波科技浪潮的国家改善教育和医

    疗水平，促进经济繁荣，并辅助政府管理。不用说，普罗米修斯提供的

    项目已经在幕后经过了精心打磨，并根据每美元能带来的积极影响排

    序。与“全民基本收入”运动提出的“发放少量现金”的方式不同，人

    道主义联盟会吸引那些它支持的人，并朝着目标前进。最终，全世界大

    部分人都对人道主义联盟充满了感激和忠诚之情，甚至超过了对自己政

    府的感情。

    随着时间的流逝，人道主义联盟逐渐成了公认的世界政府，而各国

    政府的力量日渐式微。由于实施减税政策，各国预算持续萎缩，而人道

    主义联盟却成长起来，它傲视群雄，比所有政府加起来的力量还强大。

    国家政府扮演的所有传统角色都逐渐变得无足轻重和无关紧要。人道主

    义联盟提供了更好的社会服务、教育服务和基础设施。媒体消解了国际

    冲突，使得军费开支不再有必要。日益繁荣的经济水平极大消除了旧日

    冲突的根源，也就是对稀缺资源的竞争。虽然一些人，包括少数独裁

    者，强烈反对这个新的世界秩序，拒绝被收买，但他们最终都被精心策

    划的政变或大规模起义所颠覆。

    现在，欧米茄团队已经完成了地球生命历史上最具戏剧性的转变。

    有史以来第一次，我们的地球由一股单一的力量控制，这股力量又被一

    个智能体不断增强，这个智能体是如此的庞大，以至于它有能力让生命

    在地球上乃至在宇宙中生息繁盛亿万年。

    但是，欧米茄团队葫芦里究竟卖的是什么药呢？

    这就是欧米茄团队的传奇故事。《生命3.0》余下的部分

    则与另一个故事有关。这个故事尚未写就，那就是我们自身的

    未来与人工智能的故事。你希望这个故事如何开始呢？像欧米

    茄团队所做的这么遥远的事情真的会发生吗？如若真的会，你

    希望它发生吗？除去对超级智能的猜测，你希望我们的故事如

    何开始？你希望人工智能在接下来的几十年里如何影响就业、法律和武器？再望远一些，你希望怎样写下这个故事的结局？

    事实上，这个故事确实如整个宇宙那样宏大，因为它所讲

    述的，就是生命在我们宇宙中的终极未来。而我们，就是这个

    故事的书写者。

    从宇宙诞生伊始，已有138亿年的光阴。现在，我们的宇宙正在苏

    醒，并开始意识到自我的存在。在我们的宇宙中，在这颗小小的蓝色星

    球上，一些有知觉的小生物正在用望远镜窥视着宇宙的深处。他们一次

    又一次地发现，过去认为存在于世的一切事物其实都只是更大物体的一

    小部分，这些更大的物体是太阳系、银河系、包含数千亿个河外星系的

    宇宙……而这些星系又排列成了精巧的星系群、星系团和超星系团。虽

    然这些具有自我意识的“观星者”在许多事情上都难以达成共识，但他

    们都无一例外地同意：这些星系是如此美丽，如此摄人心魄，又如此令

    人敬畏。

    但是，美只存在于旁观者的眼中，而不存在于物理定律中。因此，在我们的宇宙苏醒之前，美并不存在。这让宇宙的苏醒显得更加奇妙，更加值得庆贺：因为它让我们的宇宙从一个无脑、不自知的“僵尸”转

    变成了一个生机勃勃的生态系统，其中孕育着自省、美和希望，并让存

    在其中的生命追寻着目标、意义和意志。假设宇宙没有醒来，对我而

    言，它就是完全空洞、毫无意义的，只是一个浪费空间的庞然大物罢

    了。如果我们的宇宙因为一些宇宙级的大灾难或者自作自受的不幸事件

    而重新陷入沉睡，那么它又将再次回到那个毫无意义的死寂状态，真是

    可悲可叹。

    然而，一切也可能变得更加美好。虽然我们还不知道人类是不是这

    个宇宙中唯一的或者最早的观星者，但我们已经足够了解我们的宇宙，知道它有可能会比现在苏醒得更加彻底。或许，人类对宇宙而言，就像

    清晨的你从睡梦中初醒时体会到的那一线微弱的自我意识一样，只是一

    个预告，预示着只要你睁开双眼，完全清醒过来，就会迎来更加庞大的

    意识。或许，生命将会在宇宙中散播蔓延开来，繁盛兴旺亿万年，甚至

    亿亿年的时间；或许，这种情景会因为我们有生之年在这颗小星球上所

    做出的种种决定而成为现实。

    复杂简史

    那么，这个惊人的苏醒过程是如何发生的呢？它不是一个孤立事

    件，而只是一个过程的一小步。在138亿年的无情岁月中，这个过程让

    宇宙变得愈发复杂和有趣，并且，它的步调正在加快。

    作为一位物理学家，我很庆幸花了过去14个世纪的时间来研究我

    们宇宙的历史。同时，这也是一段精彩的发现之旅。得益于精度更高的

    望远镜、更强大的计算机和更深入的知识积淀，从我上研究生那会儿开

    始，人们争论的焦点就已经从“宇宙是100亿岁还是200亿岁”转变成

    了“宇宙是137亿岁还是138亿岁”。我们物理学家至今仍不能肯定，到

    底是什么触发了宇宙大爆炸，也不知道大爆炸是不是万事万物的起点，抑或只是某个存在于大爆炸之前的状态的结果。不过，多亏了一系列高

    质量的观测数据，我们已经非常了解，宇宙在大爆炸之后发生了什么。

    因此，请允许我花几分钟的时间来总结一下这138亿年的宇宙历史。

    一开始，就有了光。

    在大爆炸后的一瞬间，从理论上来说，可用望远镜观测到的整个空

    间区域 (4)

    比太阳的核心还要热得多和亮得多，并且迅速膨胀。虽然这

    听起来很壮观，但实际上却很无趣，因为那时候，我们的宇宙就是一锅

    毫无生机、滚烫致密、沉闷均匀的基本粒子汤，除此之外，别无他物。

    宇宙各处看起来似乎都差不多，唯一有趣的结构是一些模糊不清、看似

    随机的声波，这些声波让这锅“汤”的某些部分比其他部分的致密程度

    高出大约0.001%。许多人相信，正是这些模糊的声波引发了所谓的“量

    子涨落” (5)

    ，因为量子力学主要创始人沃纳·海森堡提出的不确定性

    原理不允许任何事物呈现完全无聊和均匀的状态。

    随着我们的宇宙的膨胀和冷却，它变得越来越有趣，因为宇宙中的

    粒子开始组合成日益复杂的物质。在开始的一瞬间，强核力将夸克组合

    成质子(氢原子核)和中子，其中一部分又在几分钟内聚变成氦原子

    核。大约40万年后，电磁力将这些原子核与电子组合起来，形成了最初

    的原子。随着宇宙继续膨胀，这些原子逐渐冷却下来，成为冰冷黑暗的

    气体。“最初的黑夜”持续了大约1亿年的时间。当万有引力在这些气

    体中放大了涨落，用原子组成了最初的恒星与星系时，长夜终于终结，宇宙的黎明开启了。这些最初的恒星将氢原子聚变成更重的原子，例如

    碳、氧和硅，并在这个过程中产生了热量和光。当这批恒星死去时，它

    们创造出来的许多原子又回到了宇宙中，形成了围绕在第二代恒星周围

    的行星。

    在某个时间点上，一些原子组合成了一种能够维系和复制自我的复

    杂形态。因此，它很快就变成了两个，而且数量不断增加，只经历了40

    次翻倍，它的数量就达到了一万亿。这个最初的“自我复制者”很快成

    为一股不容忽视的力量。

    生命降临了。

    生命的三个阶段：生命1.0、生命2.0和生命3.0

    生命是什么？这个问题的争议之大，众所周知。关于这个问题，有

    许多不同的定义，其中的一些要求非常明确，比如要求生命由细胞组

    成。这种要求可能不太适用于未来的智能机器和外星文明。由于我们不

    想将我们对未来生命的思考局限在过去遇到过的物种，所以让我们将生

    命定义得更广阔一些：它是一个能保持自身复杂性并能进行复制的过

    程。复制的对象并不是由原子组成的物质，而是能阐明原子是如何排

    列的信息，这种信息由比特组成。 当一个细菌在复制自己的DNA时，它并不会创造出新的原子，只是将一些原子排列成与原始DNA相同的形

    态，以此来复制信息。换句话说，我们可以将生命看作一种自我复制

    的信息处理系统，它的信息软件既决定了它的行为，又决定了其硬件

    的蓝图。

    与宇宙自身一样，生命逐渐变得越来越复杂和有趣 (6)。现在，请

    允许我做一点解释。我发现了一个有用的方法，就是根据复杂程度将生

    命形式分成三个层次。这三个层次分别是生命1.0、生命2.0和生命

    3.0。我在图1-1中总结了这三个层次的意思。

    图1-1 生命的三个阶段

    注：生命1.0在它的有生之年都无法重新设计自己的硬件和软件：二者皆由它的DNA决定，只有

    进化才能带来改变，而进化则需要许多世代才会发生。相比之下，生命2.0则能够重新设计自身

    软件的一大部分：人类可以学习复杂的新技能，例如语言、运动和职业技能，并且能够从根本

    上更新自己的世界观和目标。生命3.0现在在地球上尚不存在，它不仅能最大限度地重新设计自

    己的软件，还能重新设计自己的硬件，而不用等待许多世代的缓慢进化。

    生命最早是在何时何地、以何种方式出现在我们的宇宙中的呢？这

    个问题依然没有答案。不过，有力的证据表明，地球上的生命最早出现

    在大约40亿年前。不久之后，我们的地球上就充满了各种各样的生命形

    态。那些最成功的生命很快便从中胜出，并具备了某种与环境共生的能

    力。具体而言，它们就是被计算机科学家称为“智能

    体”(Intelligent Agent)的东西：这种实体用感应部件收集关于环

    境的信息，然后对这些信息进行处理，以决定如何对环境做出回应。对

    信息的处理可以包括高度复杂的信息处理过程，例如，你能用眼睛和耳

    朵收集信息，并用这些信息来决定在一段对话中要说些什么；不过，它

    也可以只包括非常简单的硬件和软件。

    比如说，许多细菌都有感应器，用来测量周围液体中的糖浓度。同

    时，它们还拥有一种形状很像螺旋桨的结构，叫作“鞭毛”，用来游

    泳。将感应器和鞭毛连接起来的硬件可能会执行下面这个简单却很有用

    的算法：

    如果我的糖浓度感应器发现周围液体中的糖浓度值比几秒

    钟前低，那么，改变鞭毛的游向，我就可以改变方向了。

    作为一个人，你学会了说话，还学会了无数其他技能。但是，细菌

    却不是一个很好的“学习者”。它们的DNA不仅规定了硬件的设计，比

    如糖感应器和鞭毛，还规定了软件的设计。它们永远学不到“应该游向

    糖多的地方”；相反，这个算法从一开始就“写死”在它们的DNA中。

    虽然在细菌身上还是存在某种学习的过程，但这并不是发生在单个细菌

    的一生中，而是发生在细菌这个物种的进化过程中，通过之前许多代的

    试错，自然选择在DNA的随机变异中选出了能提高糖摄入量的那些变

    异。其中一些变异帮忙改进了鞭毛等硬件的设计，还有一些变异改善了

    软件，譬如执行“寻糖算法”的信息处理系统。

    这些细菌就是被我称为“生命1.0”的一个例子。生命1.0是说：生

    命的硬件和软件都是靠进化得来的，而不是靠设计。不过，你和我却

    属于“生命2.0”：生命的硬件是进化而来，但软件在很大程度上却是

    依靠设计的。在这里，“软件”指的是你用来处理感官信息和决定行

    动时使用的所有算法和知识，从你识别某人是不是你朋友的能力，到

    你行走、阅读、写作、计算、歌唱以及讲笑话的能力，这一切都属于

    软件。

    刚出生时，你是无法完成以上这些任务的。所有的软件都是后来在

    一个被我们称为“学习”的过程中编入了你的大脑。你小时候的课程表

    大多是由你的家人和老师设计的，他们决定了你应该学什么；不过，你

    会逐渐获得更多的权利，开始设计自己的软件。或许，学校允许你选修

    一门外语，那你想不想在大脑中安装一个法语软件模块或者西班牙语模

    块？你想不想学打网球或下象棋？你想不想成为一位厨师、律师或者药

    剂师？你想不想通过阅读一本书来学习更多关于人工智能和生命未来的

    知识？

    生命2.0能够重新设计自身的软件，这种能力让它比生命1.0聪明许

    多。高度的智能不仅需要许多由原子组成的硬件，还需要大量由比特组

    成的软件。我们人类的大部分硬件都是出生后通过生长获得的，这个事

    实十分有用，因为这说明我们身体的最终尺寸并不局限于母亲产道的宽

    度。同样地，我们人类的软件也是在出生后通过学习获得的，这个事实

    也十分有用，因为这说明我们最终能达到的智能程度不局限于受精时

    DNA所传递的信息量——这是生命1.0的风格。我现在的重量比出生时重

    了25倍，我脑中连接神经元的突触存储的信息比我出生时的DNA存储的

    信息多了大约10万倍。突触存储着我们所有的知识和技能，大约相当

    于100TB的信息，而我们的DNA却只存储了大约1GB的信息，还不如一

    部电影的容量大呢 。因此，一个刚出生的婴儿不可能说一口流利的英

    文，也没法参加高考，而且这些信息无法预先被安装在他的大脑中，因

    为他从父母那里得来的信息主模块，也就是他的DNA，缺乏足够的信息

    存储能力。

    设计软件的能力不仅让生命2.0比生命1.0更加聪明，还让它们更加

    灵活。如果环境发生改变，生命1.0只能通过多代进化来缓慢适应新环

    境，而生命2.0却可以通过软件升级来立刻适应新环境。比如，如果细

    菌总是遇到抗生素，就可能在许多代之后进化出抗药性，但单个细菌并

    不会改变自己的行为；相反，一个女孩如果知道自己对花生过敏，就会

    避免接触花生。这种灵活性在群体层面上赋予了生命2.0更大的优势：

    即便我们人类DNA中存储的信息在过去5万年都没有发生过什么大变

    化，但存储在我们大脑、书籍和计算机中的信息总量却仿佛发生了爆

    炸。 通过安装一个允许我们用复杂的口语进行交流的软件模块，我们

    便可以将某人大脑中存储的最有用的信息复制到另一个大脑中，这些信

    息甚至在最初那个大脑死去之后，还可能继续存在。通过安装一个能让

    我们读写的软件，我们就能够存储和分享远超于人类记忆总量的大量知

    识。通过学习科学和工程学知识，我们可以开发出能产生科技的大

    脑“软件”，任何人只需点击几次鼠标就能获得全世界的大部分知识。

    这种灵活性让生命2.0统治了地球。从基因的桎梏中解放出来之

    后，人类总体的知识量以越来越快的速度增长，一个突破接着一个突

    破：语言、写作、印刷、现代科学、计算机以及互联网等。人类共同

    的“软件”发生着空前快速的文化进化，这种进化逐步成为塑造人类未

    来的主要力量。相比之下，极端缓慢的生物进化开始显得无关紧要起

    来。

    尽管我们今天拥有强大的科技能力，但从根本上来说，我们所知的

    所有生命形式都依然受到生物“硬件”的局限。没有人能活100万年，没有人能记住Wikipedia的所有词条，理解所有已知的科学知识，也没

    有人能在不依靠航天器的情况下进行星际旅行。没有人能将很大程度上

    了无生机的宇宙转变成一个能繁荣亿万年的多样化的生态圈，从而让我

    们的宇宙最终发挥出所有潜能，并彻底苏醒过来。所有这些，都需要生

    命经历一次最终的“升级”，升级成不仅能设计自身软件，还能设计

    自身 硬件的“生命3.0”。换句话说，生命3.0是自己命运的主人，最

    终能完全脱离进化的束缚。

    这三个阶段之间的界限有一点模糊。如果细菌是生命1.0，人类是

    生命2.0，那你可以把老鼠看作生命1.1：虽说它们可以学习许多知识，但还不足以进化出语言能力，更不可能发明互联网。此外，由于它们没

    有语言能力，所以学到的大部分东西在死去后就丢失了，并不会传递给

    下一代。同样地，你也可以认为，今天的人类其实应该算是生命2.1：

    虽说我们可以对自身的硬件实施一些微小的升级，比如种植假牙、植入

    人工膝关节和心脏起搏器。不过，我们却没法做到“长高10倍”或“把

    大脑容量扩大1 000倍”这种戏剧化的事情。

    总之，我们可以根据生命设计自身的能力，把生命的发展分成三个

    阶段：

    生命1.0(生物阶段)：靠进化获得硬件和软件；

    生命2.0(文化阶段)：靠进化获得硬件，但大部分软件是

    由自己设计的；

    生命3.0(科技阶段)：自己设计硬件和软件。

    经历了138亿年的漫漫进化之后，宇宙前进的步伐在我们的地球上

    开始猛然加速：生命1.0出现在约40亿年之前，生命2.0出现在约10万年

    前，而许多人工智能研究者认为，随着人工智能的发展，生命3.0可能

    会在一个世纪以内降临，甚至可能会出现在我们的有生之年。到时候会

    发生些什么？这对我们人类来说意味着什么？这就是《生命3.0》这本

    书的主题。

    生命3.0何时出现

    这个问题极富争议，而且争议得十分精彩。全球顶尖的人工智能研

    究者不仅在做出预测时众说纷纭，他们的情绪反应也截然不同：有的是

    充满信心的乐观主义者，有的则怀有严肃的担忧；甚至于，对于人工智

    能会在短期内对经济、法律和军事方面造成什么影响，他们也都难以达

    成共识。如果我们将讨论的时间范围扩大一些，把通用人工智能，特别

    是达到或超过人类智能水平、使得生命3.0成为可能的通用人工智能涵

    盖进讨论的话题，那么他们的分歧就更大了。与包括下棋软件等狭义人

    工智能不同的是，通用人工智能几乎可以完成任何目标，包括学习。

    有趣的是，关于生命3.0的争议围绕着两个而不是一个问题展开，这两个问题分别是“何时”和“什么”，即如果生命3.0真的会出现，那何时会发生？这对人类意味着什么？我认为，存在三个截然不同的学

    派。这三个学派都值得我们认真对待，因为它们之中都包括一些世界顶

    尖的专家。我在图1-2中描绘了这三个学派，它们分别是：数字乌托邦

    主义者(Digital Utopians)、技术怀疑主义者(Techno-Skeptics)

    和人工智能有益运动支持者(Members of The Beneficial-AI

    Movement)。现在，请允许我向你介绍一些他们中最雄辩的支持者。

    图1-2 三个学派关于强人工智能的争议

    注：大多数关于强人工智能 (7)

    的争议都围绕着两个问题：如果真的会发生，何时会发生？它

    对人类是一件好事吗？技术怀疑主义者和数字乌托邦主义者都认为，我们不需要担心，但二者

    不担心的原因却很不同：前者相信，人类水平的通用人工智能在可预见的未来不会发生，而后

    者则认为，它当然会发生，但可以肯定地说，这绝对是一件好事。人工智能有益运动支持者则

    觉得，担忧是有必要和有用的，因为人工智能安全方面的研究和讨论会提高“结果是好事”的

    可能性。卢德主义者则相信，结果一定是坏的，所以反对人工智能。绘制这张图的灵感一部分

    来自这个网站：http:waitbutwhy.com201501artificial-intelligence-revolution-

    2.htm。

    数字乌托邦主义者：数字生命是宇宙进化的天赐之选

    小时候，我认为亿万富翁都是浮夸和自大的，但2008年，当我在谷

    歌公司遇到拉里·佩奇时，他完全颠覆了我的刻板印象。佩奇穿着一条

    休闲牛仔裤，一件非常普通的衬衫。如果他坐在麻省理工学院的草地

    上，一定会迅速地融入野餐的人群。佩奇讲话的时候很温和，笑起来十

    分友善，这让我在和他交谈时感到很放松，没有一丝紧张感。2015年7

    月18日，埃隆·马斯克和他前妻塔卢拉·赖利(Talulah Riley)在纳

    帕谷举行了一个宴会。在宴会上，我遇到了佩奇，聊起了我们的孩子对

    粪便的共同兴趣。我推荐了安迪·格里菲思(Andy Griffiths)的经典

    作品《我的屁股发疯的那天》(The Day My Butt Went Psycho )，佩

    奇马上就买了一本。我不断地提醒自己，他可能是人类历史上最具影响

    力的人：我猜测，假设在我的有生之年出现了吞噬宇宙的超级智能数字

    生命，这个决定应该就是佩奇做出的。

    后来，我们与我们的妻子们——露西·索斯沃斯(Lucy

    Southworth)和梅亚·奇塔·泰格马克(Meia Chita-Tegmark)一起共

    进晚餐。在席间，我们讨论了机器会不会产生意识这个问题。佩奇认

    为，这个问题是在混淆视听，并没那么重要。稍晚些时候，在鸡尾酒会

    之后，佩奇和马斯克展开了一场冗长但热烈的辩论，主题是人工智能的

    未来以及我们应该为此做些什么。到凌晨时，围观者变得越来越多。我

    认为，佩奇激烈维护的观点正是我认为的“数字乌托邦主义者”特有的

    观点。这个派别认为，数字生命是宇宙进化自然而然、令人期待的下

    一步，如果我们让数字智能自由地发展，而不是试着阻止或奴役它

    们，那么，几乎可以肯定地说，结果一定会是好的。 我认为，佩奇是

    数字乌托邦主义最具影响力的支持者。他说，如果生命会散播到银河系

    各处甚至河外星系(他认为这肯定会发生)，那么，这应当以数字生命

    的形式发生。他最大的担心是，人们对人工智能的猜疑和妄想会延迟这

    个数字乌托邦的到来，而且可能会导致邪恶的人工智能发动军事叛乱，接管人类社会，违背谷歌“不作恶”的座右铭。马斯克则一直还击，要

    求佩奇把观点讲得更详细一些，比如，为什么他如此相信数字生命不会

    毁灭我们关心的一切。佩奇时不时抱怨马斯克有“物种歧视”：只因某

    些生命形式是硅基而非碳基就认为它们低人一等。从第4章开始，我们

    会回到这些有趣的问题上，进行详细的探讨。

    在那个炎热夏日的泳池边，尽管佩奇似乎有些寡不敌众，但实际

    上，他极力维护的“数字乌托邦主义”拥有许多支持者。1988年，机器

    人学家兼未来学家汉斯·莫拉维克(Hans Moravec)写了一本经典著作

    《智力后裔》(Mind Children )，这本书启发了整整一代数字乌托邦

    主义者。因此，这一观点得以延续下来，后来又被未来学家雷·库兹韦

    尔(Ray Kurzweil)所提炼。理查德·萨顿(Richard Sutton)是人工

    智能领域强化学习的先驱，在我们于波多黎各岛举行的会议上，他激情

    四射地捍卫了数字乌托邦主义。我之后会简略地给你讲讲这个会议的情

    况。

    技术怀疑主义者：没有必要杞人忧天

    有些思想家一点也不担心人工智能将会带来的影响，不过，不担心

    的原因却与数字乌托邦主义者截然不同。这些思想家认为，建造超人类

    水平的通用人工智能实在太困难了，没有几百年的时间，根本无法实

    现，因此没必要杞人忧天。我把这种观点称为“技术怀疑主义”。拥

    有“中国谷歌”之称的百度的前首席科学家吴恩达对这种观点进行了很

    好的阐释：“担心杀手机器人的崛起，就好像担心火星出现人口过剩一

    样。”最近在波士顿的一场会议上，吴恩达再次向我重申了自己的这个

    观点。他还告诉我，他担心对人工智能风险的担忧可能会引导人们对人

    工智能充满恶意，从而制约人工智能的发展。还有一些技术怀疑主义者

    也发表过类似的言论，比如Roomba扫地机器人和Baxter工业机器人制作

    背后的原麻省理工学院教授罗德尼·布鲁克斯(Rodney Brooks)。我

    发现一个很有趣的事实：尽管数字乌托邦主义者和技术怀疑主义者都认

    为我们无须担心人工智能，但在其他事情上，两者的共同点却少之又

    少。大部分乌托邦主义者认为，与人类智能水平相当的通用人工智能可

    能会在20～100年内实现，而技术怀疑主义者认为，这是一种乌托邦式

    的幻想，他们经常会嘲笑一些人预测的“奇点” (8)

    ，并将其戏谑

    为“书呆子的臆想”。2014年12月的一个生日宴会上，我遇到了布鲁克

    斯，他对我说，他百分之百地肯定，奇点不会发生在我的有生之

    年。“你确定你的意思不是99%？”在后来的一封邮件中，我如此问

    道。他回复我说：“不是没用的99%。就是100%。奇点根本不会发

    生。”

    人工智能有益运动支持者：人工智能的研究必须以安全为前提

    2014年6月，我在巴黎的一家咖啡馆第一次遇到了人工智能先驱斯

    图尔特·罗素(Stuart Russell)，他是典型的英国绅士，彬彬有礼。

    而且，他能言善辩，思维缜密，语调温和，眼中闪烁着富于冒险的光

    芒。在我眼中，他仿佛就是斐利亚·福克(Phileas Fogg)的现代版

    本。福克是儒勒·凡尔纳于1873年的小说《八十天环游地球》中的人

    物，是我童年时代心目中的英雄。虽然罗素是迄今在世的最著名的人工

    智能研究者之一，也是人工智能领域的标准教科书的作者之一，但他的

    谦逊和热情很快让我放松下来。他向我解释说，人工智能领域的进展让

    他相信，与人类智能水平相当的通用人工智能真的有可能在本世纪内变

    成现实。尽管他充满希望，但他明白，并不是百分之百会产生好的结

    果。我们必须先回答一些重要的问题，而这些问题又是非常难以回答

    的，我们应该从现在就开始研究，这样，到我们需要它们时，手边才会

    有现成的答案。

    今天，罗素的想法比较符合主流的观点。全球各地有许多团队正在

    进行他支持的人工智能安全性(AI-safety)研究。不过，对人工智能

    安全性的研究并不是历来如此。《华盛顿邮报》一篇文章将2015年视为

    人工智能安全性研究进入主流视野的元年。在那之前，对人工智能风险

    的讨论常常被主流人工智能研究者所误解和忽视，而且，他们将进行人

    工智能安全性研究的人视为企图阻碍人工智能进步并四处散播谣言

    的“卢德分子”。我们将在第5章继续探讨这个话题。

    实际上，与罗素类似的担忧最早是由计算机先驱艾伦·图灵和数学

    家欧文·古德在半个世纪之前提出来的，古德与图灵在第二次世界大战

    中一起破译过德国军事的密码。在过去的10年里，关于人工智能安全性

    的研究主要由一些独立思想家来完成，比如埃利泽·尤德考斯基

    (Eliezer Yudkowsky)、迈克尔·瓦萨(Michael Vassar)和尼克·

    波斯特洛姆(Nick Bostrom)，不过，他们并不是专业的人工智能研究

    者。这些人的研究对主流人工智能研究者影响甚微，因为主流研究者总

    是聚焦于他们的日常工作——如何让人工智能系统变得更智能，而不是

    思考如果他们成功了会造成什么样的长期后果。我认识的一些人工智能

    研究者，即便他们心中略有迟疑，也不太愿意表达出来，因为担心自己

    会被视为危言耸听的技术恐慌者。

    我觉得，这种有失偏颇的情况需要被改变，这样，整个人工智能界

    才能联合起来，一起讨论如何建造对人类有益的人工智能。幸运的是，我并不是孤身一人在作战。2014年春天，我与我妻子梅亚、我的物理学

    家朋友安东尼·阿吉雷(Anthony Aguirre)、哈佛大学的研究生维多

    利亚·克拉科芙娜(Viktoriya Krakovna)以及Skype创始人扬·塔里

    安(Jaan Tallinn)一起，成立了一个非营利性组织“未来生命研究

    所”(Future of Life Institute，简称FLI)。我们的目标很简单：

    保证生命在未来继续存在下去，并尽可能的兴旺发达。具体而言，我

    们认为，技术赋予了生命一种力量，这种力量要么让生命实现空前的

    兴盛，要么让生命走向自我毁灭，而我们更青睐前一种。

    2014年3月15日，未来生命研究所第一次会议在我家举行，我们开

    启了一场头脑风暴。大约有30人参加，与会者包括来自波士顿地区的学

    生、教授和其他思想家。会议在这个问题上达成了广泛的共识，那就

    是，虽然我们也应该关注生物技术、核武器和气候变化，但我们的第一

    个主要目标是帮助人工智能安全性研究进入主流视野。我在麻省理工学

    院物理系的同事、因研究夸克而获得诺贝尔奖的弗兰克·韦尔切克

    (Frank Wilczek)建议我们，可以从撰写专题文章开始，吸引人们对

    这个问题的注意力，从而让这个问题变得不容忽视。于是，我向罗素

    (那时候我还没见过他)和我的物理学同行史蒂芬·霍金寻求帮助，他

    们二人都同意加入我和韦尔切克，作为共同作者，一起写文章。虽然我

    们的专题文章改写了很多次，但还是被《纽约时报》等众多美国报纸拒

    绝，因此，我们将其发表在了我们在《赫芬顿邮报》的博客账号上。令

    我高兴的是，《赫芬顿邮报》联合创始人阿里安娜·赫芬顿(Arianna

    Huffington)亲自写来邮件说：“看到这篇文章，我太激动了!我们会

    把它放在头条的位置上。”于是，这篇文章被放在了主页的顶部，并引

    发了一大波媒体对人工智能安全性研究的报道，这波热潮一直延续到了

    当年的年底。埃隆·马斯克、比尔·盖茨等科技界领袖纷纷加入讨论。

    同年秋天，尼克·波斯特洛姆出版了《超级智能》

    (Superintelligence )一书，再一次点燃了公众的讨论热情。

    在未来生命研究所，人工智能有益运动的下一个目标是让世界顶级

    的人工智能研究者齐聚一堂，澄清误解，铸就共识，并提出富有建设性

    的计划。我们知道，想要说服一群享誉全球的科学家来参加一个由外行

    人组织的会议是很难的，尤其是会议的主题还如此富有争议。因此，为

    了邀请到他们，我们竭尽了全力：禁止媒体参会；将会议时间安排在

    2015年1月份，地点安排在波多黎各的一个海滨度假村；免去了一切参

    会费用。我们给这次会议起了一个我们所能想到的最不危言耸听的标

    题：“人工智能的未来：机遇与挑战”。多亏我们的团队中有斯图尔特

    ·罗素，因为有他的帮助，我们的组织委员会里才得以加入一批来自学

    术界和产业界的人工智能领袖，包括人工智能企业DeepMind创始人德米

    斯·哈萨比斯(Demis Hassabis)，正是他，在2017年向人们证明了人

    工智能可以在围棋中打败人类。我对哈萨比斯了解得越多，就越发现他

    的热情不仅在于让人工智能变得更强大，还在于让人工智能变得有益于

    人类。

    结果，这是一场心灵的非凡碰撞(见图1-3)。人工智能研究者、顶级经济学家、法律学者、科技领袖等思想家齐聚一堂，这些人中包括

    埃隆·马斯克和提出了“奇点”(Singularity)这个词的科幻作家弗

    诺·文奇(Vernor Vinge)，我们会在第4章聚焦这个话题。

    图1-3 2015年1月的波多黎各会议让各界研究者齐聚一堂

    注：2015年1月的波多黎各会议让人工智能及其相关领域的研究者齐聚一堂。后排从左到右分别

    是：汤姆·米切尔(Tom Mitchell)、肖恩·奥黑格尔忒(Seán ó héigeartaigh)、休·普

    莱斯(Huw Price)、沙米勒·钱德拉(Shamil Chandaria)、扬·塔里安、斯图尔特·罗素、比尔·希巴德(Bill Hibbard)、布莱斯·阿奎拉·阿克斯(Blaise Agüera y Arcas)、安

    德斯·桑德伯格(Anders Sandberg)、丹尼尔·杜威(Daniel Dewey)、斯图尔特·阿姆斯特

    朗(Stuart Armstrong)、卢克·米尔鲍尔(Luke Muehlhauser)、汤姆·迪特里奇(Tom

    Dietterich)、迈克尔·奥斯本(Michael Osborne)、詹姆斯·玛尼卡(James Manyika)、阿杰伊·阿格拉沃尔(Ajay Agrawal)、理查德·马拉(Richard Mallah)、南希·钱(Nancy

    Chang)、马修·帕特曼(Matthew Putman)；其他站着的人，从左到右分别是：玛丽莲·汤普

    森(Marilyn Thompson)、里奇·萨顿(Rich Sutton)、亚历克斯·威斯纳-格罗斯(Alex

    Wissner-Gross)、山姆·特勒(Sam Teller)、托比·奥德(Toby Ord)、乔沙·巴赫

    (Joscha Bach)、卡特娅·格蕾丝(Katja Grace)、阿德里安·韦勒(Adrian Weller)、希

    瑟·罗夫-珀金斯(Heather Roff-Perkins)、迪利普·乔治(Dileep George)、谢恩·列格

    (Shane Legg)、丹米斯·哈萨比斯、文德尔·华莱士(Wendell Wallach)、查莉娜·蔡

    (Charina Choi)、伊利娅·苏特斯科娃(Ilya Sutskever)、肯特·沃克(Kent Walker)、塞西莉亚·蒂莉(Cecilia Tilli)、尼克·波斯特洛姆、埃里克·布莱恩约弗森(Erik

    Brynjolfsson)、史蒂夫·格罗桑(Steve Crossan)、穆斯塔法·苏莱曼(Mustafa

    Suleyman)、斯科特·菲尼克斯(Scott Phoenix)、尼尔·雅各布斯坦(Neil

    Jacobstein)、穆里·沙纳汉(Murray Shanahan)、罗宾·汉森(Robin Hanson)、弗朗西斯

    卡·罗西(Francesca Rossi)、纳特·索尔斯(Nate Soares)、埃隆·马斯克、安德鲁·麦

    卡菲(Andrew McAfee)、巴尔特·塞尔曼(Bart Selman)、米歇尔·赖丽(Michele

    Reilly)、阿伦·范德文德(Aaron VanDevender)、迈克斯·泰格马克、玛格丽特·博登

    (Margaret Boden)、约舒亚·格林(Joshua Greene)、保罗·克里斯蒂亚诺(Paul

    Christiano)、埃利泽·尤德考斯基、戴维·帕克斯(David Parkes)、劳伦特·奥尔索

    (Laurent Orseau)、施特劳贝尔(JB Straubel)、詹姆斯·穆尔(James Moor)、肖恩·勒

    加斯克(SeanLegassick)、马森·哈特曼(Mason Hartman)、豪伊·伦珀尔(Howie

    Lempel)、戴维·弗拉德克(David Vladeck)、雅各布·斯坦哈特(Jacob Steinhardt)、迈

    克尔·瓦萨、瑞安·卡洛(Ryan Calo)、苏珊·杨(Susan Young)、欧文·埃文斯(Owain

    Evans)、莉娃-梅丽莎·泰兹(Riva-Melissa Tez)、亚诺士·克拉玛(János Krámar)、杰夫·安德斯(Geoff Anders)、弗诺·文奇、安东尼·阿奎尔。前排蹲着的人分别是：山姆

    ·哈里斯(Sam Harris)、托马索·波吉奥(Tomaso Poggio)、马林·索里亚彻克(Marin

    Solja?i?)、维多利亚·克拉科芙娜、梅亚·奇塔-泰格马克(Meia Chita-Tegmark)；相机

    后面的人是：安东尼·阿奎尔(他旁边那个人类水平的智能把他PS进了照片里。)

    这次会议的结果超过了我们最乐观的预期。或许，是因为有阳光与

    红酒的相伴，又或许，是因为时机正好。尽管话题很有争议，但我们最

    后还是达成了一份了不起的共识。我们将共识的详细内容写入了一封公

    开信 [1]

    ，最后有8 000多人签名，其中涵盖了名副其实的“人工智能

    名人谱”。公开信的主旨是，我们应该重新定义人工智能的目标：创造

    目标有益的智能，而不是漫无目标的智能。 公开信还提到了一份研究

    课题列表。参会者都同意，这些课题能进一步推进上述目标。人工智能

    有益运动开始逐步进入主流社会。在本书之后的章节中，我们将会介绍

    该运动的后续进展。

    这个会议的另一个重要收获是：人工智能的成功所引发的问题不仅

    在智识上令人着迷，而且在道德上也非常重要，因为我们的选择可能会

    影响生命的整个未来。在历史上，人类所做出的选择的伦理意义固然很

    重要，但却时常受到限制：我们能从最严重的瘟疫中恢复，但最雄伟的

    帝国最终也会分崩离析。在过去，人们知道，无论什么时候，人类都会

    面临常年不断的灾害，比如贫穷、疾病和战争，这个事实就像太阳早晨

    一定会升起一样肯定，因此，我们必须想尽办法解决这些问题。不过，波多黎各会议上的一些发言人称，现今面临的问题可能和以前不一样。

    他们说，这是历史上头一遭，我们或许能发明出足够强大的科技，可以

    将那些灾害永久性地清除出去；又或者，它也可能将人类推向末日。我

    们可能会在地球上甚至地球之外构建出一个空前繁荣的社会，同时也可

    能会让全世界都处于强大的卡夫卡式的监控之下。

    图1-4 埃隆·马斯克和汤姆·迪特里奇

    注：尽管媒体经常将马斯克描绘得与人工智能界格格不入，但其实，他们基本同意人工智能安

    全性研究是必要的。这张照片拍摄于2015年1月4日，在照片里，美国人工智能协会

    (Association for the Advancement of Artificial Intelligence，简称AAAI)主席汤姆·

    迪特里奇听说，马斯克前段时间资助了一项新的人工智能安全性研究项目，两人的兴奋之情溢

    于言表。未来生命研究所创始人梅亚·奇塔-泰格马克和维多利亚·克拉科芙娜“潜伏”在他们

    后面。

    关于人工智能的三大误区

    当离开波多黎各时，我坚信关于人工智能未来的对话应该持续下

    去，因为这是我们这个时代最重要的对话 (9)。这场对话关乎我们所有

    人的未来，不应该只局限于人工智能研究者参与。这就是我写这本书的

    原因：

    我希望你，我亲爱的读者，也能够加入这场对话。你想要

    什么样的未来？我们应不应该开发致命的自动化武器？你希望

    职业自动化发展成什么样？你会对今天的孩子提供哪些职场建

    议？你更希望看到新职业取代旧职业，还是一个不需要工作的

    社会，在那里，人人都可以享受无尽的闲暇时光和机器创造出

    来的财富？再进一步，你是否希望我们创造出生命3.0，并把

    它散播到宇宙各处？我们会控制智能机器，还是仅被它们控

    制？智能机器会取代我们，与我们共存，还是会与我们融为一

    体？人工智能时代，作为“人”，究竟意味着什么？你又希望

    它意味着什么？我们如何才能让未来变成自己想要的样子？

    《生命3.0》这本书的目的是帮助你加入这场对话。正如我在前面

    所说，关于人工智能，存在许多迷人的争议，世界顶级专家们也难以达

    成共识。不过，我也见过许多无聊的“伪争议”，究其原因就是，有些

    人只是误解了对方的意思，所以各执一词，互不相让。为了帮助我们聚

    焦在那些最有趣的争议和开放式的问题之上，而不是在误解上继续纠

    缠，让我们先来澄清一些最常见的误解。

    我们平时经常使用“生命”“智能”和“意识”这类词语，但它们

    其实存在许多不同的定义。有时候，人们并没有注意到，当他们使用这

    些词语时，表达的意思却各不相同，所以许多误解由此而生。为了避免

    你我也掉入这个陷阱，在表1-1中，我列举了在本书中我提到这些词时

    所表达的意思，作为备忘。其中一些定义，我到后面的章节中才会正式

    地介绍和解释。请注意，我并不是说我的定义比其他人的更好，我只是

    想在这里澄清我想表达的意思，以避免被误解。你将看到，我通常会把

    某个东西的定义下得广一些，让它们不仅可以用在人类身上，也可以用

    在机器身上，以避免“人类中心主义”的偏见。请你现在看一看这张备

    忘表。如果你在读后面的章节时，对某些词的定义感到困惑，也希望你

    回到这张表，再看一看，特别是读到第4～8章时。

    表1-1 名词备忘表

    续前表

    除了词汇上面的混淆，我还见过许多与人工智能有关的对话，因为

    释。

    在《生命3.0》这本书里对它们的定义，其中一些词语，我在后面的章节才会正式地介绍和解

    注：关于人工智能的许多误解都是由人们对上述词语的不同定义造成的，这个表中列举的是我一些简单的误区而走上歧路。下面我来澄清一些最常见的误区。

    时间线的误区：通用人工智能什么时候会出现

    第一个误区与图1-2中的时间线有关：究竟什么时候，机器才能进

    化为极大超越人类水平的通用人工智能呢？一个常见的误区是(如图1-

    5所示)，认为这个问题的答案十分确定。

    图1-5 关于超级智能的常见误区

    一个流行的错误观点是，超人类水平的通用人工智能一定会在21世

    纪内实现。实际上，历史上充满了天花乱坠的技术宣言。核聚变发电厂

    和飞天汽车在哪儿呢？照某些人的承诺，这些东西应该早就实现了。同

    样地，人工智能在过去也被一次又一次地吹捧上天，始作俑者甚至包括

    一些人工智能的奠基者，比如，提出了“AI”这个概念的约翰·麦卡

    锡、马文·明斯基 (10)

    、纳撒尼尔·罗切斯特和克劳德·香农一起写出

    了下面这段过于乐观的预言 (11)

    ，当时，他们打算用“石器时代”的计

    算机大干两个月，来实现一些目标：

    1956年夏天，我们将在达特茅斯学院进行一项由10个人组

    成的为期两个月的人工智能研究……研究的主题是：如何让机

    器使用语言、进行抽象思考和形成概念，让它们解决目前只能

    由人类解决的问题，并自我改善。我们认为，如果仔细甄选一

    些科学家，组成一个团队，在一起工作一个夏天，就能在一个

    或多个问题上取得重大进展。

    然而，与此相反的另一个流行的错误观点是，超人类水平的通用人

    工智能在21世纪内一定不会实现。关于我们离实现它还有多远，研究者

    的评估范围很广泛，但我们并不能信誓旦旦地肯定21世纪内实现它的可

    能性为零。技术怀疑主义者曾做出过许多令人沮丧的消极预测，后来也

    被证明不符合事实。欧内斯特·卢瑟福(Ernest Rutherford)可能是

    他那个年代最伟大的原子核物理学家，他在1933年说，核能就是一派空

    谈，而不到24小时，美国原子核物理学家利奥·西拉德(Leo

    Szilard)就创造了核链式反应；1956年，英国皇家天文学家理查德·

    伍利(Richard Woolley)认为，太空旅行“完全是一派胡言”。这个

    误区最极端的观点是认为超人类水平的通用人工智能永远不会到来，因

    为在物理学上不可能实现。然而，物理学家知道，大脑中的夸克和电子

    组合起来不正像一台超级计算机吗？并且，没有哪个物理定律说我们不

    能建造出比大脑更智能的夸克团。

    有人对人工智能研究者进行了一些调查，请他们预测多少年之后，人类水平的通用人工智能实现的可能性将达到至少50%。所有这些调查

    的结果都一样：世界顶级专家各执一词，因此我们根本不知道答案。在

    波多黎各会议上，我们也进行了一次这样的调研，答案的平均数是

    2055年，但有些研究者认为需要几百年，甚至更久。

    还有一个相关的误区是，认为担忧人工智能的人总以为它不出几年

    就会降临。实际上，有记录显示，大多数担忧超人类水平的通用人工智

    能的人都认为，它至少还有几十年才会实现。不过，他们认为，只要我

    们并不是百分之百肯定，它一定不会发生在21世纪内，那么最好尽快开

    展人工智能安全性研究，防患于未然。我们在本书中会读到，许多安全

    问题的解决是非常困难的，可能需要几十年的时间才能解决。因此，最

    好从现在就开始进行研究，才是明智之举，而不是等到某些猛灌红牛的

    程序员决定开启一个人类水平的通用人工智能的前夜才开始亡羊补牢。

    关于争议的误区：“卢德分子”不是唯一的担忧者

    第二个常见的误区是，认为唯一对人工智能怀有忧虑并支持人工智

    能安全性研究的一类人，都是对人工智能一窍不通的“卢德分子”。当

    斯图尔特·罗素在波多黎各的演讲中提到这件事时，观众笑成一片。还

    有一个相关的误区是，认为支持人工智能安全性研究会招致极大的争

    议。实际上，若想适度地支持人工智能安全性研究，人们并不需要确认

    风险是否很高，只需要相信风险不容忽视就行了，就像人们适度地投资

    房屋保险，只是因为他们认为火灾的可能性不容忽视罢了。

    经过我个人的分析发现，媒体报道夸大了人工智能安全性辩论的争

    议程度。不过，恐惧能带来经济效益。许多宣告世界末日即将来临的文

    章都是断章取义，但比起那些更微妙平和的文章来说，它们能获得更高

    的点击率。结果就是，假如辩论双方只从媒体的引述中获悉对方的观

    点，通常就会高估他们之间的分歧程度。比如，如果一个技术怀疑主义

    者只从英国通俗小报那里了解比尔·盖茨的观点，那他很可能会错误地

    认为，盖茨相信超级智能很快就要来临了。同样地，人工智能有益运动

    支持者如果只知道吴恩达说了“火星人口过剩”这句话，那他也可能会

    错误地认为，吴恩达完全不关心人工智能的安全性问题。实际上，我知

    道吴恩达很关心这个问题，只不过，由于他预估的时间长一点，所以他

    很自然地将人工智能面临的短期挑战放在比长期挑战更重要的位置上。

    关于风险类别的误区：不是被赶尽杀绝，而是失去控制权

    当我在《每日邮报》 [2]

    上读到一篇题为“史蒂芬·霍金警告说，机器人的崛起对人类可能造成灾难性的破坏”的头条报道时，我翻了个

    白眼。我已经数不清这是第几次看到类似的标题了。通常情况下，文章

    里还会配一张一看就很邪恶的机器人拿着武器的图片，并建议我们应该

    担忧机器人的崛起，因为它们可能会产生意识并且变得邪恶，然后把我

    们赶尽杀绝。值得一提的是，这样的文章确实令人印象深刻，因为它们

    简洁地总结了我的人工智能同行们不会担心的情景。这个情景集合了三

    个不同的误区，分别是对意识、邪恶和机器人的理解。

    当你开车时就会发现，你拥有对颜色、声音等东西的主观体验。但

    是，一辆无人驾驶汽车是否会拥有主观体验呢？它会不会感觉到作为一

    辆无人驾驶汽车的感觉？或者，它只是一个没有任何主观体验的无意

    识“僵尸”？诚然，关于意识的谜题本身是很有趣的，我们将在第8章

    讨论这个问题，但是，这个问题与人工智能的风险毫无关系。如果你被

    一辆无人驾驶汽车撞到，它有没有主观意识对你来说没什么两样。同样

    地，超级智能究竟会如何影响我们人类，只取决于它会做什么，而不取

    决于它主观上感觉到了什么。

    因此，对邪恶机器的恐惧，也没那么重要。我们真正应该担心的不

    是它们有没有恶意，而是它们的能力有多强 。从定义上来说，一个超

    级智能会非常善于实现自己的目标，不管这个目标是什么，因此，我们

    需要确保它的目标与我们的相一致。举个例子，你可能并不讨厌蚂蚁，也不会出于恶意踩死蚂蚁，但如果你正在负责一个绿色能源的水电项

    目，在即将淹没的区域里有一处蚁穴，那么，这些蚂蚁便凶多吉少了。

    人工智能有益运动的目的就是要避免人类处在这些蚂蚁的境地。

    对意识的误解与认为“机器不能拥有目标”这一误区有关。狭义地

    看，机器显然能拥有目标，因为它们能展现出目标导向行为：热跟踪导

    弹的行为就是为了实现“击中靶标物”这一目标。如果一台目标与你的

    目标不一致的机器令你感受到了威胁，那么，狭义地说，令你担忧的

    正是它的目标，而不是它拥有意识或体验到了意志。 如果一枚热跟踪

    导弹正在向你袭来，你肯定不会大喊：“我一点儿也不担心，因为机器

    不能拥有目标!”

    通俗小报对人工智能危言耸听的“妖魔化”，令罗德尼·布鲁克斯

    等机器人先驱感到很不公平。在这点上，我很同情他们，因为一些记者

    确实十分执着于“机器人叛乱”的题材，并且喜欢在文章中配上眼睛血

    红的邪恶的金属机器人的图片。实际上，人工智能有益运动支持者最担

    忧的并不是机器人，而是智能本身：尤其是那些目标与我们的目标不

    一致的智能。这种与我们的目标不一致的智能要引发我们的忧虑，并

    不需要一个机器人的身体，只需要连接互联网即可。 我们将在第4章

    探讨互联网将如何让人工智能在金融市场上比人类更聪明，获得比人类

    研究者更高的投资回报率，比人类领袖更善于权谋，并开发出我们无法

    理解的武器。即使不能建造出实体的机器人，一个超级智能和超级富有

    的人工智能也能很轻易地收买或操纵大量人类，让他们在不知不觉中执

    行自己的命令，就像威廉·吉布森(William Gibson)的科幻小说《神

    经漫游者》(Neuromancer )中所描绘的那样。

    对机器人的误解源自“机器不能控制人类”的误区。智能让控制成

    为可能：人类能控制老虎，并不是因为我们比老虎强壮，而是因为我

    们比它们聪明。这意味着，如果我们不再是地球上最聪明的存在，那

    么，我们也有可能会失去控制权。

    图1-5总结了这些常见的误区，这样我们就可以一次性地抛弃它

    们，并把我们与朋友和同行讨论的焦点集中在那些合情合理的争议上。

    我们接下来将看到，这些争议可一点儿都不少!

    前路几何

    在本书接下来的篇章里，我们将一起探索有着人工智能相伴的生命

    的未来。让我们用一种组织有序的方式来探讨这个丰富而又包罗万象的

    话题。首先，我们将在概念和时间维度上探索生命的完整故事，接着，我们会探索目标和意义，以及要如何采取行动才能创造出我们想要的未

    来。

    在第2章中，我们会探索智能的基础，以及看似愚钝的物质如何组

    合出能够记忆、计算和学习的形式。随着我们对未来的探讨变得越来越

    深入，我们的故事将出现许多不同的分支，每个分支则会对应着各不相

    同的情景。会出现哪种情景，取决于我们如何回答某些关键问题。图1-

    6总结了我们在人工智能越来越发达的过程中将会遇到的关键问题。

    如今，我们面临的问题是：应不应该进行人工智能军备竞赛，以及

    如何才能让明天的人工智能系统不出故障和保持稳定。如果人工智能的

    经济影响日益增长，我们还需要考虑如何修改法律，以及我们应该为孩

    子们提供什么样的就业建议，以免他们选择那些很快会被自动化取代的

    工作。我们将在第3章中讨论这些短期问题。

    如果人工智能发展到人类水平，我们还需要想一想如何保证它对人

    类有益，以及我们能不能或者应不应该创造出一个不需要工作就能保持

    繁荣的休闲社会。这也提出了另一个问题：智能爆炸或者缓慢但稳定的

    增长会不会创造出远超过人类水平的通用人工智能？我们会在第4章对

    许多这样的情景进行探讨，并在第5章讨论在这之后可能会发生什么事

    情，范围从可能的乌托邦情景一直延伸到反乌托邦情景。谁会处在统治

    地位？是人类、人工智能，还是赛博格 (12)？人类会得到温和还是残暴

    的对待？我们是否会被取代？如果被取代，我们会把取代我们的东西视

    为征服者，还是后裔？我很好奇你会喜欢第5章中的哪一种情景，因

    此，我建了一个网站(http:AgeOfAi.org)，你可以在这里分享自己

    的看法，参与讨论。

    在第6章，我们会穿越到几十亿年后的未来。具有讽刺意味的是，我们在那里会得出一些比前几章更强的结论：因为我们宇宙中的生命

    的最终极限取决于物理定律，而不取决于智能。

    图1-6 人工智能的发展带来的关键问题

    注：哪些人工智能的问题会很有趣，取决于人工智能发展到什么水平，以及我们的未来会走上

    哪一条支路。

    对智能历史的探索终结之后，我们将用本书余下的部分来探讨我们

    应该朝着什么样的未来前进，以及如何实现它。为了将冷冰冰的事实与

    意志和意义联系起来，我们将在第7章和第8章分别探讨目标和意识的物

    理基础。最后，在尾声部分，我们将讨论当下应该做些什么，才能创造

    出我们想要的未来。

    如果你读书时喜欢跳过一些章节，那么你需要知道的是，只要你理

    解了第1章和下一章开头部分给出的名词解释及定义，后面的大部分章

    节都是相对独立的。如果你是一个人工智能研究者，你完全可以跳过第

    2章，除了最开始对智能进行定义的部分。如果你是最近才燃起对人工

    智能的兴趣，那第2章和第3章会让你明白，为什么第4～6章的内容不容

    忽视，更不能被视为不可能发生的科幻故事。图1-7列举了每一章的推

    测程度的高低。

    图1-7 《生命3.0》的结构

    一段精彩的旅程正在等待着我们，让我们出发吧!

    本章要点

    生命的定义是，一个能保持自身复杂性，并进行复制的

    过程。生命的发展会经历三个阶段：硬件和软件都来自进

    化的生物阶段，即生命1.0；能够通过学习自己设计软件

    的文化阶段，即生命2.0；自己设计硬件和软件，并主宰

    自我命运的科技阶段，即生命3.0。

    人工智能或许能让我们在21世纪内进入生命3.0阶段。我

    们应该朝着什么样的未来前进，以及如何才能实现这个未

    来？这个问题引发了一场精彩的对话。这场辩论中有三个

    主要的阵营：技术怀疑主义者、数字乌托邦主义者和人工

    智能有益运动支持者。

    技术怀疑主义者认为，建造超人类水平的通用人工智能

    相当困难，没有几百年的时间根本无法实现。因此，现在

    就开始担心这个问题和生命3.0是杞人忧天。

    数字乌托邦主义者认为，21世纪就有可能实现生命3.0。

    并且，他们全心全意地欢迎生命3.0的到来，把它视为宇

    宙进化自然而然、令人期待的下一步。

    人工智能有益运动支持者也认为，生命3.0有可能会在21

    世纪内实现，不过他们不认为它一定会带来好结果。他们

    认为，若想保证好的结果，就必须进行艰苦的人工智能安

    全性研究。

    除了这些连世界顶级专家都无法达成共识的合理争议，还有一些无聊的“伪争议”，是由误解所导致的。比如，如果你不能保证和自己的辩论对手在谈及“生命”“智

    能”“意识”这些词时，表达的意思是相同的，那么千万

    不要浪费时间争论这些话题。本书对这些词的定义参见表

    1-1。

    请一定注意图1-5中的误区：超级智能到2100年必将实现

    或不可能实现。只有“卢德分子”才会担心人工智能；我

    们应该担忧人工智能变得邪恶或拥有意识，而这一定会在

    几年内发生；机器人是最大的威胁；人工智能不可能控制

    人类，也不可能拥有目标。

    在第2～6章，我们将探索关于智能的故事，从几十亿年

    前卑微的开端，一直到几十亿年后在宇宙范围内的可能未

    来。首先，我们将探讨一些短期的挑战，比如就业、人工

    智能武器和对人类水平的通用人工智能的开发；接着，我

    们将讨论关于智能机器和人类未来的一系列迷人的可能

    性。我很想知道你青睐哪一种未来!

    在第7章和第8章，我们将不再描述冷冰冰的事实，而是

    转而探索关于目标、意识和意义的话题，并讨论我们现在

    可以做些什么来实现我们想要的未来。

    我认为，有人工智能相伴的生命未来是我们这个时代最

    重要的对话。请加入这场对话吧!

    在宇宙大爆炸发生之后的138亿年中，最不可思议的事情之一就

    是，荒芜一片、了无生机的物质之中竟然产生了智能。这究竟是如何发

    生的？未来会变成什么样？从科学的角度出发，应该如何讲述宇宙中智

    能的历史与命运？为了解决这些问题，这一章我们先来探索智能的构成

    要素和基础。那么，说一团物质拥有智能，到底意味着什么？说一个物

    体能记忆、计算和学习，又意味着什么？

    什么是智能

    最近，我和我的妻子梅亚很幸运地参加了一个由瑞典诺贝尔基金会

    举办的人工智能研讨会。在会议中，那些顶尖的人工智能研究者在“什

    么是智能”这个问题上展开了一场冗长的讨论，最后却未能达成共识。

    我们觉得这件事很有趣：居然连人工智能研究者也无法就“什么是智

    能”达成一致意见!因此，关于智能，显然不存在一个无可辩驳的“正

    确”定义。相反，有许多不同的定义在互相竞争，“参战”的定义有逻

    辑能力、理解能力、计划能力、情感知识、自我意识、创造力、解决问

    题的能力和学习能力等。

    在这场关于智能未来的探索中，我们想采用一个最广泛、最兼容并

    包的观点，而不想局限于目前已知的智能范围。这就是为什么我会在第

    1章对智能下一个很广的定义，并在本书中用一种很宽泛的方式来使用

    这个词的原因。

    智能(intelligence)：完成复杂目标的能力。

    这个定义很广，足以涵盖前文提到的所有定义，因为理解力、自我

    意识、解决问题的能力、学习能力等都属于我们可能会遇到的复杂目

    标。同时，这个定义还能将《牛津英语词典》中的定义“获得和应用知

    识与技能的能力”也涵盖进去，因为你也可以将“应用知识与技能”作

    为一个目标。

    由于可能存在许多不同的目标，因此，也可能存在许多不同的智

    能。 所以，从我们的定义出发，用IQ这种单一指标来量化人类、动物

    或机器是没有意义的 (13)。假设有两个计算机程序，一个只会下象棋，另一个只会下围棋，请问哪一个更智能？这个问题并没有标准答案，因

    为它俩各自擅长的事情没法进行直接的比较。不过，假如存在第三个计

    算机程序，它能够完成所有目标，并且，它在某一个目标上，比如下象

    棋，做得远比前面所说的两个程序都好，而且在其他目标上完成得也不

    比它们差，那我们就可以说，第三个程序比前面两个程序更加智能。

    另外，争论某些边缘化的例子是否具备智能，也没什么意义，因为

    能力不是非黑即白、非有即无的，而是分布在一个连续谱上。举个例

    子，什么样的人算得上能说话？新生儿？不能。电台主持人？能。但

    是，假如一个幼童能说10个词，她算不算得上能说话？如果她会500个

    词呢？界限应该划在何处？在我所说的智能定义中，我特意用了一个很

    模糊的词——复杂，因为人为地在智能和非智能之间画一条界线是于事

    无补的，不如对不同目标所需的能力进行量化，可能会更有用一些。

    对智能进行分类，还有一种方法，那就是用“狭义”(narrow)

    和“广义”(broad)来进行区分。IBM公司的深蓝(Deep Blue)计算

    机虽然在1997年战胜了国际象棋冠军加里·卡斯帕罗夫(Garry

    Kasparov)，但它能完成的任务范围非常“狭窄”，因为它只能下象

    棋，尽管它的硬件和软件都令人印象深刻，但它甚至不能在井字棋游戏

    中战胜一个4岁的儿童。谷歌旗下DeepMind公司的“DQN”人工智能系统

    能完成的任务范围稍微广一点：它会玩几十种经典的雅达利电子游戏，并且玩的水平与人类的水平不相上下，甚至更好。相比之下，人类智能

    的宽度可比它们广多了，人类能掌握多如牛毛的技能。只要经过训练，假以时日，一个健康的儿童不仅能够学会任何游戏，还能学会任何语

    言、运动或职业技能。将人类智能和机器智能做个比较，我们人类会在

    宽度上立马胜出。不过，机器在某些比较狭窄的任务上胜过了我们，这

    些任务虽然小，但数量却在与日俱增。我在图2-1中列出了这些任务。

    人工智能研究的“圣杯”就是建造最广泛的通用人工智能，它能够完成

    任何目标，包括学习。我们将在第4章详细探讨这个话题。“通用人工

    智能”这个词变得流行起来，得感谢三位人工智能研究者：沙恩·莱格

    (Shane Legg)、马克·古布鲁德(Mark Gubrud)和本·戈策尔(Ben

    Goerzel)，他们用这个词来形容人类水平的通用人工智能，即能够完

    成任何目标并且完成得与人类不相上下的能力 [1]。我将遵照他们的定

    义。因此，每次我使用通用人工智能时，都是在说“人类水平的通用人

    工智能” (14)

    ，除非我明确地在这个缩写前面加上了形容词，比如超人

    类水平的通用人工智能。

    图2-1 人工智能可以胜出人类的任务

    注：智能的定义是，完成复杂目标的能力。它不能用单一的IQ指标来衡量，只能用一个由所有

    目标组成的能力“谱”来衡量。箭头指的是当今最好的人工智能系统在不同目标上的表现。通

    过这张图可以看出，当今人工智能的能力总是比较“狭窄”，每个系统只能完成非常特定的目

    标。与之相比，人类智能则非常宽广：一个健康儿童能学会做任何事情，而且在所有事情上都

    做得比人工智能更好。

    虽然人们在使用“智能”这个词时，总是倾向于带有积极正面的色

    彩，但我想强调的是，在本书中使用“智能”这个词时，我不会做任何

    价值判断，它就是完成复杂目标的能力，而无论这个目标被认为是好的

    还是坏的。因此，一个智能的人可能非常擅长帮助他人，也可能擅长伤

    害他人。我们将在第7章探讨有关目标的问题。说到目标，我们还需要

    澄清一个微妙的问题，那就是：我们所说的目标，究竟是谁的目标？

    假设在未来，你拥有了一台全新的个人机器助理，它虽然没有自己的目

    标，但会完成你安排给它的任何事情。某一天，你叫它为你做一顿美味

    的意大利晚餐，然后，它上网搜索了意大利菜的菜谱，了解了如何到达

    最近的超市、如何煮意大利面等问题，最后成功地买来了所需的原料，并为你烹制了一顿美味的晚餐。那么，你可能会认为它是智能的，即使

    最原始的目标其实是你的。实际上，当你提出要求时，它就继承了你的

    目标，并将其分解成几层子目标，从付钱给收银员到磨碎帕尔玛干酪，而这些子目标都是属于它自己的。从这个层面来看，智能行为毫无疑问

    是与达成目标联系在一起的。

    人类总喜欢按难度对任务进行排序(见图2-1)，但这些任务的难

    度顺序对计算机来说却不一样。对人类来说，计算314 159和271 828的

    乘积，可比从照片中识别一个朋友难多了，但计算机早在我出生 (15)

    以

    前就已经在计算能力上超过了人类，而接近人类水平的计算机图像识别

    技术却一直到近期才成为可能。低级的“感觉运动” (16)

    任务对计算机

    来说虽然需要消耗大量的计算资源，但很容易完成。这种现象被称

    为“莫拉维克悖论”(Moravec's paradox)。有人解释说，造成这个

    悖论的原因是，为了完成这些任务，我们的大脑其实调用了其14的资

    源，即大量的专门硬件，从而使这些任务感觉起来很容易完成。

    我很喜欢汉斯·莫拉维克所做的下面这个比喻，并冒昧地将其呈现

    在了图2-2中：

    计算机是通用机器，它们的能力均匀地分布在一个宽广得

    无边无际的任务区域上。不过，人类能力的分布却没那么均

    匀。在对生存至关重要的领域，人类的能力十分强大，但在不

    那么重要的事情上就很微弱。想象一下，如果用地形来比拟人

    类的能力，就可以画出一幅“人类能力地形图”，其中低地代

    表着“算数”和“死记硬背”，丘陵代表着“定理证

    明”和“下象棋”，高耸的山峦代表着“运动”“手眼协

    调”和“社交互动”。不断进步的计算机性能就好像水平面，正在逐步上升，淹没整个陆地。半个世纪以前，它开始淹没低

    地，将人类计算员和档案员逐出了历史舞台。不过，大部分地

    方还是“干燥如初”。现在，这场洪水开始淹没丘陵，我们的

    前线正在逐步向后撤退。虽然我们在山顶上感到很安全，但以

    目前的速度来看，再过半个世纪，山顶也会被淹没。由于那一

    天已经不远了，我建议，我们应该建造一艘方舟，尽快适应航

    海生活! [2]

    在莫拉维克写出这段话的几十年之后，“海平面”如他所预言的那

    样毫不留情地持续上升，就好像全球变暖打了鸡血一样。一些“丘

    陵”地区(包括下象棋)早已被淹没。下一步会发生什么，我们又应当

    做些什么，这就是本书余下部分的主题。

    图2-2 人类能力地形图

    注：这张“人类能力地形图”是机器人专家汉斯·莫拉维克提出的，其中，海拔高度代表这项

    任务对计算机的难度，不断上涨的海平面代表计算机现在能做的事情。

    随着“海平面”持续上升，它可能会在某一天到达一个临界点，从

    而触发翻天覆地的变化。在这个临界点，机器开始具备设计人工智能的

    能力。在这个临界点之前，“海平面”的上升是由人类对机器的改进所

    引起的，但在这个临界点之后，“海平面”的上升可能会由机器改进机

    器的过程推动，其速度很可能比人类改进机器的速度快得多，因此，很

    快，所有“陆地”都会被淹没在水下。这就是“奇点”理论的思想。这

    个思想虽然十分迷人，但却充满争议。我们将在第4章探索这个有趣的

    话题。

    计算机先驱艾伦·图灵曾有一个著名的证明，假如一台计算机能实

    施一组最小的特定运算，那么，只要给它足够的时间和内存，它就能被

    编程以实施其他任何计算机能做的任何事情。超过这个临界点的机器被

    称为“通用计算机”(universal computers)，又叫作“图灵通用计

    算机”(Turing-universal computers)。就这个意义而言，今天所有

    的智能手机和笔记本电脑都算得上是通用计算机。类似地，设计人工智

    能所需的智能也有一个临界点，我喜欢将这个临界点视为“普遍智能”

    (17)

    的临界点：给它足够的时间和资源，它就可以具备完成任何目标的

    能力，并且完成得和其他任何智能体不相上下。比如，如果普遍智能认

    为自己需要更好的社交技能、预测技能或设计人工智能的技能，那它就

    有能力去获得这些技能；如果它想要了解如何建造一个机器人工厂，它

    也完全有能力去获得建造工厂的技能。换句话说，普遍智能具备发展到

    生命3.0的潜力。

    然而，既然物理学提出，万事万物在最基本的层面上都只是四处游

    走的物质和能量而已，那么，信息和计算究竟是什么呢？看得见摸得

    着、具备物理实体的物体如何体现出抽象无形、虚无缥缈的东西，比如

    信息和计算呢？换言之，一堆无聊愚钝、按照物理定律飞来飞去的粒子

    是如何展现出我们认为的“智能”的行为的呢？

    如果你认为这个问题的答案是显而易见的，并且认为机器可能会在

    21世纪内达到人类的智能水平，或者如果你是一位人工智能研究者，那

    么，请跳过本章余下的部分，直接开始阅读第3章；否则，请你读一读

    本章剩下的三节，这是我特别为你而写的内容。

    什么是记忆

    如果说一本地图册包含关于世界的“信息”，那么，书的状态与世

    界的状态之间就存在着一种关系；具体而言就是指，书中文字和图片的

    分子的位置与大陆的位置之间存在着一种关系。如果大陆变换了位置，书中的分子也会变换位置。我们人类存储信息的设备多种多样，从书籍

    到大脑，再到硬盘，这些设备都有一个共同点：它们的状态能与我们关

    心的事物产生某种关系，因此也能告诉我们有关这些事物的信息。

    那么，是哪一项基本物理定律允许这些设备可以被用作“记忆装

    置”，即存储信息的装置的呢？答案是，它们都能够处于许多不同的长

    期状态，这些状态能够保持足够长的时间，长到足以把信息编入系统

    中，直到它被需要的那一天。举个简单的例子，假设有一个崎岖不平的

    曲面，上面有16个“山谷”，如图2-3所示。你将一个小球放到这个曲

    面上，它就会滚落到“山谷”中。一旦小球停下来，它一定会位于16个

    位置中的其中一个上，因此，你可以用它的位置来记忆从1～16的任意

    一个数字。

    这个记忆装置是相当稳健的，因为即使它受到外力的摇晃或干扰，小球也很可能会保持在原来的那个“山谷”中，所以，你还是可以读出

    它存储的数字。这个记忆之所以如此稳定，是因为想要把小球拿出山谷

    所需的能量，比随机干扰所能提供的能量多得多。除了曲面上的小球之

    外，这个原理还可以被运用到更广泛的情况中，以提供稳定的记忆，复

    杂物理系统的能量可能依赖于各种各样的力学、化学、电学和磁学性

    质。不过，对于一个你希望记忆装置“记住”的状态，如果它需要一定

    的能量才能改变这个状态，那么这个状态就是稳定的。这就是为什么固

    体拥有许多长期稳定状态，而液体和气体却没有；如果你把某人的名字

    刻在一枚金戒指上，多年以后，这个信息依然在那里，因为重铸金子需

    要很大的能量，但如果你把它“刻”在池塘的水面，不到一秒钟，这个

    信息就会丢失，因为水面的形状不费吹灰之力就可以改变。

    图2-3 记忆装置的物理定律

    注：如果一个物理实体可以处于许多不同的稳定状态，那么它就可以用作“记忆装置”。左图

    中的小球编码了4个比特的信息，代表它处在24

    =16个“山谷”中的其中一个中。右图中的4个

    小球共编码了4个比特的信息，每个小球编码了1个比特的信息。

    最简单的记忆装置只有两种稳定状态(如图2-3的右图所示)。因

    此，我们可以认为它是用二进制数字(简称“比特”)，也就是0和1来

    编码信息的。同样地，复杂一些的记忆装置可以用多个比特来存储信

    息：比如，图2-3右图中的4个比特组合起来可以有2×2×2×2＝16种不

    同的状态：0000，0001，0010，0011，…，1111，因此，它们组合起来

    的记忆能力与更复杂一些的16态系统(如左图所示)是完全相同的。因

    此，我们可以把比特视作信息的“原子”，也就是不能被继续细分的最

    小信息单元，它们组合起来可以表示任何信息。举个例子，我刚在笔记

    本电脑上打出了“word”这个单词，在电脑的内存中，它用一个由4个

    数字组成的序列来表示：119 111 114 100，每个数字存储为8个比特，每个小写字母的编码是96加上它在字母表中的序数。当我在键盘上敲

    出“w”这个字母时，我的笔记本电脑屏幕上显示出了“w”的视觉图

    像，这个图像同样也是由比特来表示的：电脑屏幕上共有几百万个像

    素，每个像素需要32个比特来规定它的颜色。

    由于双态系统生产和使用起来都很容易，大多数当代计算机都是用

    比特的方式来存储信息。不过，比特的体现方式多种多样。在DVD碟片

    上，每个比特代表其塑料表面上某一点是否存在一个微型凹坑。在硬盘

    中，每个比特代表它表面的某个点采用的是二选一的磁化方法。在我笔

    记本电脑的工作内存中，每个比特代表决定“微型电容”是否充电的某

    个电子位置。某些比特可以方便地传输，甚至能达到光速：例如，在你

    用来发送电子邮件的光纤中，每个比特代表一个激光束在某一时刻是强

    还是弱。

    工程师喜欢将比特编码进那些不但稳定易读(就像金戒指)，而且

    易于写入的系统中，比如硬盘，改变硬盘的状态所需的能量可比在金子

    上刻字少多了。他们还偏爱那些使用起来很方便，并能很便宜地进行大

    规模生产的系统。但除此之外，他们并不关心比特在物理实体中是如何

    体现的，大部分时候，你也不会关心这件事，因为它根本不重要!如果

    你通过电子邮件给你的朋友发送了一个需要打印的文件，从硬盘上的磁

    化到电脑工作内存中的电荷、无线网络中的无线电波、路由器的电压以

    及光纤中的激光脉冲，信息会以极快的速度在其中复制，最终换句话

    说，信息仿佛拥有自己的生命，而与它的物质形态如何没有关系。确

    实，我们感兴趣的只是这些独立于物质形态的信息，如果朋友给你打电

    话讨论你发送给他的那份文件，他并不是要和你讨论关于电压或分子的

    事情。这是我们获得的第一个启示：智能这样的无形之物可以体现在

    有形的物质形式之上。 接下来我们将会看到，“物质层面的独立

    性”这种属性其实具有更深的意义，不仅涉及信息，还与计算和学习有

    关。

    正因为信息可以独立于物质形态而存在，聪明的工程师们才能一次

    又一次地用新技术更新计算机的记忆装置，而不需要对软件做任何改

    变。结果相当惊人，如图2-4所示，在过去的60年里，每隔几年，计算

    机内存就会变得比之前便宜一半。硬盘的价格便宜了1亿倍，而主要用

    于计算而不只是存储的快速内存的价格骤降了10万亿倍。如果买东西时

    我们也能获得“99.99999999999%”这么大的折扣力度，那么你只需要

    花10美分就能在纽约市买一栋房子，也只需花1美元就能买下人类历史

    上开采出来的所有黄金。

    图2-4 过去60年里，计算机内存的变化趋势

    注：在过去的60年里，每隔几年，计算机内存就会比过去便宜两倍，相当于每20年便宜1 000

    倍。一个字节等于8个比特。数据来源于约翰·麦卡勒姆(John McCallum)，详细数据请查看

    http:www.jcmit.netmemoryprice.htm。

    对许多人来说，存储技术的巨大进步都与自己的成长息息相关。我

    记得上高中时，为了买一台内存为16KB的计算机，不得不在一家糖果店

    里打工。我和我的同学马格努斯·博丁(Magnus Bodin)为这台计算机

    写了一个文字处理软件，当时我们被迫用超级紧凑的机器码 (18)

    来写，就为了给它要处理的文字信息留点空间。在习惯70KB内存的软盘之后，我被3.5英寸大的软盘震惊了，因为它体积更小，却能存储1.44MB的内

    容，足以装下一整本书。后来，我拥有了我人生中的第一个硬盘，它可

    以存储10MB的内容，放到今天，它可能连一首歌曲都装不下。这些青春

    期的故事回忆起来很不可思议，因为今天的我花100美元就能买到一个

    比以前的存储空间大30万倍的硬盘。

    这些都是人类设计的记忆装置。那么，那些进化而来的记忆装置

    呢？生物学家还不知道第一个能够复制上一代蓝图的生命形式是什么，但我们猜想，它可能非常微小。2016年，剑桥大学的菲利普·霍利格

    (Philipp Holliger)带领团队制造了一个RNA分子，它编码有412个比

    特的遗传信息，能够复制比自己更长的RNA链。这个成果为一个叫

    作“RNA世界”(RNA world)的假说提供了支持。这个假说认为，早期

    的地球生命与一些能自我复制的RNA短片段有关。目前，已知进化产生

    并生存于野外的最小记忆装置是一种名叫Candidatus Carsonella

    Ruddii的细菌的基因组，它可以存储40KB的信息，而我们人类的DNA能

    存储1.6GB的信息，与一部电影的大小差不多。正如在第1章提到的，我

    们大脑存储的信息比基因多多了：大脑中差不多有10GB的电子信息，它

    们详细描述了在任意时刻，在你的1 000亿个神经元中，有哪些正在放

    电；还有100TB的化学生物信息，它们详细描述了神经元之间突触连

    接的强度。将这些数字与机器记忆相比较，你就会发现，当今世界上最

    好的计算机的记忆能力比任何生物系统都强大，并且，它们的价格下降

    得非常快，到了2016年，只需要几千美金就可以买到。

    大脑的记忆原理与计算机的信息存储原理截然不同，这不仅体现在

    它的构成上，还体现在它的使用方式上。你在计算机或硬盘上读取记

    忆的方式是通过它存储的位置，但你从大脑中读取记忆的方式则是依

    据它存储的内容。 在计算机内存中，每组比特都拥有由一个数字组成

    的地址。当需要读取某些信息时，计算机检索的是它的地址，这就好像

    在说：“请你从我的书架上取出最顶层从右往左数的第5本书，然后告

    诉我第314页上说了什么。”相反，你从大脑中读取信息的方式却更像

    搜索引擎：你指定某个信息或与之相关的信息，然后它就会自动弹出

    来。比如，当你听到“生存还是……”这个短语时，它很可能会在你脑

    中触发“生存还是毁灭，这是一个值得考虑的问题”这句话；如果你在

    网上搜索这个短语，搜索引擎也很可能会给你同样的搜索结果。实际

    上，即便我引用的是这句话中的另外一部分，甚至弄混一些字词，结果

    可能还是一样的。这种记忆系统被称为“自联想”(auto-

    associative)，因为它们是通过联想而不是地址来进行“回想”的。

    1982年，物理学家约翰·霍普菲尔德(John Hopfield)在一篇著

    名的论文中向人们展示了一个由互相连接的神经元组成的网络，它能够

    实现自联想记忆的功能。我觉得他的基本观点非常棒，对于许多拥有多

    个稳定状态的物理系统来说，这个观点都成立。例如，一个小球位于一

    个拥有两个“山谷”的曲面上，就像图2-3中显示的单比特系统那样。

    让我们对这个曲面做一点设定，让两个最低点的x 坐标分别为

    和x =π≈3.14159。如果你只记得π与3很接

    近，但不记得π的具体值，那么你只需要把小球放到π=3处，然后看它

    滚落入最近的最低点，它就能向你揭示出一个更精确的π值。霍普菲尔

    德意识到，一个更复杂的神经元系统可以提供一个类似的“地形”，其

    上有许许多多能量极小值，系统可以稳定在这些能量极小值上。后来人

    们证明，你可以在每1 000个神经元中塞进多达138个不同的记忆，而不

    会引起较大的混乱。

    什么是计算

    现在，我们已经看到了一个物理实体是如何记忆信息的。那么，它

    又是如何计算的呢？

    计算是由一个记忆状态向另一个记忆状态转变的过程 。换句话

    说，计算会使用信息，并运用数学家们所谓的函数来转变信息。我把函

    数视为信息的“绞肉机”，正如图2-5中所示：你可以从上方放入信

    息，转动曲柄，然后从底部获得被处理过的信息。你可以输入不同的信

    息来重复这个过程。如果你输入的是同样的信息，并重复这个过程，那

    么，这个信息处理过程是确定性的，你每次都会获得相同的输出结果。

    图2-5 计算使用信息和函数来转变信息

    注：函数?(左图)使用一些代表数字的信息，并计算出它的平方。函数g (中图)使用一些代

    表棋子位置的信息，计算出白棋最佳的走位。函数h (右图)使用一些代表图像的信息，并计

    算出一个描述图像的文本标签。

    虽然这个计算过程听起来简单得令人难以置信，但实际上，函数的

    应用范围非常广泛。有些函数相当简单，比如，NOT函数的输入与输出

    信息是相反的，因此，它能将0变成1；反之亦然。我们在学校里学的函

    数通常只相当于计算机上的按钮，当你输入一个或多个数字时，它就会

    输出一个数字。比如，函数x 2

    就是将输入数字乘自身之后输出的结

    果。还有一些函数很复杂。比如，如果你有一个函数，当输入象棋的位

    置信息时，它就能输出下一步的最佳走位，那你就能用这个函数来赢得

    世界计算机国际象棋锦标赛(World Computer Chess

    Championship)。如果你有一个函数，当输入全世界所有的金融数据

    时，它就能计算出盈利最佳的股票，那你就能用它大发横财。许多人工

    智能研究者都致力于研究如何执行某些函数。比如，机器翻译研究的函

    数能将某种语言的输入文本信息转变成另一种语言并输出，自动字幕研

    究的函数能将输入的图像信息转变成描述文本(如图2-5右图所示)。

    也就是说，如果你能执行高度复杂的函数，那么你就可以建造一台

    能够完成高度复杂目标的智能机器。这将讨论的焦点投向了我们的问

    题：物质何以产生智能？尤其是，一团呆笨无生命的物质是如何计算

    出一个复杂函数的结果的？

    与物质形态固定的金戒指或其他静态记忆装置不同，计算系统必须

    展现出复杂的动态性，这样，它的未来状态就会以某种复杂的(希望是

    可控的，或是可编程的)方式与当前状态相联系。它的原子组合应该比

    无聊的坚硬固体更混乱，但又比液体或气体更有秩序。具体而言，我们

    希望这个计算系统拥有以下性质：如果让它保持在一个编码了输入信息

    的状态，让其根据物理定律演化一段时间，便能解读它输出的最终状

    态，最后，这个输出信息符合我们想要的函数计算的结果。如果是这

    样，那我们就可以说，这个系统计算的是我们想要的函数。

    举个例子，一起来看看我们如何从平淡无奇、单调愚钝的物质中构

    建出一个非常简单却又非常重要的函数——与非门 (19)。这个函数的输

    入为两个比特，输出为一个比特：如果两个输入都是1，那它的输出就

    是0；否则输出就是1。如果我们将两个开关、一块电池和一块电磁铁顺

    次连接，那么，只有当第一个开关和第二个开关都闭合时，电磁铁才会

    通电(“开启”)。现在，让我们在电磁铁下方放置第三个开关(如图

    2-6所示)，每当电磁铁通电时，这个开关就会断开。如果我们把前两

    个开关看作输入信息，把第三个开关视为输出结果，其中，0=开关断

    开，1=开关闭合，那么，我们就做出了一个与非门：只有在前两个开关

    都闭合时，第三个开关才会断开。若想构建更实用的与非门，还有许多

    其他方法，比如，使用图2-6右图所示的晶体管。在现如今的计算机

    中，与非门通常是由微型晶体管等能自动蚀刻在硅片上的电子元件制作

    而成的。

    图2-6 与非门的计算过程

    注：所谓的“与非门”使用两个信息A和B作为输入信息，并根据下列规则计算出一个输出信息

    C：如果A=B=1，那么C=0；否则C=1。许多物理系统都可以用作与非门。在中间的例子中，我们

    将开关解读为信息，其中0=开关断开，1=开关闭合，如果开关A和B都闭合，那电磁作用就会断

    开开关C。在最右边的例子中，电压(电势)也被解读为信息，其中1=5伏，0=0伏，并且，当电

    线A和B都是5伏时，两个晶体管通电，电线C的电压会降至接近0伏。

    计算机科学中有一个非凡的公理，认为与非门是通用的。意思是

    说，如果你想要执行任何定义明确的函数 (20)

    ，只需要将若干个与非门

    以某种方式连接起来就可以了。因此，只要你能制造出足够多的与非

    门，就能建造一台能计算任何东西的机器。如果你想一窥它是如何工作

    的，请看图2-7，我在图中画出了如何只用与非门来做加乘法。

    图2-7 如何只用与非门做加乘法

    注：任何定义明确的计算过程都可以用与非门组合起来的系统来执行。例如，在这张图中，加

    法模块和乘法模块都输入两个用4个比特来表示的二进制数字，并分别输出用5个和8个比特来表

    示的二进制数字。相应地，更小一些的模块“非门”“与门”“或非门”和“+”(将3个1比

    特的二进制数字加总为一个2比特的二进制数字)也是由与非门构建出来的。想要完全理解这张

    图片是很难的，不过，这张图对理解本书接下来的内容没太大帮助，我在这里放这张图只是为

    了解释“通用性”(universality)的思想，也为了满足我内心中的那个“极客”的自己。

    麻省理工学院研究者诺曼·马格勒斯(Norman Margolus)和托马

    索·托福利(Tommaso Toffoli)提出了“计算质”(computronium)

    的概念。计算质指的是可以执行任何计算的任何物质。我们已经看到，获得计算质并不是一件非常困难的事：这种物质只要能够执行以我们想

    要的方式连接在一起的与非门就行。事实上，还存在许多其他类型的计

    算质。有一种成功的计算质用“或非门” (21)

    来取代与非门。或非门只

    有当两个输入数据都是0时，才会输出1。在下一章节，我们将探索神经

    网络，它也能够执行任意的计算，即可以作为计算质。科学家兼企业家

    斯蒂芬·沃尔夫拉姆(Stephen Wolfram)证明，还有一种东西也可以

    作为计算质，那就是一种被称为“元胞自动机” (22)

    的简单装置，它可

    以基于“邻居”的行为来更新自己的行为 ......