Weipeng说：Enjoy the snow season. 都season了，是啊，西雅图10-20年才遇到的连续一周雪天。
踏雪。
泡咖啡馆。
下面这家的bakery很赞：法式，可能是cheese不同，店主很自豪：oh they are totally different from the others. 哈，the others 是指？美式烘培？
意式bakery不该在被鄙视之列吧，星巴克与Princi的结合体，
很棒，面包…欲罢不能。
看飞机。
最慢的（左上角，人力动力的）与最快的（中部黑**lack bird家族的）同框。背后的故事都很惊心。
对飞机、战争、武器、航天，我完全无知。
读书。面朝普吉特海湾Puget Sound，美国太平洋西北区。
读完《生命3.0》。摘录了一些，
给孩子们的就业建议
那么，我们应该给孩子们什么样的就业建议呢？我鼓励我的孩子去做那些机器目前不擅长，并且在不远的未来也似乎很难被自动化的工作。近期，在对“哪些工作会被机器取代”的一项预测中，有人提出了一些在职业教育之前应了解的职业问题，比如：
◦ 这份工作是否需要与人交互，并使用社交商？
◦ 这份工作是否涉及创造性，并能使你想出聪明的解决办法？
◦ 这份工作是否需要你在不可预料的环境中工作？
在回答这些问题时，得到的肯定答案越多，你的就业选择可能会越好。这意味着，相对安全的选择包括教师、护士、医生、牙医、科学家、企业家、程序员、工程师、律师、社会工作者、神职人员、艺术家、美发师和按摩师。
相比之下，那些高度重复、结构化以及可预测的工作看起来过不了多久就会被机器自动化。计算机和工业机器人早在很久以前就已经取代了这类工作中最简单的那部分。持续进步的技术正在不断消灭更多类似的工作，从电话销售员到仓管员、收银员、火车司机、烘焙师和厨师。
接下来，就是卡车、公交车、出租车和Uber/Lyft司机等。还有，律师助理、信用分析师、信贷员、会计师和税务员等，虽然这些工作不属于即将被完全消灭的工作之列，但大多数工作任务都将被自动化，因此所需的人数会越来越少。
避开自动化并不是唯一的职业挑战。在这个全球化的数字时代，立志成为职业作家、电影人、演员、运动员或时尚设计师是有风险的，原因是：虽然这些职业并不会很快面临来自机器的激烈竞争，但他们会遇到全球各地其他人的严酷竞争，因此，鲜有人能脱颖而出，获得最终的成功。
在许多情况下，站在整个领域的层面给出就业建议是短视和不够有针对性的。许多工作并不会完全被消灭，只不过它们的许多任务会被自动化取代。比如，如果你想进入医疗行业，最好别当分析医疗影像的放射科医生，因为他们会被IBM的沃森取代，但可以成为那些分析放射影像、与病人讨论分析结果并决定治疗方案的医生；如果你想进入金融行业，别做那些用算法来分析数据的定量分析师，也就是“宽客”，因为他们很容易被软件取代，而要成为那些利用定量分析结果来做战略投资决策的基金管理者；如果你想进入法律行业，不要成为那些为了证据开示而审阅成堆文件的法务助理，因为他们的工作很容易被自动化，而要成为那些为客户提供咨询服务并在法庭上陈情激辩的律师。
政府应该做些什么来帮助人们获得职业成功呢？比如，什么样的教育系统才能帮助人们在人工智能迅速进步的情况下，做好充分的就业准备？我们目前采用的模型是先上一二十年学，然后在一个专业领域工作40年，还能奏效吗？或者说，是否应该让人们先工作几年，然后回到学校里待一年，接着工作更长时间，如此往复？这种模式会不会好一点呢？又或者，是否应该让继续教育（可以在网上进行）成为每份职业必有的标准部分呢？
人类最后会全体失业吗
如果人工智能始终保持进步的势头，将越来越多的工作自动化，那会发生什么事呢？许多人对就业形势十分乐观。他们认为，在一些职业被自动化的同时，另一些更好的新工作会被创造出来。毕竟，过去也发生过类似的事情。在工业革命时期，卢德分子也曾对技术性失业感到忧心忡忡。
然而，还有一些人对就业形势十分悲观。他们认为，这一次和以前不一样，空前庞大的人群不仅会失去工作，甚至会失去再就业的机会。这些悲观主义者声称，在自由市场中，工资是由供需关系来决定的。如果便宜的机器劳动力的供给持续增长，将进一步压低人类劳动力的工资，甚至低到最低生活标准之下。
一份工作的市场价格等于完成这份工作的最低成本，不管是由人来完成，还是其他东西来完成，在过去，只要能把某种职业外包给收入更低的国家或者成本更低的机器，人们的工资就会降低。在工业革命时期，我们学会了用机器来取代肌肉，人们逐渐转向了那些薪水更高、使用更多脑力的工作。最终，蓝领职业被白领职业取代。
而现在，我们正在逐渐学习如何用机器来取代我们的脑力劳动。如果我们真的做到了，那还有什么工作会留给我们呢？
当你探索一片处女地时，你并不知道你和目的地之间隔着几座山峰，只能看见最近的那座山，只有当你爬上去，才看得见下一个横在面前的障碍物。
2012年，一项综合了多个研究的分析表明，失业会对幸福造成长期的负面影响，而退休则利弊兼有。正在发展的积极心理学研究发现了一些能促进人们幸福感和目标感的因素，并发现一些工作能提供许多这样的因素，比如：
◦ 朋友和同事的社交网络；
◦ 健康和善良的生活方式；
◦ 尊敬，自尊，自我效能，“心流”的心理状态：做自己擅长的事情时获得的愉悦感；
◦ 被别人需要和与众不同的感觉；
◦ 当你感觉自己属于和服务于某些比个人更宏大的事物时，所获得的意义感。
因此，为了创造出一个繁荣昌盛而不是自我毁灭的低就业社会，我们必须搞明白，如何才能促进这些产生幸福感的活动的发展。
只要你打破了“每个人的活动都必须创造收入”这个束缚，那未来就有无限的可能。
（最终也许会像历史学家艾克顿公爵在1887年曾提醒世人的那样：“权力总是倾向于腐朽，而绝对的权力绝对会腐朽。”）
如果人类忙于教育、娱乐和其他事情，那么，即便人工智能不插手，出生率也可能会下降，从而缩小人口规模，就像日本和德国目前的情况一样。这样的话，人类可能会在几千年内灭绝。
马歇尔·布莱恩在其2003年的小说《曼娜》（Manna）中描述了，在自由主义经济体系中，人工智能的进步让大多数美国人失去了工作，只能在机器人运营的社会福利房中度过单调沉闷的余生。他们就像农场中的动物一样，在富人永远看不到的地方被好好地喂养，保持着健康和安全。饮水中的避孕药物确保他们不会生孩子，所以大部分人口将被淘汰，而剩下的富人将拥有更多由机器人创造的财富。
预言--9大区域系统
由于人工智能理解多样化的重要性，也意识到不同的人拥有不同的偏好，因此，它将地球划分成了不同的区域，供人们选择，这样你就可以和同类人住在一起。下面举了一些例子：
◦ 知识区域：在这个区域，人工智能会提供最优质的教育，包括沉浸式的虚拟现实体验，你能学习任何你想学习的东西，你还可以选择在学习时，让它先别告诉你结论，而是引领你去发现，享受发现的乐趣。
◦ 艺术区域：在这里，你可以拥有许多机会去享受、创造和分享音乐、艺术、文学等创造性的表达形式。
◦ 享乐区域：当地人把这里叫作“聚会区”，对那些渴望美食、激情、亲密行为或者只是单纯想享受疯狂快乐的人来说，这里是首屈一指的选择。
◦ 敬神区域：有许多不同的敬神区域，每一个区域对应着不同的宗教。这些区域拥有十分严苛的规章制度。
◦ 野外区域：不管你是想要美丽的海滩、可爱的湖泊、壮观的山峦，还是奇妙的峡湾，都可以在这里找到。
◦ 传统区域：在这里，你可以自己栽种粮食，靠种地生活，就像过去的人们一样，但你不必担心饥荒和疾病。
◦ 游戏区域：如果你喜欢电脑游戏，那么，人工智能在这里创造出了能让你极度兴奋的选项。
◦ 虚拟区域：如果你想要抛却肉身去度假，那么在这里，人工智能体让你通过神经植入的方式探索虚拟世界，同时帮你保持碳水平衡，喂以食物，并帮你保持锻炼和清洁身体。
◦ 监狱区域：如果你违法了，但不是什么需要立刻处死的罪行，就会被抓到这里关起来。
除了这些“传统”的主题区域之外，还有一些新兴主题可能是今天的人类不能理解的。一开始，人类可以在各个区域之间自由迁徙，这要归功于人工智能的超音速运输系统。比如，当你在知识区域度过了忙碌的一周，学习了人工智能发现的大量终极物理规律之后，可能想要在周末转换到享乐区域轻松一下，再去野外区域的海滩度假村放松几天。
人工智能执行的规则有两个层次：通用规则和本地规则。
通用规则适用于所有区域，比如禁止伤害他人、禁止制造武器、禁止尝试创造与独裁者类似的超级智能等。除此之外，各个区域还拥有一些本地规则，形成了某些道德规范。因此，这种区域体系有助于处理不相容的价值观。监狱区域和一些敬神区域的本地规则数量最多；还存在一个自由区域，这个区域内没有任何本地规则，这里的居民以此为荣。所有的惩罚，包括地方上的惩罚，都是由人工智能来执行的，因为如果用人来惩罚另一个人，会违反通用规则中的“禁止伤害他人”的条例。如果你违反当地的规则而没有进监狱区域，人工智能会给你两个选择：接受预先设定的惩罚，或者永远离开该区域。比如，如果两个女性相爱了，但她们生活在一个禁止同性恋的区域中，就像今天的许多国家一样，那么，人工智能会给她们两个选择：要么被关进监狱，要么永远离开这个区域，永远不可以见到她们的老朋友，除非那些朋友和她们一起离开。
无论你出生在哪个区域，所有儿童都能从“独裁者”人工智能那里获得一定程度的基础教育，其中包括关于人类整体和各个区域的知识，比如，他们会学到如何自由访问并迁徙到其他区域的知识。
人工智能之所以会设计出如此多样化的区域，是因为它的创造者人类在设计它时，让它了解了人类多样化的重要性。每个区域带来的快乐都比今天的技术所能带来的快乐更多，因为人工智能已经消除了所有困扰人们多年的老问题，比如贫穷和犯罪；而且，享乐区域中的人们不必担心性传播疾病（已被根除）、宿醉或药物上瘾（人工智能开发出了完美的康复药物，无副作用）。事实上，任何一个区域都不需要担心任何疾病，因为人工智能体用纳米技术修复人体。许多区域的居民都可以享受到高科技式的建筑物，这些建筑物和精美程度连科幻电影中的画面都相形见绌。
总而言之，在自由主义乌托邦和善意的“独裁者”的情形中，超级人工智能都会带来技术和财富，但二者在谁管事和目标方面存在差异。在自由主义乌托邦中，是由那些占有技术和财产的人来做决定，而在善意的“独裁者”的情形下，“独裁者”人工智能拥有无限的权力，并由它来设定最终目标，那就是，把地球变成一个符合人类各种偏好的主题式游轮。由于人工智能给出了许多不同的幸福路径供人类选择，并且还十分关心人们的物质需求，这意味着如果有人受苦，那只能是出于他们自己的选择。
愉快，却毫无意义。
虽然在善意的“独裁者”人工智能的情形中，到处都是美好的体验，也基本上没有人会受苦，但许多人却觉得，这不是最好的。
首先，有些人希望，人类在塑造社会和自我命运方面应当拥有更多的自由，但他们没有把这些想法说出来，因为他们知道，挑战高高在上的人工智能无异于自杀。一些人希望能自由地拥有尽可能多的孩子，并抱怨人工智能为了可持续发展而采取的人口控制政策，枪支爱好者讨厌禁止建造和使用武器的禁令，一些科学家也不喜欢禁止建造超级智能的禁令。许多人认为，某些区域的人道德低下，他们一方面对此十分愤慨，另一方面又担心自己的孩子会选择搬到那里，所以，他们渴望能把自己的道德标准强加于所有区域。
随着时间的推移，越来越多的人选择迁徙到那些能给予他们想要的一切的区域。在过去，人们对天堂的想象是，能得到自己应得的东西。而善意的独裁者的情况却更符合朱利安·巴恩斯（Julian Barnes）在其1989年的小说《10–1/2卷人的历史》（History of the World in 10 1/2 Chapters）中所描述的“新天堂”精神。在“新天堂”里，你得到的不是你应得的东西，而是你想要的东西。然而矛盾的是，许多人对总能得偿所愿这一事实感到很悲哀。在巴恩斯的故事里，主角把大量时间花在了纵情人生上，从暴饮暴食到打高尔夫球，再到与名人上床，但最终屈服于厌倦，走向毁灭。
在善意的“独裁者”的情景中，许多人也会遇到类似的情况。他们虽然生活得很愉快，却感到毫无意义。虽说可以人为地创造一些挑战，比如科学发现和攀岩，但每个人都知道这些挑战只是娱乐而已，不是真的。人们试图去做科学研究是没有意义的，因为人工智能早已掌握了一切。人类试图创造一些东西来改善生活也是没有意义的，因为如果他们想要，只要跟人工智能说一声，就能立刻得到。
创造力和技术，从来不发源于金钱
虽然有时知识产权被誉为是创造力和发明之母，但马歇尔·布莱恩指出，在人类创造力的最佳例子中，比如科学发现、文学创作、艺术、音乐和设计，许多都不是出于利益，而是出于其他动机，比如好奇心、对创造的渴望或同伴的赏识。激励爱因斯坦发明狭义相对论的并不是金钱，促使林纳斯·托瓦兹（Linus Torvalds）创造出免费Linux操作系统的同样也不是金钱。
相比之下，现在有很多人都没有意识到自己的创造潜力，因为，为了谋生，他们需要投入时间和精力到创造性不那么高的活动上。布莱恩笔下的乌托邦社会将科学家、艺术家、发明家和设计师从鸡毛蒜皮的琐碎小事中解放出来，激发了他们纯粹的创作欲望，因此，这种社会定能拥有比今天更高的创新水平，相应也会拥有更高超的技术和更好的生活水平。
电影《黑客帝国》中，人工智能特工史密斯阐述了这样一个观点：
这个星球上的每种哺乳动物都会本能地与周围环境达成一种自然的平衡，但你们人类却不会。你们迁徙到一个地方，就会开始繁殖、繁殖，直到耗尽这里的每一滴自然资源，接着，你们生存下去的唯一方法就是迁徙到另一个地方。在这个星球上，还有另一种有机体遵循相同的模式。你知道是什么吗？是病毒。人类就是一种疾病，是这个星球的癌症。你们是瘟疫，而我们就是解药。
但是，重新扔一次骰子，寄希望于消灭人类的人工智能，结果必然会更好吗？并不是。一个文明越强大，不代表它就越符合伦理或越实用。“强权即公理”是说越强大就越好，但这种观点总是与法西斯主义联系在一起，因此在今天已经不那么受欢迎了。其实，就算征服者人工智能再次创造出一个拥有目标的文明，就算这些目标在人类眼里是复杂有趣和值得追求的，最后你可能也会发现它们是如此平庸无趣，比如生产尽可能多的回形针。
逆转
如果能够在不陷入极权主义的情况下摆脱技术带来的危险，这个想法是不是很有诱惑力？那么，让我们来探讨一下这个场景——回归到中世纪的技术水平。这个想法是受到了阿米什人的启发。假如，欧米茄团队接管世界之后，发起了一场大规模的全球宣传运动，将1500年前的简单农耕生活描述得浪漫异常。接着，一场瘟疫让全球人口减少到大约1亿人，恐怖分子被指责为这场瘟疫的罪魁祸首。这场瘟疫有一个不为人知的秘密——疾病具有针对性，确保对科学技术有所了解的人全部死光。普罗米修斯控制的机器人以消除高密度人群的感染风险为借口，将所有的城市都清空，并夷为平地。幸存者们突然获得了大片土地，并接受了相当于中世纪水平的教育，涉及可持续农业、渔业和狩猎等方面。与此同时，机器人军队系统性地抹去了现代技术的所有痕迹，包括城市、工厂、电力管线和道路等，并挫败了人们试着记录或再现这些技术的所有企图。一旦科技在全球被遗忘，机器人就开始互相拆解，直到几乎一个机器人也不剩下。最后一批机器人与普罗米修斯一起，在一场计划好的热核爆炸中蒸发殆尽。到那时，现代技术不再需要禁止，因为它已经全部消失。结果，人类为自己争取到了1000多年的时间，在这段时间内，不仅无须担心人工智能，更无须担心极权主义。
历史上，“逆转”现象曾小范围地发生过。比如，罗马帝国普遍使用的一些技术被遗忘了1000年之后，在文艺复兴时期卷土重来。艾萨克·阿西莫夫的科幻小说《基地》三部曲围绕着“谢顿计划”（Seldon Plan）展开，谢顿计划的目的是将一段长达3万年的“逆转”时期缩短到1000年。通过巧妙的计划，或许可以起到与谢顿计划相反的效果——延长而不是缩短“逆转”周期，比如通过抹去所有农业知识来实现。
正如著名经济学家约翰·凯恩斯（John Maynard Keynes）所说：“长远来看，我们都难逃一死。”
地球毁灭的可能情景
我们既可以用技术来解决所有这些问题，也可以用技术创造出新的问题，比如气候变化、核战争、改造瘟疫或出错的人工智能。
核战争，人之鲁莽的后果。
你可能会认为，风险越大，我们就会越谨慎。但是，只要仔细研究一下目前的技术可能带来的最大风险，即全球性的热核战争，你就会发现答案并不令人放心。我们不得不依靠运气来解决诸多千钧一发的危急情况，从计算机故障和断电，再到错误情报、导航误差、战斗机坠毁和卫星爆炸等。事实上，如果不是因为某些人的英雄行为，例如瓦西里·阿尔希波夫和斯坦尼斯拉夫·彼得罗夫，地球上可能早已爆发了全球性的核战争。考虑到人类过去的“成绩”，作者认为，如果我们继续保持现在的行为，那么，每年爆发意外核战争的概率就不可能低至千分之一。即便低到千分之一，我们在1万年内爆发核战争的概率也超过1–0.99910000≈99.995%。
若想充分了解人类的鲁莽程度，我们必须意识到一个事实——“核赌局”其实早在我们仔细研究核技术的风险之前就开始了。
第一，我们低估了辐射风险。仅在美国，支付给铀处理和核实验的辐射受害者的赔偿金就已经超过了20亿美元。
第二，人们后来终于发现，如果氢弹在地球上空数百公里爆炸，就会产生强烈的电磁脉冲，可能使得广大地区的电网和电子设备无法使用，导致基础设施瘫痪，公路上堵满坏掉的车辆，极大地降低人们的生存条件。比如，美国电磁脉冲委员会报告说“水利基础设施是一架庞大的机器，虽然它一部分靠重力驱动，但主要是靠电力”，而人类断水仅3～4天就可能死亡。
第三，在过去的40年间，人类部署了63000枚氢弹，但直到40年后我们才意识到核冬天的破坏力，无论是哪个国家的城市被氢弹袭击，上升至对流层高层的大量烟雾都可能扩散到全球，阻挡阳光，将夏天变成冬天，就像过去小行星或超级火山造成大规模灭绝事件时一样。当美国和苏联科学家在20世纪80年代敲响警钟时，才促成了里根总统和戈尔巴乔夫决定开始削减氢弹库存。如果进行更精确的计算，就能绘制出一幅更为惨淡的图画。如图5-3所示，惨剧一旦发生，在头两个夏天里，美国、欧洲、俄罗斯和中国的大部分核心农业区的温度将下降20℃（36华氏度），俄罗斯的一些地方甚至会下降35℃；即使在10年后，温度还是会下降一半。这意味着什么？你不需要太多农业经验就可以得出结论：多年接近冰点的夏季气温将会摧毁大部分粮食生产。
很难预测，当几千座大城市变成残垣断瓦，全球基础设施崩塌之后，究竟会发生什么事。但是，即便少部分人不会变得饥寒交迫，我们依然需要解决许多问题，比如体温过低、疾病、武装黑帮抢夺食物等。
世界末日装置
我们真的可以阻止人类灭绝吗？即使全球核战争可能会杀死90%的人，但大多数科学家猜测，它不会将人类赶尽杀绝，因此人类并不会灭绝。但是，核辐射、核电磁脉冲和核冬天的故事都表明，我们可能还不知道最大的危害究竟是什么。要想预见核战争之后的各个方面以及各个因素之间的相互作用，是非常困难的，比如核冬天、基础设施崩溃、升高的基因突变水平以及极端的武装分子如何与其他问题，比如新的流行病、生态系统崩溃及我们还没有想象到的其他问题等相互作用。因此我个人估计，尽管未来的核战争让人类灭绝的可能性并不大，但我们不能武断地说，这种可能性一定为零。
如果我们将今天的核武器升级为蓄意的“世界末日装置”（doomsday device），那么，人类灭绝的概率就会大大增加。美国兰德公司（RAND）战略家赫曼·卡恩（Herman Kahn）在1960年提出了“世界末日装置”这个概念，并因斯坦利·库布里克（Stanley Kubrick）的电影《奇爱博士》而得到了广泛传播。世界末日装置将“确保互相摧毁”（mutually assured destruction）范式发挥到了极致，它是完美的威慑。
简单来说，世界末日装置就是一种机器，当遭到任何敌人袭击时，它就会自动启动，实施报复，手段是杀死所有人类。
世界末日装置的一个候选方案是将所谓的“盐核弹”埋在巨大的地下储藏室内。盐核弹是指周围包裹着大量钴元素的巨大氢弹。物理学家利奥·西拉德在1950年就提出，世界末日装置能够杀死地球上的所有人。因为氢弹爆炸会促使钴元素产生辐射，并将其吹入平流层。钴元素辐射5年的半衰期长短合适，长到足以遍布全世界，尤其是当两个相同的世界末日装置被放置在相对的半球时，但又短到足以造成致命的辐射伤害。媒体报道显示，如今有人正在制造第一颗钴弹。如果再加入一些会使平流层注入更多气溶胶的炸弹来加剧核冬天，那人类灭绝的概率就会陡升。世界末日装置的一个主要卖点是，它比传统的核威慑便宜得多：因为炸弹不需要发射，因此不需要昂贵的导弹系统；并且，炸弹本身的制造成本也更便宜，因为它们不需要为了能塞进导弹里而设计得轻巧。
还有一种可能的世界末日装置是，依靠生物学，用定制设计的细菌或病毒来杀死所有人。目前这种装置尚不存在，或许在未来可以被发明出来。只要它的传播性足够高，潜伏期足够长，那么，还不到有人意识到它的存在并采取反制措施，它就能将所有人杀死。即使它不能杀死所有人，人类依然对这种生物武器展开了军事讨论：把核武器、生物武器和其他武器结合起来，就能产生最有效的世界末日装置，最大限度地威慑敌人。
人工智能武器
第三种会让人类走向灭绝的路线可能是人工智能武器的愚蠢。假设一个超级大国建造了几十亿架前面提到过的那种黄蜂大小的杀手无人机，并利用它们杀死除自己公民和盟友之外的所有人。这些人工智能识别谋杀对象的方法是，通过无线射频识别标签进行远程识别，就像超市识别食物一样。这些标签可以通过安全手环分发给所有公民，也可以像极权主义情形中讲过的那样，经皮肤植入。
这个举动可能会刺激敌对的超级大国也建造类似的东西。当战争意外爆发时，所有的人都会被杀死，甚至是毫无瓜葛的遥远部落也不例外，因为没有人会佩戴上两个国家的两种身份标签。将这种方法与“核＋生物”末日装置相结合，将进一步加大灭绝全人类的概率。
建造戴森球
谈到未来的生命，最乐观的梦想家之一莫过于弗里曼·戴森了。过去20年来，我非常荣幸也很高兴能认识他。但当我第一次见到戴森的时候，感到十分紧张。当时，我还是一名初级博士后，正在普林斯顿高级研究所的餐厅里和我的朋友们吃午饭。突然，这个曾与爱因斯坦和库尔特·哥德尔谈笑风生的世界知名物理学家竟然走过来自我介绍，并询问是否可以和我们一起吃饭！不过，我的紧张感很快就被他打消了。因为他说，比起老教授，他更喜欢和年轻人共进午餐。在我写下这段文字时，戴森已经93岁了，但他的灵魂比我认识的大多数人都年轻。他眼中闪烁的孩子般的光芒表明，他根本不在乎什么形式主义、学术等级或传统观点。想法越大胆，他就越兴奋。
当我们谈到能源使用问题时，他笑叹我们人类太没有野心了。他指出，只要我们能完全利用小于撒哈拉沙漠0.5%面积上的阳光，就能满足当前全球的能源需求。但为什么要止步于此呢？为什么不捕捉照射到地球上的所有阳光，而让它们浪费在空荡荡的空间里呢？为什么不干脆把太阳发射出的所有能量都给生命使用呢？
受到奥拉夫·斯塔普雷顿（Olaf Stapledon）1937年的经典科幻小说《造星者》（Star Maker）的启发，戴森在1960年提出了建造“戴森球”的想法。戴森的想法是将木星重新组合成一个围绕着太阳的球壳状的生物圈，在这里，我们的后代能够繁荣起来，享受比现在的人类多1000亿倍的生物量和多1万亿倍的能量。戴森认为这是自然而然的下一步：“人们应该想到，在进入工业发展阶段的几千年后，任何智能物种都应该能建造和居住在一个完全包围母星的人造生物圈中。”如果你住在戴森球的内部，就不会有夜晚，你总能看到太阳挂在你头顶上。在天空中，你会看到阳光从生物圈的其他部分反射出来，横跨整个天际，就像我们现在看到月球反射太阳光一样。如果想看星星，你只需要“爬上楼”，来到戴森球的外部，就能看到整个宇宙。
构建一个局部的戴森球有一种低技术的操作方法，那就是在太阳周围建造一个环形的轨道，将栖息地放在上面。为了将太阳完全包围，可以在太阳周围添加轴心和距离略微不同的圆环，以避免碰撞。但这些快速移动的环状结构有一些麻烦，比如它们不能连接彼此，让交通和通信变得十分困难。为了避免这些麻烦，你也可以选择建造一个固定的整体戴森球，在那里，太阳向内的万有引力与向外的辐射压相互平衡——这个想法是由物理学家罗伯特·福沃德（Robert L. Forward）和科林·麦金尼斯（Colin McInnes）率先提出来的。要建造这种球体，可以依靠逐步添加越来越多的“静态卫星”（statites）来实现：这是一种位置固定的卫星，可以用太阳的辐射压而不是离心力来抵消太阳的万有引力。这两种力都与离太阳的距离平方成反比，这意味着，如果它们在某一个距离能够达到平衡，那么，在任意其他距离，也可以很容易地达到平衡，让我们可以在太阳系任意地方停泊。静态卫星必须由极端轻巧的片状结构组成，每平方米只有0.77克，比纸还轻100倍，但这还不是最厉害的材料，一层石墨烯比这还轻1000倍。如果戴森球是用来反射而不是吸收大部分的阳光，那么，在其内部反射的光的总强度将大大增加，从而进一步提高辐射压和戴森球中可支撑的质量。许多其他恒星的亮度比我们的太阳高几千倍甚至几百万倍，相应地，也就能够支撑更重的静态戴森球。
如果我们更加青睐在太阳系中建造这种质量更重、更坚固的静态戴森球，那么，若想抵抗太阳的万有引力，就需要使用耐压力超强的材料，它必须能承受比地球上最高的摩天大楼的地基所受到的压力还要高上几万倍的压力，而不会液化和弯曲。为了延长使用年限，戴森球必须保持动态和智能化，不断调整其位置和形状，以应对干扰；偶尔，它会打开一些大洞，让讨厌的小行星和彗星安全通过。或者，可以使用侦测和偏转系统来处理这样的系统入侵者，还可以选择将其分解，并回收它们的物质用作更好的用途。
对于今天的人类来说，生活在戴森球上，往好了说令人晕头转向，往坏了说是不可能的事，但这并不能阻止未来的生命形式在其上繁荣昌盛，无论它们是生物还是非生物的。戴森球几乎无法提供引力。如果你想在静态戴森球上行走，只能在其外表面，也就是远离太阳的那面行走，而不用担心掉出去。戴森球的万有引力比你现在所习惯的引力小了大约1万倍。在戴森球上，没有磁场来帮你阻挡来自太阳的危险粒子，除非你自己建一个。唯一的好处是，一个大小相当于地球当前轨道的戴森球将使我们可居住的地表面积增加约5亿倍。
通过殖民宇宙来获得资源
我们宇宙的资源禀赋到底有多少？具体来说，物理定律对生命最终可以利用的物质量的上限有何规定？我们宇宙的资源禀赋当然是相当惊人的，但具体有多大呢？可以说，目前我们的行星的99.999999%都是死寂的，因为这部分不属于我们生物圈的一部分，除了提供引力和磁场外，对生命几乎没有任何用处。如果我们能让这些物质为生命所用，那我们就拥有了多出几亿倍的物质。如果我们能够把太阳系中的所有物质（包括太阳系）都物尽其用，那么我们的境况会好几百万倍。如果能殖民银河系，那我们的资源会再增加1万亿倍。
我们能走多远
你可能会认为，只要我们有足够的耐心，我们就能慢慢地殖民其他星系，并由此获得无限的资源，但现代宇宙学可不这么认为！是的，空间本身可能是无限的，包含无限多的星系、恒星和行星。事实上，这是最简单的暴胀理论所预测的结果，暴胀理论是目前关于“138亿年前是什么创造了我们的宇宙”这个问题最流行的科学解释。然而，即使有无限多的星系，我们也只能看到和到达数量有限的星系：我们可以看到大约2000亿个星系，但最多只能殖民100亿个。
阻碍我们的正是光速：光线一年可以走1光年，大约为1万万亿千米。从138亿年前的宇宙大爆炸以来，光线可以到达我们身边的一部分空间区域。这个球形区域被称为“我们的可观测宇宙”，也可以简单地称为“我们的宇宙”。即使空间是无限的，我们的宇宙也是有限的，“只”包含着1078个原子。此外，我们的宇宙中有98%的物质都是“能看不能摸”的，因为即使我们以光速前进，也永远赶不上它们。为什么呢？毕竟，我们的视线之所以有极限，是因为我们宇宙的年龄是有限的，而不是无限老，所以，遥远的光线还没有足够的时间来到我们身边。那么，假如我们在途中有无限的时间可以旅行，难道我们不能到达任意远的星系吗？
第一个挑战是，我们的宇宙正在扩张，这意味着几乎所有的星系都在离我们远去，所以，殖民遥远的星系就变成了一场追赶。第二个挑战是，宇宙膨胀正在加速，这是由构成我们宇宙的约70%的神秘暗能量造成的。如果你想知道宇宙的膨胀为什么会引起麻烦，请想象一下，你到达了火车站站台，看到你的火车正慢慢地加速远离你，但有一扇门开着。如果你快速冲过去，能赶上火车吗？由于它最终肯定会跑得比你快，所以，答案显然取决于火车最初离你有多远：如果超过了某个临界距离，你就永远赶不上它。我们也面临着同样的情况：试图追赶正在远离我们的遥远星系，即使我们能以光速前进，所有与我们相距超过170亿光年的星系依然遥不可及，而宇宙中超过98%的星系距离我们都超过了170亿光年。
但是等一下，爱因斯坦的狭义相对论不是说没有东西可以比光速跑得更快吗？那这些星系膨胀的速度怎么能达到超光速呢？答案是，狭义相对论已经被爱因斯坦的广义相对论取代了。在广义相对论中，速度的限制更为自由：当物体在空间中运动时，没有什么东西可以比光速更快，但空间可以随意扩大，要多快，有多快。爱因斯坦还给我们提供了一个很好的方法来可视化这些速度限制，那就是将时间视为时空的第四个维度，加上时间后依然是三维，因为我省略了三维空间中的其中一维。如果空间没有膨胀，光线将在时空中形成45°的斜线，这样，我们从地球上能看到并可能到达的区域就是圆锥体。我们过去的光锥被138亿年前的宇宙大爆炸所截断，而我们未来的光锥将永远膨胀下去，让我们获得无限的宇宙资源。相比之下，一个因暗能量而膨胀的宇宙（我们所栖身的宇宙应该就是这样的），它将我们的光锥变成了香槟酒杯的形状，将我们能够殖民的星系数量永远限制在大约1000万个。
如果这个限制让你感觉到一种“宇宙幽闭恐惧症”，那不要难过，高兴一点，因为上面的分析可能有一个漏洞：我的计算假设暗能量随时间保持不变，这符合最新的观测结果。然而，我们仍然不知道暗能量究竟是什么，这就留给了我们一线希望：有可能，暗能量最终会衰减，就像解释宇宙暴胀时所假设出来的那种与暗能量类似的物质一样；如果发生这种情况，加速将会变成减速，这样，未来的生命形式就能够殖民新的星系，想待多久，就待多久。
我们能走多快
假设一个文明向各个方向以光速扩张，那它能够占领多少星系。广义相对论说，发射火箭并让其在空间中以光速穿梭是不可能的，因为这将需要无限多的能量。那么，火箭实际上能达到多快的速度呢？
这里的宇宙数学其实非常简单：如果这个文明在膨胀空间内不是以光速c而是以一个较慢的速度v前进，那么，它能殖民的星系数量就会减少，其减少系数为(v/c)3。这意味着，如果一个文明的动作迟缓，那它基本上就算瘫痪了。因为，如果它扩张的速度慢10倍，那它最终殖民的星系数量就会少1000倍。
2006年，NASA的“新视野”号火箭发射前往冥王星时，它的时速达到了10万英里（相当于每秒45公里），打破了速度纪录。将于2018年发射的“太阳探测器附加任务”（Solar Probe Plus）的速度比这还要快4倍多，它将深入太阳日冕层。即便如此，它的速度还是比光速的0.1%还要低。20世纪，许多最杰出的人才都为建造更好和更快的火箭奉献了自己的聪明才智。这方面的文献更是多得汗牛充栋。为什么提升速度如此之难呢？有两个关键问题。其一，传统火箭的大多数燃料其实都用在了对携带的燃料进行加速上；其二，今天的火箭燃料的效率实在太低了，低得令人发指，其质量转化为能量的比例不比表6-1中燃烧汽油的效率的0.00000005%高多少。一个明显的改进措施是换成更高效的燃料。譬如说，正在为NASA“猎户座计划”（Project Orion）效力的弗里曼·戴森等人希望，能在10天内引爆30万颗核弹，以此让一艘载人宇宙飞船达到光速3%的速度，好在1个世纪内到达另一个恒星系。还有一些人正在研究使用反物质作为燃料，因为将其与普通物质相结合，将释放出接近100%高效的能量。
一旦超级智能在另一个恒星系或星系殖民成功，要把人类带到那里，就很简单了，只要人类成功地为人工智能植入了这个目标即可。所有关于人类的信息都能以光速传播，之后，人工智能再用夸克和电子造出人类。这有两种实现方式：第一种方式的技术含量比较低，只是将一个人2GB的DNA信息传输过去，然后孵化出一个婴儿，由人工智能来抚养成人；第二种方法是，人工智能直接用纳米组装技术，用夸克和电子组装成一个成年人，他的记忆来自地球上某个“原版”人扫描上传的记忆。
这意味着，如果智能爆炸真的发生了，重要的问题不是“星际殖民是否可能”，而是“星际殖民会有多快”。由于前文我们讨论的想法都是来自人类，所以，它们都应被视为生命扩张速度的下限；野心勃勃的超级智能生命的表现可能会好得多，并且，它们会有很强的动机去突破极限，因为在对抗时间和暗能量的战役中，殖民平均速度每提升1%，将会带来多于3%的星际殖民地。
总而言之，在我看来，大多数科学家和科幻作家对太空殖民的观点都过于悲观了，因为他们忽略了超级智能的可能性。如果只把注意力集中在人类旅行者身上，他们就会高估星际旅行的难度；如果只局限于人类发明的技术，那么，他们就会高估技术达到物理上限所需的时间。
通过宇宙工程来保持联系
如果如最新实验数据显示的那样，暗能量持续加速遥远的星系，让它们彼此远离，这将会给未来生命带来一个大麻烦。这意味着，即使未来的文明能够殖民到几百万个星系，暗能量也会在几百亿年的时间内将这座宇宙帝国分割成几千个彼此无法通信的不同区域。如果未来的生命对此不采取任何措施，仅剩的最大生命聚集地只能是包含着几千个星系的星系团，在其中，维系星系团的万有引力超过了将它们分离的暗能量。
如果超级智能文明想要彼此保持联系，它们就有强烈的动机去建造一个大规模的宇宙工程。在暗能量将物质带到遥不可及的远方之前，这个文明能将多少物质搬运到它们最大的超级星系团内呢？要将一颗恒星移动到很远的距离，一种方法是将第三颗恒星推入一个两颗恒星绕彼此稳定旋转的双星系统。就像恋爱关系一样，引入第三者将会使关系变得不稳定，导致三者中的其中一个被暴力地驱逐出去，把情人换成恒星，驱除出去的速度会极快。如果三者中有一些是黑洞，那么，这种不稳定的三体关系就可以用来将质量快速抛出原来的星系。然而不幸的是，不管是用于恒星、黑洞还是星系，想要移动到足以对抗暗能量的遥远距离，这种“三体”技术能移动的物质量似乎很少，只相当于这个文明十分微小的部分。
但是，这显然并不意味着超级智能想不出更好的方法，比如，它们可以将星系团外围部分的大部分物质转化为宇宙飞船，用来飞进母星系团。如果它们能建造出夸克引擎，或许可以用它来将这些物质转化为能量，让这些能量以光线的形式照射到母星系团中。在那里，光线又可以被重新组装成物质，或者用作能量来源。
最幸运的可能性莫过于建造稳定的可穿越虫洞了。有了这种虫洞，无论两端相隔多远，都能实现几乎实时的通信和旅行。虫洞就是一条时空中的捷径，让你可以从A地来到B地而不用穿越横亘在二者之间的空间。虽然爱因斯坦的广义相对论允许稳定虫洞的存在，它们也在电影《超时空接触》和《星际穿越》中出现过，但是，要建造它们，需要一种目前只存在于假说中的拥有负密度的奇异物质。这种物质的存在可能取决于量子引力效应，而我们对量子引力效应知之甚少。换句话说，成功的虫洞旅行或许是不可能的，但是，假如它不是100%不可能，那超级智能生命就有强烈的动机去建造它们。虫洞不仅能够变革星系内的快速通信，还能够早早将外层星系与星系团中心连接起来，从而使得整个领土即使在长距离上也完全相连，打消暗能量阻断通信的企图。一旦两个星系由稳定的虫洞连接在一起，那么，不管它们未来各自漂向何方、相隔多远，都会永远连在一起。
尽管宇宙工程会花费很多心血，但是，假设一个未来文明相信它的一部分注定要永远失去联系，它可能会放它的一部分离开并送上祝福。然而，如果它拥有野心勃勃的计算目标，想要探索一些非常困难的问题，那它可能会采取一种大刀阔斧的策略：将外围星系转化为大型计算机，将其物质和能量转化为以疯狂速度进行的计算过程，希望在暗能量将残余物带走之前，未来文明可以将这些追寻已久的答案传回母星系团。这种大刀阔斧的策略特别适用于那些十分遥远以至于只有“宇宙垃圾邮件”方法才到得了的地区，但是，假如当地本来就有居民，那这种方法可能会令它们愤怒。而位于母星系团中的文明则可以追求尽可能长久的对话和方法。
你能活多久
长寿是最有野心的人类、组织和国家都心心念念的愿望。那么，如果一个野心勃勃的未来文明开发出了超级智能，同时又想要长寿的话，它们究竟能活多久？
关于这个问题，最早的全面科学分析也是由弗里曼·戴森做出的。下表总结了他的一些主要发现。结论是，如果没有智能的干预，那么，恒星系和星系都会逐渐毁灭，接着，其他一切都会逐渐毁灭，只剩下冰冷、死寂、空旷的空间，充满了永远衰减的辐射。
我认为，超级智能可以很轻易地解决表中列出的许多问题，因为它可以将物质重新排列成比恒星系和星系更好的东西。我们的太阳在几十亿年后会死亡，这个问题经常被提起，但实际上没什么大不了的，因为即使是一个技术水平相对较低的文明也能轻易地转移到能延续2000亿年的小质量恒星周围。假设超级智能文明建造了能源效率比太阳还高的发电厂，那它们可能会想要阻止恒星的形成，以此来节省能源。因为一旦恒星形成，即使它们能用戴森球来收集这颗恒星在主序星阶段发射出来的所有能量（相当于总能量的0.1%），它们也可能很难利用剩下的99.9%，所以，剩下的99.9%只好在恒星死亡的过程中被白白浪费掉。质量较大的恒星在死亡时会发生超新星爆炸，释放出的大部分能量都以难以捉摸的中微子的形式逃逸掉了。对质量特别大的恒星来说，它死亡后会形成黑洞，大量的质量就在黑洞中被浪费掉了，此后，这些能量需要漫长的1067年才能逐渐渗透出来。
只要超级智能生命还没有耗光物质或能量，它就能按照自己想要的方式维持它的栖息地。或许，它还能够利用量子力学中所谓的“量子芝诺效应”来防止质子衰变，通过常规观测来减缓衰变过程。然而，还有一种惊人的可能性：可能在100亿～1000亿年后，一场“宇宙大灾变”会毁灭整个宇宙。当弗里曼·戴森在写他那篇原创性的论文时，他还不知道暗能量的发现和弦理论的进展可能会带来新的宇宙大灾变。
那么几十亿年后，我们的宇宙到底会如何走向终结呢？我画出了自己对“宇宙大灾变”的5种主要猜测：大冷寂（Big Chill）、大挤压（Big Crunch）、大撕裂（Big Rip）、大断裂（Big Snap）和死亡泡泡（Death Bubbles）。迄今为止，我们的宇宙已经膨胀了大约140亿年。大冷寂是说，我们的宇宙会永远膨胀下去，宇宙最终会被稀释成一个冰冷和黑暗的空间，一片荒芜死寂。在戴森写那篇论文的时代，这种情景被认为是最有可能发生的。这让我想到艾略特（T. S. Eliot）所说的：“这就是世界完结的方式：不是砰的一声垮掉，而是轻轻啜泣着消亡。”如果你像美国诗人罗伯特·弗罗斯特（Robert Frost）一样，更喜欢世界终结于烈火中而非冰冻中，那么请双手合十，祈祷大挤压的出现吧。在大挤压中，宇宙的膨胀最终将反向进行，万事万物被再次压缩在一起，导致灾难性的坍缩，很像大爆炸的倒播。而大撕裂在无耐心的人眼里与大冷寂十分相似，在其中，我们的星系、行星甚至原子都将在有限时间后的一场终曲中被撕裂。这三个结局，你会赌哪一个发生呢？这将取决于占宇宙质量70%的暗能量随空间膨胀后将会发生什么变化。如果暗能量保持不变，那将发生大冷寂；如果暗能量稀释为负密度，将发生大挤压；如果暗能量“反”稀释为更高的密度，将发生大撕裂。由于我们尚不知道暗能量究竟是什么东西，我只能告诉你，我的赌注是这样的：40%赌大冷寂，9%赌大挤压，1%赌大撕裂。
我们的宇宙将如何终结
我们知道，我们的宇宙开始于140亿年前的一场炙热的大爆炸，它先膨胀，然后冷却，将它的粒子变为原子、星星和星系。但是我们并不知道它的终极命运。人们提出的终极情景包括大冷寂（永远膨胀）、大挤压（再次坍缩）、大撕裂（无穷大的膨胀率将万物撕裂）、大断裂（空间被拉伸过多时，它的结构展现出了致命的颗粒性质）和死亡泡泡（空间“冷冻”入致命的泡泡中，并以光速膨胀）。
我们曾经认为，空间处于一种无聊的稳定状态，宇宙的戏剧在其中徐徐展开。然后，爱因斯坦告诉我们，空间并不只是这场戏剧的舞台，它也是其中的重要演员，它能弯曲成黑洞，能荡漾出引力波，能拉伸为一个膨胀的宇宙。也许，它还能像水一样冷冻为另一个不同的相，在其中产生出致命的高速膨胀的泡泡。这些泡泡都是新的相，为我们提供了一种新的宇宙大灾变情景。如果发生了“死亡泡泡”，它们可能会以光速传播，就像野心文明释放出来的“宇宙垃圾邮件”一样，形成一个不断扩张的球形区域。
此外，爱因斯坦的理论认为，空间拉伸可以永远持续下去，让我们的宇宙的体积接近无限，就像大冷寂和大撕裂情景中发生的那样。这听起来太好了，但令人难以置信，我对此表示怀疑。橡皮筋看起来很不错，具有连续的性质，就像空间一样。但假如你把它拉伸得过多，它就会断裂。为什么呢？因为它是由原子组成的，如果拉伸得太多，橡皮筋原子的颗粒性质就变得重要起来。有没有可能，在人类无法企及和注意的微小尺度上，空间也具有类似的颗粒性呢？量子引力学研究认为，在小于10-34米的尺度上谈论传统的三维空间是没有意义的。如果空间不能被无限拉伸，当拉到一定程度时就会发生灾变式的“大断裂”，那么，未来的文明可能会想要迁徙到它们能到达的最大的“非膨胀”空间区域中，也就是一个巨大的星系团中。
你能计算多少东西
在研究了未来生命能延续多久之后，让我们来探讨一下它们可能“想要”延续多久。你可能会认为，人人都想长生不死，活得越久越好，但弗里曼·戴森对这种愿望提出了一个更为定量式的观点：当计算的速度变慢时，计算成本会降低。所以，如果你尽可能地放慢脚步，那你最终能完成的事情反而更多。戴森甚至计算出，如果我们的宇宙永远膨胀和冷却下去，那计算量可以达到无限。
慢，并不一定意味着无聊。
如果未来生命居住在一个模拟世界中，它对时间流逝的主观体验不一定与运行在外部世界中的模拟器的速度有关，那么，这些模拟的生命形态就可以将未来无限的计算量转化为主观上永生的体验。基于这个思想，宇宙学家弗兰克·蒂普勒（Frank Tipler）推测，在大挤压发生前的最后时刻，随着温度和密度的飞升，未来生命也可以通过将计算加速到无限大的方法来实现主观上的永生。
思维等级，越大越慢
你有没有过用手打苍蝇却总也打不中的情况？苍蝇之所以反应比你快，是因为它个头比你小，所以，信息在它的眼睛、大脑和肌肉之间传播的时间比你短很多。这种“大＝慢”的原则不仅在生物学上适用，也适用于未来的宇宙生命，只要信息的传播速度不会快于光速。所以，对一个智能信息处理系统来说，身体变大是一件喜忧参半的事，会带来此消彼长的有趣均衡。一方面，变大意味着它可以拥有更多粒子，也就能带来更复杂的思想。而另一方面，如果它想要真正的全局思维，这反而会降低速度，因为信息需要花更长的时间才能传遍它身体的各个部分。
那么，如果生命会布满我们的宇宙，它会选择什么形式？是简单而快速，还是复杂而缓慢的呢？我预测它会做出与地球生命一样的选择：二者兼有！地球生物圈的居民跨越了惊人的范围，从200多吨的巨大蓝鲸到10-16千克轻的娇小细菌远洋杆菌属（Pelagibacter），据说，这种细菌的生物量加起来，比世界上所有鱼类的总和还要多。而且，大型、复杂而缓慢的生物通常会包含一些简单而快速的小型模块，以此来缓解因迟缓造成的问题。譬如说，你的眨眼反射的速度非常快，因为它是通过一个很小、很简单的回路来实现的，而不涉及大脑的大部分区域。如果那只拍不到的苍蝇突然飞向你的眼睛，你会在1/10秒内迅速眨眼，而这个时间远不够相关信息传遍整个大脑和产生意识。通过将信息处理过程组织成等级化的模块，我们的生物圈兼得了鱼和熊掌——既得到了速度，又获得了复杂性。我们人类早就开始使用相同的等级策略来对并行计算进行优化。
由于在体内进行通信的速度又慢、成本又高，我预计，高级的未来宇宙生命会像前文所说的那样，将计算尽可能地“局部化”。如果一个计算过程对于一台1千克重的计算机来说十分简单，那么，让星系尺寸的计算机来做这件事是十分低效的。因为每个计算步骤都要等信息在不同部位之间进行分享，即使以光速传播，每一步也会造成10万年的滞后，这实在太荒谬了。
未来的这种信息处理方式是否会产生出拥有主观体验的意识呢？如果是，哪些部分会产生？这个问题极富争议，我们将在下一章进行探讨。如果意识的产生需要一个系统的不同部位，才能互相交流，那么，越大的系统，其思维过程就必然会越慢。你或者地球大小的未来超级计算机每秒钟都可能产生许多想法，但是，一个星系大小的智能每10万年只能产生一个想法，而一个宇宙级别的智能（尺寸达到几十亿光年）在暗能量将其分割成各不相连的碎片之前，只有足够的时间来产生10个想法，但这凤毛麟角的想法和伴随而来的体验却可能是非常深邃的。
如果选用一个词语来概括关于人工智能的最棘手的争议，那我会用这个词：目标。我们是否应赋予人工智能目标？如果是，应该赋予它什么样的目标？我们如何赋予它目标？如果人工智能变得越来越聪明，我们如何保证它继续遵守这些目标？我们能不能改变比人类还聪明的人工智能的目标？我们的终极目标是什么？这些问题不仅很难回答，而且对未来的生命至关重要。如果我们不知道自己想要什么，那我们可能无法得偿所愿；如果我们不能控制那些与我们目标不一致的机器，那事情很可能会适得其反。
有一个著名的量，大自然总是力争将它最大化，这个量就是熵（entropy）。简单来说，熵是事物混乱程度的度量。热力学第二定律说，熵总是趋于增加，直到达到最大的可能值。如果暂时忽略万有引力的影响，这种最大的混乱状态被称为“热寂”（heat death）。热寂是指万事万物都会扩散成一种无聊而又完美的均质状态，没有复杂性，没有生命，也没有任何变化。比如，当你将冷牛奶倒入热咖啡中时，你杯中的饮料看起来不可逆转地朝着它的“热寂”目标迈进。不久之后，它就会变成一杯温热均匀的混合物。如果一个活的有机体死了，它的熵也会开始上升，过不了多久，它的粒子排列就会变得不那么有序。
大自然“熵增”的目标有助于解释，为什么时间似乎具有完美的方向性，使得倒播的电影看起来很不真实。如果你向地上扔了一个装满葡萄酒的酒杯，就会预料到它会在地板上破碎，从而增加全局的混乱程度（即熵）。如果你看到它由破碎状态重新组合成完好的杯子，然后完美无损地飞回你的手中（即熵减），你可能不会喝下杯中酒，因为你可能会觉得自己已经喝醉了。
当我第一次了解到我们会不可阻挡地奔向“热寂”状态时，感到非常沮丧。在这一点上，我并不孤单，热力学先驱开尔文勋爵（Lord Kevin）在1841年写道：“结局必定是一种普遍静止和死亡的状态。”当你意识到大自然的长远目标是将死亡和破坏最大化时，你很难找到慰藉。然而，最近的研究表明，事情并没有想象的那么糟糕。
首先，万有引力与其他所有力的表现不同，它力求实现的目标不是让我们的宇宙变得均质和无聊，而是使其更加复杂和有趣。正是引力将无聊乏味、完美均质的早期宇宙变成了今天这个充满了星系、恒星和行星的复杂而又美丽的世界。引力将冷热混合，使得允许生命茁壮成长的温度范围变得很广。我们生活在一个舒适温暖的地球上，它吸收着表面温度约为6000℃（10000℉）的太阳的热量，同时将废热散发到温度仅高于绝对零度3℃（5℉）的寒冷太空来降温。
其次，我在麻省理工学院的同事杰里米·英格兰（Jeremy England）等人最近的研究成果带来了更多好消息。他们的研究表明，热力学赋予了大自然一个比“热寂”更鼓舞人心的目标。这个目标有一个令人讨厌的名字——“耗散驱动适应性效应”（dissipation-driven adaptation）。耗散驱动适应性效应的意思是说，随机的粒子群会尽力进行自我组织，从而尽可能有效地从环境中提取能量，“耗散”意味着熵增，通常的方法是将有效能转化为热量，这个过程常伴随着有用功。譬如说，一堆暴露在阳光下的分子会随着时间的推移进行自我组织，以实现越来越有效地吸收阳光。换句话说，大自然似乎拥有“产生越来越复杂、越来越像生命的自我组织系统”的内在目标。这个目标被“硬连”到了物理定律之中。
我们如何才能将宇宙的这两种趋势（一是趋向生命，二是趋向热寂）协调起来？我们可以在量子力学奠基人之一埃尔温·薛定谔（Erwin Schrödinger）1944年的著作《生命是什么》（What's Life?）一书中找到答案。薛定谔指出，生命系统的一个标志就是，它通过提升周围环境的熵来保持或降低自己的熵。换句话说，热力学第二定律在生命面前有一个漏洞：虽然整体的熵必须增加，但它允许某些局部区域的熵减，只要它能让其他地方增加更多的熵即可。因此，生命让环境变得更加混乱，从而维持或增加自己的复杂度。
谁关心这个问题
意识是一个富有争议的话题。如果你向人工智能研究者、神经科学家或心理学家提到这个以C打头的单词（consciousness），他们可能会翻白眼。如果他们碰巧是你的导师，那他们可能会对你表示同情，并劝你别把时间浪费在这个被他们认为毫无希望的非科学问题上。事实上，我的朋友，也是艾伦脑科学研究所学科带头人的著名神经科学家克里斯托弗·科赫（Christof Koch）告诉我，在他获得终身教职之前，曾有人警告他不要从事与意识有关的工作，这个人正是诺贝尔奖得主弗朗西斯·克里克（Francis Crick）。如果你在1989年版的《麦克米伦心理学辞典》（Macmillan Dictioncry of Psychology）中查找“意识”一词，就会被告知“没有什么值得写的东西”这一答案。我要在本章中向你解释，为什么我比他们更加乐观！
虽然思想家们已经在神秘的意识问题上思考了数千年，但人工智能的兴起却突然增加了这个问题的紧迫性，特别是因为人们想要预测哪些智能体可能拥有主观体验。正如第3章所说，智能机器是否应该获得某种形式的权利，关键取决于它们是否拥有意识，是否会感到痛苦或快乐。又如第7章所说，如果我们不知道哪些智能体能够拥有意识，就无法建立一个以“最大化积极体验”为基础的功利主义伦理框架。正如第5章所说，有些人可能希望他们的机器人是没有意识的，以避免因奴役他人而产生内疚感。然而，如果这些人能摆脱生物的限制，上传自己的智能，那他们又可能产生完全相反的想法。毕竟，如果把自己的智能上传到一个言行举止与你相似却没有意识的“僵尸”机器人中（我的意思是，你上传后将失去任何感觉），又有什么意义呢？从你的主观角度出发，这和自杀有什么区别呢？即使你的朋友们可能意识不到你的主观体验已经死去了。
对于生活在遥远未来的宇宙生命来说，很关键的一点就是，要理解什么是意识以及什么不是意识。如果技术能让智慧生命在我们的宇宙中蓬勃发展数十亿年，我们如何能确定这些生命是有意识的，并且有能力来欣赏这万事万物呢？如若不然，那么，是不是就像著名物理学家埃尔温·薛定谔所说，这是“一场没有观众、不为任何人存在的戏剧，因此确切来说是不存在的”？换句话说，如果我们误以为这些高科技后代有意识而实际上它们并没有的话，这会不会成为终极的“僵尸末日”，白白浪费我们宏伟的宇宙资源？
什么是意识
关于意识的争论如火如荼，因为交战双方总是自说自话，完全没有意识到他们对意识的定义竟然不一样。正如“生命”和“智能”一样，“意识”一词也没有无可辩驳的标准定义。相反，存在许多不同的定义，比如知觉（sentience）、觉醒（wakefulness）、自我意识（self-awareness）、获得感知输入（access to sensory input）以及将信息融入叙述的能力。在探索智能的未来时，我们想要采取一个最广泛和最包容的观点，而不想局限于目前已知的生物意义上的意识。这就是为什么我在第1章中对意识给出的定义十分广泛，这也是我在本书中坚持的想法。
意识＝主观体验（subjective experience）
换句话说，如果你感觉“这就是现在的我”，那么你就拥有意识。这种意识的定义，正是前一节提到的人工智能问题的关键之所在，也就是说：它是否感觉自己就是普罗米修斯、AlphaGo或一辆无人驾驶的特斯拉汽车？
我对意识的定义非常广泛，为了强调这一点，请注意，我没有提到行为、感知、自我意识、情绪或注意力这些东西。所以根据这个定义，当你做梦时，即使你不处在觉醒状态，也感觉不到感官输入的信息，并且没有在梦游或做事（希望如此），那么，你也是有意识的。同样地，从这个意义上说，任何体验到痛苦的系统都是有意识的，即使它不能移动。在我们的这个定义下，未来的某些人工智能系统可能也是有意识的，即使它们只是以软件的形式存在，并未连接到任何传感器或机器人身体上。
有了这个定义，我们很难忽略有关意识的问题。正如尤瓦尔·赫拉利（Yuval Harari）在他的《未来简史》一书中所说：“如果有任何科学家想要争辩说主观体验是无关紧要的，那留给他们的挑战就是，如何在不提主观体验的情况下解释酷刑和强奸是错误的。”如果不提主观体验，人只是一堆根据物理定律移动的基本粒子而已，那犯罪能有什么错呢？
那么，意识究竟有什么是我们不了解的呢？在这个问题上思索得最深入的人莫过于著名的澳大利亚哲学家大卫·查尔默斯了。他的脸上常挂着俏皮的微笑，身上穿一件黑色的皮夹克，我妻子非常喜欢这件皮夹克，以至于她在圣诞节送了我一件一模一样的。尽管他曾在国际数学奥林匹克竞赛中杀入决赛，但他追随自己内心，选择了哲学。不过好笑的是，他上大学时几乎所有课程都是A，唯一得B的却是一门哲学入门课程。他似乎完全不被打压或争议所左右。有些人严厉地批评他，完全是因为他们对他的研究缺乏了解或者受到了误导，但他总是礼貌地倾听这些人的批评，甚至一点也不觉得他应该做出什么回应。我对他的这种能力感到十分惊讶。
查尔默斯强调，心智有两个奥秘。第一个奥秘是大脑对信息的处理，这就是所谓的“简单问题”。例如，大脑如何注意、解释和回应感官输入的信息？它如何用语言来报告其内部状态？虽然这些问题确实非常困难，但从我们的定义出发，它们并不是意识的奥秘，而是智能的奥秘，因为它们问的是大脑如何记忆、计算和学习。此外，我们在本书的第一部分已经看到，人工智能研究者已经开始用机器来解决许多“简单问题”，并取得了重大进展——从下围棋，到驾驶汽车，再到图像分析和自然语言处理等。
另一个奥秘就是，人类为什么会拥有主观体验。这就是查尔默斯所说的“困难问题”。当你开车的时候，你会体验到色彩、声音、情绪和自我感。但是，你为什么会经历这些体验呢？一辆无人驾驶汽车有体验吗？如果你正与一辆无人驾驶汽车比赛，你们都是从传感器或感觉器官获得输入信息，然后处理信息并输出运动命令。但从逻辑上来说，驾驶的主观感觉却是另一回事，这种体验是可有可无的吗？如果是的话，是什么原因造成的？
我从物理学的角度来思考这个意识的“困难问题”。从物理学的角度来看，有意识的人只不过是经过了重新排列的食物粒子而已。那为什么同样的粒子，有些排列就有意识，而有些排列却没有意识呢？此外，物理学教导我们，食物只不过是大量的夸克和电子以一定的方式排列而成。那么，哪些排列是有意识的，哪些没有注7？
还有一种观点叫作实体二元论（substance dualism）。这种观点认为，生物之所以与非生物不同，是因为它们包含一些非物质的东西，如“灵气”（anima）、“生命冲力”（élan vital）或“灵魂”（soul）。如今支持实体二元论的科学家越来越少。要理解为什么，请想一想，你的身体是由大约1029个夸克和电子组成的，据我们所知，它们的移动都遵从简单的物理定律。请想象一下，假设未来有一项技术能够追踪所有的粒子。如果它发现你的粒子完全服从物理定律，那所谓的“灵魂”对你的粒子就没有任何影响，那么，你的意识心智和运动控制能力就与灵魂没有任何关系。如果这项技术发现你的粒子不遵守任何已知的物理定律，而是受你的灵魂所驱动，那么，带来这些驱动力的未知事物从本质上来说，一定也是一个物理存在的实体，我们可以像过去研究新领域和新粒子一样对它进行研究。
我喜欢这个物理学观点，因为它将困扰人类几千年的难题转化为更易用科学方法解决的、更具有针对性的问题。与其从“为什么粒子的某些排列能感受到意识”这个困难问题出发，不如先让我们承认一个“困难事实”，那就是：粒子的某些排列确实感受到了意识，而其他排列却没有。譬如说，你知道自己脑中的粒子当下正处于有意识的排列状态中，但当你处于无梦的睡眠状态时却不处于有意识的状态。
这个物理学观点导致了三个彼此独立的意识难题，
第一个难题是，到底是什么性质让不同的粒子排列产生不同的结果？具体来说，是哪些物理特性将有意识系统和无意识系统区分开的？如果我们能够回答这个问题，那么我们就可以搞清楚哪些人工智能系统是有意识的。在不久的将来，它还可以帮助急诊室医生确定哪些无反应的患者是有意识的。
第二个难题是，物理性质如何决定体验是什么样的？具体来说，是什么决定了感质？感质是意识的基本构成要素，比如，玫瑰的绯红、铜钹的声响、牛排的香味、橘子的口感或针刺的微痛。
第三个难题是，为什么会出现有意识的东西？换句话说，为什么一团物质会产生意识，对这个问题有没有什么尚未发现的深层次的解释？或者说，世界就是这样运行的，这是一种无法解释的蛮横事实？
和查尔默斯一样，我的一位前麻省理工学院同事、计算机科学家斯科特·阿伦森（Scott 在规划未来时，我们不仅要考虑自己生命的意义，还要考虑宇宙本身的意义。在这一点上，我最喜欢的两位物理学家史蒂文·温伯格（Steven Weinberg）和弗里曼·戴森表达了截然相反的观点。温伯格因在粒子物理学标准模型上的奠基性工作而获得诺贝尔物理学奖。他有一句著名的话：“我们对宇宙理解得越多，它就越显得毫无意义。”然而，戴森的观点要乐观得多，虽然他也认同我们的宇宙是毫无意义的，但他相信生命正在让宇宙充满越来越多的意义；如果生命的种子成功地散播到整个宇宙，那未来一定是光明的。在1979年那篇重要论文的结尾，他说：“到底是温伯格的还是我的宇宙观更接近真相？过不了多久，我们就会知道答案了。”如果我们让地球生命走向灭绝，或让无意识的僵尸人工智能控制了宇宙，从而让宇宙回到永无止境的无意识状态，那毫无疑问，温伯格就大获全胜。
即使我们在果壳之中，我们仍然认为自己是宇宙之王。
联系客服
