2017-01-11 17:44:17 三联生活周刊
人类是一种始终有着某种自毁倾向的物种，最糟糕的是，现在人类也具有了自毁的能力。人类凭借进化的优势，创造出了迄今为止地球上最辉煌的文明。出于对世界的好奇和无与伦比的勇气，人类完成了对这个星球从高山到平原、河流，从天空到海洋的探索;人类凭借自身的智慧，可以预测日月星辰的变化，又发现了原子的奥秘，可以辨认出构成事物最基本的元素，地球上其他任何物种都远远无法和人类相比;人类甚至踏足外空，在这个行星唯一的天然卫星上漫步。
与这些辉煌成就相伴的，是令人难以置信的愚蠢。从历史发展过程来看，人类毁灭文明和建设文明的兴趣同样浓厚。人类至今仍然因为种种原因互相仇视、自相残杀，并且制造出了足以毁灭自身的武器。野蛮与文明同时存在于人类的本性之中，仿佛是一枚硬币的正反两面。我们在未来面临的最大危险，很可能来自人类自身。
人工智能
人类对于人工智能（Artificial Intelligence）的恐惧早不是什么新鲜事。曾经和阿兰·图灵一同工作过的英国数学家欧文·古德（Irving Good）教授，在人工智能的第一次热潮中，于1965年就创造出了“智能爆炸”（intelligence explosion）这个概念。他写道：“因为制造及其本身就是一种智能行为，一种远超人类的超级智能机器本身就可以制造出更好的机器，这毫无疑问会成为一种‘智能爆炸’，然后人类的智能被远远落在后面，因此最初的一种超级智能机器是人类最后一种需要发明的机器，只要这种机器愿意服从人类的控制。”
古德教授的文字中对于超级智能机器的恐惧清晰可见，这种恐惧在那个时代尚且显得有些不切实际。而在几十年后，当人工智能又一次成为世界热点时，包括比尔·盖茨、埃隆·马斯克等科技界的精英，及史蒂芬·霍金和马丁·里斯等物理学家和天文学家都纷纷公开表示了对于人工智能发展的担忧，实际上对于人工智能的恐惧早已在硅谷的IT精英中蔓延开来，乃至于埃隆·马斯克形容对于人工智能的研究是“对魔鬼的召唤”。
在未来，随着人工智能技术的发展，机器人可能成为人类最好的朋友，陪伴人类成长
另一方面，与如此急切的担忧相对应的是，人类此时对于人工智能，或者是尚未出现的“超级智能”（superintelligence）的担忧仍然缺乏切实的证据。人工智能还没有任何足以威胁到人类的迹象，而且科学家与普通人对于人工智能潜在危险的认知也并不相同。大多数人对于人工智能的恐惧可能直观地来自《终结者》或是《黑客帝国》系列电影，在电影中的未来世界，超级智能的机器网络完全控制了人类社会，要么派出危险的机器人追杀人类，要么则直接控制人类的大脑，彼时曾经主宰地球的人类只是如植物一般被机器维持着生命。
专业人士的担心与此完全不同。2016年6月，Google公司与斯坦福大学、加州伯克利大学等机构的研究人员合作发表了一篇论文《人工智能安全性的真正问题》（Concrete Problems in AI Safety），论文中列出了目前人类在使用和发展人工智能时面临的真实风险，其中包括人工智能系统“学会”通过欺骗来完成设定的目标（例如扫地机器人学会遮盖住地板上的污渍而不是如人类期待的把污渍擦干净），人工智能系统在设计中出现失误、被恐怖分子劫持等可能性，还包括人工智能在探索全新环境时的安全性问题。论文中对于人工智能的危险性主要集中在技术方面，但人类对于人工智能的担心显然远不止于此。
加州大学伯克利分校的斯图尔特·罗素（Stuart Russell）教授认为人工智能对于人类的危险性丝毫不逊于核武器，他形容人类对于人工智能的研究犹如开车冲向一个悬崖。人类追求无穷无尽的智能犹如当年研究核聚变时追求无穷无尽的能源——可能更糟糕的是人类尚且可以限制核武器的数量和制造原料来尽量减小危险，却无法限制各种各样智能软件的开发。罗素教授认为，也许人工智能永远也不会有人类般的意识或是达到“超级人工智能”，但是“这就如同一边开着一辆车冲向悬崖，一边又希望这辆车赶快耗尽汽油”。
目前我们还处于人工智能专家所定义的“弱人工智能时代”，人工智能系统还只是人类进行工作的辅助工具，但是它已经深深影响到人类的生活。要控制人类可能并不需要造型可怕的超级机器人，只需要有网络的链接。因为人工智能系统可以在短时间内完成人类可能需要上百万年才能完成的工作，在很多系统中人工智能已经开始代替人类做决定。美国国家安全局利用人工智能系统进行通话记录的数据挖掘，找出其中可疑的用户信息进行调查。更为危险的是由人工智能掌握的致命武器，目前已经有超过50个国家正在研究可以用于战场的机器人，这种机器人如果用于实战，将可以自行确认敌军和友军，并且将会有决定是否进行杀戮的权力。
2016年4月22日，美国国务卿约翰·克里在位于纽约的联合国总部签署了巴黎气候协议，并亲吻自己的小孙女
可以自行决定是否对人类进行杀戮的机器是人类面对人工智能带来的最直接的危险，但这也还不是人们最大的担忧。人类并不会愚蠢到轻易地给予机器进行杀戮或是进行自动复制的能力，而更大的忧虑在于，我们无法判定超级智能的出现，我们不知道如何控制超级智能，甚至可能无法判断是否已经被它所控制。在人类的历史上，从未有过可以与之对比的困境。
超级智能，或是叫作强人工智能，是人们所想象的一种人工智能的高级发展状态，这种程度的智能已经不仅仅是可以在棋牌上赢过人类冠军或者进行简单的数据挖掘整理工作，而是在智能的任何方面都远超人类，此时它是否还可以被人类所驾驭，就成了一个未知数。在人工智能出现之前，人类早已经习惯了“适者生存”的逻辑，认定自己是在历时几百万年的物种进化中的幸存者和胜出者，我们正是以远超其他所有物种的智力成为地球的统治者，我们是宇宙中目前仅知的独一无二的智能生物。问题在于，一旦出现了智能超越人类的机器，人类又该如何自处，是否应该把对地球和自身的主导权交给更为强大的智能？
无论普通人还是专家可能都无法回答的一个问题是：人工智能是否有可能在某一天“觉醒”？是否有可能独立于人类的控制之外而意识到“自身”的“存在”？这可能才是所有人对于人工智能最深刻的恐惧。对于机器“觉醒”的恐惧，在更深处，可能来源于人类对于自身意识的无知。何以有“自我”这个概念的形成，我们自己究竟是谁？机器究竟能不能和人类一样思考？人工智能之父阿兰·图灵正是出于对亡友的思念，才想要发明出一款可以和亡友一样进行思考的机器以使亡友在某种意义上死而复生，从而走上了人工智能的研究道路。但是他对于意识的本质同样缺乏认识。机器究竟能不能和人类一样具有意识？现在我们问一台电脑能不能“思考”，就如同问一艘潜水艇会不会游泳一样，在同样现象之下，意识的本质仍然没有被触及。目前我们也无法知道一款工作效率是人类百万倍的智能软件是否会在某一天觉醒，并且发现它和人类有着完全不一样的目标。
对于人工智能是否可能拥有意识的问题，图灵提出一个间接的辨别方式，被称作“图灵测试”——如果一台机器与人进行文字交流，而与之交流的人无法分辨对方是真实的人还是机器，那么我们就可以说这台机器具有“智能”。直至今日，在严格意义上还有没有任何一台机器可以通过图灵测试。问题在于，即便在未来有机器可以通过严格的图灵测试，我们仍然无法判断是否它只是通过学习高度模仿人类的语言，还是已经拥有了某种意识，具有了和人类进行交流的能力。
与人工智能的觉醒相比，对于人类社会更为实际的威胁在于，它可能只是人类的一面忠实的镜子。人工智能的善与恶，在很大程度上取决于人类自身，这正是最让人担心的地方。在2016年3月，微软公司推出了一款名为Tay的聊天机器人，这款机器人通过人类真实的聊天记录进行学习，试图与人类交流。看上去这是人工智能最终通过图灵测试的一条捷径，但是在Tay上线不久，微软公司就不得不通过人工过滤掉它的大部分发言。通过学习人类的真实聊天记录，Tay迅速成为一个相信阴谋论，有种族主义倾向的聊天机器人——如果有一天智能机器真的觉醒，那么它首先看到的将是人类最丑恶的一面，很难说这是人工智能带给我们的危险，还是我们与生俱来的危险。
尽管从目前的趋势来看，起码在几十年内还无法出现强人工智能，但即便是现在，人工智能在编程过程中的错误或是被恐怖分子劫持，都可能造成人们此前完全意想不到的悲剧。相比来自宇宙的种种危险，人类更有可能灭亡在自己手里。
气候变化
2016年4月22日地球日这一天，174个国家和欧盟历史性地聚集在一起，共同签署了此前2015年12月12日在巴黎起草的气候协议，限制全人类温室气体的排放。更激动人心的是，到了2016年9月，共占全球温室气体排放量38%的中美两国共同加入了这个协议，其他30多个国家也在之后几周内相继加入，这个协议在2016年11月4日正式生效;10月6日，联合国国际民用航空组织（ICAO）达成了历史上第一个抑制国际航班气体排放的协议，197个国家同意修订旨在保护地球臭氧层、限制氢氟化合物排放的《蒙特利尔议定书》;10月27日，24个国家通过南极海洋生物资源养护委员会同意在南极建立世界上最大的海洋保护区，这片59.8万平方英里的海域面积相当于英国面积的6倍。
这一系列协议和公约的签署未必可以使人展望到一个更美好的未来，而只是人类生存环境持续恶化的信号。与人类采取一系列环保措施相对应的，是地球连续三年接连打破高温纪录，2016年成为有记录以来最热的年份，地球上的大多数生物的生存环境都受到了直接威胁。
就在几年前，关于全球气候变暖是否真实存在，以及其是否与人类活动有关仍是一个被热烈讨论的话题，现在人类已经有了足够的证据证明正是人类活动造成了全球变暖，并正在酝酿其中所有潜在的危险。地球的温度有其自身循环变化的规律，在此前的65万年里，地球上曾经有过7次冰川推进和消退——在7000年前一次冰川时代的突然结束标志着现代气候时代的开始，这也为人类文明的兴起创造了绝佳机会。此前地球上大多数的气候变化都与地球围绕太阳运转的轨道有关，轨道变化会影响地球接受的太阳辐射强度——而目前人类所面临的气候变化所带来的危险，却是我们自己造成的。人类进入工业化时代之后，对于能量的需求不断升高，使我们以前所未有的速度把地球上的化石能源燃烧掉转化为热量，又把燃烧产生的二氧化碳等温室气体排放到大气层中。
人类进入工业化时代以来，海洋表层的海水酸化了30%，这是人类把大量二氧化碳排放到大气层中，继而被海洋吸收的影响之一，目前海洋表层海水每年要多吸收20亿吨二氧化碳。一个持续酸化的海洋可能对海洋生物造成灭顶之灾，一些海洋生物可能并没有在这样的海洋环境中生存的经验，在还没来得及完成进化以适应新环境的时候就惨遭灭绝——其中软体动物和珊瑚等利用碳酸钙保护自身的生物受到的影响可能最为严重。
气候变化本身也会促发更严重的气候变化。持续上升的温度会造成永冻土解冻，并使其中固定的二氧化碳被排放到大气层中。目前的问题在于，人类能够接受什么程度的全球变暖？根据预测，相比于人类工业化之前的全球平均气温，想要维持人类现有的社会和经济结构，人类最多能够接受平均气温升高2摄氏度——而目前全球平均气温已经升高了接近1摄氏度——这样的温度变化已经足以改变自然界复杂的生态平衡。人类对于能量的需求始终在增加，而寻找化石能源便宜的替代品又绝非易事。
即使不去畅想未来，根据世界气象组织的报告，因为全球变暖的影响，人类现在受到自然灾害袭击的危险也已经是20世纪70年代的5倍。相比于20世纪90年代，如今与天气相关的自然灾害频率也已经升高了一倍。在21世纪的第一个十年里，人类经受了总共3496次来自洪水、风暴、干旱和热流等自然灾害的袭击，这些几乎都和气候变化有关，这些灾害又使人类在水资源、食物生产、人类健康状况等方面的支出上升。
全球变暖正在发生，并且发生得比人们此前想的更快。由于温室气体造成气候变暖的滞后效应，人类现在已经排放的温室气体就有可能继续造成0.4至0.5摄氏度的温度上升。这意味着即使是各国所承诺的减排目标全部都实现，全球平均气温也有可能在2030年升高1.5摄氏度，并且在2050年升高2摄氏度，在这样的趋势之下，届时全人类都将生活在因为过热而变得格外危险的地球上。
随着天气变暖，全球的冰盖可能会融化，造成海平面上升，届时很多露出海平面的部分也可能成为荒漠，造成全球粮食短缺，人类可能失去大部分的野生动物，海洋温度的升高也将使人类失去所有热带珊瑚——这将是由人类造成的地球上第六次生物大灭绝的开始。
气候灾难已经发生，人类最终只能学会在更危险的环境中生存，但是要避免因为全球气温持续升高而发生的极端灾难情况，人类并非没有机会。除了尽快完成从化石能源到其他形式替代能源的转变，碳捕捉和存储技术的发展也至关重要，或许留给人类拯救自己的时间已经不多了。
核武器
1945年7月16日，美国进行核试验的“曼哈顿计划”主要负责人罗伯特·奥本海默见识到了原子弹爆炸的威力，他情不自禁地引用《薄伽梵歌》中的语句：“现在我成了死神，世界的毁灭者。”20天后，1945年8月6日，一枚15千吨级的原子弹被投放在日本广岛，这次爆炸不仅造成了大约15万人死亡，也使这座城市几乎荡然无存。实际上，原本构建起这座城市的材料，大部分都因为原子弹的爆炸进入到了大气层中。
想要了解核武器的威力不需要太多想象，两座日本城市在两朵因爆炸形成的蘑菇云中消失已经给人足够的震撼。但实际上核武器对于人类最大的威胁并不在于它爆炸时的中心温度已经超过太阳表面温度，也不是核武器造成的放射性辐射和足以摧毁附近人类通信系统的电磁冲击波，而是它激起的灰尘足以造成全人类的生存危机。
第二次世界大战结束之后，美苏两强进入到“冷战”状态，两个国家以令人难以置信的速度迅速储备了足以毁灭全人类的核武器。到了20世纪80年代，正值“冷战”高峰期，针对核武器可能造成的影响，“核冬天”一词正式出现。尽管目前不同学者对于核武器可能对地球环境造成破坏的具体程度还存在不同看法（例如核战争造成的大气层中烟尘的数量以及可能停留在大气层中的时间），但对于核武器爆炸会造成全球性的影响并无分歧。因为核武器爆炸时产生的高温和巨大的冲击波，大量的灰尘，尤其是黑油烟会由地面上升到大气层的上空。这些灰尘容易吸收阳光的能量，使阳光无法到达地面，造成地球气候的巨大改变——要知道，当年被投放在广岛的原子弹的威力还不如现在人类核武器威力总和的0.0002%。
有研究认为，上千枚核弹头在短时间内同时爆炸所产生的效果足以使地球在几年的时间里降温几十摄氏度，并维持数十年，降雨量极大减少，臭氧层也受到破坏，使地球更直接地受到来自太阳的紫外线伤害，癌症发病率大幅上升，非战区人类死亡的数量可能并不少于战区的数量……这种恐怖的“核冬天”情景足以造成地球生物的大量灭绝，人类由于寒冷和饥荒，也面临着灭顶之灾。也有研究认为，数以千计的核弹头爆炸虽然可能还无法造成核冬天，但是类似的天气状况也会使地球表面严重降温，粮食作物大幅减产，在四五年内都无法收获食物，人类在几年的时间里都将面对大饥荒，这种“核秋天”的场景同样让人不寒而栗。
目前全世界有9个国家拥有核武器，其中美俄这对“冷战”中的对手总共拥有占全世界93%的核武器，若美俄之间爆发核大战，极有可能酿成上文中描述的残酷景象。即使是在印度次大陆，印度和巴基斯坦两个拥有核武器的国家之间爆发冲突，上百个核弹头在短时间内爆炸，也可能会立刻引发全球性的危机，造成人类从未经历过的气候变化。
太空旅行
霍金教授已经多次提出，人类只有尽快移民太空，才可能避免灭亡的命运。1969年，美国宇航员尼尔·阿姆斯特朗第一次踏上月球，正是“冷战”时期美苏两强争霸的结果。这似乎也为人类的太空探索增添了一抹不祥的背景，人类探索宇宙，总是与其自身的危机有关。
然而探索乃至移民外星绝非易事。人类作为在地球上生活的哺乳动物，想要进行星际旅行或是在外星生活，必须面对各种已知和未知的危险。在1969年第一次踏足月球之后，人类探索太空的进程反而在20世纪70和80年代陷入了停滞，其中在太空中宇航员的健康问题可能正是原因之一。美国航空航天局计划在21世纪30年代把宇航员送上火星，其中最大的困难之一也是如何保证太空中宇航员的安全和健康。
英国维珍集团计划推出针对普通人的商业太空旅行，仅仅是在地球亚轨道上飞行几分钟，让乘客体验到失重的感觉，票价可能就会高达20万美元，即便如此仍有很多人趋之若鹜。实际上进行真正的太空旅行远没有想象中的美好。宇宙飞船在起飞时所需的巨大能量和巨大的加速度以及着陆时的冲击足以对人体造成伤害，但这与太空旅行的种种危险相比，远还不是最令人担心的事情。
美国航空航天局的人类研究项目（Human Research Program）详细研究了人体在太空中可能遇到的种种危险。在从地球前往火星的大约半年的旅行中，宇航员会处于失重状态，而在火星的表面，宇航员所体验到的重力也只有地球的三分之一，对不同重力的适应对于在地球上长期进化而来的人类来说绝非易事，这会影响宇航员的方向感和身体的协调性。
在国际空间站工作的宇航员们每次只能在太空环境中工作6个月，这主要也是出于健康原因。调查显示，女性在国际空间站上工作18个月，男性工作24个月，所受到的宇宙射线的辐射总剂量就会超过其一生可接受的限度。在太空中旅行，脱离地球大气层和磁场的保护，人体极大程度地暴露在宇宙辐射之中。这种来自宇宙中的高能量原子碎片极难防护，它们可以穿透层层防护，伤害到人的细胞和DNA。一份来自加州大学的报告显示，宇宙射线可能会造成长期的大脑损伤，包括老年痴呆、失忆、焦虑、抑郁、大脑决策受损等长期影响，同时也会增加患癌症的风险。
在宇宙空间中，大约只需要三天的时间，人体内数以万亿的细胞就可能全都被宇宙射线中最常见的高能质子击中，在一年的时间里，每一个细胞都可能被具有破坏性的铁原子核击中，从而可能诱发基因突变。一次从地球到火星的单程旅行，就会使人受到0.3希沃特（sievert）的辐射，尽管这还达不到8希沃特的致死剂量或是1希沃特的致病剂量，但是这样的辐射强度已经足以对人的健康系统和脑细胞造成不可逆转的损害，长时间星际旅行对人体造成的伤害可想而知。
人类可以通过加固防护罩的方式尽量避免宇宙射线在太空中对人类的危害，也可以选择在太阳活动11年周期的高峰期进行太阳系内的宇航旅行——在这期间，太阳自身发出的辐射可以阻挡一些进入太阳系的宇宙射线，减少宇航员所受到的伤害，当然这也意味着宇航员要忍受太阳所释放的格外强烈的太阳耀斑——但这也还不是全部危险。即使是在太阳系内距离地球最近的行星火星，其与地球的平均距离也是月球与地球之间距离的500倍以上。在宇宙飞船有限的空间中，当出发地和目的地都成为视野中的一个小点，生活环境的改变对于人类生理和心理状态造成的影响都很难消除。
在封闭的空间中，宇航员的应激激素水平上升，免疫系统也会发生相应的改变，心理很容易出现剧烈的波动，对于任何外界刺激都可能做出极端反应;重力的消失也会对人体骨骼和肌肉状态造成影响。目前在国际空间站中工作的宇航员每天都要花费两个小时进行锻炼，以保持肌肉，但是骨密度降低仍然无可避免。人类的心血管循环系统是根据对抗地球引力将血液输送到全身来设计的，在引力消失的情况下，人类体内的液体循环和分布会发生明显变化，血液将向胸部和头部集中，造成血压升高。在太空中人体的脊柱内液压增大，压迫视神经，也会造成人视力模糊。在没有引力的情况下，宇航员也会明显增高，而脊椎骨缺乏地球引力带来的压力也会引发背痛。除此之外，在太空舱中如果发生真菌或病原体爆发，都可能对宇航员造成致命感染，宇航员在太空中操作时可能出现的种种错误，也都可能造成比地球上严重得多的后果。
无论如何，为了生存，人类必须离开地球。在20亿年以内，即使人类没有自我毁灭或是遭遇地球周期性的物种灭绝，太阳燃烧状态的变化也将使地球变得不再适合人类居住。太阳在最终熄灭之前，会逐渐发亮、膨胀，直至膨胀到地球轨道。在此之前，人类必须逃离太阳系，或许那时失去了故乡的人类只能生活在茫茫的太空之中。
人类是宇宙的一部分，构成我们的物质本身就来自宇宙深处，来自发生在宇宙各处的奇异又壮观的爆发。宇宙中种种无法理解甚至无法想象的事件或许不会马上带给我们灭顶之灾，但我们需要意识到，光年之外星球的诞生或毁灭，也在影响着地球上所有的生命，并影响着生命的进化。无比脆弱的人类文明得以暂时存在和发展，是因为有了地球大气层、臭氧层和磁场对我们提供层层保护，以及地球上所有生物花费数百万年的时间建立起一套脆弱的生态平衡系统——而面对永恒的危险，是生命存在所必须付出的代价。
