关于人工智能，我们真正应考虑的三个问题

本文选自《智能的本质——人工智能与机器人领域的64个大问题》，作者皮埃罗`斯加鲁菲（Piero Scaruffi）是《硅谷百年史》作者，哈佛大学、斯坦福大学、加州伯克利大学客座教授。

现在讨论奇点，其实是在浪费时间

雷·库兹韦尔的系列著作让“奇点”的概念得以普及，并引爆了这一轮人工智能的热潮。奇点理论认为，我们即将迎来机器时代：机器的智能程度远远超过人类，以至于人类既无法控制机器，也无法理解它们的想法。

面对奇点论的未来预言，人们分成了两派：乐观的憧憬与悲观的恐慌。而本文所关注的则是，我们如何从奇点宗教预言式的理论回归到人工智能技术的现实中来。

奇点论正在成为人工智能时代的新宗教吗

奇点论的信众与当今世界三大宗教的相似之处非常明显，却被很多人所忽视。根据奇点论的预言，世界末日将以奇点的形式到来，不过，不用担心，我们都将通过意识上传复活，奇点论中所称的超级计算机将使之成为可能。

那些赞成奇点理论的论调和（非常微弱的）论证的确很容易让我们想起宗教预言，只不过这一次来拯救人类的弥赛亚不再是受外在神圣力量差遣而来的，而是我们自己制造的产品。所以，从某种意义上说，这是一门信仰人类自己创造的神的宗教。

奇点理论的魅力之处在于它用倒叙法讲述了宗教的历史。传统意义上的宗教会力图从源头上解释神秘的宇宙复杂性，生命的奇迹，以及意识产生的目的。甚至当今一些非常杰出的科学家也赞成“神创论者”的观点，相信世界是由超人类智慧创造出来的。这种理论通常被称为智能设计（intelligent design），但其更合适的叫法应该是超智能设计（super-intelligent design），因为智能（intelligent）一词仅仅指人类智能。

宗教的重点恰恰在于相信人类智能永远无法制造的东西存在，它会设想人类能够发现的所有自然法则都不足已解释宇宙、生命、以及灵魂所蕴含的奥秘。任何可以借由数学规律解释的事物人都能完成，因此也不需要超自然力量的存在。相反，上帝是一种先于人类智能产生、并创造人类智能的奇点，而且无限优于人类智能。

幸运的是，这个至高的神有能力，同时也愿意给予我们永生的机会。通常意义上，这种永生就是信徒最终希望从其信仰中得到的东西。而目前奇点论所提出的假设——由于超智能机器的发展即将出现奇点——几乎就是这个故事的翻版。 过去的奇点（神）被用来解释那些令人费解的问题，而新的奇点（智能机器）却无法解释。人类智能既无法理解过去上帝在创造人类智能时的方式，也无法理解将来人类智能创造超智能机器的方式。

因此，奇点分为两个阵营：乐观派和悲观派。乐观派认为机器最终会将人类带入永生，而悲观派则认为机器可能会将人类带向毁灭。我至今还未曾听说有人在这个问题上与大多数宗教人士持相同的观点：好人去天堂，坏人下地狱。显然，奇点理论不会去区分好人和坏人：它要么会杀死所有人，要么将每个人都带入永生。（所以，将来金钱可能比善举更容易让人得到永生，因为就我的理解，永生终将成为一种待价而沽或是可租可借的服务，就像目前的云计算服务一样）。

计算机的运算速度会影响人类的智能水平吗

奇点论过于乐观的预测建立在计算机运算速度的指数增长以及体积的不断缩小的基础之上。 1965年戈登·摩尔（Gordon Moore）预测，计算机的处理能力将每18个月提高一倍（“摩尔定律”），到目前为止他的预测不断得到事实的验证。

今天，智能手机的魅力并不在于它们可以完成20世纪60年代电脑不能完成的事情（它们几乎可以做同样的事情），而在于它们体积小、价格便宜、速度快。只花很少的钱就可以下载手机应用，意味着更多的人可以使用手机应用。这会带来巨大的社会效应；但它并不意味着软件技术已实现概念性的突破。很难说现存的哪个软件程序是五十年前Fortran语言无法编写的。如果当时没有编写这一程序，其原因可能是成本过于高昂或者一些所需的硬件尚未问世。

诚然，目前计算机的发展的确很快，速度更快、体积更小、价格也更加亲民。即便假定这种趋势会继续“以指数速度发展下去“（正如奇点专家们即将宣称的那样），就理所当然地认为这种（硬件）进步能够支撑机器智能领域产生令人震惊的差异，无疑是基于一种非直接的假设：计算机在速度、体积、价格上的巨大进步将首先影响人类水平的智能，然后才是更高水平的智能。毕竟，假如你将很多很多很多的愚笨的神经元组合在一起，也许可能会得到像爱因斯坦那样聪明的大脑。如果将上百万块的超高速GPU组合放到一块，也可能获得超人类智能。但这只是可能。

无论在何种情况下，我们都最好为摩尔定律可能失效的那一天做好充足的准备。虽然摩尔定律被公认在可预见的未来还会继续发挥作用，但它看起来并非前途无量。这不仅仅因为即将遇到技术瓶颈。

摩尔定律背后的本意是要表明晶体管设备的制造“成本”将持续下降。即使这个领域找到了一种可以继续在芯片上蚀刻数量翻倍的晶体管的方法，这种方法的成本也会很快开始增长：毕竟处理微晶体管的技术本身就造价不菲，更何况散热也已成为超密集电路上亟待解决的主要问题。

2016年，英特尔的威廉·霍尔特（William Holt）宣布英特尔将不再生产超越7纳米技术的芯片产品，并警告说将来为了节约能源，降低热量（即成本），处理器可能会变得更慢。虽然近70年来计算机的体积不断缩小，但是2014年，它们又开始向更大发展（例如iPhone 6手机）。

如果摩尔定律不再有效，那么“暴力型人工智能“——例如深度学习——还会不会继续发展？2016年，硅谷人工智能创初创企业CEO斯科特·菲尼克斯（Scott Phoenix）宣称：“在15年内，最快的计算机每秒的运算速度将超过所有在世的人类大脑的神经元总和。”如果这种假设没有实现会怎么样？

从某种意义上说，今天的奇点预言家们认为机器“智能”是一个发展永远保持加速且不会变缓的学科。

同样，我认为除了小型化以外， 机器的“智能”并没有什么长进（它们的智能与阿兰·图灵发明的“通用机”的智能毫无二致）。摩尔定律（它的确保持了指数发展的态势）与机器智能没有任何关系，它仅仅表示了人类究竟能在一块微小的集成电路上“挤进”多少个晶体管。

其实，现在机器能完成的工作（就智能任务而言），一点也不比1950年图灵发表机器智能论文时多多少。真正发生改变的就是今天人们以低廉的成本将异常强大的计算机作成手掌大小的智能手机，也就是所谓的小型化。而将小型化等同于智能就好像将改进的钱包等同于财富。

人类变成机器，还是机器变成人类

目前，我们最应该担心的不是机器智能的迅速提高，而是人的智力可能会下降。

通常我们对图灵测试的解读为：什么时候我们可以说机器已经和人类一样聪明？但是图灵测试还有另外一面，即人类智能，换句话说，机器还有另一种方式通过图灵测试：让人类变笨。我们把图灵点看作机器和人类一样聪明的点。机器智能提高到人类的水平或者因为人类智能下降到机器的水平，都可以到达图灵点。

人类总是非常依赖他们发明的工具。例如，当他们发明了文字，人类的记忆力下降。另一方面，他们收获了一种存储更多知识和更快传播知识的方法。 人类历史上的所有其他发明都不例外：使人类丢掉一种技能，同时也让人类get一个新技能。我们无法让历史倒退重演，我们永远不会知道如果人类没有丧失记忆技能，世界会变成什么样子。我们间接地假设， 现在的世界是它可能拥有的最好的样子。

事实上，在过去几百年里人类记忆技能下降，大量弥补羸弱记忆力的工具应运而生。反过来，每个工具又导致新的技能下降，书法的发明是否值得人类损失这么长一串技能链，这个问题还有待讨论。整个人类社会都在经历“变笨”的过程，电器与现在的数字设备极大地加快了这一过程。计算机导致书法的衰落，语音识别将奏响书写的哀歌。从某种意义上说，技术递给笨人工具，让他们变得更笨，但仍然可以幸福地生活。

悲观主义者可以将整个人类文明史写成人类变得越来越笨，只好发明越来越聪明的工具以弥补自身缺憾的历史。

为什么现在的机器可以做到50年前的机器做不到的事情？机器只是变得比原来更快，更便宜并且信息存储量更大。只因为这三点，机器变得无处不在。

有什么事情是人类50年前可以做但现在不能做的？问问你的爷爷奶奶，你一定能得到很长一串答案，从生儿育女到辨认方向，从车水马龙中开车到修理坏掉的鞋。或者可以去一个不发达国家旅行，在那里你也能找到答案。那里的人们仍然过着你祖辈一样的生活，你会发现对于他们来说是家常便饭的生活，而你却无所适从。

我们什么时候才能看到一个机器人能够在没有红绿灯的帮助下过马路？ 可能还需要几十年。我们什么时候能够看到正常人不看红绿灯就不能过马路？可能这一天会来得更快。从简单的日常琐事来看，我们可以得出结论人类智能不是“爆炸” （exploding），而是内爆（imploding）。基于事实，我们可以说，机器没有变得更聪明（只是速度变得更快），而是人类越来越笨;因此，很快就会出现比人类更聪明的机器，但原因不仅仅在于机器变得更聪明。

在数字时代，普通人只需动动手指，就可以获取各种知识。原来知识的来源是特定领域的“聪明”人。现在，即使不是该领域的专家，也能轻松运用知识。因此，用户缺乏深入学习知识的动力，他可以 “借用”别人的“聪明才智”。用户“智能”不升反降（当然，操作设备的才干除外，但是，设备越来越易用，到最后用户只要会按下开机键就万事大吉）。不可避免的，人类对机器的依赖性越来越高，而机器对人类的依赖性恰好相反。

我经常主持/组织湾区的会议，投影仪是会议必不可少的一个设备。我很怀疑如果演讲人的电脑不能正常连接到房间的音频/视频设备，导致他/她不能播放准备好的幻灯片，他/她是否还能发表演讲。过去的几千年，人类在没有任何技术的帮助下发表演讲。显然这样的时光已经一去不复返了。你能想象苏格拉底对柏拉图说“对不起，如果你的笔记本电脑里没装PowerPoint，我就不能和你对话”吗？

或许图灵测试是一个自我实现的预言： 我们（声称）打造“聪明”机器的同时，我们也在把人变笨。

总之，人们以及媒体的宣传对人工智能技术或奇点论的过分乐观并无道理可言，因为A.I.尚不能解决很多现实中的问题。过分的乐观主义不能替代切实可行的解决方案。从历史上来看，对罗马“永恒之城”的狂热盛赞以及对威尼斯“最平静的共和国”的坚定信心，并没有阻止这些帝国的坍塌。盲目的乐观可能是最致命的大规模杀伤性武器。

特别推荐图书

【《智能的本质》《硅谷百年史》】