人类的许多幻想最终都变成了现实，并给人类带来巨大的福祉；自人类文明跨入21世纪以来，人工智能得到了突飞猛进的发展。但这一次，人类很可能毁灭于人工智能，美国太空探索技术公司和特斯拉公司首席执行官埃隆·马斯克认为：人工智能是“人类文明面临的最大危险”，智能机器可能会引发战争或者在街头杀人。这绝非杞人忧天的危言耸听。
请允许笔者为诸君做一个逻辑严谨的分析推理，对人工智能给人类造成灭顶之灾的可能性做一个丝丝入扣的分析评估。
迄今，人类智能产生的最大邪恶是原子弹，导致大约14万广岛人和约15万长崎人死亡。从某种意义上说，原子弹当然是人工智能的一种。因此，我们必须首先认清的是，人类的智力与创造在带来福祉的同时，也会带来灾难，且常常是巨大的灾难。今天，基于人工智能已经达到的发展水平，我们完全可以客观地做出这样的展望——人类可以创造出全面超越人类自身的机器人，全面超越的准确含义是在智力与物理能力上都远超人类的人工智能。机器人在力量上超过人类，这是非常容易理解的，一只机械手的力量显然可以远远超过人类的手臂力量，而无人驾驶汽车的速度则远远超过人类的奔跑速度；从目前已有的机器人的动作灵活程度来看，动作灵巧程度等于或超过人类的人工智能已经为期不远了。如果一旦人工智能在智力上也超越了人类，而人类又没有理性地做好预防机制，则人类就会失去对人工智能的控制。人工智能在智力上超过人类，这会成为现实吗？事实上，谷歌公司的阿法狗已经无可争辩地证明：人工智能的智慧显然可以超过人类，并且在围棋这种最为复杂的智力游戏中已经超过了人类。
对于阿法狗的首次人机大战，笔者曾做过预测——坚信李世石会先输后赢最终战胜阿法狗。笔者当时的思考逻辑是，机器毕竟是机器，它只能根据事先设定的指令或程序进行判断与选择，它不会通过自我学习总结经验、改善其思考能力，即它不会在博弈中根据对手的策略做出相应的策略调整，因此，它绝对无法拥有超过人类的围棋智能与智慧。因此，在李世石熟悉了阿法狗的棋路之后，他一定能够以人的思考能力找到阿法狗的棋路弱点，阿法狗就将失去还手之力，李世石可轻而易举地获得最终胜利。但最终的事实证明，笔者的判断是完全错误的，李世石（人类）在阿法狗面前一败涂地。人类的这一失败是具有里程碑意义的，它标志着人工智能的智力是可以超越人类的，目前，至少是围棋这种智力竞争中，人工智能超过了人类，而且远远超过了人类。那场人机大战结束后，笔者进行了深刻的反思，寻找导致判断失误的原因。我认识到，阿法狗战胜人类绝不是偶然而是一种必然，并且，人类此后将不可能再次战胜阿法狗，今年在中国再次举行了阿法狗与中国棋手的对弈，比赛结果证明，笔者的判断是正确的。
笔者当时所不了解的是，阿法狗已经具有了自我学习能力，而且它可以24小时不间断地学习，此其一；在博弈过程中，人类的大脑会疲劳，会受到心理因素的干扰，并因此出现失误，而人工智能只要不断电就可保证精确的计算（思考），不会出现失误，此其二。显然，就围棋博弈而言，人工智能在思考与学习能力上都超过了人类。以此类推，人类非常可能创造出在智力上全面超过人类的机器人。如果我们将人的大脑想象为一台生物计算机的话，那么，相较于造就人工智能级别的电子计算机，生物计算机显然存在易疲劳、易遭受心理、精神因素干扰的弱点，而人工智能却完全不会存在这些弱点。无论你承认上帝创世还是赞同进化论，一个显然的事实是，人的大脑是一个有严重缺陷的生物计算机，这从人会罹患精神分裂症等各种精神疾病的现象上可以得到充分的印证。因此，预测人工智能可以超过人类自身的智力水平，并不是难以理解的。现实中的AI已经展示出了自我发展智能的能力，有报道称：Facebook创建了两个人工智能聊天程序，可以相互交谈（并互相学习），最终他们停止了用英语交流，并开始用一种非英语的语言进行交流，这些语言是它们自己“发明的”。
当然，就现阶段来看，AI始终会存在一些致命的弱点，例如被切断电源或失去动力。但我们完全可以预期，未来人类一定能够发明具有超长续航能力的电池，或者给机器人安装上超高效率的太阳能电池。进一步，人工智能也完全可以拥有自我充电的能力，在这样的情形下，人工智能可以不需要人类的帮助而持续不断地工作或活动；也许有人会想到雨或水的攻击对AI将是致命的，今天已有的水下机器人告诉我们，防雨防水显然可以成为未来机器人的基本性能。可以想象，未来的机器人一旦被制造完成，就完全可以脱离人类而独立存在，并且在智力、力量、技巧与灵活性上均远超人类。想象一下，人一天需要三顿饭来补充能量，还需要数小时的睡眠，而机器人只要自我完成充电就可不间断地学习、思考和工作。有报道称：“人工智能的另一个问题是在不受参数控制的情况下，其发展速度。通用人工智能（AGI）具有指数级的成长能力，因为它将会自我提升，并且在某一时刻会超过其创造者的智力”。我们有充分的理由做出这样的展望，AI会成为人类创造出来的“外星人”，它们不但在能力上远远超过人类，而且是可以完全独立于人类的客观存在。
人工智能将毁灭人类吗？
思考至此，除了对AI可能导致大量失业的担忧以外，我们还看不出AI会对人类产生什么致命的威胁，或许我们应该同意天才小子扎克伯格的看法——人类的智慧足以很好地控制人工智能，若果真如此，人工智能显然将为人类带来巨大的福祉。可以想象，在人工智能的帮助下，人类或许完全可以做到除了享受生命而不再需要工作，所有的人都可以睡到自然醒。问题是，人类的智慧真的足以很好地控制人工智能吗？事实上，要从技术上控制AI是十分容易的，例如，绝不给AI配备超长使用时间的电池，绝不给AI设置自我充电功能，甚至在开发时预先设置保护措施——严禁人工智能发展自我充电功能，严格限制它们只能在人类的帮助下才能完成再次充电的过程。这样做的本质是人类理性地为人工智能设置一个致命的弱点。但我们必须思考的是，人类能够做到吗？人类具有如此的理性吗？扎克伯格的断言有充分的根据吗？事实上，正如埃隆·马斯克所说：扎克伯格对于这个问题的理解“十分有限”。马斯克显然是出于礼貌而使用了“十分有限”这一词语，马斯克的真实含义是：扎克伯格对AI的理解十分幼稚。
埃隆·马斯克的洞见是深刻而正确的：AI比核武器还要危险！
善良的扎克伯格的确是过于天真幼稚了（马斯克对他的判断不但准确而且深刻，关于这一点，需要另文专述），他完全理解不到，人类并非都如他那样有天赋而纯良。人类社会的客观现实是，恐怖袭击遍布全球，种族屠杀时有发生，仇恨、敌对、谋杀、强奸、图财害命等凶残的不良行为与情感是人类社会的常态，人性之恶时刻伴随着人类。客观现实表明，迄今为止，人类的智慧连自身的行为都不能善加控制。那么，扎克伯格所谓的人类智慧可以很好地控制AI又从何说起呢？
在正常情况下，人类显然不会为人工智能植入上述人类特有的邪恶，在这样的大前提下，人工智能显然会为人类带来巨大的福祉，并成为人类的忠实伴侣，正如狗是人类忠实的朋友一样——我们在狗的眼神中绝看不到任何的邪恶。但狗在人类的唆使下却会对人发起凶猛的攻击，人性之恶会使忠诚的狗成为危险而邪恶的动物，例如二战期间日军与德军的军犬。我们的问题是，人类能够守住这一底线吗——绝不将人性之恶植入或传导给人工智能。这显然是非常值得怀疑的，其中的逻辑并不复杂，如果我们承认计算机病毒的发展是人类无法控制的，那么，合理的推理是，人工智能沾染上人性之恶将不可避免地发生。想象一下，一个可以指哪打哪不吃不喝连续作战的杀手在我们的城市中展开疯狂的暗杀行动，那难道不是人类的恶梦吗？
个体的恶是显而易见的，那么，从社会整体出发，人类是否可以通过某种联盟，例如硅谷已经成立的OpenAI那样的组织，做到扎克伯克所说的那样，用人的智慧对人工智能的发展进行妥善约束与控制呢？笔者的结论是，人类依然无法避免人工智能可能造成的灭顶之灾。想象一下，未来的某一天，在世界的某个角落，某个类似希特勒的计算机天才（希特勒显然是一个邪恶的天才），在强烈的权力欲望激励下希望成为世界的主宰，为此，他会像希特勒一样设法征服世界。而他的计算机网络天才使他完全有可能用某种病毒控制全世界的机器人听命于他，他可以设定病毒发作时间，从而瞬间拥有一支无敌的机器人战队，这支战队的能力将远超当年的纳粹军队，毫无疑问，整个世界将在他的掌控之中，而解救之道只能是另一位心地纯良的计算机天才，他能够天才的破解这一病毒，但这样的天才会像超人那样及时出现吗？我所设想的仅仅是可能发生的情形之一，植入了人性之恶的AI及其自我演化完全可能演化出更加恐怖的结果。
人性之恶是AI可能毁灭人类的根源。美国宪政之父麦迪逊说:“美国革命最重要的特征，不仅是顺应人性，还在于对人性黑暗的承认”。同样，在这场AI带来的人类社会革命中，我们也必须充分地考虑到人性的黑暗，或人性之恶，在人类自身文明程度没有发展到彻底抑制人性之恶之前，人类不应该大力发展人工智能。否则，人类必将因为人性之恶而招致来自人工智能的自我毁灭。埃隆·马斯克的担忧是极具洞察力的。
这就形成了一个悖论，至少在目前，人性的黑暗依旧如故，迄今，人类的贪婪依然主宰着我们的社会，而贪婪也必然导致人工智能将发展到人类无法控制的地步。因此，所谓从理性出发延缓人工智能的开发，不过是一个必然落空的良好愿望而已。同样，希望人类能够理性地给人工智能预设预防保护措施也一定是画饼充饥。人类在贪婪的动物精神驱动下，一定会加速发展人工智能，而人性的黑暗必然使得人工智能沾染上人性中的邪恶，成为毁灭人类的潜在因素。一句话，人性之恶是万恶之源，人性之恶也是AI完全可能毁灭人类的根源。
笔者写这篇文章的目的，不仅仅是论述人工智能将引发的灾难，而且希望每一个中国人都能思考一个问题：“人之初性本善”是对人性的正确认知吗？
联系客服
