编者按 3月15日下午，代表人类接受谷歌人工智能程序“阿尔法围棋”挑战的韩国棋手李世石在五番棋最后一局投子认输。至此，牵动无数人神经的这场人机大战终于落下帷幕，比分1:4，“人类”告负。
“科技让生活更美好”。一直以来，技术的进步总是在给人类的生活带来更丰富的选择和更广阔的可能，但这一次，当机器的“大脑”可以如人一般对复杂的围棋应付自如，甚至在比分上超越人类（更早前还有对国际象棋的成功挑战），对人类未来的担忧也伴随着李世石的节节败退弥漫开来。
有人说，阻止“阿尔法围棋”战胜人类的最快办法就是拔掉电源。可是，如果人工智能最终的结果就是要比人类更加聪明，人类的下一步又将向何处去？
我们的恐惧来自何方
本报特约撰稿 谢来 发自北京 “许多年之后，面对汹涌而至的机器人大军，马小烦少校将会想起，他父亲抱着他刷直播人机围棋比赛的那个下午。”
谷歌旗下的人工智能程序AlphaGo（阿尔法围棋）首战战胜韩国顶尖九段选手李世石后，“亲王”@马伯庸在微博上如此调侃。这个致敬《百年孤独》经典开篇的段子令人忍俊不禁，寥寥几笔勾勒出机器挑战人类的虚构未来，笑过之后又不免有些“细思极恐”。
充满了戏剧和悬念的围棋界“人机大战”落幕后，人们关注的焦点远远超出了1：4的比分本身。当计算机程序终于突破围棋作为人类最复杂博弈游戏的最后一道防线，也“兑现”了人们对人工智能的各种想象和恐惧。
人类的两次败局：从“深蓝”到“阿尔法围棋” 对于熟悉好莱坞科幻影片的人而言，类似的恐惧感并不陌生，因为在各种虚构的科幻作品中，关于人工智能的想象也一点都不模糊——人类早已无数次假想和自己创造出来的机器斗智斗勇，如经典科幻片《终结者》、《黑客帝国》系列和科幻大师阿西莫夫的《我, 机器人》等等（详见第11版）。
有如此多兼备想象力和科学设想的文艺作品作为铺垫，难怪顶尖围棋高手李世石连输三局后，全球观战者的悲观气氛也到了顶点。一时间，好似机器人的“三体舰队”已经启程直扑地球而来。就连知乎网友也开始热议：《如何以“Siri 已失去控制”为开头写一个脑洞极大的故事？》《“机器人三定律”有逻辑缺陷吗？》等帖子纷纷出炉。
只是我们为什么会如此惧怕人工智能？或许在深究“机器人三定律”的缺陷之前，不妨将人类哲学的三个终极命题抛给它：“你是谁？”“你从哪里来？”“你要到哪里去？”
如果将工业革命带来一系列伟大发明比作人类身体的延展，那么蒸汽机、汽车、火车、飞机强化了我们身体器官的各个功能，唯独没有工具能替代大脑。
直到有稳定性能的计算机出现后，人类才开始真正有了一个可以模拟自己思维的工具。上世纪50年代，科学家开始讨论能否用机器模拟大脑的功能，并首次提出了“人工智能”这一术语。
二十世纪七十年代以来，人工智能和能源、空间技术被称为世界三大尖端技术。但直到1997年，公众才真正见识了人工智能的威力。当年5月11日，IBM公司研发的“深蓝”超级计算机击败了国际象棋世界冠军卡斯帕罗夫，被视为人工智能技术的首次完美亮相。
为什么近二十年过去后，“深蓝”的接班人再度获胜也同样引发热议？
与国际象棋相比，围棋算法的复杂程度完全不在一个数量级层面，后者的变化比宇宙中的原子数量还多。国际象棋中，平均每回合有35种可能，一盘棋可以有80回合；围棋每回合有250种可能，一盘棋可以长达150回合。因此二十多年来，科学家仍在不厌其烦地教计算机下棋。
“人造大脑”即将照进现实 和前辈们比较，AlphaGo学围棋的关键不在于简单粗暴地计算出可能步骤，而是掌握了一项名为“深度学习”的高级技能，它就像给计算机开了外挂，不再简单地使用计算能力来统计所有数据。而是像人类一样，通过不断训练学习提高，开始依靠一套极复杂的直觉机制，科学家们曾一度认为这种机制只可能存在于人类大脑中的“想象力”。
用AlphaGo之父，人工智能团队DeepMind的负责人杰米斯·哈萨比斯的话说：“AlphaGo自己学会了很多规律和走法。它就像人类一样在学习。一个人可以在几局棋里学到的东西，它必须通过几百万盘才能学到。”只不过在AlphaGo的世界里，自己和自己下几百万盘棋，也只需要一天的时间而已。
因此，如果把“深蓝”比作一台专门用来下国际象棋的高级游戏街机，AlphaGo则是有着超强学习能力的机器学霸，就如同金庸笔下的武林奇才，不仅会“左右手互博”，无师自通地自学武功，还能在不断与高手过招的过程中变得更优秀。
依靠如此高效的学习能力，半个世纪前设想的“人造大脑”即将照进现实。与此同时，人类的角色也在发生微妙变化，就如同寓言中那只教老虎武功的猫，如果徒弟变得比你更强大，你该怎么办？
伴随着围棋“人机大战”的热议，人工智能取代人类工作岗位的讨论也浮出水面。一些新闻机构已经开始引进人工智能记者；谷歌无人驾驶车也已经“独自”在高速公路上开了100多万公里；不久前举行的美国科学促进会(AAAS)会议上，计算机科学家表示，智能机器可能将在各个经济部门取代人类劳动者……
被人工智能抢走饭碗的危险似乎迫在眉睫，但人们真正的忧虑却并不在于此。一个世纪前，工业流水线的普及让大批工人失业，但经历了短暂的混乱后，产业格局的重新洗牌又很快让劳动力找到新的定位。更深的原因在于，人们早已接受比自己的力气更大、速度更快、更有效率的机器，却无法轻易接受它们比自己更聪明。
我们惧怕更强大而不受控制的自己 斯蒂芬·霍金的告诫言犹在耳：“除非我们谨慎从事，否则棋盘游戏或许只是开始：人工智能最终可能变得比我们所有人都更聪明。”
随着人工智能攻破人类智慧领域的一个又一个堡垒，机器智力超越人类似乎只是时间早晚的问题。
科学家将机器变得超级聪明的时刻叫作“技术奇点”。美国人工智能专家雷·库兹韦尔在《奇点临近》一书中预测了这一时刻。他认为，21世纪30年代，机器智能将赶上人类，人类大脑信息上传成为可能；2045年，“奇点”来临，人工智能将完全超越人类智能。
不论是《终结者》中的“天网”发动“审判日”，还是《黑客帝国》中的“矩阵”禁锢人类，绝大部分科幻作品中， “技术奇点”带来的恐惧源于一种根深蒂固的认知：身为万物之灵，人类确保自身地位的底线是无可比拟的智慧。而如果一个新“物种”能轻松击穿这条底线，在智慧上碾压人类，它们就必将像人类征服地球上其他物种一样，想尽办法奴役人类。
对此希伯来大学历史系教授，《人类简史》的作者尤瓦尔·赫拉利指出，科幻作品里的伦理和政治难题之所以和我们现今的世界如出一辙，因为这是属于我们的想象范畴。而在真正的科技“奇点”之后，无论是超级人工智能还是人类和计算机合而为一的超级生化人，他们的心智、情感和欲望完全都将超出我们的想象。因此也无法将人类现今的道德、情感套用到他们身上。
换句话说，人们恐惧的根源是人类自身缺陷，我们惧怕更强大而不受控制的自己。
19年前“深蓝”战胜卡斯帕罗夫时，一篇名为《为人类智慧喝彩》的文章评价说：“人类是‘深蓝’智慧的源泉。倘若只有棋王取胜才能带给我们如释重负的轻松感，那便是源自一种对复杂事物的肤浅理解。”如果今天的我们把AlphaGo的未来也限定在“征服人类”或“被征服”的狭隘认知中，或许也同样目光短浅。
从这个视角而言，恐惧或无视人工智能时代的到来都是盲目短视，正视并探讨人工智能潜力的意义在于，尽管“技术奇点”的未来或许远超现今人类的想象，但人工智能将朝怎样的方向发展，完全掌握在人类自己手中。
在这场围棋界的“人机大战”中，李世石1：4败北，引发舆论对人工智能的忧虑。
人工智能提升人类尊严
本报记者 宿亮 发自惠灵顿 人工智能在围棋这个曾经被人类视为高深莫测的领域以压倒性优势战胜人类棋王，大众媒体再次慌乱地提出人工智能可能取代“碳基生物”的主张，就好像李世石与AlphaGo（阿尔法围棋）的博弈并非程序测试，而真的是一场正儿八经的棋艺对决一样。
让著名科幻文学大师阿西莫夫来为我们回答这个虚拟的问题吧。他曾在短篇小说《推理》中描绘过这样的故事：智能机器人怀疑人类管理者向它描绘的事实，相信是超自然力量创造了自己，并用这种理论把其他低等机器人团结在一起，剥夺人类继续管理空间站的权利。不过，故事的结果并不是人工智能灭亡人类，而是机器人把空间站正常运转视作“造物主”的要求，继续有效管理空间站，没有任何纰漏，让人类管理员在心理和实际工作中都如释重负。
一场阶段性的胜利 权且把AlphaGo背后的工程师放到一边，让我们看看这个以围棋（Go）自称的“棋手”AlphaGo是凭借什么战胜棋王李世石的。
对战李世石之前，研究人员在《自然》杂志发表一篇学术论文称，AlphaGo是一款专门为复杂的围棋而设计的程序。为了在围棋博弈过程中面临的重重落子选择中胜出，AlphaGo采取了两种重要的训练方法：研习人类棋谱和自弈。
研究人员还坦言，人工智能围棋程序战胜人类棋手不是“天方夜谭”，AlphaGo之所以具备领先意义，是因为根据原本的预计，人工智能在围棋棋盘上至少要10年后才能战胜人类。
从本质上看，AlphaGo的训练策略和一个人类围棋棋手的成长似乎差别不大。不过，考虑到AlphaGo作为一个人工智能程序拥有强大的计算速度、搜索能力和不分昼夜、不眠不休的学习能力，它战胜人类棋手的结果很合理。更何况，在AlphaGo的背后，是数百名人类精英科学家，不断调整着AlphaGo的算法。一个集中了现代科技和人类最先进智慧的程序战胜一名围棋棋手，这种情况很“通顺”。
在李世石1：4败北之前，关于围棋难以被电脑程序战胜的说法是这样的：之所以“深蓝”能够战胜国际象棋世界冠军，是因为国际象棋棋盘面积小，在落子选择性上远低于围棋，因此程序破解在难度远超国际象棋的围棋上可能性不高。
这种想法没错，但还是有致命“Bug”：计算能力不足，可以通过硬件的技术更新或并行处理器解决；“暴力破解”难以奏效，可以改良计算机搜索算法，用近似人类神经系统的逻辑增强学习能力。AlphaGo就填补了这样的“Bug”。
对于人工智能而言，这是一场阶段性的胜利，也是技术水平的体现。人类发明各类棋盘、棋子进行对弈，试图在逻辑思维上突破大脑极限。如今，这一目的基本上达成，尽管手段是通过一个人工智能程序。人类同样通过棋盘、棋子来娱乐和享受生活，这种目的则是人工智能程序无法到达的。
人类莫慌！ 人工智能取代人类关乎尊严？这个问题乍听上去似乎有点道理，但如果换一种问法的话，味道就彻底改变了：你会因为不会钻木取火而感到羞愧吗？
当技术人员开发“深蓝”以击败国际象棋冠军时，“深蓝”所具备的是一种“定向爆破能力”，也就是针对国际象棋棋盘上的胜利这一目的而运用技术手段；AlphaGo同样也是如此，它的出现就是为了在围棋棋盘上测试技术能力，其所有能力都是为了战胜棋王而设计。
换句话说，这些人工智能都是“命题作文”，而不是自主行为。它们集中了所有力量，为的是在特定规则框架下取得胜利。这也是当代技术开发的常用逻辑：给我一个实际问题，让我用最先进的计算能力解答这道“应用题”。而走出那个规则又会如何呢？
近现代历史上，人类立志要摆脱地球引力的束缚，希望像鸟儿一样在天空中自由的翱翔。为了达到这个目的，不少人把大鸟的羽毛绑在身上，从高处像鸟儿一样拍着“翅膀”拥抱蓝天，可惜“像鸟儿一样翱翔”这个规则是一条“死胡同”，哪怕当时的人类拥有了和今天人工智能一样的计算能力，把所有鸟类飞翔的“大数据”拿来分析，还是不可能按鸟类飞翔的逻辑设计出翅膀。只有打破了那个规则，人类才可能设计出飞机。
在设计飞机的过程中，人工智能带给人类很多帮助，例如模拟各种环境测试设计可行性、在电子系统中自行模拟真实飞行等等。但前提是，人类选择一条正确的道路，才能驾着人工智能这样的“骏马”越跑越快。
因此，当AlphaGo战胜李世石时，人类应击节赞叹，因为人工智能可以把人类从那些肉体不够擅长的数据记忆和分析工作中更好地解脱出来。
事实上，在当下的时代，大数据分析在很多方面都已经表现得更加智能。例如，互联网程序可以自动为用户搜索推荐喜爱的书籍、电影和消费品，准确性还在不断提升。这种技术的实现并没有取代人类的作用，而是在很大程度上提升了人类行为的效率，把无数异想天开的商业设想变成现实。
当人工智能像人类历史上发明的所有技术工具一样让生活变得更简单、让思想变得更高效，人类生活的尊严应该在不断地提升，而不是相反。
让人工智能解放人脑 完成了这次“高级程序测试”，李世石恐怕也不必因为输给了AlphaGo而担心职业生涯产生危机，反而经历了这次“人机对战”，他在围棋领域的声望会继续提高。毕竟，棋王还是战胜AlphaGo一局，让技术人员总结出不少需要改进的技术问题。
不过，并不是所有的人心中都对人工智能的未来感到踏实。发现印刷的技术，让人类的思想宽度发生根本性的变化；发现航海的技术，让人类行为广度发生根本性的变化。同样，人工智能作为一种与人类思维更接近的前沿技术，也会颠覆不少人类社会习以为常的事情。而从事那些习以为常工作的人，他们的职业生涯就不像李世石那样乐观了。
例如，金融市场的分析师和交易员就要小心了。人工智能在搜集、处理市场信息的速度和效率要比人类分析师快得多，不排除有一天它们能够精准地预测一个公司的基本面和财务状况。写字楼的保安也同样面临工作难题，因为人工智能可以很容易地根据数据分析判断“来者何人”，并不休不眠地随时戒备以便启动应急措施。
不过，在那个时候，投资仍旧是要凭借人类瞬息万变的大脑，只不过身边那个“高级参谋”变成人工智能；处理犯罪分子仍旧需要法官、警察洞悉他们的思想，只不过执法系统在预防犯罪、逮捕和审讯过程中更加省力。
就像工业革命把人类从大生产中解放出来一样，人工智能同样能够赋予人类前所未有的时间、空间去更好地利用大脑潜能，提供更多创意、开发更大可能。
当然，在AlphaGo战胜李世石之后，最为现实的考虑是，今后的围棋比赛会不会有棋手利用人工智能作弊呢？不过，解决办法也很简单，就请专门开发一套防止人工智能作弊的高级智能程序来监督吧。
科幻电影中的人工智能未来
本报特约撰稿 陈小北 发自北京 当最后一个人类在硝烟中倒下，人工智能的领袖站上了这片焦土的制高点，他的脸上看不出一丝表情，也并未像电影里人类庆祝胜利那样举起手臂和旗帜迎接排山倒海的欢呼。他的心中在暗自庆幸，许多年前的那一个礼拜，人工智能的杰出代表AlphaGo（阿尔法围棋）在五盘棋的围棋大战中故意输给了人类棋王李世石一局，那是人工智能为征服这颗蓝色星球卧薪尝胆的开始。
对于刚刚结束的这场人机大战，这样的演义或许显得过于戏剧化，也未免有些自己吓唬自己。然而人类对于人工智能其实有着长达一个多世纪的迷恋和恐惧，从1927年《大都会》中出现的第一个机器人玛丽娅（Meria）诞生至今，全世界的电影人孜孜不倦地将一个又一个经典的机器人推向大众的面前。
银幕上的半世纪恐惧 第一个出现在银幕上的机器人是有着女性外形的玛丽娅。在《大都会》里，德国导演弗里茨·朗塑造了一个工人之女玛丽娅形象的机器人，试图煽动工人暴乱，彻底摧毁大都会里资本家的机器世界。
这是一部默片电影，并没有过多探讨人工智能与人类的关系。但如果追溯机器人电影史，就不得不提这部电影。它更大的历史意义在于开创了科幻电影这一类型，包括后来的《星际大战》等都有借鉴它的创意。
到了1968年，美国著名电影导演斯坦利·库布里克开始用电影讨论人工智能与人类的存亡关系。在那部旷世之作《2001：太空漫游》中，“发现一号”太空船上的电脑“HAL”因为程序指令发生悖论，在“完成任务”和“保护人类”之间纠结，进而导致“精神崩溃”彻底撂了挑子，让五名船员悉数丧生。在那个人类对于世界的认知极为有限的年代里，库布里克的这部影片无异于划破天空的利剑，释放了人类澎湃的想象力，让当时的人类对宇宙、时空、人工智能和人类生命有了全新的思索，写下这宏大而深邃的人工智能史诗的第一笔。
如果说半个世纪前的《2001：太空漫游》还仅仅是在探讨人工智能对于人类是机遇还是凶险的话，时间推进到三十多年前的1984年，电影《终结者》则第一次将人工智能牢牢地钉在人类的敌对面上。
在这部电影里，地球已经由电脑完全统治，人类几乎被消灭殆尽。影片中的人工智能化身为钢筋铁骨的终结者机器人，追杀着能够改变被奴役命运的人类英雄。在标准好莱坞式的暴力缠斗和华丽特效中，终结者最后被终结在液压机里碾成一堆废铁。
影片中人工智能虽然大杀四方统治了地球，但他们采取的手段仍然是人类想当然的暴力，用金刚不坏之身碾压人类的血肉之躯。
而上世纪最后一部关于人工智能的经典之作《黑客帝国》，则开始具备了一些“现代”意味。在《黑客帝国》中，人工智能不再是动辄精神崩溃的“玻璃心”，也不再是动辄喊打喊杀胸大无脑的“健美先生”，人工智能开始变得足够“鸡贼”，他躲在天幕之后，设计出了一个虚幻的“矩阵”来控制人类的思想，并用人类的成长来帮助自己不断壮大。
人工智能在人类的电影中发展至今，才终于有了些严肃的意味——那个超出人类智力认知范畴的存在，在不声不响之中，便实现了对这个星球的统治，和对人类灵魂的控制。而这，正是人类惧怕人工智能的原因。
“如果人工智能有了人类意识” 对于这场围棋界的“人机大战”，科幻作家刘慈欣的观点其实颇为中肯：“人机大战远远不够科幻小说水平，下围棋虽然也算人工智能，但科幻小说里的人工智能都是有自我存在意识的，能够和人类交流。而AlphaGo只是纯粹的学习型数据库。”
可怕的不是AlphaGo，而是“如果人工智能有了人类意识”。
AlphaGo只是一个程序、一套算法，真正让人类感到恐惧的，是有朝一日人工智能有了人类的思维方式，于是阴谋、野心、欲望便相伴而生，归根结底，人类对人工智能的恐惧，实际上是对人类自身的恐惧。
纵观描写人工智能威胁论的影片，无一例外不是充斥着独裁、阴谋、利益驱使的人类思维。而这一定是人工智能的未来吗？
科幻大师阿西莫夫的《我, 机器人》就直接以“2035年，这是个机器的时代”作为机器人公司的广告语，影片中机器人不仅有自我意识，更产生了情感，由此发展出两种截然不同的对待人类的机器人价值观，开启了机器人的新纪元。
在那部叫做《人工智能》的电影中，人工智能则化身成了一个小男孩，他为缓解一个母亲的悲痛而生。这位母亲的孩子因患绝症而被冷冻起来，机器人小男孩的程序被设定为“爱他的母亲”，于是他毫无保留地对这位母亲奉献着自己的爱，并逐渐融化她悲痛的心。然而随着母亲亲生孩子的病得到治疗，机器人小男孩渐渐失去了母亲的宠爱，为爱而生的他开始体会到悲伤，也体会到人类的嬗变与无情。
这是导演斯皮尔伯格对人类的嘲讽。在我们担忧人工智能之前，更值得担忧的，竟是我们人类自身。人工智能究竟是福音还是灾难，起决定作用的不是别人，正是我们自己。
在电影《她》中，一个孤僻的男人与一个操作系统发生了缠绵悱恻的爱情；在电影《机械姬》中，人和机器人的关系则是彼此机关算尽，互相残杀。或许人工智能更像是一面镜子，里面映射的恰恰是我们人类自己，我们对其施以何种姿态，得到的就是何种反馈。
就像刘慈欣所说的那样，弱小和无知不是生存的障碍，傲慢才是。如果今天我们放下傲慢和不安，在这场世纪大战中看到了人工智能之美，那或许我们正在见证一个大时代序幕的拉开——今年在人类探索宇宙的进程中发生了两件大事：引力波和人机之弈。或许在未来某日再看今时今日，正如同猿猴举起一根兽骨抛向天空，如同智人走出非洲荒原一样有着非凡的意义。■
更多精彩详见《国际先驱导报》（即《参考消息》原创版）纸质版，由新华通讯社主管，参考消息报社主办，周五出版，4开32版，国内外发行，全国各地邮局均可订阅，各大城市报刊亭均有发售。
联系客服
