陈培浩：当机器人开始写诗 

——花城微课第5期文字实录

主持人：大家好！欢迎来到花城微课第五期，今天我们很荣幸地请到了陈培浩老师为我们做微课活动，今天的主题是：当机器人开始写诗，下面有请陈老师为大家讲课。

大家好，今天的环境比较特别，在一个封闭的房间当中来跟大家聊这么一个话题。我们知道，人与人之间的交流如果面对面的话可能更有感觉一点。至少对我来说，站了多年讲台，如果面对一群人，那种感觉很快就会到来。但现在自己面对一个手机屏幕，总会感觉有一点怪异。但我想，恐怕这就是技术给我们带来的变化。如果我们在一个要容纳几百人的教室，那就显得很空旷、很大。我们通过网络直播室，容纳的人数是无限的，所以这个很有趣，这本身就是技术给我们生活带来的变化，我们会发现技术在不断改变我们的生活。

我们今天要聊的话题其实就跟技术有关。虽然我们的题目叫做：当机器人开始写诗，但其实我们要聊的话题不仅仅是诗。我们从诗开始，探讨机器人写诗背后关于人工智能、关于我们的世界究竟会变成什么样的一个话题，我觉得可能这个话题会更有意思。

人工智能在这两年成为了一个非常热的话题。大家会发现，即使你不关注他，他也会主动地来到你面前让你接受他。这里面有很多爆炸性的新闻。事实上，人工智能已经充斥着我们的生活，比如：你上网买书的时候，网络页面会自动跳出一个页面：猜你喜欢，背后其实就是一个基于大数据的人工智能系统，当然这是一个比较简单的系统。也就是说，这样的一种人工智能系统已经在我们的生活中无处不在了。

今天有很多大公司在不断推动关于人工智能的研究，比如像Google、微软这种世界级的大公司在做这种研发，而且常常会选择一种爆炸性的展示方式。比如说在1997年的时候，比较大型的公司IBM，研发的程序深蓝跟国际象棋大师卡斯帕罗夫之间的对弈。

为什么大公司通常选择棋类、诗歌这样的方式来切入呢？很重要的一个原因就是象棋、围棋这种棋类常被视为高密度、高复杂性人类逻辑思维的一种极致。如果机器人能够在这方面战胜人类，就意味着机器人到达了某种突破。我们在去年看到的“阿尔法狗”战胜了韩国棋手李世石，过去的几天“阿尔法狗”又轻易地打败了中国的柯洁，也打败了其他几个大师的联手，可以说是把他们打得落花流水。事实上，这样的新闻一出来就会有很多轰动的新闻效应。

机器人这一回，是由微软开发的一种程序，叫小冰，可能是针对汉语世界的，因为写的是汉诗嘛。我们会发现，超越于原来我们看到的“阿尔法狗”之类，毕竟棋类完全是智力思考的结果。那么，当它要挑战诗歌的时候，就意味着，他不仅仅要挑战某种智力，而且要挑战某种人类的思想、情感、想象力的领域。小冰写诗，对我们来讲，它的震撼性在这里。

刚才我已经给大家发了两首小冰写的诗，可能很多人之前在网上大致看过，我就不念出来了。对这些诗，我们最重要的观感是什么？就是写得比较碎，里面有一些还不错的句子。也就是说有句子，但是没有整体性的布局，没有作品内在的有机性，里面是没有一些肌理的。有一些句子，比如“她嫁了人间许多的颜色”，“嫁”跟“颜色”之间这种混搭会带来某种陌生化的效果，让人觉得很特别，觉得这是一个很不错的句子。

但是呢，你如果仔细地看就会发现他写的这些诗其实是没有诗的思想的，它还谈不上是人类的想象力、思考力、对现实的批判性融合为一体之后对现实所做的一个反馈、所重构的一个世界，这是我们理想中的诗歌。所以如果把这种诗跟里尔克的“谁此时孤独，就永远孤独”或者“何来胜利可言，挺住意味着一切”这样包含着思想、想象力的句子比起来，差距显然是太大了，就像一个刚刚学诗的人写的。当小冰写出这些诗之后有很多诗人表示出了相当的不屑，给大家看一个图片。

这些著名的诗人们借这个机会，对于小冰写诗表达了一番嘲讽。于坚说：“他设计不了人的灵性。”王家新说：“这些小玩意儿不值一谈”。只有一位叫梦亦非的诗人持一种肯定态度。因为梦亦非本人，是一个技术未来主义崇拜者，所以他认为小冰写诗开创了新诗的新纪元，这种观点跟其他人的观点是针锋相对的。但是整体上，就诗论诗而言，大家都认为小冰写的这些诗只不过是一个游戏，不值一提。但在我看来，这背后的人工智能问题可能被忽略了。

也就是说，我们虽然可以忽视小冰目前写的这种诗，但是我们恐怕不能忽视小冰写诗背后的人工智能。我们会发现在人类的发展历程中，科技一直在推动世界的变化，比如我开始时谈到我们今天能以这样的方式来交流，本身就是某种技术推动的结果。我们今天可以看不起小冰写的诗，但是很可能未来我们不知道人工智能会如何改变我们的生活，会将我们的世界变得如何得面目全非。

既然我们今天是从文学切入，或许可以聊一聊在可能的AI时代／人工智能的时代，文学可能会是怎么样的，这方面其实也有不少人在探讨，比如说作家韩少功写了一篇文章叫做《当机器人成立作家协会》，当然这是一种戏谑的说法，但是我们会发现：人工智能的时代，文学的某些方面，特别是类型化的写作，很可能就会被替代，比如我们今天有很多的网络写手都在写类型化的作品：玄幻、穿越、后宫、盗墓……这些作品很有可能在未来被替代。一些从事纯文学写作的作家会露出得意的笑脸，他们会说：看吧，你们写的这些东西很可能将来就完全没有立足之地了，那个时候依然还能确立人类尊严的还是严肃的作家。

不过我对这个问题的看法要稍微悲观一点，我认为可能在未来那样一种人工智能时代，不是类型化的写作被人工智能所替代后，这样一些有想象力、有思考力、带有人类特有灵性的作品就必然会留下来，恐怕不是那样。到了那样一个时代，类型化的写作固然已经被人工智能替代了，但是有想象力的作品在那个时代也已经变得不需要了。

我们今天的提问方式是：人工智能真的有可能具备人类才有的想象力吗？人工智能真的能够写出人类才能写出的东西吗？我们可能会这样问，但是如果当人工智能已经统治了我们的世界，由人工智能来定义世界的法则，那么我们真的会问：我们的世界真的需要想象力吗？这个世界难道真的需要那么多的思考吗？可能人类特有的东西会在未来的世界当中被看成是可有可无的，也就是说在未来的世界当中，人文精神已经不再是定义文学的一个文学标准了。假如未来有我们所想象的人工智能文学史的话，那么它将重新设定一个新的价值标准，在这个标准里面，人类很可能是没有位置的。

接下来我想聊一个问题，这个问题我刚才就和大家提到过，其实人工智能背后存在着一种乌托邦的冲动，我们也会在人工智能产生之后发现一种反乌托邦的声音，人工智能的背后环绕着一种乌托邦和反乌托邦的博弈。那么，何为“乌托邦”？何为“反乌托邦”？我做一个非常简单的描述。

在我看来乌托邦代表了人类对于未来某种非现实性理想的愿景和追求，也就是说，当我们人类还在地面的时候，想象有一天我们可以像鸟一样翱翔在天空，这其实就是一种乌托邦的冲动。每当黑夜来临时，我们就沉入了沉沉的黑暗当中，然后人类开始想象：如果有一天我们可以把白昼也带到夜晚的时间来，这也是一种乌托邦的冲动。这种乌托邦的冲动使得人类实现了一个又一个在我们看来不可想象的东西，所以我们的很多穿越剧中有一个剧情，这种剧情就是惊吓，如果我们通俗一点来说，就是“吓尿”，你被它“吓尿”了，你一个古代的人，穿越来到几百年后的世界，会被这个世界呈现出的景观完全地“吓尿了”，这其实就是技术所带来的一个新世界。

当我们谈到乌托邦的冲动，我们刚才说的主要是它的一些好的方面，即它对我们世界的创造性，引领我们开创一个全新的未来。我们会发现在乌托邦的背后，还包含着一种反乌托邦的思维，也就是人类对于理想之境的负面效果的警惕。'Too good to be true'就是说它太美好了，美得不像是真的，或者说我们所设想的这个美好的世界代表着科技的一维，它如果进入到我们的社会生活当中，就会有许多其他层面的东西需要考虑。所以这些反乌托邦主义者就会对乌托邦主义者所描述的美丽新世界提出种种质疑，我们不妨来看看围绕人工智能，乌托邦跟反乌托邦，乐观主义的和悲观主义的人会如何来设想未来的世界。

对于乌托邦主义者而言，在那些不断实践、推动人工智能发展的人看来，人工智能当然是一种非常美妙的技术，它会给人类带来美好的愿景。我刚刚看到人工智能出了一种性道具，这是针对很多大龄“宅男”、“宅女”的生理问题，假如说人工智能开发出了这样一种机器人，这种机器人跟人类的外貌是高仿的，而且是可以随意设计的，你想要什么类型就可以有什么类型，而且它不像我们以前想象的是一种简单的、呆板的、让人很陌生的硅胶，它是可以跟你对话的存在，在很多人看来，它可以解决无数“宅男”、“剩女”的生理的、精神的难题。

面对这样一些难题，人工智能完全可以说：“走开，让我来。”这是人工智能完全可以解决的。也就是说在未来的时代，在乌托邦主义者的想象中，人类会变得极端的自由，也就是说人类完全被人工智能所解放了，你已经变得随心所欲，任何你不想做的、任何你的匮乏，在未来的世界当中都可以得到解决。

但是恐怕事情没有这么简单，人工智能不仅是一个技术问题，它还会带来种种伦理问题、社会问题。人是一种自带伦理性的存在，所以任何一个技术问题，它还要和这个社会相匹配相适应。

人工智能要变成一种真正类似于人的高阶的人工智能，它首先有一个价值观的问题。现在有很多人工智能的科学家，他们在提出这样一个命题：怎样给人工智能输入价值观？比如说：人工智能研发当中有一种智能的驾驶员，即有一台车，你是不需要驾驶的，你只需要告诉它去哪里，这台车就会自动开，听上去很美妙，问题是人工智能的这种驾驶车，在碰到一些问题的时候歇菜了：当它在驾车的时候，它碰到某些困难、某些车祸，在这个过程中，它究竟是要保护车里面的人，还是要保护车外的人？如果要优先保护车里的人、撞向车外的人，它撞向的人当中也包含了某些歧路、某些选择：是要撞向一个比较丑的人，还是撞向一个比较美的人？是撞向一个老人，还是撞向一个小孩？是撞向一个男人，还是撞向一个女人？这里都包含了很多价值观的取舍。

事实上我刚才谈到的问题，韩少功在他的文章中也提到，桑德尔在他的公正课的第一课中也谈到：一个人开一辆车，车前有一个轨道，这个轨道分叉，这辆车刹不住，它注定要撞死人，有一边是五个人，有一边是一个人，那么你究竟是要撞死五个人，还是撞死一个人呢？这里包含了很多价值观的冲突，有的人会说撞死一个人总比撞死五个人好，但是有的人会提出反驳：为什么少数人必须为多数人牺牲？少数人的价值就不是价值了吗？

人类的任何选择里面都包含了价值观的歧路，怎样为人工智能输入一种价值观本身就会成为一个很大的难题。这里面还有许多其他的问题，人工智能和社会的冲突，我们现在想象得很美好，人工智能把我们人类不想干的活全都干了，那么到那个时代，人类还活着干什么？

这里面很多人会忽略一个阶级的问题：人工智能看上去好像是属于全人类的，可事实上它只属于某一个研发它的阶层，那么这个阶层研发它真的是要造福全人类吗？一定不是这样的，这种人工智能一定会被某个特殊的社会中的权力阶层所控制，用于为它们创造利益，我们现在设想的世界、未来的世界，作为一个资本家，作为一个工厂主，他所有的工作都可以靠机器人完成，不需要任何的人参与，事实上它不是造成了人类共同的自由，而是造成了大量的失业，这种极大的失业群体会带来巨大的社会不稳定，这就是人工智能会带来的隐患。

还有一个问题可能是我们比较少思考的，我们常常以为人工智能可以完全处于我们的控制当中。我们现在处于冲突性的两种意志当中，一种意志是我们想要把人工智能控制在人类可控的范围当中，因为这样才能为人类所用；另一种意志是我们想努力让人工智能获得人类想要具有的能力，比如：想象力、情感、自我思考、自我辨别的能力。

谷歌开发了一个系统，让软件自动识别什么是猫。当一个系统获得了自己的辨别能力、辨认能力，它其实是慢慢向人类靠近的。我们知道人区别于机器人，心理学家做出了两种认知，一种认知是说机器人是远远强于人的，记忆储存能力、逻辑计算能力，在这方面机器人是远强于人的，人类和机器人没法比，现在让你计算一下36*36，很简单的算术，对于普通人来讲已经很困难，但是对于计算机而言完全不是问题。

人类优越于机器人的地方在于某种模糊的、宽泛的直觉能力，这种能力是机器人所不具备的，比如说，今天当你走进一个人群当中，你突然感觉到这群人说话、表情、语气、眼神都有些不对，你的直觉会告诉你他们刚才是否在聊一些对你不利的话，他们是不是在取笑你，是不是背后在说你的坏话，这是人类的一种直觉。

我刚说我们处于一种矛盾的冲动当中，一方面我们想要把机器人控制在我们可控的范围之中，但另一方面我们又努力地想要机器人在这种模糊的、宽泛的人类特有的能力方面朝人类靠近，这是当代的人工智能科学家做的一件事情，这样做的一个结果是人工智能在模糊的方面会越来越接近人类，更可能的一个结果是当人工智能在未来终于在直觉和心理能力上靠近人类的时候，那就是人类被人工智能碾压的时候。

有人做过这样一个比喻：我们人类站在一个站台上等着人工智能这趟车过来，左等也不来，右等也不来，等了好几年，等了几十年，我们慢慢听到了火车的声音，哐当哐当地向我们走过来，事实上当我们在为它欢呼的时候，我们并不知道人工智能这趟车，和人类的智能重叠只有一个非常小的时间段。也就是说，当人工智能在非常宽泛的、模糊的识别能力上接近人类之后，它在其他方面（逻辑上、储存上）的优越性就会很明显地体现出来，那么到了那个时候人类会被人工智能打得溃不成军，这就是为什么今天有那么多的反乌托邦主义者对人工智能感到恐惧，他们常常谈论人工智能对于人类意味着什么，它不一定意味着一个好的结果，它有可能像瘟疫，有可能像火山爆发这样的一些存在，所以包括像比尔盖茨、霍金他们都提出人类要警惕人工智能。

最后我想跟大家聊几部电影，有些电影已经开始在想象人工智能的一个未来世界，比如：八十年代的一部电影叫《银翼杀手》，还有大家熟知的《黑客帝国》，它们都涉及到人工智能时代人类可能的灾难。

但是在我看来这样的电影，比如《银翼杀人》谈的是复制人，复制人就是人工智能产生的一种人，这样一些人复制出来，变得和人类完全一样，却让人类驱逐出外星球。电影描述了一群只有三年寿命的复制人，这之中的几个精英分子重返地球，它们努力地要来寻求延长寿命的方式。电影讲述了人类中的一员奉命执行“银翼计划”，去消灭复制人，最后却和复制人中的一个女性相爱了。在我看来它可能思考的不是一个人工智能的问题，表面上是，事实上则不是，它把复制人的悲惨遭遇投射在某种类似于种族问题的思考上，复制人是一个特殊的种族，电影是通过复制人在思考特殊人种的不平等问题，包含了很多人文性的思考，恐怕人类对人工智能的恐惧还没有真正在这部作品中显露出来。八十年代人类恐怕还没有真正地恐惧人工智能，所以《银翼杀手》虽然是人工智能题材，但不是一个思考人工智能未来可能性的作品。

电影《银翼杀手》图片

《黑客帝国》可能稍微超前走了一步，在《黑客帝国》中，人成了技术设定的一个程序，那个时候不是人在控制机器，而是机器在控制人，它变成了人类某种恐惧的呈现。不过《黑客帝国》写的是黑客的抗争，黑客就是人类中的某些觉醒者，他们最早意识到人类只不过是机器的某种程序，这样一些人在跟机器的斗争中终于获得了人类跟机器和平共处的机会。在这里我们看到的恐怕也不是人类对人工智能时代人类可能性灾难的一种思考，它其实是一种人文的英雄主义，克服了AI时代的精神恐怖。所以在我看來人工智能究竟会为我们带来什么可能在目前来说是一个很难讲的问题。

电影《黑客帝国》图片

我自己恐怕还是站在一个反乌托邦的立场上，我们对于技术的激进主义、技术至上主义，作为一个人文主义者总是会抱着某种警惕性。罗辑思维的主持人罗振宇有一期节目专门谈人工智能的问题，他有一句话说得很好：“其实人工智能的本质在于人类将自己作为世界万物灵长的地位拱手相让。”也就是我们努力要创造一种比人更加优越的，比人厉害百倍的人，这其实源于一种乌托邦的冲动，但在我看来我们也不能一味地去看低乌托邦的冲动，因为在人类的发展历程当中，乌托邦冲动可能就是一个油门，而反乌托邦冲动就是一个刹车，如果人类对于未来的世界没有某种想象力的话，那我们的世界就会活在某种不得发展的稚气当中，但如果我们对于这样一个未来世界没有足够的警惕的话，到了某个时候我们按动人工智能的按钮，未来的世界会变成什么样我们就很难说清楚了。

今天我和大家分享“当机器人开始写诗”这一话题其实重点不是谈诗，而是谈“人工智能的未来世界”这个问题，谢谢大家。

主持人：接下来到了我们的提问环节，大家有什么问题尽管提出，陈老师会选择一些问题进行解答。我们会从中挑选三位送出最新一期的《花城》杂志，欢迎大家踊跃提问。

问：您认为《1984》中机器写作代替人类的可能性有多大？

   

答：我刚才已经谈到了，在我们现有的技术条件下，用机器程序来代替人类进行某种类型化的写作其实已经成为了一种可能，但是写作要具有人文立场所特有的想象力、批判性、思考力，目前恐怕是做不到的，未来是否能做得到，我认为也是做不到的，更准确地来说不是未来做不到，而是不需要，当这个世界被机器人统治了以后，就不需要人类的这些东西了。

问：老师，如果人工智能真的统治了世界，还会容忍人类存在吗？那样世界上还会存在文学吗？

答：其实这个我刚才也谈到了，如果这个世界被人工智能控制了，恐怕这个世界就不再由人来定义，而是由人工智能来定义，有许许多多的东西都会被改写，我们今天对文学的种种人文主义的定义，都会发生变化。到了那个时候，恐怕讨论的就不再是文学是否存在的问题，或者说文学怎么写得更好的问题，而是文学是否被需要的问题。

问：人工智能真的可以拥有感情吗？美妙的文字如果不是基于情感，那还算是真正意义上的文学吗？

   

答：我是这么看这个问题的：我们今天对文学的定义，是把情感、想象力等作为文学的内在，这种方式是人文主义时代以来的产物。如果有一天这个世界被人工智能所控制，我们就不再讨论它写的是不是文学的问题，而是讨论它会让我们怎么生存的问题。

问：陈老师，有个问题大家比较关心，如果不久的未来会有人机大战的写作赛事，我们人类有可能赢吗？人类能否守住最后这一道防线？

答：这种提问的方式还是基于“人究竟是优越于人工智能，还是人工智能会挑战人类”，其实刚才我在讲的时候就特别强调了人类的一种内在的冲动，一方面我们想把人工智能控制在可控的范围内，但另一方面我们又努力地使它在某种宽泛的、模糊的认知能力上靠近人类，所以一旦人工智能的这种认知能力达到了某种高度，人类在这个特定的时候一定会被人工智能所碾压。

问：陈老师好，您怎么看待人工智能给人类伦理带来的冲突？

 

答：这个问题提得还是蛮有意思的，我在讲座的后半段其实一直在谈这个问题。作为研究人工智能的科学家，作为技术主义者，他会设想很多技术带来的美妙的东西，但是当一个技术要被应用到人类社会当中，会面临很多伦理的不匹配问题。

很简单的，比如说如果能设计出一种可控、可复制的“人类”，完全跟人一样，可以随心所欲操控的伴侣，也就是说你不再需要爱情了，不再需要交男女朋友，也不再需要结婚了，只要去订购一个在外貌、性格，在任何方面都适合你需求的这样一个“人”来陪伴你就够了，你跟它相处没有任何的烦恼，这听上去是极其美妙的，但事实上这种事情给人类的伦理带来了巨大的挑战。如果人类都迷上了这种“人”，可能所有人都不结婚了，虽然还会有新的繁衍后代的方式出现，但是我们还是原来的人吗？或者说我们对于人的种种的想象，对于爱情、婚姻种种的伦理的边界，就被颠覆掉了。

所以我们要警惕人工智能的意思不是说我们不要研究人工智能，而是说对人工智能在特定的跟人类的伦理、社会可能产生冲突的那些领域要更加地小心，或者说对这方面，人文科学的学者、从业者要有更多的呼吁。

问：老师刚刚说要警惕，但是时代这样快地发展，我们怎么警惕呢？

   

答：这个问题提得蛮好的。确实我们说的警惕不可能是真的由我们去禁止什么，或者说我们说的只是警惕而不是禁止，因为我刚才谈到乌托邦的冲动对于人类的发展，包括人工智能对于人类社会的存在也是有很多正面的、积极的意义的，我这里边所谓的警惕的意思就是我们要一分为二地来看这个问题，我们不能把人工智能看成是绝对美好的一种存在，我们要知道它可能带来种种冲突，有跟人类社会不匹配的方面。

问：老师您好。诗的陌生化语言可以带给人不同的解读，在这个解读过程中每个人就会流露出不同的情感，这样的话，还能说机器人写诗是没有情感的吗？

 

答：这其实是一个情感造假的问题，人工智能确实可以通过某些技术的手段来使得某些段落看上去是有情感的，这就是我们常说到的“文如其人”还是“文不如其人”的问题。写作技术达到一定的程度是有可能会对真实情感造成某种遮蔽，或者说某种掩盖的，比如说某一些人，你读他的作品，觉得这个人一定是特别崇高的一个人，但是一接触，生活当中他完全是另外一个人。写作会带来一些遮蔽的效应，我确实相信，特别是在现代主义的写作中，特别强调陌生化、技术的写作当中，人工智能是有可能创造一种情感的，但这种情感不是说它本身具有情感，而是一种伪造的情感。

问：不仅人工智能，人类史上也有过濒临“失控”的时代产物和时刻，比如原子弹战争，核能，环境瘟疫，我更感兴趣的是，人工智能是人类意志的“极限”的象征吗？

 

答：我恐怕没有办法回答是不是一种极限。有很多人在谈，认为技术为人类创造了很多美好的未来，技术就像一棵树上很好的果实。但人类也捡到过某些可能毁灭人类的果实，比如我们捡到过的核武器，它也是一个新的技术，是人类投入了无数精力研发的技术，人工智能也可能是这样。

问：陈老师，我似乎没听到诗歌发展与人工智能的关系，能否请你谈谈这方面的内容。有人说机器人写诗存在“三个没有”——没有逻辑、没有感情、没有灵魂，记得你在今晚的讲座中提到给机器植入逻辑，当社会发展到人类可以把精神体验模式也植入机器时，机器人能突破三个没有的模式吗？你觉得有这种可能性吗？

 

答：机器人如果真的获得了人的情感和体验模式，世界便由它们定义了，那时写诗应该不会是它们想做的事。写诗是人类命令机器人模仿我们，有一天它真有能力模仿，它便会挣脱指令不再模仿，这是悖论所在。

主持人：非常感谢陈老师的精彩讲解，也感谢大家的热情参与！今天的微课到此结束，欢迎大家继续关注爱花城平台，我们下期再见！