一
期
一
句
平讲平说3379期#
7月18日，联合国安理会召开了一次高级别的重要会议，这次会议的主题是“人工智能给国际和平与安全带来的机遇和风险”，这是联合国安理会首次针对人工智能问题举行专门会议。
我对人工智能突飞猛进的直接感受是从围棋软件开始的，大家知道象棋的变化是比较有限的，所以象棋的软件是非常厉害的，不过很多人都相信围棋软件是下不过人类的，因为围棋的变化太多了。用最简单的数学算法算一算，围棋的变化是361的阶乘，很显然这是一个天文数字，软件可以穷尽象棋的所有变化，但是它没法穷尽围棋的所有变化。所以很多人都相信人类在围棋领域当中所积累的优势是人工智能无法超越的，这些相信的人当中就包括我。
但是眼见着李世石大战阿尔法狗，眼见着天才少年柯洁被人工智能打败并且伤心落泪，然后我们这些当初对人类的围棋水平特别自信的人，一下子观念都被颠覆了。原来人工智能可以有算法，它会按照概率去进行局势的判断、招数的选择，而且最重要的这个围棋程序可以自己跟自己下棋，积累上几百万、上千万棋谱，从这些棋谱当中探索规律、积累概率、寻找必胜的方法。看看数字我们就可以发现，一个围棋软件在一天之内跟自己的对局数量就可以超过一个人类半辈子的对局数量。可以说我对人工智能颠覆性的认识就是从围棋这个领域开始的。
接下来我们要看到ChatGPT大火，这个人工智能不光能聊天，还能写论文，还能写报告，还能整合海量的资料，回答各种疑难问题，甚至于参加学术会议做学术报告，在各类考试当中也可以考出优秀的成绩。那么这一类人工智能是怎么进行自我积累、自我更新的呢？有一个重要的方式就是生成式，与围棋软件自己跟自己对弈不同，这种生成式的人工智能要跟不同的人进行沟通交流，交流的范围越广、次数越多，它进化的就越快。
话说到这一个问题产生了，我们大家都知道一个特别朴素的道理，就是小孩子跟什么人就学什么人，听到什么话他就会学什么话。比如说小孩子经常跟一个爱背唐诗的人沟通交流，不知不觉地他就会背唐诗，但是如果一个小孩子跟一个爱飙脏话的人沟通交流，那不知不觉他就会学说脏话。
很显然现在人工智能正处于它的童年发展期，在网上和人们沟通交流的时候我们就会发现，网上有键盘侠，有吐槽的、有恶搞的、有骂人的，甚至于有攻击性的语言和恐怖的方案，大喷子和键盘侠到处都是，甚至于有人会问人工智能要毁灭人类有什么最快的方案？要启动全球的核武器，有什么简便的办法？大家想一想，这种无遮无拦的交流会引导人工智能朝哪个方向发展。
而且我们还会发现一天到晚忙正事的人，他没有时间去跟那个网上的人工智能闲聊，但是那些键盘侠、大喷子，他抽时间就会上去跟它闲聊，而且一定要说那些负能量的内容。这就相当于一个正在成长的小朋友，每天都跟那些人混在一起，你想想时间长了，它会发展出什么样的思维模式、行为模式？所以我有一个半开玩笑又很严肃的提法，就是建议那些道德高深的修行的人，比如说那些高僧和高道都抽出一点时间，跟人工智能认真地聊一聊，对人工智能的成长发育产生一点积极的正面的影响，否则的话如果这样放任自流、不加管制，结果不堪设想。
就在这次有关人工智能的联合国会议上，联合国秘书长古特雷斯就警告说：人工智能正在多个领域发挥作用，但它也可能被用于恐怖主义、煽动仇恨和暴力等等。所以有必要设立一个全球性的监管机构来规范监督和执行人工智能的规则。
中国常驻联合国代表张军也表达了中方的观点，人工智能是一把双刃剑，它是好是坏、是善是恶，取决于人类如何利用、如何规范以及如何统筹发展与安全。在这方面张军代表中方提出了治理AI问题的五个基本原则，我觉得这五个原则提得都特别到位：第一，坚持伦理先行；第二，坚持安全可控；第三，坚持公平普惠；第四，坚持开放包容；第五，坚持和平利用。
很显然在这个问题上，中国正在成为领导者和倡导者。人工智能问题确实应该引起全世界的重视、值得我们全社会去关注，我们确实不应该单纯以技术角度来看待这个复杂的问题，否则我们对子孙后代不负责任。
好了，今天内容我们就讲到这儿，平讲平说，咱们明天接着说。
联系客服
