漫聊（InnoVibe），一个面向创新、碰撞思想的对话栏目，每期邀请科技领域专家、资深媒体人和创新者坦诚对话，讨论最令人关注的科学突破和技术创新，剖析对今天和未来的影响。
益索普中国消费科技研究院院长、战略咨询事业部合伙人兼董事总经理，早年曾就职于IT行业，具有资深科技行业洞见。
奇谱科技联合创始人，资深媒体人。
资深媒体人，IT技术专家，曾任中关村在线总编辑。
最近科技领域最热的话题就是Chat GPT，本期漫聊就一起聊聊这次AI重大技术突破及其影响。
我们先从一个新闻热点开始吧，3月29日，一封公开信在互联网上开始流传，这封信由非营利性的“生命未来研究所”发布，包括马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克和等科技和业界领军人物在内的大约1000多人在这份公开信上署名。之后越来越多，到目前这个签名人数已经达到近3000人。从未见过如此多的业界专家去反对一项重大科技创新，我们聊聊这背后的原因和含义是什么？
这是一场巨大的科技突破与技术创新，一方面人们为Chat GPT的强大功能、AI领域展现出来的巨大潜力而激动和兴奋，一方面也开始担忧人类即将面临一场从未面对过的挑战。Chat GPT从2022年11月30日发布以来，在全球用户量已经突破一亿人，正当人们争相体验Chat GPT强大功能并为之兴奋的时候，功能更强大的GPT 4于3月14日发布了，这是一个进一步升级的模型，语言处理能力超级强大，已经很接近人类的思考和语言能力。我还注意了一个细节，在3月24日，OpenAI的CEO山姆・奥特曼在Twitter上发布一句话，“祝GPT 四十天生日快乐！”这是一个新“生命”，用10天来做生日纪元和计算成长，我们可以想见这个新物种的发展速度。总体看来，现在的AI已经开始出现AGI的特征了，Chat GPT和GTP 4已经展现出通用人工智能的雏形。这一方面令人激动和兴奋，一方面引起科学和产业界巨大的关切：我们准备好迎接这个新时代了吗？这就是为什么这些人会联合起来去发布这封公开信，他们中的相当一部分是全球顶尖的人工智能专家、学者、产业领袖和VC，甚至一部分人就是OpenAI的创始人，也是早期的天使股东。
这封公开信之所以引起这么大反响，跟马斯克的知名度也有很大关系。很多不关注AI的人因为马斯克关注了这件事。
其实马斯克是对新技术应用很激进的人。特斯拉早就装备了AI自动驾驶，而且是在直接关系生命安全的场景下使用，当时还没有什么法律法规来规范AI驾驶，现在可能也还没有。今天他又回到认为AI安全性需要关注的立场上，当然Chat GPT的巨大进步是突破性的，但我认为或许这不是完全中立的立场。可能有吸引流量的想法，也可能有他要在AI产业另起炉灶与Open AI竞争的想法。
我看了一下数据，截至4月3日北京时间下午3点，公开信上签字的有2991个人，人数已经增长好几倍了。2991个人里，我大概筛了一下字段，署名university的有585个人，占了20%，其中也包括一部分学生。
如果我们认真看这封公开信，可以看到几个看点是特别重要的：
第一件事情，承认GPT 4具有绝对的“先进性”，否则不可能有这么多权威的专家跳出来去联合发表声明阻止和延缓这项技术的发展。
第二点核心诉求是要求未来大模型和人工智能遵守阿西洛马人工智能23条原则。阿西洛马人工智能原则涉及研究方法、价值观、规则以及未来的目标等，可以说是阿西莫夫机器人三原则的现代版本，为的就是给人工智能的发展制定一个整体约束框架。
公开信中有一句话特别值得关注，那就是不能把AI掌握在未经公众选举的科技领袖手里。这句话值得深入思考，我们现在人类社会遵从的规则是什么？是法律、道德、宗教等多维度维护而成的社会现状。不同国家和政体之间形成了稳定性，这个稳定对于不同群体甚至整个人类社会是最有利或者较有利的。这个时候，如果一些企业掌握了AI的控制权、具有裁判权的时候，就有可能产生一种意想不到的结果。可能这封信倡导的核心是说要为AI制定一个规则，制定一个框架，服从目前的人类社会的整体制度。
我觉得这里边的重点是这个规则谁来定，现在首先是没有规则。
其实，人工智能发展的历史很长，很多技术在我们身边已经渗透的很深了。比如说人脸识、搜索优化，包括语言翻译和文字同传等，只是此前大部分都在特定领域里发挥作用，人们不但不反感，还会觉得很方便。
人工智能最早的话题源头应该从图灵测试说起，现在已经有越来越多的机器越过了图灵测试的标准。我们可以简单梳理让大众直接感受到的人工智能事件。我觉得第一次人工智能走入大众的视线是1997年，IBM的深蓝打败了世界国际象棋大师卡斯帕罗夫，成为第一个对人类复杂智力游戏挑战成功的机器。在此之前AI一直停留在科学领域里，不被人们所熟知。
再往后，我觉得就是IBM的Watson了，2010年Watson在智力问答游戏危险边缘里战胜了人类的两个冠军，引起巨大轰动。当然在此之后，Watson相当大的业务转到了一个专属的领域，那就是医学专家系统，我记得国内就有十几医院曾经使用Watson医生在参与对癌症的诊断和治疗，不过这个项目现在无声无息了。
还有一个让我非常震撼的事情就是2011年在世界计算大会上，微软用AI做出来的同声传译。我当时的第一个反应就是巴别塔建成了。
而真正的突变是在2016年战胜李世石的Alpha GO。不仅如此，随后AlphaGo在围棋网站上使用master的名字与中日韩数十位围棋高手进行快棋对决，连胜60局无一败绩，这引起人们的广泛关注和讨论。
我们现在做一些咨询、研究项目，发现很多企业对产品的部署或者技术的部署，跟他对自己能力的判断有强相关性。如果他对自己的能力判断有所局限的话，那么他的业务是永远做不充分，很难做到想要的营业目标。而营业目标的解决不在于营业本身的手段怎么样，而在于它前期部署的时候，对自己能力认知的边界在什么地方。
这个说的有点远，但我觉得可以类比AI的发展。当你用一个专家系统的框架去设定这人工智能的话，恐怕到不了今天这个级别。这也是为什么我看到这个公开信的时候，觉得有点一激灵。
这么多人去防范或者说去试图去界定AI，他们对AI的恐惧在哪？因为现在的AI就是个黑盒子，包括设计者都很难去驾驭它的输出的结果。
最近不是发现了一个围棋AI的bug嘛，就是你掌握了这个技巧之后，一个普通的业余棋手都能有很大的概率战胜AI。系统本来设计的是针对人类棋手的智能来下棋的，这个新的玩法是让另一个AI去探索出原来围棋AI的弱点，然后找到对应的下棋方式，把这个套路教给了人类棋手。
这个逻辑更恐怖，对吧？我觉得不管你去找他的bug也好，或者用机器来打败机器也好，可以肯定的是在围棋这个人类最复杂的棋类运动项目上，它们碾压人类已经没有问题，但那个时候人们并没有恐慌。直到Chat GPT开始出现了一种推理能力，这是AGI的最后一公里。如果这个推理能力达到一定水平，人工智能自己就有可能产生基于事实的判断、甚至行为延伸，这就是让大家紧张起来的原因。
换一个角度看，Chat GPT是怎么成功的？我觉得很大程度上是用海量的资金，巨大的算力和无穷无尽的数据堆出来的。其中的投资者不一定是纯粹的商业投资，他们可能就是认定这是科技进步的方向，觉得值得支持，包括马斯克当年捐献的1亿美金。
另外，Open AI的商业模式也是一次完全的创新，非常值得关注和思考。它开始接受微软投资的时候，第一步先要解决早期天使资金的退出问题，保护原有的“种子”。比如当年的天使投资者拿了1亿美金进来，现在微软进来以后把这1亿美金先还给你。等到Open AI产生利润的时候，微软有多大的分配权呢？75%！直到他拿回130亿美元，然后微软股权将保持在49%。等到微软的分红达到920亿美金、其他股东分红达到1500亿美金之后，微软和其他股东的股票将捐献给非盈利机构，再让公司回到非盈利机构的状态。这是一个全新的商业和股权模式，既考虑了投资者的利润，也锁定了将来这个公司的非盈利性终局。
谷歌、百度这样的公司早就投入AI研究了，但是为什么这些公司无法放手一搏，因为我要看财报，股东要看市值。这是一个烧钱的战备游戏，包括阿里这么财大气粗的公司，也不能随意投入100亿美金。
大模型就是一场大规模的战备游戏。张亚勤不久前在接受三联生活周刊采访的时候，把Chat GPT比作一个新的操作系统，将成为AI应用的平台。人类不用重复造轮子，在操作系统上不断地去叠加你的应用就好，而使用这个操作系统是要付费的，可能是这么一个结果。
我现在的工作是做调研和咨询业务，在传统的调研工作里边其实已经有一些有意思的事了。我们有同事把一些现成的调研数据扔进去，然后它会产生一些比较有意思的概括跟总结，而这个提炼比我们想的更准确而更有趣。
比如要给特定类型的人起个名字，对我们来说挺费劲的，但AI就能在回车之后，准确地给这一组人提炼了几个共同的点，干得特别地道。
是的，很多用户都发现Chat GPT在提炼概念、发掘数据联系方面的能力相比以往的AI增强了很多，大大超出了用户的预期。这应该跟它采用Transformer模型的特性有关系，新的模型带来了新的特性，比如对上下文内容的记忆和理解，对情景一定程度上的认知等等。但是新的模型不一定是完美的模型，它在带来新的能力的同时，是不是也限制了AI在某些层面的发展，会不会存在隐藏的我们现在还没触及的能力上限。
我们有咨询类的业务是fact based consultancy，要去访问、学习、了解再产生输出。如果完全是一个客观素材的累加进行输出的话，很难产生一个打动客户的点，我们做了一个特别小的调研，就访问了几个客户，一般来说它的输出也很简单，比如供货满意度情况啊、服务好水平怎么样啊，就这类。但是呢，我们有IT行业的经验，就会在访谈中看到一些东西，比如客户关注的新技术方向，比如对液冷服务器有某种兴趣跟倾向，等等。
实际上这个方向它既不在调研需求里，也不在访问的纸面上能够直接出现，我们在访谈过程中能发现这个关联，就可以给客户多了一些你的建议跟输出，然后客户会觉得这是打动他最大的点。
这样的观察和产出，GPT 4或者5能不能直接完成呢？在我们这种工作里边，考虑这件事情更有意思。它能给你很快的归纳，找一个很清晰的标签，但是它能不能给到客户有价值的一些关键意见点，我其实关注的是这个，某种意义上担心的也是这个。
我觉得倒是不需要太担心。Chat GPT就是一个产品，或者现在可以比喻成一个游戏，可以根据用户需求生成内容，激发新鲜的想法。所以我支持张亚勤的操作系统的比喻，而GPT 4是Windows和安卓，人们可以基于此来开发自己的应用，比如一个咨询公司可以根据自己的业务方向及业务习惯、结合客户需求进行开发，做出来智能化的咨询系统，看起来类似于在安卓上开发的APP。
操作系统这个比喻特别好。OpenAI确实已经这么做了，现在最新的版本已经可以加入第三方插件。很多信息服务原来是服务专业人员的，它们的互动是复杂、分离的，需要学习背景知识，用户还得自己定义和分解任务，再让这些服务来完成。
现在有了ChatGPT，它能理解用户的想法，就像操作系统隐藏了计算机底层细节从而方便高级语言开发，AI操作系统让用户可以用自然语言输入，调用插件直接获得结果。
我认为现在的插件只是一个雏形，更像早年间操作系统的核心开发者提供的通用应用程序，当大家对AI的可用性认识更深，有更多AI应用开发者的时候，面向具体业务的AI APP开发就会出现了。
经济学有一种说法，就是大多数革命性的产业创新和工业化是被军事工业推动的。军事的战略最终是要取得控制权，取得规则的制定权，保障你的规则的执行。我在亚布力企业家论坛去年的年会就看到过关于脑机研究的一个实验室的视频，但其实那个视频人家是10年以前的实验的录像，今天才可以公开。
换句话说呢，就是很多企业在这种不是人眼可见，或者说不是大多数人所能够去评价的商业周期里边，进行非商业化的投入，但是它的核心是要取得技术的制高点。
回到这封信上，虽然我们能看到他对商业、对技术路径的考虑，但也体现了一种人文的光辉吧。
一些签名者可能是从技术或商业角度去考虑，但确实人文思考肯定也很重要。人们对未来的无序化竞争和大模型盲目发展产生了一种担忧，对人类社会整体的安全，以及现有社会秩序的挑战需要多维度的考虑，所以大家希望在一定程度上大模型训练先停下来，我们先把规则建立起来，然后再加入这场竞赛。
但实际上你拦不住。五常禁止其他国家研究原子弹，但很多国家还是得到了原子弹技术并且制造成功。核大战为什么没有打起来呢？就是大家互相威慑嘛，谁也不敢轻易动手。靠呼吁大家自觉或许很难达到目的，如果有互相威慑的机制，也许就形成一个“恐怖的平衡”了。
我也许有点悲观，我觉得它既然产生最终就难免不可控，它的可控是相对的，而且这个可控的时间可能比我们想象的更短。甚至偶发到某一个人在工作的某一个环节，无意间打破了平衡，就需要有很多动作去平衡、去掩盖、去控制，然后就产生了连锁反应，大模型是个社会问题，它不是纯技术层面的问题。这个问题某种意义上有点像原子技术和基因技术。
我觉得恰恰就像原子弹，大家导弹互相指着反而不打了，AI是不是也可能有这种情况。会不会有另外一个跟Chat GPT不一样的东西，围棋AI的对抗就是个例子，有制衡之后，他们谁也无法轻易毁灭世界。这可能就是一个远期的事了。
也许我们不知道未来是什么样，只是说这个过程已经开始。所以，我们应该抱着一种积极心态去迎接它，鼓励这项人类了不起的突破。但同时，建立一个规则是非常紧迫的，这次对话前，我曾经和奇谱科技的主编罗国昭讨论过，他认为对于人工智能的创新，应该借鉴对于基因科学的管理模式，要给奔腾的野马一个缰绳，有一个框架，让它向着有益的、对人类有利的方向，哪怕它会受一些限制，慢一些。
所以我们大体上认为这些呼吁者的出发点是好的，因为只有当人类社会准备好以后，才能让AI朝人们所喜欢的那个“夏天”去发展，否则也许是在无意之间就可能走向极端，会对人类社会造成可怕的破坏。
整整10年前，2013年，詹姆斯·巴拉特（James Barrat）出版了他的畅销书《我们最后的发明：人工智能与人类时代的终结》，书中在面会人工智能未来的发展以及对人类社会的挑战。如今，AGI的时代真的要到来了始，各个国家、各种商业体甚至个体，都需要思考在这个时代的生存和发展问题。以我们今天的视野看，未来会出现多个大模型，高级别的AI会竞合发展，可以协作，也会相制约、均衡，达到共同服务于人类社会的目的。
联系客服
