AGI是通用人工智能, AI是人工智能，AGI与AI，欢呼或排斥都不够客观，感觉心情复杂，怎么说呢，有点像台风到来之前的心理：怕你不聪明，又怕你太聪明。如果人工智能拥有比人类更强大的深度学习和自主学习能力，而且有了自己的意识，青出于蓝胜于蓝，那时怎么收场？我们的科技走太快，道德伦理和人文思想没跟上。这个问题从第一只克隆羊问世就一直萦绕在人们心头，科技发展虽然一日千里，但欠债还钱杀人偿命，滴水之恩涌泉相报，道德伦理跟千年前变化不大，我们怎么面对这个有了自己意识的人工智能？祈祷这个世界上聪明的人都善良，善良的人都聪明？但很难，杀人放火金腰带，监狱里关的都是绝顶聪明的人，善良的人经常在这世上举步维艰，童话里都是骗人的。苏格拉底临刑前，学生问以后遇到问题怎么办？向谁请教？他说：按最善良的方式生活。但其实不作恶是针对那些有作恶能力的人，普通人如你我，也许连不作恶的资格都没有，那么有作恶能力的人如何保证他们不作恶呢？尤其是那些极少数能够影响人类命运的人，谁来约束他们呢？因为大多数人有时都很难理解他们在做什么。我们身处一个非常理性的时代，也是消费时代，谈论理想被人笑话，文学青年被鄙视，书店变成咖啡店，大多数人每天七八个小时的刷短视频也不会读一篇长文，更不要说深度阅读长篇阅读，即使是以学业为主的大学生群体，阅读量也少得可怜，以前互联网有许多优质的中文网站，常常可以读到优秀的帖子，如今只剩一个知乎，持续输出优质长篇内容的人群越来越少，因为读者群萎缩消失了，大家转发更多的是短视频，而非文字。阅读尚且如此，写作就更难了，谈何输出？
不阅读，不写作，谈何批判思维独立思考？不独立思考，谈何评判和选择？做看客最轻松，投币点赞转发，这个世界上，一些人在努力让机器变得跟人一样聪明甚至更聪明，一些人却在主动放弃人类进化几万年才拥有的头脑思考能力，逐渐退化，不信可以调查一下，现在有多少成年人还在坚持阅读两千字以上的文章？还能写出500字以上的文章？头脑是需要训练的，长期观看一分半钟的视频，长期阅读150字以内的文字，会发生什么现象？耐心、专注度、结构、组织、逻辑等等能力都会逐渐下降，人类发明洗衣机洗碗机飞机火车汽车手机电脑，制造了最大便利，人类第一次拥有空前多闲暇时间，可是，这些时间用来做什么？即使人工智能聪明无比，但我们的大脑目前只开发了10%，还有90%在沉睡，人类还有许多事情可以做，还有许多潜能等待激发，这个世界依然有无穷未知等待我们去探索，英国哲学家维特根斯坦说：许多人的心智先于他们的身体而僵硬。有生之年，我们会看到机器比我们更聪明，甚至有了心智和自主意识，你做好准备了吗？你了解自己的心智模式吗？你知道如何更新和完善自己的心智模式吗？推出ChatGPT引爆舆论话题的OpenAI，成立于 2015 年，OpenAI成立的初衷：一是为了打破DeepMind在人工智能领域的垄断；说它是人类历史上里程碑式的顶尖公司，站在当世人工智能的世界之巅，一点也不夸张。听说过DeepMind这家公司吗？不知道没关系，2016年人工智能围棋软件 AlphaGo击败人类世界冠军李世石听说过吗？这款软件是DeepMind 2014年开发的。2019年，他们研发专门用来玩星际争霸的AlphaStar以10:1战胜人类职业玩家，在团队协作人工智能领域取得突破。2018年，用于预测蛋白质折叠结构的AlphaFold取得突破，这个方向上的科学问题基本得到解决。DeepMind的管理层认为自己的技术过于强大，不应该让私人公司独占，而应该属于全人类，这对整个人类社会都更有益。而在隶属于Google的这几年里，Google的表现并不能让DeepMind满意，于是这几年来，他们一直在寻求从Google中独立出来。
OpenAI的灵魂人物，创始人之一、首席科学家Ilya Sutskever说，我要去创立一个技术不被私营企业垄断的新平台。不作恶（Do not be evil）是谷歌公司的一项非正式的公司口号，谷歌公司的口号全称是“完美的搜索引擎，不作恶”（The perfect search engine, do not be evil）。谷歌（Google）的一位创始人于1999年提出了“永不作恶”的企业宗旨，并一直沿用。谷歌“永不作恶”的企业宗旨形成于1999年。当一些商业人士加盟技术驱动的谷歌之后，谷歌创始人之一阿米特·帕特尔(Amit Patel)和其它一些早期员工都持抵制的态度。他们担心，未来可能迫于客户的要求更改搜索结果排名、或者开发一些他们不愿意开发的产品。阿米特·帕特尔在谷歌销售人员与客户会面的会议室里表达了自己的担心，阿米特·帕特尔在一个白板的右下角非常清楚地写下了“永不作恶”。一段时间之后，当谷歌人力资源团队讨论企业宗旨时，共列出了10条企业价值，Gmail另一创始人保罗·布切特(Paul Bucheit)建议只保留“永不作恶”一条，因为它涵盖了其它内容。我们是该庆幸吗？似乎，人类的命运只能依靠一部分聪明人的“不作恶”？OpenAI创始人伊利亚Ilya Sutskever说最大的担心是在AGI被创造出来之后，还没有学会关心人类，学会在乎人类的感受和幸福......所以AGI，不是怕你不聪明，也不是怕你太聪明，而是怕你只学会了聪明，没有学会善良。本文参考：百度、《OpenAI政变背后是科学家创始人的悲歌》。
本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请
点击举报。
