打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
从生物材料发展看人工智能技术的伦理风险问题

人间 来自沈万亿 04:16

我不知道,在关注我的粉丝里面有多少人是从事证券、担保、金融和资管行业的,更不知道有多少人是负责风控技术的。所以今天谈论的话题其实有点晦涩。即使如此,也希望你们能坚持看完这一篇,篇幅也有点长,好在我们还有时间,让我们一点点讲。

但是在今天的日记开篇。我想先讲讲我能想到的人工智能技术的发展结尾。

那就是人工智能技术面临的伦理风险问题。

----------------------------------------------------------------

当中国的人工智能技术被炒作的如火如荼的当下,动辄看到很多公司abcd轮融资成功,很多机构或多或少心里是揪着的。

我知道的是,很多一年前投人工智能的,基本上都走入了死胡同,就是技术落不了地,讲大白话就是这样,站在专业角度,叫做技术无法产业化应用。


中国的技术研发绝大多数是实验室技术无法产业化。这是我大概8年前意识到的一个问题。但是很显然,那时候我做的不是人工智能技术,而是生物材料技术。我用的材料是PBS,聚丁二酸丁二醇酯,一步法,清华大学高分子系主任主任郭宝华郭教授的技术。事到如今,虽然已经不做这行,但是很多人还认识我,亿帆鑫富、海正药业……很多的高工或许还记得,当年那个一口气接了人家2000w货值的小丫头,就是我。就此一单,一战成名,对于我本人来说,我一直喜欢这样的做事方式。

站在创业角度,我是成功的,但是这样的成功太危险。我虽然最熟悉的是PBS,但是我做的这一单却是PLA,聚乳酸。跨专业也就罢了,材料也跨了。没有办法,PBS虽然耐高温,但是却无法做到透明材质;PLA透明材质没问题,但是变形温度只有45度,一点加了非bio的助剂,在理化上过得去,但是在降解度是过不去的。

我其实不想说这两张照片都是我做的。

更不想说,百度PBS和PLA里面有1/3的图片是我当年做的。

这就是中国的现状。既然有现成的东西可以盗用,为什么要费力去重新做一遍呢。

这就是典型的中国人的商业思维。更何况,百度上面这张PLA照片就是我拍的,而这张照片里的白色圆柱体切粒也根本就不是聚乳酸,而是安徽和兴化工产的PBS(聚丁二酸丁二醇酯),而PBS和很多美国药典的百度词条都是我做的。

每每想到这里,觉得于心不忍,当初我做的时候应该严谨一些。发现别人盗用图片而且错误引用却没有去纠正,不知道会误导多少学生和研究人员。


话说回来,那一单我做的是出口到荷兰,执行全球最高的BIO的材料要求EN13432指标——要求的是90天内100%降解完毕。

EN13432的要求都很变态。比如欧盟不接受美国的PLA,因为美国的PLA最大供应商的是来自NATUREWORKS,用的是转基因玉米。

PLA的聚合其实很简单。



欧盟有巴斯夫,但是他们的产量少,订单预约至少是3年。他们抵制转基因,所以接受中国的PLA,但是不接受美国的PLA。道理很简单,欧洲人觉得中国没有转基因技术。是的,直到2008年,或许直到现在,还是这样。

而我该怎么解释这个事情呢?

我们说赶超美国,赶超日本,但是很多技术,直到目前我们连韩国都赶超不了。事实就是如此。

美国人10年前就有了利用转基因技术创造的可以加载人工智能技术的生物材料产业应用。

我不大希望看我日记的人觉得我是在写科幻小说。


那么我们想象一下:此时此刻,你身边的所有的塑料制品,其实都是一个个生物材料,甚至他们有生命,比如你的手机壳。你今天用的是iphone12plus,你明天想换华为23,一旦你想,或者决定做这件事的时候,只要通过简单的授权支付,你手上的iphone自己变成了华为手机。

或许你觉得这样的技术很炫,那么如果有一天,这样的材料会变成活生生的你,带有你的全部记忆闪存、行为逻辑和价值观,你的老婆孩子、同事、亲戚完全分辨不出来的时候,你可以完全被取代的时候,那么你存在的意义是什么?那如果被取代的其实是你的老婆孩子,甚至父母呢?


我说了我不想写科幻小说,但是这是理论上完全可行的。

因为NATERWORKS的PLA材料就带有记忆功能。不管你们愿不愿因相信,这是事实。他们在转基因技术里加上了基因编码技术。比如说,他们希望母本只存活三代,你即使破解了第四代的繁育,但是变异后的结果是你无法预料到的。

因为他们加入了破解后的基因变异技术,这是最彻底的防御技术。

所以每次看到人家谈区块链技术,我就觉得彻骨的寒意从心底里泛出来。

加了区块链和人工智能的基因技术无所不能。

他们既然已经可以决定一颗玉米的繁殖,那么这样的人工干预传播到人类繁殖上面只是时间问题。而且这样的编码技术还带有追溯功能。大家所认为的神话一样的区块链技术,不是神话。

这就是我为什么不看好比特币的核心原因,不是基于价值,而是基于技术。

这是我在2011遇到的主要问题。就是转基因技术的伦理问题。


我曾经和郭宝华教授讨论过类似的问题。

郭教授大概在10多年前就研究出来了基于PBS为基材的人类器官繁殖技术,我确信我没描述错,我也确信你没看错。


他那时候做的是,基于PBS为基材的人耳器官移植。

郭教授:你知道,猪的基因和人类是比较接近的。

我忍不住笑:那么可以按照病人的基因培育出一头猪出来,当病人发生器官衰竭,可以用来移植。

郭教授:是的。

我:那我可不可以这么理解,假设这个技术如果真的实现,实际上那就是一个人,只不过抑制了大脑的发育,让他长成了猪的外形。

郭教授:是的。

我:那我可以不可以进一步理解,实际上这头猪站在遗传学的角度是这个病人的子代?

郭教授:是的。你可以这么认为。

我:……那要站在伦理的角度,那岂不是杀了自己的子代做了器官移植?

郭教授:是的。

我当时就觉得整个人都掉到了冰水里。沉默了半晌,我问:那如果猪的大脑发育没有被控制住,那岂不是一个猪的外形有人类的思维?

那时候还没有好莱坞的《人猿星球》,但是郭教授回答我的是:是的。

最后我问了一句:那如果我们自己本身就是那头猪呢?

于是大家一起沉默了。


大概一个多月前,我和我一个朋友说起这段对话的时候,对方不屑的笑了:“就算100%长得像,克隆一头猪,甚至克隆一个我出来,没有我的思维和思想,它还是一头猪。”

我淡淡的回答了一句:你怎么知道你的思维和思想不能被复制呢?

对方立刻就愣住了。


是的,如果有一天,你的思维可以被100%的保存和复制的时候,人类活着的意义在哪里?


我一直觉得这是一个正常人类都会觉得可怕的事情,然而有一次,有人问我:你说的那个人类克隆技术,保存人的记忆和思维的技术现在能用了嘛?能不能试试。

我很错愕的问:怎么了?

对方沉默了很久,最后说,他的直系长辈得了癌症。

只要他能活下来,花多少钱他都愿意。


所以,就算你能直面自己的死亡,但是你能接受家人的逝去吗?

你明知道违反伦理问题,你还是想为之,因为你是人,你有人性,你不想失去。

但是机器不会。

我认为的人类智能技术最终极的不是算法的过度拟合,而是产业化应用风险。

而实现人工智能技术的真正人工智能分为三个部分:

即:数据接入的人工智能(脑机技术),数据计算的人工智能(即神经元算法),产业应用的人工智能(所有的人工智能技术可视化、产品化、应用化)

桑葛石完成了后两个阶段的技术储备。


大概半年前,我把我们金工团队和技术团队的几个人拉进了我在德国的一个留学生群里。群的主题是关于人工智能技术,但是核心方向是脑机技术。

是的。脑机技术。

在很多国内的机构和创业团队还在把统计学基础当人工智能在外面招摇撞骗的时候(对不起,话可能说的不好听,但是现实如此),德国的人工智能应用已经到了追溯本源的阶段。


去年到今年5月之前其实我们团队的人,包括带金融工程的博导,甚至我的总经理,都不觉得我们是个具备了人工智能技术的公司,而这一年多来,到我们公司到访的机构其实不少,越到后来,我们越低调处理了,很多时候,连员工都不知道来的是谁。这里面就有全球顶级的投行和IT公司。

这没有什么可炫耀的,我们清楚的知道这点,而我们没有宣传,是因为我觉得我们的高管们还没准备好。

包括我自己。


当证券行业里的人讨论风险控制技术,如何控制人类的行为,调仓、空仓、如何实现风险中的人类行为管理的时候,我想到的是:我的脑机技术可以判断yes or no就可以了。而如果假设,这是我8年前就能实现的技术呢?

那么交易员只要想做一笔高风险交易的时候,他还没有交易,我就从他的脑机接入里知道了这个人的行为风险而进行直接的拒绝交易行为,那么,我还需要那些系统做什么?


我还需要这个人做什么?做交易?

你不可能同时交易10个仓位,300只股票,机器可以;同样,你也无法管理10个仓位,300只股票的风险。

那么,证券市场还需要人类吗?当人人都可以微秒级运算控制趋势风险,万分级误差计算收益的时候。这时候已经不是过度拟合了。

这样的风险人类显然是没有能力防御的。


所以同样的,如果我接入你的脑机技术,你可以接受,并且进行交易的时候,你知道我接入了你的思维,只是判断yes or no,那么你怎么能知道我没有把你的闪存全部记下来的能力?所以我拒绝脑机技术。

但是google做到了。

很多年以后,全中国参与和讨论了alpha对弈的人都会知道自己曾经的愚蠢而且追悔莫及。这其中包括我自己。

你要知道,舆情数据的抓取无处不在。

在不了解的技术面前,人类的自大是愚蠢的,你以为你可以战胜并且试图战胜,而实际上,你赤裸裸的脱光了站在机器面前献出了自己的思想。


很多机构曾经和我沟通,尝试把脑机技术用在无人店上,你只要想什么东西,什么东西就买回家了,这个和今日头条做的事情其实并无差别。

但是思想和生活方式是隐私,在很多人看来,但是人类的隐私是被自己出卖的。


而站在生物技术的层面,如果我拥有了你的基因数据,克隆一个你出来,装入之前缓存的你的所有思想和回忆。

那么作为本体的你,存在的意义是什么?

如果克隆的你完全可以取代你。


想象下《变脸》中尼古拉斯凯奇的痛苦。

这是我能想到的结尾。

人工智能技术和生物材料一样。

到最后都是伦理风险问题。


到底是人类创造了技术,还是技术最终取代人类。

其实都不重要。

重要的是。

AlphaGo(阿尔法狗)的研发团队,谷歌旗下的DeepMind又推出了新一代的AlphaGo Zero(阿尔法元)。和狗相比,元根本懒得去学习几千几万盘人类的棋局,只要掌握了围棋规则,它可以自己和自己对垒,40天后,它以100:0的成绩击败了狗。

对此,柯洁表示——


ALPHAGO存下了所有围棋博弈的人的性格、思维和逻辑。ALPHA元不需要人类。


人工智能技术的伦理风险问题就此出现。

它一直存在,而且终极存在。

就像核技术一样,人类创造技术,然后用来毁灭自己。


但是我们无法回避科学的发展。

利弊共存之下,我们只能最大程度的控制风险。


很多人问我为什么要做一个人工智能的风控公司。和大家理解的不一样,我们的人工智能,不是来风控人类行为的,我们是为了对抗人工智能技术带来的风险而生的。

我从来没放弃过的就是,人类创造的技术风险,只有靠人类来实现控制。


这就是我大概十年前懵懂而不自知,到最后走上这条路的全部意义。

当所有人把人工智能技术当玩具的时候,却不知道,人工智能其实就像潘多拉的盒子。不管是语言、投资、生物材料还是围棋,你并不知道这后面的风险是什么。

facebook知道了,所以关停了他们的系统。


那么居于证券交易市场,不管你是量化交易还是自动化交易,我们在实现的神经元算法交易,不是拿来做绝对收益的,我们是来对抗风险的。

帮助人类战胜机器。才是桑葛石的使命。也是我作为一个创始人认为的,桑葛石真正存在的价值。

当所有的人都在用机器追求绝对ALPHA的时候,他们就会变成绝对风险。总得有点人来做什么,来对抗机器带来的风险。


我只希望我们做的事情,都还来得及。

我不希望桑葛石有一天变成alpha元。那样是愚蠢的。

我不知道会不会有人理解。


----------------------------------------------------

这个公众号里的文章不是软文,很多人以为我在给我们公司写软文,以为有一整个团队在维护这个账号。

其实真的不是,这就是我自己的一个公众号,更多时候,我是当日记来记载的。里面或多或少会有涉及到我们公司的一些产品和界面,也不是推销,而是为了规避使用别人家软件平面带来的版权或者软件著作权纠纷。站在专业角度来说,我觉得个人公众号都需要规避的风险,不要说公司的公众号了。

我不想炒作,我也不需要炒作。

中国的生物材料,我是最早做产业化应用的,2008年,20岁来岁刚出头的我根本不知道,自己初生牛犊不怕虎的接了全球最大的一单全生物降解材料。想出名太简单了。更何况,我一直觉得自己有资本,是因为觉得自己一直是个专业从业人员,所以不想变成别人的谈资,也不屑被别人的口水淹死。


这是一份2009年中国塑协的名单。那时候,我在中国的专业协会里排名第45,中海油、中石油、亿帆鑫富、海正药业很多上市公司排名都在我那个小创业公司之后。过度的自负蒙蔽了我,我没想过为什么那么多有实力的公司为什么不做那个订单。

后来明白了,却晚了。其实我也曾经回过头来想过,会不会当时放弃这个行业是一种错误,但是其实我并不后悔,一个天量的订单,让我真正的感知到了这个行业的巨大风险需要的其实不是市场,而是时间。而有些问题,比如材料本身的缺陷,是时间解决不了的问题,所以某种程度的坚持,其实本身就是一种错误。而关于错误,其中的原因有很多,我多次反思这其中的方方面面。

然而,又是一个然而。10年前的我第一次创业无疑是成功的,但是我完成那单就关闭了公司去继续学习了。退而求其次的,我开始研究生物材料在物流供应上的控制与管理。

换个角度来说,我从来没有放弃过这个市场,这也就是为什么桑葛石是从医疗起步的原因之一。我从不贪心,我们的证券市场胜率只是为了证明我们的算法有效性和开发应用的可行性,然而我更看重且自信的是将来终有一天,所有的医疗相关企业都需要桑葛石,站在这个角度,这是我作为一个从业十年的研究人员的抱负。

也是为了完成和继续一个延续了我坚持了十年的行业和梦想——这期间我目睹过、辅导过也见证过很多公司的证券化。我希望终有一天,看见属于我自己的上市公司诞生。

愿与众人共同见证这一天的到来。


不忘初心,方得始终。

If you love life,life will love you back.

很多人会觉得奇怪,我们为什么从医疗到人工智能技术,到风险控制,很杂,很奇怪。

但是我一点都不觉得奇怪。

人工智能风险控制将来最大的应用,一定是在医疗方面。

生老病死,才是人类的终极问题。

不若我们以今日为证,再过十年,回看我这篇文章,说的对与不对。

我愿以我此生过往和将来的20年光阴,去见证和验证我年少时的疑虑。


--------------------------------------------

文末推荐一部常人眼里的爱情片,我眼里的恐怖片。具体内容我就不剧透了。

◎译  名 爱情天文学/爱情天文学(台)

◎片  名 La corrispondenza

◎年  代 2016

◎国  家 意大利


本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
科技知识:21世纪三大尖端技术
【一轮复习】§10.4 生物技术的安全性和伦理问题
未来科技新纪元:第三次科技革命如何引领未来,四大标志都是什么
熊红凯 | 人工智能技术下对真理和生命的可解释性【“人工智能与未来社会:趋势、风险与挑战”学术研讨会...
高中生物生物技术的安全性和理论问题练习题(含解析)
第2节 关注生殖性克隆人 第3节 禁止生物武器
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服