打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
科技公司带来的信任冲突:“黑镜般的世界”你喜欢吗?

小提示:后台回复关键词“2.0图谱”可获取《2021中国数据智能产业图谱2.0版》高清PDF版原图。

大数据产业创新服务媒体

——聚焦数据 · 改变商业




刚刚过去的2020是充满变数的一年,对于众多金融科技公司、电商平台也是难忘的一年,之前很多无序的模式创新,不断受到监管部门的挑战,这引发社会公众对互联网金融行业产生了负面认知以及不信任,并引起广泛的讨论:到底科技公司有没有权利采集我们的数据,进而影响我们的行为;在消费行业也是如此,消费者会对品牌或者平台使用他们的数据明显抱有戒心,“大数据杀熟”备受公众诟病。

在互联网金融频繁暴雷之前,用户对国内金融科技产品的认知度和信任度是很高的,这也可以从侧面解释为什么会有这么多用户入金到互联网金融公司的账户下。根据2017年汇丰银行所做的《科技信任度调查报告》,调查了11个受访国家和地区对金融科技产品的认知度和信任度,中国内陆用户表示了解区块链和理财智能顾问的受访者比例分别达到31%和55%,前者在11个受访市场中仅次于印度,对新技术带来的正面推动力量曾经给予高度肯定。

面对近年来发生的信任危机,为建立一个广泛和开放的数字身份世界,中国人民银行公布了《征信业务管理办法(征求意见稿)》(后简称为《办法》)。与2013年公布的《征信业务管理条例》相比,此次采集范围扩大到了“用于判断个人和企业信用状况的各类信息。包括但不限于:个人和企业的身份、地址、交通、通信、债务、财产、支付、消费、生产经营、履行法定义务等信息,以及基于前述信息对个人和企业信用状况形成的分析、评价类信息。” 

尽管从政策法规上进一步明确了科技公司应该遵守的规则,但在如今的社会环境下,引起了部分用户更多的不理解。

有人会因此联想到英剧《黑镜》在第三季第一集中设计的“社交印象评分系统”,当这些科技巨头每天盯着你的行为,知道你的偏好,你买了什么东西,和谁聊天,亦或是搭乘什么交通工具,去了哪儿,看了什么东西等等,要由它们的技术体系对你的行为进行评判,并得到一个被赋予的分值。

《黑镜》剧中采用了AR的识别方式,通过一个特殊的眼镜装置,可以看到对方的实时评分。用户的形象、身份、社会信用都会通过AR识别的方式展现出来,他的打分将马上会对对方产生影响,分数越高,一个人的社会地位越高,越能享受到租车、租房、出行、找工作、交友、选择婚配对象等方面的折扣和便利。

事实上,阿里巴巴已经采用了自己的社会信用评级方式,像芝麻信用的公司介绍中表明,其是一家旨在构建简单、平等、普惠商业环境的信用科技企业,是蚂蚁金服生态体系的重要组成部分。芝麻信用利用云计算、机器学习等领先科技客观呈现个人和企业的商业信用状况。

当芝麻信用刚出现的时候,部分媒体误以为芝麻信用第三方服务就是中国政府的信用体系。然而,中国人民银行并没有接入芝麻信用或腾讯信用体系,他们仍然作为民间的,或者只是阿里、腾讯内部的信用评判体系。之前也并没有针对性政策出台,这次《办法》是对该场景下的信用体系比较全面的规定。

上海交通大学凯原法学院郑戈教授在中国政法大学“大数据和人工智能法律前沿问题”讲座中提到了“高清社会”概念,在这个新型社会体系下,通过算法加持,针对某些群体的偏见增强,这就使得“法律的普遍性”理念受到挑战。算法背后是否真的依照数理逻辑运行?是否存在人的意志因素进行操控? 

郑教授建议,部分场景可以考虑分布式信用评分,如:乘客与出租车司机之间的互评;餐厅客户与服务员之间的互评。这些互评,只影响客户和商品/服务提供着在特定平台上的信用,而不影响该场景之外的社会信用评分。

在这种社会体系下,传统的法律思维受到冲击和挑战,各个公司可能会有不同的评价标准,比如某个游戏公司,如果以在游戏中消耗更多时间、道具作为信用评分的一部分;亦或是某个在线购物商城,以用户购物的次数、金额作为高信用的用户,那么是否有悖于社会基本价值观、公序良俗,是值得讨论的,而并不适宜马上进入到公允的社会信用评分体系中。

目前,芝麻信用评分涉及的范围只在消费奖励方面。比如,达到550分,就可以免押金借用雨伞、租用自行车、免押金入驻酒店;超过700分的人,可申请新加坡签证而无需提供在职证明等。而真正对用户社会及消费行为产生限制的“失信被执行人”,是根据《最高人民法院关于公布失信被执行人名单信息的若干规定》等修正规定,经过法院判决得出的,并非根据科技公司采集的数据判断。有关部门负责人表示,“征信业务内涵不宜过度泛化”。并在《办法》中明确表示,“应当遵循‘最少、必要’的原则,不得过度采集。”

耶鲁大学蔡中曾中国中心资深研究员杰里米·道姆(Jeremy Daum)和北京大学法学院副教授戴昕都强调,尽管围绕数据隐私的担忧是合理的,也有人担心各种数据有朝一日会连接起来,但目前的社会信用体系并不像有些人所说的那么险恶,在很多方面,它试图解决中国的实际问题。

文:陆易斯 / 数据猿

—— / END / ——

以下内容更精彩


 ☆《数据猿产业全景图——2021中国数据智能产业图谱2.0版》
2020数据猿年度金猿榜:

●2020大数据产业趋势人物

●2020大数据产业创新服务企业

●2020大数据产业创新服务产品

●2020大数据产业最具投资价值企业

●2020大数据产业创新技术突破

2020数据猿《#榜样的力量#寻找新冠战“疫”,中国数据智能产业先锋力量》大型公益主题策划活动:

●《新冠战“疫”——中国数据智能产业最具社会责任感企业》榜

●《看过大佬们发的朋友圈之后,我相信:明天会更好,明年定会春暖花开》条漫

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
马云:460亿网络放款 银行的噩梦要开始了!
芝麻信用怎么用
芝麻信用与手机贷达成深度合作手机贷用户将享芝麻绿色通道
天天快报
好信用在中国究竟值多少钱?
个人征信市场发展趋势研判
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服