打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
未来之城:机器作为工具,控制人类的遥想
userphoto

2023.02.15 上海

关注

ChatGPT近阶段成了众人的热门话题。它能对话,它能提供各种答案,只要它的数据库里有。但它不保证正确。于是荒诞可笑的问答在网络上流传。

同样有一本荒诞的科幻小说《未来之城》讽刺了人工智能所创造的世界。小说的世界是一个被人工智能所覆盖的世界。人名、国家名、地名都已经改进。

就拿人名来说,再也没有什么“克林顿”、“特朗普”这样的姓氏了。人们的姓氏以职业为名称,比如总统、行政、厨师。如果一个女孩出生时,母亲恰好是失业者,那么她出生后的姓氏就是失业者,男孩则根据父亲的职业。

连续剧《黑镜》中曾提及的评分社会同样存在于《未来之城》中。每个人都有自己的等级,相应的等级有相应的完美积分,它会影响每个人交友、社交、医疗等生活的方方面面。要是等级降低了,原来的朋友们即刻就会断交,系统会推荐新的合适当前等级的朋友。

《未来之城》是一本反乌托邦小说,里面许多内容都曾经在现实网络中发生,作者马克-乌韦·克林将它们融入荒诞的故事里,读到它们一定会会心一笑。

主角皮特·失业者只有一家杂货铺,经营机器人销毁的工作。实际原来他学的是机器人维护,自从《消费保护法》颁布后,机器人有问题就直接报废,所以他从机器人维护者变成了机器人报废者。这是一个多么普通的主角呀。

唯一让他不太一样的是,他从来没有报废过一台机器人。他把它们藏在了地下室,劫后余生的带着各种问题的机器人成了皮特的朋友。也正是他们帮助了皮特解决他的难题。

比起算法机器人,带着缺陷的机器人更显可爱。坏了的格斗机器人会破坏,也会说:坏坏坏……了。恐高的无人机,飞到高空就会晕。律师机器人有了良知……

算法禁锢的世界

完美之城意味着幸福生活,算法知道每个人的心情如何,会在适当的时候提供最恰当的服务,让用户保持良好的心情。

如果您正在找寻伴侣,完美伴侣公司会根据用户资料,匹配最佳伴侣。如果您心情低落,正牌店会用无人机为您送来当下最需要的东西,比如一打啤酒。私人助理会向您推荐符合喜好、符合您等级的一切产品。

完美世界的算法提供最好的服务。算法的背后是数据,数据是从用户日常行为中获得。然而究竟是经常性行为,还是偶发行为上获取数据呢?没有人知道,除了服务商,于是出现了某种奇特的问题,用户收到了自己不想要的东西,却不能退货。

是的,不能退货。系统坚称:这是用户需要的,即使现在说不需要,潜意识里还是需要,不多久就会用到。

因为是算法系统推荐,所以在选项中只有【OK】,没有【NO】。算法知道用户喜好,没有理由存在【NO】的回答。

算法知道用户的一切,推算用户的一切,不会出错。

机器不会犯错。

皮特的问题

用户真的觉得算法了解他们的喜好?而不是因为算法给了推荐才形成的喜好?

倒霉的皮特遇到了一个令人恼火的问题,他收到了不想要的东西,却无法退货。系统坚持这是他要的,但他要这个干嘛?

皮特对自己的等级从10降到9的男人都没什么大反应,为什么对这件事反应这么大?唯一的解释就是算法给他带来的负面影响超过限度了。

所有的选项只有【OK】,所有的朋友都是算法推荐,女友是算法匹配,连工作算法都定好了:你没工作可找。

机械又自信的算法,让感性灵活的人类崩溃。皮特在一个怪老头的启发下,才意识到算法收集了错误的信息,他的个人资料是错误的。他的人生在算法下,进入错误的世界,如果不纠正将永远错下去。

这个问题不是皮特一个人的,但几乎没人意识到它究竟意味着什么。“网络适应的当然不是你本人,而是网络认为的你。”换句话,算法也活在自己的世界里,它眼中的人是各种数据组合起来的人,至于数据对或错,它压根不知道。

电车难题不是人类的难题

皮特去正牌店协商退货未果,丧气地乘坐自动驾驶汽车回去的路上,和这辆车讨论了电车难题。

汽车认为电车难题从来不是人类的难题,因为人类才不会那么快反应过来,到底是向左撞五个人,还是向右撞一个人。人类只会想:啊啊啊啊!完了完了!砰!

……非常形象……自动驾驶汽车就不会这样,他们计算飞快,向左还是向右这个问题,取决于那些人的等级,还取决于程序。程序是专为老人设计还是为商人设计,都有不同的倾向性。

故事最后,电车难题也曾出现,算是作了映衬。

作者在小细节上会埋下一些伏笔,粗看这些细节无关紧要,但到故事后期就会发现,原来不简单呐。

结语

《未来之城》是充满讽刺的故事,多读几遍就会发现对信息茧房、算法推荐、评级人生、大选操控、资本运作无情的嘲讽。

故事里随时随地都能发现一些梗,还有一些网络发展的理论小知识,它们围绕着可笑扭曲的现实进行嘲讽。

完美之城,再完美,哪怕里面所有一切都正确,最终形成的是一个完全错误的世界。多有趣呀,完美最终是错误!

【文/云玖弋】

本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
无人驾驶普及后,还需要查酒驾吗?
人类十大思想实验,那个无解的“电车难题”,被一群网友破解了!
自动驾驶汽车——现实版电车难题
郑戈|电车难题与自动驾驶系统算法设计中的伦理考量
回答两个自动驾驶问题:5级分级真的合理吗,为什么要关注伦理?
你以为可靠的搜索结果,也许都是算法的偏见!
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服