YouTube在公开场合曾表示，它正在尽力将极端内容的放大程度降到最低。但它仍在寻找留住用户的方法。
推荐算法是当今最强大的机器学习算法之一，因为它们决定了我们看到的信息。YouTube的推荐算法影响力尤其巨大。据估计，该平台在网络流量方面仅次于谷歌，70%的用户观看的内容是通过推荐算法提供给他们的。
近年来，这种影响受到了密切关注。由于该算法是为让人们观看视频而不断优化的，它提供的一些选择往往是强化人们已经喜欢或相信的内容，从而创造出一种让人上瘾的体验，并将其他观点拒之门外。这通常方便了最极端和最有争议的视频，研究表明，这些视频常常会呈病毒式传播，并导致观点激化。
尽管YouTube公开表示，它正在努力解决这些问题，但YouTube的母公司谷歌发表的一篇新论文似乎讲述了一个不同的故事。该论文对平台算法提出了更新建议，其旨在向用户推荐更具针对性的内容，以提高用户的参与度。
YouTube的推荐系统目前是这样工作的。为了将推荐视频填充在侧边栏，它首先通过查找与您正在观看的视频的主题和其他特性匹配的视频，编译一个包含数百个视频的候选列表。然后，根据用户的偏好对列表进行排序，通过将您的所有点击、喜欢和其他交互输入到机器学习算法中来学习用户的偏好。
在这些提议的更新中，研究人员特别提出了一个他们认为是“隐性偏见”的问题。它指的是推荐本身能够影响用户的行为方式，让人很难分辨你是因为喜欢某个视频而点击了它，还是因为它被高度推荐了。其结果是，随着时间的推移，推荐系统可能会把用户推得越来越远，让用户无法看到他们真正想看的视频。
为了减少这种偏见，研究人员建议对算法进行调整：每次用户点击视频时，它也会在推荐侧边栏中考虑视频的排名。当输入机器学习算法时，靠近侧边栏顶部的视频的权重更小；排名靠后的视频（需要用户滚动）权重更大。当研究人员在YouTube上对这些变化进行实时测试时，他们发现用户参与度显著提高。
虽然论文没有说明新系统是否会永久部署，但youtube前工程师、目前运营AlgoTransparency的纪尧姆·查斯洛特(Guillaume Chaslot)表示，他“相当有信心”，新系统将很快实施，因为新系统将使观看时间增加0.24%。即使最保守的估算一下观看时间和收益之间的关系，就知道这多出来的时间将可能会带来数百亿美元的价值。
几位研究该论文的专家表示，这些变化可能会产生负面影响。伯克曼克莱因互联网与社会中心的成员乔纳斯凯泽(Jonas Kaiser)表示：“在我们的研究中发现，YouTube的算法创建了一个孤立的极右社区，并传播错误信息。在边缘地带，这种变化可能促进形成比我们已经看到的更为孤立的社区。Tow数字新闻中心主任乔纳森·奥尔布赖特(Jonathan Albright)表示，虽然减少位置偏差是减缓低质量内容循环反馈的良好开端，但从理论上讲，这种改变也可能进一步有利于极端内容。
贝卡·刘易斯(Becca Lewis)曾是一名研究网络极端主义的研究员。她说，YouTube上有很多不同的社区，人们使用YouTube的方式不同，内容的类型也不同，所以在很多情况下，影响也会不同。而我们成了YouTube的测试对象。
《麻省理工学院技术评论》联系的三位外部研究人员都建议YouTube花更多时间通过访谈、调查和用户输入等方法来探索算法变化的影响。YouTube发言人表示，YouTube有在做，并且正在努力删除其平台上以仇恨言论形式出现的极端内容。
YouTube应该花更多的精力去了解他们的算法支持和放大了哪些视频，而不是如何让用户留在这个平台上。但很明显也很令人沮丧的是，这样做不符合YouTube的商业利益。但从伦理上讲，这却是势在必行的。
联系客服
