麻省理工学院、密歇根大学、约翰斯·霍普金斯大学、斯坦福大学和耶鲁大学的研究人员发现,X 的“为你推荐”算法放大了与用户自述价值观相冲突的内容。该研究于周一发表于《美国国家科学院院刊》。研究考察了 2024 年 9 月和 10 月期间 715 名活跃的美国 X 用户,发现被放大内容与用户价值观之间的总体相关性为 -0.150。研究人员将互动行为确定为用户偏好的间接代理指标,其中回复行为可能向算法发出信号,促使其推荐更多与用户价值观不一致的内容。
研究人员通过浏览器扩展收集数据,分析了 715 名 X 用户
参与者安装了一个浏览器扩展,在研究期间收集他们的“为你推荐”和“关注”信息流。研究人员写道:“社交媒体信息流算法会对据称符合用户偏好的内容进行排序,但驱动这些算法的互动行为,充其量只是用户明确自述价值观的间接代理指标。”用户选择关注的账户所发布的帖子通常与他们自述的价值观一致,而算法放大的内容则呈现出负相关性。
民主党人经历的价值观不一致程度高于共和党人
X 向民主党人展示了更多与其自述价值观相悖的内容,相关性为 -0.229;共和党人的相关性则为 -0.041。数值越低,表示被放大的内容与用户价值观之间的不一致程度越高。一项重复研究得出了类似结果:民主党人为 -0.199,共和党人为 0.0372。研究人员表示:“除了自述价值观与内容库之间存在这种一致性之外,我们还观察到,参与者的价值观与其内容被放大的可能性呈负相关。”
回复行为可能反映算法偏好
研究称,回复包含与自身价值观相冲突内容的帖子,可能会让用户无意中向 X 发出信号,表明他们希望看到更多类似内容。研究人员没有调查发布这些价值观不一致内容的账户是由真人还是自动化程序运营,因此机器人所发挥的作用仍未得到解答。研究人员写道,这些发现“让我们得以一窥人们持有的价值观与引发其反应的内容之间的张力,以及这些价值观张力如何产生不一致的结果”。
X 于 1 月将 Grok 驱动的算法开源
X 于 1 月将由 Grok 驱动的“为你推荐”算法开源,揭示了一个通过预测用户行为(包括点赞和回复)对帖子进行排序的推荐系统。马斯克当时表示,该算法“需要大幅改进”。发布后,他发文称:“我们知道这个算法很愚蠢,需要大幅改进,但至少你可以实时且透明地看到我们努力让它变得更好。没有其他社交媒体公司会这样做。”
常见问题
MIT 的研究发现 X 的算法在 2024 年 9 月至 10 月期间存在什么问题?
这项针对 715 名美国 X 用户的研究发现,该平台的“为你推荐”算法放大的内容与用户自述价值观之间的总体相关性为 -0.150,其中民主党人经历的价值观不一致程度高于共和党人,相关性分别为 -0.229 和 -0.041。
为什么回复与自身观点相反的内容会影响 X 的推荐?
研究人员表示,回复与自身价值观相冲突的帖子,可能会让用户无意中向 X 的算法发出信号,表明他们希望看到更多类似内容,因为无论用户的实际价值观如何,该平台都会将互动行为解读为偏好指标。