正在加载文章内容,请稍候。
正在加载文章内容,请稍候。
社交平台的推荐算法为了延长观看时间,会优先推高情绪、高争议的内容,结果让人更容易生气或不安。 这不是某个工程师的阴谋,而是算法“无道德”地放大了人类对威胁和冲突的注意力。 问题可修:这是平台的设计和激励机制造成的,理论上可以通过改变规则来改善。

精准输入
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可保存笔记、高亮、划线和批注。
作者从一次候诊室刷短视频后的烦躁体验出发,追问推荐系统为何不断把愤怒、冲突和道德谴责推到眼前。研究给出的答案并非“人类只爱坏消息”,而是平台的互动指标会在特定场景里放大我们对威胁与冲突的敏感。

几周前,我在候诊室打发十分钟,做着现在候诊室里人人都会做的事——刷手机。我打开了Instagram短片,想找些轻松的东西,比如做饭视频或者狗狗做傻事。二十分钟后(候诊室从来不是真的十分钟),我看到了一场车祸,一场夜店外的拳击,有人在咆哮说整个行业“当着你的面撒谎”,还有一只狗。我离开时比坐下时更激动,也没去找任何细节。
我想我们大多数人都有过完全一样的经历,在TikTok、Facebook Reels、Instagram、X上。我一直半信半疑地以为这只是我的错觉,或者运气不好,或者只是我这个脾气暴躁的比利时人。所以这次我真的去看了那些研究。结果发现,这不仅仅是我一个人的问题。
关于这一点的研究正在不断增加。像TikTok、Instagram Reels和YouTube Shorts这样的短视频平台依赖推荐算法,优化互动和观看时长,多项研究发现这持续偏向病毒式传播、高激动且情感丰富的内容——尤其是TikTok的“为你推荐”页面被证明优先推广病毒内容,不断放大同样的热门创作者和主题,反复出现。
尤其是从视频中拉远,同样的形状也出现在文本和新闻分享中。一项广泛引用的分析发现,人们分享负面新闻的可能性几乎是正面新闻的两倍。尤其是愤怒和道德愤慨在网络上似乎有其重要性——研究“道德传染”的研究人员发现,使用道德情绪语言的帖子传播得更快更远,尤其是在已经极化的社区中。
这里有我真正觉得有趣的部分:不仅仅是算法注意到这个模式并奖励它。有真实证据表明它们可以创造它。最引人注目的例子仍然是Facebook文件——通过Frances Haugen公布的内部文件显示,2018年对新闻推送算法的调整,旨在促进朋友和家人之间“有意义的社交互动”,结果却起到了或多或少相反效果。内部报道称,它奖励愤怒和耸人听闻——不是因为Facebook有人想要更愤怒的平台,而是愤怒是让人们继续滚动的原因,而算法就是为了追踪那些让人们继续滚动的东西而设计的。
对我来说,这才是真正的故事。并不是门洛帕克的某个工程师坐下来决定互联网需要更多煽动愤怒的元素。而是那些最大化互动的系统根本不知道自己在最大化什么。正如决策实验室一位研究者所说,它们本质上是无道德的——他们分不清让你开心的视频和让你愤怒的视频,他们只知道哪一个能让你不去滑动。人类心理学本就倾向于关注威胁和冲突(那是老生常谈的进化故事,并不新鲜)。把一个真正不道德的优化引擎套在这种人类偏见上,运行在数十亿每日用户的尺度上,你就会得到我在候诊室里浏览的那个信息流。
我答应自己不会写一篇只会堆积更多负面情绪的Positron社论(那样会有点夸张,不是吗),所以让我补充一句,这其实让我感觉好一点。
并非所有研究都同意负面内容必胜,句号。一项针对六个不同国家新闻帖文的最新研究发现,负面帖文实际上更少见,且整体互动率低于非负面帖文——直接打破了“愤怒能卖”的简单说法。同一研究者还指出,早期研究显示人类语言本身存在一种普遍的积极偏见,这种偏见在数十种文本语料库和十种不同语言中都一贯存在。所以,并不是说我们都暗地里渴望痛苦。更重要的是,负面内容一旦成功,往往在某些语境——尤其是政治敏感的语境——中传播得更快,尽管正面和中立的内容仍占据我们日常看到和分享的大部分内容。
我认为这个区别很重要。它将问题从“人类总是被最糟糕的事物吸引”重新定义为更狭义、更易解决的话题:平台构建了特定的激励机制——观看时间、分享、评论——恰好在特定时刻、特定话题上不成比例地奖励我们最坏的冲动。这是设计选择,不是自然法则。这意味着原则上它可以是不同的设计选择。
我将在下一篇文章中正式探讨“不同的设计选择”理念,我想从算法本身放大到其底下的商业模式——这是科里·多克托罗给它起的一个非常粗鲁的名字。
现在,下次你的动态让你比打开应用时更紧张时,请知道这不仅仅是你的错,也不完全是你的错。它是一台机器,完全按照它被设计出来的目的去做。至于我们是否希望它继续这样下去,那又是另一个问题了。
文章先以个人信息流体验提出问题,再用分享研究、“道德传染”和 Facebook 2018 年算法调整说明:以观看时长和互动为目标的系统会把高唤醒情绪变成优势。随后作者用六国研究和语言的积极偏见修正“负面内容必胜”的绝对说法,最终把问题落回平台激励:这是一套可以被重新设计的机制,而非不可改变的人性定律。
费曼输出