科技巨头也受够了 AI 垃圾内容

从“虾耶稣”到 7500 万首垃圾音轨

最糟糕的 AI 垃圾内容已经让 Google 搜索充斥着“胶水披萨”的食谱，让 Amazon 商品页出现虚假传记，也让 Facebook 信息流塞满“虾耶稣”图片。

随着聊天机器人和视频生成器不断进步，这堆数字污水已经蔓延到各个科技平台，贬低真正有意义的内容，也污染整个信息生态。现在，硅谷想把垃圾清出去。

Spotify 表示，去年删除了 7500 万个批量上传、重复歌曲和其他“垃圾式”音轨，占其全部曲库的相当一部分。LinkedIn 在 7 月表示，“AI 垃圾是我们所有人的首要任务”，并开发了让用户举报此类内容的按钮。YouTube 母公司 Google 的研究人员则介绍，一项视频服务如何在六个月内清除了 13 万个低质内容频道。

整个互联网正在进行一次“生成式废物排毒”。许多公司被自己 AI 工具促成的垃圾内容淹没；即时通信应用、餐厅点评网站、学术档案和约会服务都在清除或降低 AI 垃圾的权重，而不少公司又要依靠 AI 执行清理。

研究网络趋势的内容创作者、卡内基国际和平基金会研究员艾丹·沃克（Aidan Walker）说，人们已经厌倦 AI 对环境、就业和心理健康的影响，AI 垃圾只是另一处“溃烂的伤口”。用户的不满逐渐积累，舆论气候如今已经明显转向，企业终于不得不面对这些问题。

什么内容才算“AI 垃圾”

生成式 AI 可以制作越来越逼真的图像、音频和视频，但并非所有生成内容都属于垃圾。科技公司主要针对的是那种制作、传播、消费和遗忘都很容易的低档点击诱饵——如同快时尚挤走高级定制，粉红肉泥吞没真正的牛排。

欧洲研究人员去年写道，如果放任不管，网络上的合成内容沼泽可能“排挤人类创造力、腐蚀文化价值并破坏公共讨论的稳定”。

垃圾内容已经普遍到 Merriam-Webster 将 slop 选为 2025 年年度词汇。法国流媒体 Deezer 今年春天称，每天上传到其系统的音轨近半数由 AI 生成，其中许多从未被用户听过。Apple Music 的上传内容中，超过三分之一由 AI 生成。

Instagram 负责人亚当·莫塞里（Adam Mosseri）去年末说，未来追踪“真实媒体”可能很快会比追踪“虚假媒体”更实际。不久前，Instagram 母公司 Meta 才推出一个全 AI 视频流，被许多人嘲讽成垃圾内容展柜。

平台既制造问题，也治理问题

如今试图控制 AI 垃圾的许多公司，也正是让它泛滥的公司。7 月，Meta 承诺支持一项欧洲协议，通过检测、标签和标记，让 AI 生成内容更容易识别。同一个月，它又发布图像生成器，默认把公开 Instagram 账户纳入参考素材。强烈反弹后，Meta 在三天内撤下了这项功能。

俄亥俄大学 AI 专家保罗·肖夫林（Paul Shovlin）说，这是一把双刃剑：AI 垃圾曾经提高不少平台的互动量，但漂浮物和废料多到用户难以找到真正想看的优质内容时，它就变成了负债。

Google 已全面押注 AI，把 Gemini 接入邮件、地图、旅行服务和搜索。AI 在线视频编辑器 Kapwing 去年做的一项实验发现，YouTube 向新用户首次推荐的短视频中，超过 20% 是 AI 垃圾。

Kapwing 估计，最受欢迎的一个 YouTube 垃圾频道每年能赚 425 万美元，后来该频道被暂停参与 YouTube 获利计划。YouTube 首席执行官尼尔·莫汉（Neal Mohan）在博客中写道，“治理 AI 垃圾”是今年的首要任务。

Google 研究人员没有逐条评估视频，而是观察上传速度、重复模板以及其他可能显示协同滥用的模式。他们找出并移除了 5 万个账户群组。不过，一些数字媒体专家担心，这种方法可能越界，也会惩罚那些合法但发布量很高的创作者。

YouTube 回应称，学术研究有助于提升行业理解，却不能代表平台执行政策时使用的多层防线；其中包括保护善意使用 AI 工具的创作者不受影响的稳健措施。

用户控制、自动标签与检测工具

其他公司正采用各种策略，也动员用户帮助识别垃圾。去年 10 月，Pinterest 更新系统，让用户可以限制看到的 AI 生成帖子数量。TikTok 表示正在美国测试一项功能，让用户调高或调低可见 AI 内容的比例；公司还称已经自动标记超过 30 亿条 AI 生成视频。今年前三个月，TikTok 因违反 AI 政策删除了超过 37.7 万条视频。

AI 检测初创公司 Pangram 的数据表明，马斯克旗下 X 平台中，超过 50 个词的帖子有近一半由 AI 创建。X 前产品负责人尼基塔·比尔（Nikita Bier）写道，为应对“大量 AI 垃圾和回复垃圾”，平台今年禁止了那些通过付费鼓励机器人发帖的应用。

Substack 首席执行官克里斯·贝斯特（Chris Best）上月写道，互联网正在变得越来越难辨真假，而“奖励虚假的平台会制造一场向下竞争”。Substack 随后推出由 Pangram 驱动的 AI 检测工具，用来扫描回复、评论和超过 100 个词的帖子，判断内容更可能由人手写还是借助 AI 完成。

一些通讯作者抱怨，工具会把人类写的内容误判为 AI 生成，没有考虑 AI 在创作过程中的潜在角色，还迫使作者用一个不透明的指标为自己的声誉辩护。

这不是一种坏内容，而是系统性问题

今年春天，卡米耶·弗朗索瓦（Camille François）和近二十多位 AI 专家在加州门洛帕克参加“垃圾沙龙”，讨论 AI 垃圾为何难以分类，因而也难以治理。

在哥伦比亚大学研究有害数字技术的弗朗索瓦博士说，各家公司五花八门的策略本身就是症状：人们面对的是信息环境的系统性问题，而不只是一类可以明确定义并删除的坏内容。AI 终究是一种多面向的创造工具；平台如果粗糙处理，用户就会离开，转向别处。

思想框架

文章先以多个平台的荒诞垃圾与大规模清理数字呈现问题，再区分生成式创作与低质点击诱饵；接着揭示平台一边依靠 AI 增长、一边承担治理责任的矛盾，并逐项考察账户模式识别、用户控制、自动标签和文本检测的效果与误伤。结尾把焦点从“删掉坏内容”转向信息生态：定义困难和策略碎片化表明，AI 垃圾是平台激励、生产成本和公共信任共同造成的系统性问题。