正在加载文章内容,请稍候。
正在加载文章内容,请稍候。
非自愿深度换脸色情把羞辱和剥削规模化,暴露出技术、匿名平台和法律滞后的共同问题。

精准输入
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可保存笔记、高亮、划线和批注。
这篇 Maclean’s 长文把非自愿 AI 色情从“技术奇观”拉回到具体伤害:一个普通药剂师如何运营全球最大的 deepfake 色情平台之一,数以万计的视频如何羞辱现实中的女性,调查者如何追到他的线下身份,而加拿大法律为何仍无法把这件事清楚地定为犯罪。
文章用 Sarah 的经历开场。她曾因为 YouTube 视频获得关注,最初享受新来的知名度,随后开始收到露骨评论、性暗示,以及自己的照片在聊天室和网站间流转的提醒。2024 年,粉丝把 Reddit、4chan 等论坛链接发给她,她点开后看到“自己”出现在自慰视频里。
那些视频并不是真的她,头部被贴到其他女性身体上,有些合成痕迹还能看出不自然。但恐惧不因此变小。非自愿 deepfake 的伤害不取决于它是否百分之百逼真,而在于它夺走了一个人对自身形象、性边界和公共身份的控制。
所有视频似乎都来自 MrDeepFakes.com。网站上有近 70000 个视频,总观看量超过 20 亿,用户约 650000。大多数片段描绘女性处在露骨、常常带暴力意味的场景中,其中不只有名人,也有普通人。文章由此把问题从单个受害者推向平台化、市场化的性剥削。
调查显示,MrDeepFakes 背后的人并不住在什么隐秘据点,而在加拿大安大略省 Markham。他叫 David Do,三十多岁,是一名药剂师,越南移民之子,毕业于滑铁卢大学药学院,外表害羞、温和、自谦。文章最令人不适的地方,正是作恶者的普通:现实中体面,线上却搭建了大规模非自愿色情基础设施。
Do 的“普通”也揭示了互联网伤害的当代形态。MrDeepFakes 连接了大批男性用户、女性图像、开源工具、论坛文化、加密支付和半公开交易。它不是一个人偶然发布几段恶作剧视频,而是一个可以发现对象、雇佣创作者、交易作品、验证卖家、绕过责任的平台。
更刺痛的是,在加拿大,Do 的行为至少在文章写作时并不明确构成犯罪。技术进步太快,法律仍把“真实未经同意的私密影像”和“虚假的合成影像”分开处理。结果是受害者感到的侵害极其真实,法律却可能说:图像不是现实发生过的事。
文章回溯技术源头:2014 年,Ian Goodfellow 在蒙特利尔一家酒吧讨论如何让计算机生成逼真图像,由此发展出生成对抗网络 GAN。Goodfellow 后来进入 OpenAI、Google、Apple、DeepMind,并与 Yoshua Bengio 合著《Deep Learning》。这些研究本身是机器学习突破,却很快被开源工具和色情市场吸收。
2010 年代末,GitHub 上的开源程序和 FaceApp、Face Swap、DeepFaceLab 等工具让合成图像越来越容易。色情内容成为最早、最强烈的使用场景之一。2018 年 Jordan Peele 用奥巴马 deepfake 警告公众:敌人可以让任何人看起来在任何时候说出任何话。那时效果还不完美,但警钟已经响起。
各国法律反应很慢。美国弗吉尼亚 2019 年通过首个针对露骨非自愿 deepfake 的州法,Texas 等地随后跟进;英国、韩国、中国、法国、丹麦、澳大利亚以及美国联邦层面也开始建立规则。加拿大没有及时提出对应立法,旧有“未经同意传播私密影像”的法律又因为 deepfake 不是“真实影像”而留下缝隙。
Do 早在 2018 年就在约 90000 名 deepfake 爱好者和创作者聚集的 Reddit 论坛活动。其他网站会转载论坛内容,有些复仇色情网站甚至按城镇或大学索引受害者。Do 看到了机会,在 BlackHatWorld 上发帖寻找 deepfake 社群成员,想为无家可归的创作者建立新家。
MrDeepFakes 上线后由两部分构成:一是分享 deepfake 图片和视频的平台,包含“Top Rated Models”等入口,常以 Emma Watson、Sydney Sweeney 等女演员的静态图作为导航;二是让用户提出请求、付费委托创作者的市场。平均每个视频价格为 87.50 美元,部分用户支付高达 1500 美元,平台鼓励别名和加密货币交易。
大多数作品使用 Face Swap 和 DeepFaceLab 等免费开源工具。随便生成粗糙 deepfake 已不难,但要做出更逼真的视频,需要素材、时间、技术调参和社区经验。平台提供了需求、技能、支付和展示的中介,让非自愿侵犯从“个人恶意”变成可重复交易的生态。平台的真正作用,是把羞辱做成供应链。
文章列举多位受害者:北爱尔兰政治人物 Cara Hunter 在祖母 90 岁生日聚会上收到自己被 deepfake 的露骨图片;澳大利亚女性发现亲近男性朋友制作了一个名为“The Destruction of Hannah”的网页,用合成内容系统羞辱她。受害对象既有公众人物,也有私生活中被熟人锁定的普通女性。
宾夕法尼亚大学 Center for Media at Risk 的 Sophie Maddocks 指出,在线性虐待和骚扰会造成抑郁、自杀念头、创伤、社交退缩和职业后果。更残酷的是,几乎没有真正的预防办法。现代人为了工作、交通、社交和公共生活必须拥有线上身份,而 deepfake 攻击正是把这种身份必要性转化成脆弱性。
这也是 Laurie Segall 决定调查 MrDeepFakes 的原因之一。作为前 CNN 科技记者,她担心这些黑暗互联网角落会怎样影响年轻人,尤其是训练一代年轻男性相信女性图像可以被无限占有、拆解和羞辱。她的兴趣从一开始就不只是一个站点,而是被站点聚集起来的男性需求。
2024 年 2 月,Segall 在社交媒体上征集线索。两个月后,一个名为 Jordy Urbanski 的人给她发来信息。他追踪用户名和网络碎片,锁定 David Do,并称 Do 曾回复记者邮件,否认自己拥有 MrDeepFakes,称网站已经卖掉。Urbanski 不信,因为他已经把 Do 的线上生活拼了出来:论坛发帖、车辆讨论、旅行照片、家庭照片、招募创作者痕迹。
Segall 组建小团队继续追踪,从号码、社交媒体、雇主信息和现实地点入手。她飞到多伦多,联系 Do 的妻子、朋友、曾经熟悉的人。朋友眼中的 Do 是“很好的一对夫妻”、善良、难以想象做坏事的人。这条调查线不断制造同一个冲突:社区里的好人形象,与平台背后的系统性伤害并存。
最终,Segall 和制作人在 Do 工作的医院药房外等到他,直接质问他是否在运营 MrDeepFakes。Do 没有回答,快速走进建筑。短暂对峙后,网站一度下线,12 小时后又恢复,并加强安全、关闭新注册。随后加拿大、荷兰、丹麦媒体联盟也完成调查,MrDeepFakes 最终被关闭,Do 的雇主和安省药剂师学院开始调查。
Segall 后来发布了五集调查系列,但她反复强调,目标不是把故事缩小成 David Do 一个坏人。一个网站会倒下,另一个网站、Discord 群、订阅服务或私密交易渠道会接上。MrDeepFakes 的价值在于让人看见需求、工具、支付、匿名、平台迁移和法律滞后怎样连成系统。
如果只把 Do 当作异常个体,就会错过更大的事实:大量普通用户共同维持了非自愿性剥削的市场。这也是为什么文章不断把“普通人”与“普通伤害”并置。作恶者不需要像电影反派,受害者也不需要是名人;只要一个人有可抓取的照片、视频或社交身份,就可能被拖入这个生态。
Do 现在行踪不明,删除了多年累积的线上身份。文章指出一个讽刺:他迅速为自己行使了对数字生活的控制,而受害者正是被他剥夺了这种控制。在加拿大,他可能承受个人和职业后果,但未必承担刑事责任。这形成了最残酷的错位:社会直觉知道这是一种侵犯,法律分类却还没有把它稳定命名为犯罪。部分省份有保护私密影像的民事或地方规则,但是否覆盖合成影像并不稳定。
更大的问题是现实共识本身。未来每张图、每段视频、每段音频都可能被怀疑。Maura Grossman 研究 AI 对法庭系统的影响,她担心的不是某个单独假证据,而是“共同客观现实”会被持续侵蚀:真实证据可能被说成伪造,伪造材料也可能因太逼真而拖垮事实判断。deepfake 的第二层伤害,是让受害者和机构都陷入证明现实的负担。政治、法庭、家庭纠纷、欺诈和舆论都会受影响:斯洛伐克选举前出现候选人承认操纵选举的 deepfake 音频;法庭上可能出现真假难辨的亲密影像或监控材料;加拿大已经有案件中真实证据被错误声称为 AI 修改。
Google 等公司推出 “About this image” 等验证工具,但工具追不上生成能力、平台迁移和需求扩散。文章还用虚假暴雪视频、选举前伪造音频、家庭法庭可能出现的合成影像来说明,同一种技术会同时攻击性边界、司法程序、新闻可信度和政治判断。色情仍可能是主要用途,但它不是唯一风险。文章把这些案例并置,是为了说明深度伪造已经从“图像真假”问题升级成社会信任问题:个人需要证明自己没有做过某事,法院需要判断证据是否可信,公众需要判断新闻视频是否存在,政治系统也要面对临近投票时无法及时澄清的伪造内容。文章的结论不是关闭一个 MrDeepFakes 就结束了,而是非自愿色情 deepfake 会变成打地鼠游戏:需求还在,工具更强,平台会迁移。
技术公司提供检测工具当然必要,但检测不能替代同意原则、平台治理和刑事责任。只要“这不是真的你”还能被用来减轻责任,受害者就会被迫一遍遍解释为什么虚假影像仍能造成真实伤害。
MrDeepFakes 的故事把三件事绑在一起:AI 生成工具的扩散、男性社群对女性身体的商品化需求,以及法律对“虚假但真实伤害”的迟钝。它提醒我们,deepfake 的首批大规模受害者不是抽象的民主制度或证据体系,而是具体女性的身体边界、声誉和安全感。等到技术完全逼真时再修法,伤害已经被平台化、货币化、常态化了。更重要的是,受害者无法靠退出网络来保护自己,因为求职、社交、创作、交通和公共表达都要求人们留下可被抓取的数字痕迹;这让“自我保护”变成一种不现实的要求。文章因此把问题落在制度责任上:不能要求每个女性独自躲避所有图像抓取、模型训练和平台传播,而要让制造、分发、交易和获利的人承担成本,并让受害者有可执行的删除、追责和赔偿路径。
原文先用 Sarah 的遭遇建立受害者视角,再揭示 David Do 的身份和 MrDeepFakes 的规模;随后回溯 GAN 与开源工具如何进入色情生态,说明平台交易机制和受害后果;最后通过 Segall 的调查、加拿大法律缺口和现实危机,把个案扩展成公共治理问题。
费曼输出