超过两年来，一款名为 ClothOff 的应用程序在网络上持续流传，被指用于生成深度伪造色情内容，令大量年轻女性深受其害，却始终难以被彻底叫停。该应用已被两大主流应用商店下架，并在多数社交平台遭到封禁，但仍可通过网页及 Telegram 机器人继续访问。

2024 年 10 月，耶鲁法学院旗下一个法律诊所代表受害者在新泽西提起诉讼，请求法院责令彻底关闭 ClothOff，要求其所有者删除全部相关图片并停止运营。然而，锁定并正式送达被告本身即成为案件推进的首要障碍。

诉讼共同首席律师、耶鲁法学院教授约翰·兰福德（John Langford）表示，ClothOff 注册地位于英属维尔京群岛，但原告方相信，该应用实际由一对白俄罗斯兄妹运营，“甚至可能是全球更大网络的一部分”。

该案发生之际，围绕非自愿色情内容的争议在美国持续升温。此前，埃隆·马斯克旗下 xAI 的聊天机器人 Grok 被指生成大量非自愿色情内容，其中包括多名未成年受害者。儿童性虐待材料是互联网上法律管制最为严厉的内容之一，制作、传播或存储均属刑事犯罪，各大云服务提供商也会定期扫描并拦截此类内容。但兰福德所代理的案件显示，即便在法律禁令明确的前提下，现有制度仍缺乏有效手段应对类似 ClothOff 这样的图像生成工具。

根据已公开的诉状，原告为一名来自新泽西的匿名高中女生。诉状称，其同学利用 ClothOff 篡改了她发布在 Instagram 上的照片。原始照片拍摄时，她年仅 14 岁，因此经 AI 修改后的图像在法律上被归类为儿童性虐待影像。尽管相关图片在法律上被视为明显违法，当地执法部门仍拒绝提起公诉，理由是难以从嫌疑人设备中获取足够证据。

诉状写道，学校和执法部门“都未能查明 Jane Doe 及其他女孩的儿童性虐待材料传播范围”。

程序性问题也在拖慢案件进展。诉状于 10 月提交后，兰福德及其同事在随后的数月中一直尝试向被告送达法律文书。鉴于该业务结构跨境且主体隐匿，送达程序被形容为“艰巨任务”。只有在完成送达后，诊所方面才能推动法院开庭审理并争取最终判决。在此期间，法律体系对 ClothOff 受害者几乎无法提供实质性救济。

与之相比，围绕 Grok 的潜在法律行动在形式上似乎更为直接。xAI 的主体身份公开，且一旦原告胜诉，理论上存在可观的赔偿空间。但兰福德指出，Grok 属于通用型工具，这使得在法庭上界定其法律责任更加复杂。

“ClothOff 是专门被设计和宣传为深度伪造色情图像和视频生成器，”兰福德表示，“而当你起诉的是一个用户可以查询各种内容的通用系统时，情况就复杂得多。”

目前，美国已有多项法律涉及深度伪造色情内容，其中包括被称为《下架法案》（Take It Down Act）的相关立法。根据这些规定，个别用户在制作和传播非自愿色情内容时往往已构成明显违法。但要在同一法律框架下追究整个平台的责任，则面临更高门槛。

现行法律通常要求证明平台存在明确的伤害意图，这意味着原告需要提供证据，证明 xAI 知道其工具会被用于制作非自愿色情内容。缺乏此类证据时，xAI 可以援引美国宪法第一修正案所保障的言论自由权，获得相当程度的法律保护。

“就第一修正案而言，儿童性虐待材料显然不受保护，”兰福德指出，“所以当你设计一个系统来创建这类内容时，你显然是在第一修正案保护范围之外。但当你是一个用户可以查询各种内容的通用系统时，情况就不那么明确了。”

在法律策略上，一种思路是尝试证明 xAI 对相关风险“故意视而不见”。有媒体报道称，马斯克曾指示员工放宽 Grok 的安全措施，原告方认为这可能成为论证平台方责任的线索之一。但即便如此，兰福德仍将此类案件形容为“风险更高”。

“理智的人会说，我们多年前就知道这是个问题，”他表示，“你怎么可能没有更严格的控制措施来确保这不会发生？这是一种鲁莽或知情，但案件更复杂。”

围绕第一修正案的争议，也被视为 xAI 在部分海外市场遭遇阻力的主要原因之一。在缺乏类似言论自由强力法律保护的司法辖区，监管机构已采取更为直接的措施。印尼和马来西亚已宣布限制访问 Grok 聊天机器人，英国监管机构也已启动调查，可能导致类似封禁。欧盟委员会、法国、爱尔兰、印度和巴西也已采取初步行动。与之形成对比的是，截至目前，美国尚无监管机构就此发布正式回应。

相关调查的最终结果仍未可知，但近期非自愿色情图像的大量传播，已促使各国监管机构集中讨论一系列尚待厘清的法律问题。

“如果你发布、传播、散布儿童性虐待材料，你就是违反刑事禁令，应承担责任，”兰福德表示，“难题是，X 知道什么？X 做了什么或没做什么？他们现在对此有何应对？”