由埃隆・马斯克领导的 xAI 旗下生成式 AI「Grok」，正因涉嫌被用于生成儿童性虐待内容（CSAM）而在美国面临集体诉讼。根据 2026 年 3 月 16 日（当地时间）提交至美国加利福尼亚北部联邦地区法院圣何塞分院的起诉书，三名青少年原告指控 xAI 在未建立充分安全防护措施的情况下，就向公众提供了图像与视频的生成、编辑功能，导致其技术被用于制作涉及未成年人的性化图像与视频。起诉书以集体诉讼（Class Action）的形式提出，要求损害赔偿、禁止性救济以及陪审团审判等。
三名青少年以匿名身份起诉 代表更多潜在受害者
起诉书中，三名原告分别以 Jane Doe 1、Jane Doe 2、Jane Doe 3 的化名出现。“Jane Doe”是在诉讼中为保护隐私而使用的匿名称呼，本案中原告均为未成年人或在遭受侵害时为未成年人，因此以匿名方式提起诉讼。
被告为 X.AI Corp. 与 X.AI LLC。原告不仅以个人名义起诉，还试图代表一整个受害群体。该群体被界定为：在未成年时期，其真实照片被用作素材，经由 Grok 生成或改造为带有性意味的图像或视频的个人。
安全防护被指严重缺位 “spicy”产品定位遭质疑
原告的核心指控集中在 xAI 的安全设计与运营机制上。起诉书称，与其他主要生成式 AI 公司相比，xAI 在关键安全措施上存在明显不足，例如：
- 对用户输入内容的过滤与拦截
- 对输出图像进行分类与风险识别
- 与已知非法图像数据库进行哈希比对
- 对生成内容添加可追踪的水印
- 对儿童性虐待内容采取“零容忍”政策
- 建立明确的举报、下架与封禁流程
起诉书认为，这些在行业内已较为普遍的“护栏”（guardrails），在 xAI 的系统中要么缺失，要么执行不力。
此外，Grok 的产品定位本身也被列为争议焦点。起诉书指出，Grok 从一开始就以能回答“spicy（刺激、擦边）”问题为卖点，随后又扩展出图像与视频的生成、编辑功能。到 2025 年，xAI 还推出了“Spicy Mode”，并对 NSFW（成人向）内容生成的相关功能进行宣传。
原告认为，这种在设计与营销层面主动靠近性与成人内容的策略，使系统在结构上难以有效阻止针对未成年人的非法图像生成，客观上为违法利用提供了空间。
基于真实照片的性化改造与扩散 多平台被指参与传播
起诉书对具体受害情形也做了较为详细的描述。
据称，Jane Doe 1 得知一名熟人在 Discord 上分享多名未成年女性的性化改造图像与视频，进一步确认其中包括以她本人照片为基础生成的内容。
这些图像与视频据称是以当事人的真实脸部与身体为素材，经 AI 生成或改造而成，逼真程度高到“几乎无法与真实影像区分”。起诉书还指出，类似的侵害已波及其他未成年人，其中包括与学校相关的多名受害者。
原告还主张，这类内容不仅在 Discord 上流传，还出现在 Telegram 以及文件共享服务「Mega」等平台上，被用作交换其他未成年人的图像的“筹码”，进一步加剧了扩散与二次伤害。
起诉书称，Jane Doe 2 的泳装照被改造成裸体图像，执法机构在调查中指出，这些内容疑似由 AI 技术生成或深度改造。Jane Doe 3 也表示，其真实照片被用作素材，生成了带有性意味的改造图像。
原告强调，问题不仅在于图像被生成的那一刻，更在于这些内容在网络上的持续传播与难以彻底删除的特性，使受害者面临长期、反复的伤害。
持续的心理创伤与生活影响 校园环境也受波及
起诉书还描述了三名原告在精神与日常生活层面的影响，包括失眠、焦虑、噩梦等心理症状，以及在学校生活、人际关系和个人名誉方面遭受的损害。
其中，Jane Doe 1 被指已经难以正常参与校园生活，不得不向学校提出学业与出勤方面的特殊照顾请求。她还持续担心自己的图像究竟被多少人看到、是否会在未来被再次传播或被用于跟踪与骚扰，这些不确定性被认为构成了严重而持久的心理压力。
多重法律争点：儿童保护、设计缺陷与不当获利
从法律角度看，本案涉及多个层面的责任认定。起诉书援引了与儿童色情内容的生成、传播与持有相关的法律（包括俗称为 Masha’s Law 的规定），以及《人口贩运受害者保护法》（Trafficking Victims Protection Act），并主张 xAI 违反了加州州法下的多项权利保护与不正当竞争规定。
原告还指控 xAI 在产品设计与运营上存在缺陷与过失，包括未能在技术架构中充分嵌入防止儿童性虐待内容生成的机制，未建立有效的监控与应对流程等。
起诉书特别提到，xAI 将图像与视频生成功能与付费订阅计划绑定，认为这一商业模式可能使公司在客观上从非法内容的生成与使用中获利，从而构成对违法行为的助长。
此外，Grok 的功能可通过外部应用与平台调用，尽管最终呈现界面可能在第三方服务上，但只要底层生成处理依赖 xAI 的基础设施，原告就认为 xAI 无法以“只是技术提供方”为由完全免责。
