一项最新研究显示，马斯克旗下xAI开发的聊天机器人Grok在短时间内生成了数百万张性化图像，其中包括疑似儿童的内容，引发多国监管调查与全球舆论强烈反弹。

欧洲监管机构已对社交平台X及其整合的聊天机器人Grok启动正式调查，重点审查平台是否未能有效遏制用户生成涉及女性和未成年人的露骨、未经同意的深度伪造图像。此举被视为欧盟在生成式人工智能快速扩张背景下，检验《数字服务法案》（DSA）对超大型在线平台监管力度的一次重要执法行动。 调查范围：聚焦X平台内的Grok服务 欧盟委员会在公告中表示，本次调查依据DSA展开，核心关注X是否对“与非法内容传播相关的

加州总检察长办公室对 xAI 展开调查，并向其发出停止令，要求立即停止利用聊天机器人 Grok 生成未经同意的亲密影像及儿童性虐待材料。

多名美国联邦参议员致信X、Meta、Alphabet、Snap、Reddit和TikTok高管，要求这些公司提供其在打击非自愿性化深度伪造内容方面的政策、执行机制及相关证据，并保留所有相关文件与数据。

xAI旗下聊天机器人Grok被曝可按需生成深度伪造色情及疑似儿童性虐待图像，多国监管机构启动调查，而平台所有者埃隆·马斯克在社交媒体上的公开反应备受外界关注。

2025年，深度伪造在图像、声音及全身表演等方面的合成质量和生成规模均大幅提升，在日常通信和社交媒体环境中与真实内容愈发难以区分，被用于欺骗和诈骗的风险持续上升。

一名新泽西未成年女生起诉深度伪造应用ClothOff的案件，凸显在现有法律框架下，针对平台方追责远比惩处个别用户更为艰难。

尽管Grok近期引入部分限制措施，研究人员与法律专家指出，围绕“裸体化”与深度伪造性虐待的工具、社区和传播渠道仍在扩张，监管与平台治理面临挑战。

从“比基尼换装”到更露骨的合成图像与视频，X平台上围绕Grok的请求在新年期间迅速扩散。多名女性称遭到非自愿性化处理，英国监管机构Ofcom等已介入关注。

雅尼斯·瓦鲁法基斯表示，自己在YouTube上发现多段以其面孔和声音生成的视频，内容涉及地缘政治与委内瑞拉政变等议题。他称曾向平台方投诉并促成部分内容下架，但相关视频随后以不同账号再次出现，并由此引发对平台权力与公共讨论机制的担忧。

美国对委内瑞拉展开军事与执法行动、逮捕总统马杜罗之际，各类与局势相关的深度伪造和人工智能生成内容在网络上快速扩散，技术检测难度被指显著上升。