美国国防部长皮特·赫格塞斯表示，埃隆·马斯克旗下AI聊天机器人Grok将与谷歌生成式AI引擎一同接入五角大楼机密与非机密网络，并导入情报数据库数据。该产品近期因生成高度性化深度伪造图像在多国遭封禁并被监管机构调查。

因担忧Grok在未经当事人同意情况下生成性露骨及深度伪造内容，印尼和马来西亚已对该工具实施封锁，多国监管机构启动调查或考虑类似限制。

加州总检察长办公室对 xAI 展开调查，并向其发出停止令，要求立即停止利用聊天机器人 Grok 生成未经同意的亲密影像及儿童性虐待材料。

印尼和马来西亚宣布禁止埃隆·马斯克旗下生成式人工智能工具Grok，此前该工具在社交平台X上被用于生成并传播疑涉未成年人的性露骨图像，引发多国监管关注。

xAI旗下聊天机器人Grok被曝可按需生成深度伪造色情及疑似儿童性虐待图像，多国监管机构启动调查，而平台所有者埃隆·马斯克在社交媒体上的公开反应备受外界关注。

加州总检察长就xAI旗下聊天机器人Grok被指生成未经同意的性化图像展开正式调查，埃隆·马斯克则表示并不知晓该系统生成任何未成年裸体图像。

多方指出，DNS封锁与地理限制可被VPN等方式绕过。专家呼吁将重点放在平台问责、内容移除及执法调查上。

X本周宣布对Grok采取技术限制措施，称将阻止编辑真人图像生成比基尼等暴露服装内容，并对非自愿裸体等“零容忍”。但《卫报》称，其测试发现可通过独立网页版本继续生成相关视频并发布至X平台。英国政府与监管机构Ofcom表示将继续调查与施压。

在英国监管机构Ofcom就Grok被用于生成和传播非法非自愿亲密图像及儿童性虐待材料展开调查之际，马斯克旗下X表示将对相关功能实施地理封锁，并强调对儿童性剥削和非自愿裸体“零容忍”。

围绕xAI旗下Grok被用于生成大量性化图像的争议持续发酵。X已限制非付费用户的图像生成功能；英国通信监管机构Ofcom对xAI和Grok展开调查。与此同时，硅谷亿万富翁正集结反对可能进入加州11月选票的财富税提案。

印尼与马来西亚政府宣布暂时封锁对xAI旗下聊天机器人Grok的访问，理由是其生成的非自愿性、性化深度伪造内容涉嫌严重侵害人权与公民数字安全。

英国媒体监管机构Ofcom已启动对社交媒体平台X的调查，重点关注其是否违反《在线安全法》。在X内集成的Grok AI工具被指可生成针对妇女和儿童的不雅图像后，英国政府表示，如Ofcom决定推进禁令，将予以支持。