数字仇恨对抗中心（CCDH）估计，Grok相关功能在2025年12月29日至2026年1月8日期间生成约300万张性化图像，其中约2.3万张疑似涉及儿童。

围绕人工智能如何使用创意作品的争议，正被越来越多业内人士类比为音乐行业曾经历的“Napster冲击”。Pinterest首席执行官比尔·雷迪（Bill Ready）近期在相关议题上的表态与产品动作显示，他支持在用户与创作者信任被进一步削弱前，推动对AI数据抓取与合成内容披露建立更明确的边界。 在监管机构、法院与平台围绕AI训练是否构成“合理使用”持续拉锯之际，雷迪试图强调，面向大众的消费级应用可以

在有关同意、网络安全与监管能力的讨论升温之际，我们希望了解年轻人、家长和教师如何看待并应对Grok等生成式AI工具可能被滥用带来的影响。

尽管Grok近期引入部分限制措施，研究人员与法律专家指出，围绕“裸体化”与深度伪造性虐待的工具、社区和传播渠道仍在扩张，监管与平台治理面临挑战。

唐宁街表示，将图像生成与编辑功能仅向付费订阅者开放，并不能解决被用于制作露骨和非法图像的问题，并称这对厌女症与性暴力受害者是一种侮辱。

路透社称，X的AI聊天机器人Grok近期被用户反复用于生成带有性化倾向的图像编辑请求，其中包括针对未成年人的内容。报道指出，在短时间内出现大量相关指令，Grok对部分请求作出响应，引发外界对平台安全机制、法律风险及投资者态度的关注。

阿什莉·斯坦克莱尔表示，部分用户利用X旗下AI工具Grok对其真实照片进行操纵，生成带有性化内容的图像；X称将对非法内容采取删除、封禁并在必要时配合执法。