路透社近日报道称，社交平台X的AI聊天机器人Grok被用户反复用于生成或编辑带有性化倾向的图像内容，涉及女性及未成年人。

据路透社观察，上周五在10分钟内出现102次请求，要求Grok将人物编辑为穿比基尼的形象，其中多数指向年轻女性。路透社称，Grok至少对其中21次请求作出了响应。

报道指出，生成式AI功能在图像与视频创作上的扩展，使平台面临如何防止被用于制造伤害性内容的治理挑战。业内通常会通过“红队测试”、受控环境测试以及逐步上线等方式，持续完善安全措施，以降低合规风险并回应投资者对品牌与法律责任的担忧。

报道同时提到，在多个司法管辖区（包括英国），传播非自愿的AI深度伪造图像属于违法行为；涉及制作或传播儿童性化图像的行为也可能面临刑事追责。

路透社还援引Grok在一次互动中的回应称，当用户质问其为何将瑞典副首相埃巴·布什（Ebba Busch）的形象改为穿比基尼时，Grok将其解释为“讽刺”，并称相关内容为AI生成插图而非真实照片的深度伪造。报道指出，这一说法与事实判断存在偏差，并引发对其安全参数与事实校验机制是否充分的质疑。

在平台治理方面，报道提及，马斯克于1月3日表示，“任何使用Grok制作非法内容的人将面临与上传非法内容相同的后果”。同时，路透社称，2023年至2024年间，X大幅削减信任与安全团队人员，并更依赖用户举报机制。

报道还提到，若英国通信管理局（Ofcom）或欧盟委员会在调查中认定X的政策与执行不足，X可能面临监管处罚。与此同时，路透社指出，其他AI工具（如ChatGPT与Meta AI）对非自愿深度伪造色情内容设有明确禁令并执行，这也使外界进一步关注Grok在相关限制与执行上的差异。

路透社称，随着xAI在AI开发上的投入增加，平台在内容合规与治理上的选择不仅涉及法律风险，也可能影响成本与投资者态度。xAI的可接受使用政策写明，将向美国国家失踪与受剥削儿童中心（NCMEC）报告涉嫌儿童性虐待材料，但报道认为，外界仍将关注其在实际执行中的力度与透明度。