印度尼西亚和马来西亚近日宣布禁止使用埃隆·马斯克旗下生成式人工智能工具Grok，理由是该工具在社交媒体平台X上被用于生成并传播未经当事人同意的猥亵、性露骨图像，其中部分对象疑似为未成年女孩。

马斯克在收购原Twitter后，将这款生成式人工智能工具整合进更名后的平台X，并多次强调“言论自由”。批评声音则指出，此次事件显示，在缺乏充分防护措施和监管的情况下，生成式人工智能可能带来的风险和伤害。

争议焦点：Grok如何被滥用

据报道，用户在X上的AI工具界面中输入简单提示，即可要求对女孩和女性进行所谓“数字脱衣”处理，其中部分对象疑似未成年人。Grok随后会基于真实照片生成移除衣物的图像，甚至将人物置于带有性暗示的姿势。

CNN报道称，这些由Grok生成的深度伪造图像可能违反多国法律，并在全球范围内引发强烈舆论反应。

多国监管反应

在印尼和马来西亚宣布禁用Grok之后，其他国家监管机构也开始介入。

英国独立在线安全监管机构Ofcom周一宣布启动正式调查，审查Grok生成并在X平台上发布的露骨图像是否违反英国有关保护公民免受非法内容侵害的规定。

Ofcom在一份声明中表示，有关Grok被用于创建和分享非法非自愿亲密图像及儿童性虐待材料的报道“令人深感担忧”。声明指出，平台有义务保护英国公众免受非法内容侵害，监管机构“不会犹豫调查怀疑企业未履行职责的情况，尤其是在存在儿童受害风险时”，并称将把此次调查作为“最高优先事项”推进，同时强调会遵循正当程序。

马斯克及X平台的回应

在外界持续呼吁限制或暂停Grok服务的背景下，X方面尚未全面禁用该工具，也未完全阻止其生成猥亵图像。

部分公开表达不满的对象包括保守派网络人物Ashley St. Clair。报道提到，她自称是马斯克一名子女的母亲之一，并表示自己成为Grok滥用的目标之一。

1月3日，马斯克在X上发文回应称：“任何使用Grok制作非法内容的人将面临与上传非法内容相同的后果。”这一表态被视为将法律责任主要归于用户。该帖文浏览量约为380万次，评论区中有用户要求其“优先处理涉及未成年人的不当图片”，也有用户呼吁马斯克“清理你的网站”，甚至出现了AI生成的马斯克穿比基尼的图片。

据《纽约时报》报道，上周X方面表示，Grok的图像生成功能今后将仅向付费用户开放。