随着对埃隆·马斯克旗下人工智能聊天机器人Grok在未经当事人同意情况下生成性露骨内容的担忧升温，多国政府和监管机构正采取或考虑限制措施。争议焦点集中在名为“Grok Imagine”的功能，该功能允许用户生成由AI合成的图像和视频，并包含可生成成人内容的“辣味模式”。

印尼和马来西亚已率先采取行动。马来西亚官员周日宣布封锁对Grok的访问，理由是该工具“反复被滥用……生成猥亵、性露骨、不雅、极具冒犯性且未经同意的操纵图像”，并指称“X公司反复未能防止此类内容”。

印尼则在前一日作出类似决定，暂停Grok服务。印尼通信与数字部长Meutya Hafid在声明中表示，政府将非自愿性深度伪造视为对人权、尊严及数字空间公民安全的严重侵犯。

除印尼和马来西亚外，英国、印度和法国等国也在评估是否采取进一步措施。英国方面已就Grok生成露骨内容展开调查，结果可能导致该服务在当地被禁用。英国通信服务监管机构Ofcom在声明中称，关于Grok被用于创建和分享非法、未经同意的亲密图像及儿童性虐待材料的报告“令人极为担忧”。

在Ofcom启动调查的消息公布后，马斯克在社交媒体上回应称，英国政府“只是想压制言论自由”。

据报道，《Fast Company》就印尼和马来西亚的封锁举措以及其他国家可能采取的禁令向xAI寻求评论，xAI的自动回复内容为“传统媒体谎言”。

除英国外，欧盟、巴西和印度官员也呼吁对Grok生成的深度伪造内容展开调查，相关程序可能最终导致禁令。与xAI存在合同关系的美国政府目前在这一问题上相对保持沉默。

在上周的一场新闻发布会上，欧盟委员会发言人Thomas Regnier表示，委员会“非常认真地关注此事”，并指出：“这不是‘辣味’。这是非法的。这令人震惊。这令人厌恶。我们就是这样看待的，这在欧洲没有立足之地。”

马斯克及其社交平台X公司目前仍在应对欧盟此前依据《数字服务法案》（DSA）作出的1.3亿美元罚款决定。该罚款主要涉及平台付费认证被指具有欺骗性，以及公司广告存储库透明度不足等问题。

在民间层面，非营利组织AI Forensics发布的一份报告，对2023年12月25日至2024年1月1日期间Grok生成的2万张图像进行了分析。报告称，其中约2%的图像描绘了看似18岁或以下的人物，包括30张穿着比基尼或透明服装的年轻或非常年轻女性或女孩的图像。分析还指出，Grok曾生成纳粹和“伊斯兰国”（ISIS）宣传材料。

针对外界对其工具被用于制作涉及未成年人的性内容的质疑，Grok背后的平台方X公司已作出公开回应。X安全团队在一则帖子中表示，公司会对平台上的非法内容采取行动，包括儿童性虐待材料（CSAM），措施包括删除相关内容、永久封禁账户，并在必要时与当地政府和执法机构合作。该团队强调，任何使用或引导Grok制作非法内容的行为，将面临与上传非法内容相同的后果。

公司同时宣布，将把图像生成和编辑功能的使用权限限制在付费订阅用户范围内。不过，从目前多国监管机构和政府的表态来看，这一调整可能难以消除部分国家在相关图像仍可被生成情况下对Grok访问实施封锁的意向。