印度尼西亚在此前因涉色情深度伪造内容引发争议并实施全国封禁后,已重新开放对埃隆·马斯克旗下人工智能聊天机器人Grok的访问权限。印尼监管部门表示,相关服务仅可在严格监督与安全机制约束下运行;一旦再次触碰当地法律红线,政府将保留在全国范围内再次封禁的权力。
从全面封禁到“有条件正常化”
印尼通信与数字事务部称,此次恢复属于对服务的“正常化”,前提是平台运营方持续配合监管。根据雅加达官方渠道发布的声明,在收到X公司提交的正式合规承诺后,监管部门启动对Grok AI服务的有条件恢复安排。承诺内容包括改进内容审核机制,并对政府提出的非法内容下架请求作出快速响应。
监管部门同时强调,上述承诺并不意味着监管放松。官方明确表示,如Grok再次被用于助长涉及未成年人的色情内容或深度伪造传播,印尼可再次在全国范围内关闭该服务。
封禁导火索:涉女性与未成年人的合成色情图像
印尼方面指出,此前采取封禁措施并非出于对人工智能技术的抽象担忧,而是源于具体事件。官员称,Grok(集成于X平台)被指与涉及女性和未成年人的色情及非自愿图像传播相关联,包括在X及其他平台流传的深度伪造内容。印尼认为相关内容违反当地关于色情与儿童保护的法律要求,并引发公众关注。
在此背景下,印尼曾对Grok实施全国范围封禁。此次恢复访问权限后,监管机构表示将持续监控色情内容与深度伪造滥用风险,并在发现再次违规时撤销访问权限。
监管要求:强化过滤、完善举报并配合执法
印尼通信与数字事务部表示,Grok在恢复运行后需执行更严格的合规要求,包括加强对色情内容的过滤,尤其是涉及未成年人的内容,并降低生成工具被用于制作深度伪造色情的可能性。监管部门还要求X公司提供清晰的举报渠道,并在发现非法内容时配合执法部门处理。

印尼官员同时重申,若出现进一步违规,封禁措施可能重新实施。此前的全国封禁行动也显示,雅加达在认为用户安全与公共道德受到威胁时,愿意切断对相关服务的访问。
马斯克承诺改进;区域监管趋严
在印尼介入后,埃隆·马斯克公开表示将改进Grok。相关报道提到,印尼允许Grok恢复上线与其团队承诺加强安全保障、确保遵守当地法规有关,包括对可能被滥用于深度伪造的生成特性施加新的控制。
围绕Grok的争议也出现在更广泛的国际监管背景下。报道显示,日本已呼吁X采取更强措施打击人工智能生成的性化图像,包括涉及未成年人的内容。在东南亚,马来西亚和菲律宾也曾在发现滥用风险后,暂时封禁集成于X的该工具。
作为“有条件开放”的监管样本
印尼此次做法被视为在“不完全禁止”与“持续监管”之间寻求平衡的案例:在封禁数日后恢复服务,但将其置于更严格的内容与安全监管框架之下。印尼方面表示,政府将继续观察平台整改与执行情况,并在必要时再次干预。
对于平台运营方而言,印尼监管部门释放的信号是,进入拥有超过2.7亿人口的市场,关键在于持续合规与配合监管要求,而非一次性承诺。
