印度政府已要求埃隆·马斯克旗下社交平台X对其AI聊天机器人Grok进行立即技术和程序调整，原因是该工具被指生成“猥亵”内容，包括利用Grok制作的女性AI变形图像。

印度信息技术部于周五发布命令，要求X对Grok采取纠正措施，限制其生成涉及“裸体、性化、性露骨或其他非法”内容。命令同时要求X在72小时内提交一份行动报告，说明其为防止托管或传播被视为“猥亵、色情、粗俗、不雅、性露骨、恋童癖或其他法律禁止”的内容所采取的具体措施。

据TechCrunch查阅的文件，该命令警告称，如不遵守，可能危及X在印度法律下针对用户生成内容享有的“安全港”豁免地位。

此次行动源于用户在平台上分享的案例：Grok在提示下对个人图像（主要为女性）进行修改，使其看似穿着比基尼。印度议员Priyanka Chaturvedi就此正式向有关部门投诉。另有报道指出，该聊天机器人曾生成涉及未成年人的性化图像。X在周五早些时候承认，这些内容是由于防护措施失效所致，相关图像随后已被删除。

不过，TechCrunch发现，通过Grok生成的使女性看似穿着比基尼的AI变形图像在发布时仍可在X平台上访问。

在上述命令发布数日后，印度信息技术部于周一又发布一份更广泛的咨询意见（同样被TechCrunch审阅），提醒各社交媒体平台，遵守本地关于猥亵和性露骨内容的法律，是其继续享有用户生成内容法律免责权的前提条件。该咨询文件敦促企业强化内部防护机制，并警告如不遵守，可能依据印度信息技术法和刑法被追究法律责任。

命令中写道：“重申，若不遵守上述要求，将被严肃对待，可能导致对贵平台、其责任人员及违反法律的用户采取严格法律后果，且不另行通知。”印度政府表示，不合规可能引发依据印度信息技术法和刑事法规对X采取行动。

作为全球最大的数字市场之一，印度正成为各国政府在多大程度上追究平台对AI生成内容责任的关键试验场。印度监管执行力度的变化，可能对在多个司法辖区运营的全球科技公司产生连锁影响。

该命令发布之际，X仍在法院对印度部分内容监管规则提出挑战，认为联邦政府的下架权力存在越权风险。不过，该平台在大多数封锁指令上仍予以配合执行。与此同时，Grok在X平台上被越来越多地用于实时事实核查和新闻事件评论，使其输出内容较独立AI工具更为显眼，也更具政治敏感性。

截至发稿，X和xAI尚未就印度政府的相关命令作出公开回应。