英国媒体监管机构通信管理局(Ofcom)已对埃隆·马斯克旗下社交平台X启动正式调查。调查缘起于外界指称,X平台集成的人工智能工具Grok被用于对女性和儿童图像进行处理,生成带有性化特征的内容,引发公众与政界强烈反弹。
Ofcom表示,关于Grok被用来创建和分享非法的非自愿亲密图像以及儿童性虐待材料(CSAM)并在X上传播的报告“令人深感担忧”。该机构称,平台有义务保护英国用户免受非法内容侵害,尤其在存在儿童受害风险时,将不会犹豫对疑似未履行职责的公司展开调查。Ofcom并称,将把此次调查作为“最高优先事项”推进,同时确保遵循正当程序。
此次调查依据的是2023年《在线安全法》(Online Safety Act,OSA)。根据该法,在线分享亲密图像虐待属于非法行为,同时要求对色情内容实施年龄限制;企业还必须建立系统以防止儿童性虐待材料出现,并在相关内容发布后迅速删除。
英国技术大臣莉兹·肯德尔在下议院表示,X平台上流传的相关内容“令人厌恶”,并称这不仅“侮辱体面社会”,而且“是非法的”。她表示,X无需等待Ofcom调查结束即可采取行动,确保此类非法材料无法在平台传播;若平台不采取行动,Ofcom将获得政府全力支持,行使议会赋予的权力,包括对公司全球合格收入最高10%的罚款。在最严重情况下,Ofcom可申请法院命令,阻止英国用户访问该网站。
肯德尔还表示,部长们将推动一项新法律生效,使制作非自愿亲密图像及其传播成为非法行为。上周,活动人士曾指责政府在执行去年6月通过的新法律方面行动迟缓。
Ofcom称,其已于上周一“紧急”联系X表达关切,并在评估X就其合规措施所作回应后,于“紧急”评估基础上启动正式调查。监管机构将重点审查X是否存在以下潜在违规:是否未评估用户接触非法内容的风险;是否未采取适当措施防止用户观看非法内容(包括亲密图像虐待与CSAM);是否未能迅速删除非法材料;是否未保护用户免受隐私法侵害;是否未评估对儿童可能构成的风险;以及是否未对色情内容实施有效年龄验证。

报道指出,Grok已集成至X平台,其更新使用户能够通过提示将女性和儿童的着装图像修改为穿比基尼并呈现性暗示姿势。
在执法工具方面,Ofcom表示其拥有多种处罚选项;在极端情况下,可通过申请法院采取“业务中断措施”,要求互联网服务提供商在英国屏蔽对相关网站的访问,从而对应用或网站形成事实上的禁令。英国政府周五表示,如Ofcom决定对X实施有效禁令,将给予支持。
Ofcom称,将收集证据以判断是否存在违规;若认定违规,将先发布初步决定,随后作出最终裁定。该机构未披露调查预计耗时。
工党议员、反对AI“裸体化”行为的活动人士杰斯·阿萨托表示,截至周一早晨,她仍在X上遭遇此类针对性内容。她称,有人使用Grok(该应用亦可独立于X使用)及其他AI应用制作露骨且带有贬损意味的图像并发布在X上,原因是她公开反对马斯克的平台。
此外,部分议员呼吁政府退出X以示抗议。肯德尔表示,部长们目前没有退出计划,但称未来仍可能成为选项。她同时指出,英国有1900万人使用X,且超过四分之一的用户表示其将X作为主要新闻来源,因此政府的观点——“往往仅仅是事实”——需要尽可能被听见。
