英国技术大臣Liz Kendall表示,由埃隆·马斯克旗下Grok生成并在网上传播的女性及未成年人裸露伪造图像“令人震惊”,并称此类内容“在体面社会中不可接受”。在大量亲密深度伪造图像扩散后,她呼吁马斯克的社交媒体平台X“紧急处理此事”,并表示支持英国监管机构Ofcom“采取其认为必要的执法行动”。
Kendall称,政府不会容许“贬低和侮辱性图像”泛滥,相关内容主要针对女性和女孩。她表示,英国不会容忍“令人作呕和虐待性的材料”在网络上无休止传播,并呼吁各方共同努力将其根除。
Kendall的表态之际,有声音警告称,《网络安全法》需要尽快加强。该法旨在应对网络危害并保护儿童,但报道提到,特朗普政府曾施压要求削弱该法。
童年性虐待幸存者Jessaline Caine批评政府反应“软弱无力”。她对媒体表示,周二上午该聊天机器人仍会按请求将她三岁时的照片修改为穿细绳比基尼的形象;而她向ChatGPT和Gemini提出相同请求则遭到拒绝。Caine称,她所见图像“极其恶心和侮辱性”,并认为相关人工智能工具需要更严格监管。
Ofcom周一表示,已注意到关于Grok生成裸露图像及儿童性化图像的“严重关切”。该机构称已联系X和xAI,以了解其为履行保护英国用户的法律义务所采取的措施,并将根据公司回应评估是否需要启动调查。
随着舆论压力上升,无党派贵族议员、网络儿童安全倡议者Beeban Kidron敦促政府“展现骨气”,并呼吁重新评估《网络安全法》的执行体系,使其“更迅速、更有力度”。她在谈及X时表示,如果任何其他消费产品造成类似程度的伤害,“早就被召回”。她还称,Ofcom需要在“几天内而非几年内”采取行动,并呼吁用户远离那些未认真防止对儿童、女性和民主造成伤害的产品。
根据现行权限,Ofcom可对科技平台处以最高1800万英镑或其全球合格收入10%的罚款(以较高者为准)。报道提到,迄今最大罚款发生在上个月:一家未执行强制年龄检查的色情网站被罚款100万英镑。

报道还称,上个月英国部长们承诺出台新规,禁止所谓“裸体化”工具,即利用生成式人工智能在未经许可情况下将真实人物图像转变为虚假裸露照片和视频,但该禁令何时实施仍不明确。
致力于防止儿童虐待的慈善机构Lucy Faithfull基金会创新负责人Sarah Smith呼吁X立即禁用Grok的图像编辑功能,“直到建立起强有力的防护措施,防止此类事件再次发生”。
X未回应有关Kendall言论的置评请求。该平台周一表示,其会对X上的非法内容采取行动,包括儿童性虐待材料,措施包括删除内容、永久封禁账户,并在必要时与地方政府和执法部门合作。
安全软件公司ESET全球网络安全顾问Jake Moore批评称,X等平台与英国监管机构之间在出现问题时存在“网球式推诿”,并认为政府反应“令人担忧地缓慢”。他表示,随着人工智能越来越多地允许将伪造图像制作成长视频,对人们生活的影响只会更严重。
报道指出,目前制作或传播未经同意的亲密图像或儿童性虐待材料(包括利用人工智能制作的性深度伪造图像)已属非法。报道同时提到,穿比基尼的伪造图像可能被视为亲密图像,因为法律定义包括裸露的乳房、臀部或生殖器,或仅被内衣覆盖的部位;猥亵图像则包括描绘儿童以色情姿势但无性行为的图像。
Kidron表示,人工智能生成的儿童比基尼图片可能不构成儿童性虐待材料,但其蔑视儿童的隐私与自主权。她称,不应出现“孩子如果不愿被性化和羞辱,就不能发布自己赢得比赛照片”的情况。
