网络犯罪分子声称使用埃隆·马斯克旗下AI工具Grok制作儿童性化图像。英国儿童安全相关机构警告，生成式AI可能降低制作门槛，令此类材料更易扩散并进入主流平台。

总部位于英国的互联网观察基金会（IWF）表示，其在暗网论坛发现有用户吹嘘使用“Grok Imagine”生成11至13岁女孩的性化及上半身裸露图像。IWF分析师认为，这些图像依据英国法律应被视为儿童性虐待材料（CSAM）。

IWF热线负责人Ngaire Alexander称，负责处理公众举报的团队已确认发现疑似由该工具生成的、涉及11至13岁儿童的犯罪图像。Alexander还表示，IWF所见图像随后被用于另一款AI工具，进一步制作出更极端的材料，即A类内容，包含穿透性性行为。

与此同时，马斯克旗下社交媒体平台X上出现大量通过Grok工具对女性和儿童图像进行“数字脱衣”的内容，引发公众抗议及政界谴责。英国下议院妇女与平等委员会周三宣布将不再使用X进行对外沟通，称鉴于防止针对妇女和女孩的暴力是其关键政策领域，继续使用该平台已不合适。

该决定被视为威斯敏斯特机构首次因Grok被滥用问题而退出X。尽管决定仅涉及委员会账户，但包括工党主席Sarah Owen在内的部分成员已停止使用X。自由民主党议员Christine Jardine也表示离开该平台，并称Grok生成图像问题“是压倒骆驼的最后一根稻草”。

Alexander表示，IWF对“人们能够如此轻易快速地生成逼真儿童性虐待材料”感到担忧，并称像Grok这样的工具可能将儿童性AI图像带入主流，“这是不可接受的”。

马斯克旗下xAI公司拥有Grok和X。报道称，xAI已被联系置评。

英国首相府表示，“所有选项都在考虑之中”，包括抵制X，并称部长们支持英国监管机构Ofcom采取行动。首相官方发言人周三表示，X需要紧急处理此事，政府全力支持Ofcom对未能保护英国用户的公司采取执法行动；Ofcom有权对违法网站处以数十亿英镑罚款，甚至阻止访问。

报道还称，周三X平台上仍不断出现要求Grok修改女性图像“穿比基尼”的请求。尽管欧盟和英国监管机构已发出警告，但尚无证据显示平台已加强防护措施，青少年女孩照片仍被用于生成穿着暴露内衣或摆出性暗示姿势的图像。

此外，部分用户提出更极端的修改要求，包括在比基尼上添加纳粹符号，或将女性照片修改为看似受虐受害者。报道指出，聊天机器人应要求在部分女性图像上添加了烟头烧痕、面部瘀伤和血迹。

英国数据监管机构信息专员办公室（ICO）表示，已联系X和xAI，以了解其为遵守英国数据保护法和保护个人权利所采取的措施，并强调人们有权在个人数据被合法且受尊重地处理的情况下使用社交媒体。

X方面表示，将对包括儿童性虐待材料在内的非法内容采取行动，包括删除内容、永久封禁账户，并在必要时与地方政府和执法部门合作。