根据一安全监管机构披露的数据，去年在网络上发现的AI生成儿童性虐待材料（CSAM）数量增加了14%，且多数视频呈现最极端类型的内容。

总部位于英国的互联网观察基金会（Internet Watch Foundation，IWF）表示，2025年其共识别并核实8,029件逼真的AI制作CSAM图像和视频。IWF补充称，其中视频数量较此前增长了260多倍。

IWF称，在其核实的3,443个视频中，65%被归类为A类，即英国法律框架下最严重等级的材料。该机构同时指出，非AI视频中对应比例为43%，并称这一差异显示相关技术被用于制作更暴力的内容。

IWF首席执行官凯瑞·史密斯（Kerry Smith）在声明中表示，技术进步不应以牺牲儿童安全与福祉为代价。她称，尽管AI在积极用途上有诸多贡献，但其能力被用于制作此类材料“令人震惊”，并强调这些内容“极具危险性”。

一名IWF分析师表示，恋童癖者在暗网的对话显示，CSAM使用者对技术创新表现出“欣喜若狂”。相关讨论集中在AI系统输出日益逼真，以及随着技术进步，能够为视频添加音频，或操纵犯罪者所掌握的真实儿童图像等能力。

IWF运营一条热线，负责在全球范围内监控儿童性虐待内容。该机构称，犯罪者还在讨论使用“代理”系统的可能性，即可自主执行任务的系统。

在监管层面，英国政府已赋予科技公司和儿童保护机构测试AI工具是否能够生成CSAM的权力。部长们去年表示，此举旨在阻止虐待行为发生。

根据相关调整，政府将授权指定的AI公司和儿童安全组织检查生成式人工智能模型的底层技术，包括ChatGPT以及谷歌Veo 3等聊天机器人和图像生成器，以确认其具备防止生成此类材料的安全措施。

史密斯表示，儿童、受害者与幸存者无法承受社会的自满，新技术必须达到最高标准，并称在某些情况下“生命攸关”。

IWF指出，随着系统熟练度与可用性提升，其核实的CSAM数量出现显著上升，尤其是视频数量增长明显。

此外，IWF发布的一项民调显示，八成英国成年人希望政府立法，确保AI系统在开发阶段将安全置于优先位置，并“具备防止未来伤害的能力”。英国政府去年还宣布，禁止拥有、制作或传播旨在生成儿童性虐待材料的AI模型。