2025年，深度伪造在图像、声音及全身表演等方面的合成质量和生成规模均大幅提升，在日常通信和社交媒体环境中与真实内容愈发难以区分，被用于欺骗和诈骗的风险持续上升。

一名新泽西未成年女生起诉深度伪造应用ClothOff的案件，凸显在现有法律框架下，针对平台方追责远比惩处个别用户更为艰难。

尽管Grok近期引入部分限制措施，研究人员与法律专家指出，围绕“裸体化”与深度伪造性虐待的工具、社区和传播渠道仍在扩张，监管与平台治理面临挑战。

从“比基尼换装”到更露骨的合成图像与视频，X平台上围绕Grok的请求在新年期间迅速扩散。多名女性称遭到非自愿性化处理，英国监管机构Ofcom等已介入关注。

雅尼斯·瓦鲁法基斯表示，自己在YouTube上发现多段以其面孔和声音生成的视频，内容涉及地缘政治与委内瑞拉政变等议题。他称曾向平台方投诉并促成部分内容下架，但相关视频随后以不同账号再次出现，并由此引发对平台权力与公共讨论机制的担忧。

美国对委内瑞拉展开军事与执法行动、逮捕总统马杜罗之际，各类与局势相关的深度伪造和人工智能生成内容在网络上快速扩散，技术检测难度被指显著上升。