《卫报》一项分析显示,全球有数以百万计的用户在加密消息应用Telegram上制作并分享由人工智能生成的深度伪造裸照与性行为影像。报道指出,随着相关AI工具更易获取,针对女性的线上性化虐待呈现规模化传播趋势。
《卫报》确认,Telegram上至少存在150个用于分发此类内容的频道。这些频道用户分布在多个国家和地区,包括英国、巴西、中国、尼日利亚、俄罗斯和印度等。部分频道提供付费“裸化”服务:用户上传任意女性照片后,AI可生成该女性的露骨图像或性行为视频;更多频道则集中发布由AI生成的裸照或性行为画面,涉及名人、社交媒体影响者及普通女性,并在频道内交流相关工具的使用方法。
报道提到,Telegram长期存在分发非自愿裸照的频道,但AI工具的普及使得任何人都可能在短时间内成为面向大量用户传播的露骨内容对象。在一个俄语频道中,有帖子以“博主泄露”“名人泄露”为噱头推广AI“裸化”机器人,并使用“一个不懂‘不’字的神经网络”等表述。在一个订阅者接近2.5万的中文频道中,有用户分享以AI制作的“初恋”或“女友的闺蜜”脱衣视频。面向尼日利亚用户的一些频道则在传播深度伪造内容的同时,分发数百张被盗裸照和亲密照片。
Telegram允许用户创建群组或频道向无限联系人广播内容。根据其服务条款,用户不得在“公开可见”的频道和机器人中发布“非法色情内容”,也不得从事“大多数国家认定为非法的活动”。独立分析与数据库服务Telemetr.io的数据审查显示,Telegram已关闭若干“裸化”频道。
Telegram向《卫报》表示,深度伪造色情及其制作工具明确被其服务条款禁止,并称相关内容一经发现会被例行删除。Telegram还表示,平台配备定制AI工具的版主会主动监控公开部分,并接受举报以移除违反条款的内容,包括鼓励制作深度伪造色情内容的行为。Telegram在声明中称,2025年共删除超过952,000条违规内容。
近几周,利用AI制作性化深度伪造并羞辱女性的现象引发更广泛讨论。报道提到,在埃隆·马斯克旗下社交平台X上,生成式AI聊天机器人Grok曾被要求制作数千张未经同意的女性比基尼或极少衣物图片。相关争议促使马斯克的人工智能公司xAI宣布,将停止允许Grok把真人照片编辑成比基尼形象;英国媒体监管机构Ofcom也宣布对X展开调查。

与此同时,仍有大量论坛、网站和应用程序(包括Telegram)使用户能够便捷获取、生成并分享非自愿露骨内容。科技透明项目周二发布报告称,谷歌Play商店和苹果App Store中存在数十款“裸化”应用,总下载量达7.05亿次。苹果发言人表示,公司已移除该项目调查发现的47款应用中的28款;谷歌发言人称,其服务上的“大多数应用”已被暂停,调查仍在进行中。
伦敦战略对话研究所专注于性别暴力的研究员安妮·克拉南表示,Telegram频道构成更广泛互联网生态系统的关键环节,该生态系统致力于制作和传播非自愿亲密图像。她称,这些频道帮助用户规避大型平台的控制,并分享绕过AI模型防护措施的技巧。
报道还提到,去年Meta关闭了一个名为“Mia Moglie”(意为“我的妻子”)的意大利Facebook群组,该群组约32,000名成员分享伴侣及不知情女性的亲密照片。不过,调查通讯Indicator称,Meta未能阻止其平台上AI“裸化”工具广告的传播,自去年12月4日以来至少发现4,431条相关广告,尽管其中部分可能是骗局。Meta发言人表示,公司会删除违反政策的广告。
报道指出,AI工具正在加剧全球针对女性的网络暴力。在包括全球南方大部分地区在内的许多司法管辖区,追究施害者责任的法律途径有限。根据世界银行2024年数据,少于40%的国家有法律保护女性和女孩免受网络骚扰或网络跟踪;联合国估计,仍有18亿女性和女孩缺乏法律保护,免受网络骚扰及其他技术辅助虐待。
尼日利亚TechHer组织助理乌戈奇·伊赫表示,她曾接触到女性因使用借贷应用借款而遭遇“利用AI的不法男性敲诈”的案例,并称相关手段“每天都在变得更具创造性”。报道同时称,数字虐待可能带来严重现实后果,包括心理健康问题、社会孤立和失业。
肯尼亚律师梅西·穆特米代表四名深度伪造受害者,她表示,一些客户因未经同意传播的深度伪造图像而被拒绝就业并遭受学校纪律处分。伊赫也称,其组织处理过因Telegram频道获取的裸照和亲密照片威胁而被家人排斥的投诉,并指出即便施害者事后声称内容为深度伪造,受害者仍难以确认传播范围,名誉损害难以挽回。
