人工智能自三年前以ChatGPT等生成式AI平台的形式走入公众视野以来，其影响已难以估量。一方面，它推动了工作与生活方式的巨大变革；另一方面，也迅速成为家庭暴力和性暴力讨论中的核心议题。

使用AI工具 Grok 对女性照片进行“脱衣”处理的事件，让所谓“技术辅助虐待”问题再次被推到聚光灯下。但这一现象早在AI之前就已存在——蓝牙追踪器、可穿戴设备、智能音箱、智能眼镜以及各类应用程序，都曾被施虐者用来监控、控制、骚扰或跟踪受害者。

随着技术愈发深入日常生活，加上AI的快速迭代，这类滥用行为的规模和严重程度都在上升。然而，各国政府在推动科技公司从设计源头减少滥用风险、以及在出现问题时追究其责任方面，一直进展缓慢。

研究表明，技术被用于虐待的情况正在增加，其造成的伤害也相当严重。但无论是政府还是科技行业，在遏制这类行为上都行动有限——尽管已有大量案例清楚展示了技术如何助长虐待。

案例一：智能眼镜

智能眼镜的普及正在加速。这类设备外观看似普通眼镜，却能实现许多智能手机的功能，也因此引发了越来越多关于秘密拍摄的报道。在部分案例中，这些视频被上传至网络，并配以侮辱性或露骨的性评论。

Meta表示，其智能眼镜在录制时会亮灯提示，并采用防篡改设计，确保指示灯无法被遮挡。但外界认为仍存在被绕过的空间。

在英格兰和威尔士，现行偷窥相关法律主要聚焦于“私人空间”，而骚扰法并未专门针对带有性目的的录制及其在线传播。与此同时，英国信息专员办公室正在调查Meta，因为有指控称其分包商可以访问用户眼镜拍摄的私密视频。在美国，Meta也面临诉讼，被指违反隐私法并存在虚假宣传。Meta回应称高度重视数据保护，通常会对画面中的人脸进行模糊处理，并在英国的服务条款中说明内容可能由人工或自动化方式进行审核。

案例二：蓝牙追踪器

苹果的 AirTags 以及其他用于定位个人物品的追踪设备，同样被发现可被滥用来跟踪和骚扰他人，受害者多为女性。苹果此后对 AirTags 及其他可被追踪的设备进行了更新：当用户身边出现未知追踪设备时，会收到提醒。但对很多人来说，这种防护本应在产品一开始就内置。

在英格兰和威尔士，法律已明确规定，未经他人同意将追踪设备附着在其身上或物品上属于刑事犯罪。尽管已有相关定罪案例，但这类设备操作简便、隐蔽性强，使得秘密监控他人的风险依然存在。

案例三：AI深度伪造与“裸体化”应用

如今的应用程序可以对人物照片进行“裸体化”处理，AI也越来越多地被用来生成未经当事人同意的深度伪造色情内容。2024年1月，xAI 助手 Grok 被曝出多次被用于生成女性及未成年人性化图像，只需输入简单提示即可完成。

在舆论压力下，xAI 宣布对相关功能进行限制。但这些保护措施似乎只在特定司法辖区和部分用户范围内生效。

2024年2月，英国政府宣布将引入类似美国《Take It Down Act》的法律变更，要求英国境内的科技平台在48小时内删除未经同意传播的亲密影像。若不遵守，将面临罚款甚至服务被封锁的风险，相关法律预计在夏季正式生效。

通过一种名为“哈希匹配”的自动化技术，受害者只需举报一次图像，即可在多个平台上同步删除。此后，只要有人尝试再次上传同一图像，系统也会自动拦截删除。在英国，利用“裸体化”应用或AI聊天机器人制作深度伪造色情内容也将被明令禁止。

然而，这些举措仍远远不够。更关键的是在技术设计阶段就嵌入风险缓解机制，从源头减少此类图像被生成的可能性。随着浪漫和性聊天机器人迅速兴起，这一点显得尤为紧迫。

除了深度伪造和“裸体化”，AI还可以在更大规模上助长骚扰行为，例如自动向特定对象发送辱骂信息，或利用伪造图像和虚假身份实施所谓“性勒索”诈骗。

未来的挑战

要真正应对这些问题，必须在技术产品中预先内置强有力的安全防护，而不是事后补救。这才算是把用户安全放在优先位置。但现实中，这些防护往往并不可靠，且通常是在舆论压力下才被仓促添加，而非从产品设计伊始就被认真考虑。

政府在监管层面也明显落后于技术发展。科技公司高速扩张，而法律和执法实践却难以及时跟进。同时，警方和司法系统在处理数字伤害方面往往缺乏必要培训，也不清楚应如何界定和应对这类新型侵害。

即便已有类似英国《在线安全法》这样的监管框架，对放任虐待行为的平台所施加的处罚往往力度有限，执行也存在困难。监管机构 Ofcom 目前只向科技公司发布了自愿性质的指导意见，建议如何更好保护女性和女孩。倡导者呼吁将这些建议转为强制性要求，并设定明确的法律责任和惩罚，使针对女性和女孩的技术辅助虐待在法律上与儿童性虐待和恐怖主义内容受到同等重视。

在AI持续演进的背景下，科技公司必须把“安全优先”的设计原则落到实处。但在政府尚未建立起真正有威慑力的监管和惩罚机制之前，科技行业仍可能从这些伤害中获利，而承担代价的则是每天使用这些平台的普通用户。

本文转载自 The Conversation，依据知识共享许可协议发布。可查阅原文以获取更多信息。