研究称“免疫接种”可提升公众识别政治深度伪造能力

richlovec 1500_400 (1)
 

根据一项发表于学术期刊的研究,向公众在接触内容之前提供“免疫接种”式的信息提示或互动训练,能够提升其识别政治深度伪造(deepfake)视频与音频的能力,并在一定程度上促使其更愿意揭穿相关内容。

研究作者表示,随着人工智能技术进步,深度伪造内容在识别、验证与应对方面的难度上升。除推动检测技术发展外,面向潜在受众的预防性措施同样重要。

该研究由爱荷华大学视觉媒体实验室的研究人员开展,基于“免疫接种理论”设计实验。该理论认为,类似医学疫苗的心理“免疫接种”可通过提前解释误导性内容的运作方式,增强个体在遭遇说服性攻击时的抵抗力。

在实验设计中,研究团队将参与者分为三组:一组接受“被动免疫接种”,即阅读传统的基于文本的警示信息,了解深度伪造的威胁及其特征;第二组接受“主动免疫接种”,通过一款互动游戏在挑战中学习识别深度伪造;第三组不接受任何免疫接种。

随后,参与者被随机展示一段深度伪造视频,内容为乔·拜登发表支持堕胎权利的言论,或唐纳德·特朗普发表反对堕胎权利的言论。研究结果显示,两种免疫接种方式均能降低参与者对深度伪造视频的信任度,并提升其警觉性以及进一步了解相关信息的意愿。

研究指出,政治深度伪造可能让政治人物看似说出其从未说过的话,从而损害公众信任并推动虚假信息扩散。文中提及,新罕布什尔州部分选民曾接到一通听起来像乔·拜登的电话,内容为告知他们不要参加该州初选。

研究人员同时提到,既有研究显示,为深度伪造视频添加事实核查标签在政治语境下往往效果有限,原因之一是受众可能依据既有政治立场选择性接受或拒绝事实核查信息;此外,虚假信息传播速度往往快于真实信息,使得事后核查难以完全抵消影响。因此,学界正更多关注在信息接触前提升受众抵御能力的路径。

在相关研究脉络中,过往“免疫接种”研究多依赖被动的媒体素养方式,以文本信息为主;也有研究认为,强调参与的主动方式可能更有效,例如在线游戏被用于帮助人们抵制某些极端主义信息。该研究则将免疫接种方法扩展至多模态错误信息场景,聚焦视频、音频与图像结合的深度伪造内容。研究团队表示,尽管原先预期主动免疫接种对多模态内容更具优势,但实验结果显示,被动与主动方式均能发挥作用。

研究团队表示,免疫接种信息的效果能否长期持续仍不明确,未来将进一步检验其长期影响,并探索该方法在政治领域之外的适用性,包括健康领域等场景。


分享:


发表评论

登录后才可评论。 去登录