在生成式人工智能视频技术快速扩散的背景下,有观点认为,公众对网络内容的信任方式正面临根本性冲击,需要一场面向全球用户的系统性公益教育运动,以适应这一新环境。
生成视频技术被指“抹平现实边界”
文章作者表示,每当在Instagram、TikTok或YouTube上看到由Seedance 2.0制作的短视频时,其第一反应是“我们完蛋了”。在其看来,以英伟达芯片为代表的算力基础正在支撑一种“吞噬现实墙壁”的技术能力,使真实与虚构的边界被显著削弱。
作者提到,字节跳动推出的Seedance 2.0等模型,可以同时处理多达十几个参考文件,包括图像、音轨以及摄像机运动样本,并以极低成本合成高度逼真的视频画面,几乎不再出现传统意义上的“恐怖谷”效应。作者认为,这相当于将“多元宇宙的钥匙”交到了任何拥有Wi‑Fi连接的个人手中。
信息战分析师Tal Hagin在接受欧洲媒体采访时表示,当前局面已经不再是“六个月后会发生什么”的预警阶段,而是“已经无法分辨什么是人工智能生成、什么不是”的现实状态。
社交媒体环境被指放大认知风险
文章指出,社交媒体平台的算法会精准迎合用户的既有偏见和偏好,通过即时满足感强化使用黏性,使用户更倾向于相信与自身立场相符的内容。作者认为,这种机制与生成式视频技术结合后,进一步削弱了公众对信息真伪的基本判断能力。
作者批评称,正是同一批推动相关技术发展的科技企业,一方面通过新模型“撕裂时空结构”,另一方面在此前提出的“内容真实性倡议”上进展有限,尚未兑现为真实视频提供统一认证和标记机制的承诺。
在作者看来,在缺乏有效技术标识和平台治理的情况下,公众需要被系统性地教育,对网络上看到的一切保持高度怀疑或至少持批判性态度。
马杜罗“被捕”虚假图像事件被视为警示
文章援引今年1月发生的一起案例指出,相关风险已经在现实中显现。当时,美国特种部队抓捕尼古拉斯·马杜罗的行动引发广泛关注。作者称,当时Seedance 2.0尚未发布,但社交媒体平台很快被大量高度逼真的人工智能生成图像占据,这些图像展示了委内瑞拉前领导人被拘押或民众庆祝的场景。

据文章描述,这些合成图像在X、TikTok和Instagram上在数小时内获得了数百万次观看,许多用户——包括部分政界人士和科技企业家——将其视为真实信息进行转发。
Tal Hagin指出,在关于马杜罗是否被捕的信息真空出现后,“有人开始上传人工智能生成的马杜罗被美国特种部队拘押的图像,以填补这一空白”。
作者认为,大型新闻事件通常会较快被事实核查机构和媒体纠正,更值得担忧的是日常生活层面的应用场景,例如本地新闻、诈骗、校园欺凌、邻里纠纷、职场矛盾以及个人关系等。一旦虚构内容在这些领域替代现实,相关各方都可能受到伤害。
呼吁仿效“停、趴、滚”的全球公益教育
在上述背景下,作者呼吁发起一场“史上最重要的公益广告”运动,目标是让每一位智能手机用户意识到,自己的眼睛和耳朵在信息环境中可能被“敌对方”利用。
作者将这一构想类比为上世纪美国“坚决说不”禁毒运动和火灾逃生教育中“停、趴、滚”(Stop, Drop, and Roll)的口号,认为当下需要一个同样简明、反复出现、难以忽视的公共信息框架,只不过对象从“身体着火”转变为“对真相的感知被数字内容点燃”。
文章指出,科技行业的自我约束被认为存在不确定性,因此不能单纯依赖企业自律。作者主张,在未来约一年时间内,通过电视商业广告时段、在线视频平台前置广告以及短视频平台滑动页面等高频触点,持续向公众发出“客观现实已不再理所当然”的提醒,推动“激进怀疑主义”成为一种常态化的心理防护机制。
在作者构想中,这种“心理盔甲”应被视为在一个类似大型多人在线角色扮演游戏的环境中生存所必需的基本装备,用以应对人工智能生成内容带来的认知挑战。
结语:对网络内容保持基本怀疑
文章最后指出,在缺乏系统性行动的情况下,个体至少应记住一个原则:不要轻信在网络上看到的一切内容。作者认为,在生成式人工智能技术快速发展的阶段,保持对信息来源和内容真伪的持续质疑,将成为数字时代公民的一项基础能力。
