从号称包治百病的草药广告，到配有明星嗓音的视频，你在网上看到的许多垃圾内容和诈骗广告，很可能都是借助人工智能生成的。

生成式人工智能工具的普及，让自互联网诞生以来就存在的垃圾信息和网络诈骗问题被进一步放大。内容制造者可以利用这类新技术更快、更大规模地生产欺诈内容，而大型科技公司也在同步升级自家的 AI 系统，试图挡住这股洪流。

Emarketer 首席分析师内特·埃利奥特指出：“这不是一个新问题，而是被极度放大的老问题。最大的变化在于，人工智能同时为好人和坏人提供了前所未有的速度和规模。”

美国联邦调查局最新发布的《互联网犯罪报告》显示，去年与人工智能相关的诈骗投诉超过 2.2 万起，造成的损失总额逾 8.93 亿美元。

谷歌在周四公布的年度广告安全报告中承认，诈骗者越来越多地尝试投放复杂、隐蔽的恶意广告，但同时强调，其基于人工智能的防御工具正在发挥关键作用。

谷歌表示，其生成式 AI 技术 Gemini 去年在广告触达用户之前，就拦截了超过 99% 的违规广告。

2025 年，谷歌共阻止或移除超过 83 亿条广告，其中约 6.02 亿条与诈骗高度相关。相比之下，2024 年被阻止或移除的广告总数为 51 亿条。去年约有 2490 万个广告主账户被暂停，其中超过 400 万个与诈骗活动直接相关。

长期以来，谷歌一直是数字广告市场的主导者。根据 Emarketer 的数据，去年谷歌的全球广告净收入超过 2000 亿美元。不过该机构预测，到 2026 年，Meta 的广告收入将有望超过谷歌。

谷歌表示，公司拥有一支由数千人组成的团队，专门负责在全球范围内制定并执行广告政策。谷歌广告隐私与安全副总裁兼总经理 Keerat Sharma 称，生成式 AI 作为谷歌防御体系的一部分，其能力提升显著增强了平台打击问题内容的效果。

Sharma 介绍，Gemini 目前可以分析数千亿条信号——包括账户创建时间、行为特征以及广告投放模式等——从而更好地理解“广告主意图的细微差别”。这使系统能够更准确地判断广告是否合法，或广告主是否可能怀有恶意。对这些细节的把握，也帮助更多真实企业的广告得以正常投放。报告显示，去年误封广告主账户的情况减少了 80%。

他还表示，Gemini 大幅提升了处理速度。过去，分析广告中的各类数字素材可能需要几秒到几分钟甚至更久，如今这一过程可以在毫秒级完成。“这让我们可以在第一时间拦截问题广告。”他说。除了 AI，谷歌还依赖包括广告主验证计划在内的多重防御机制，共同构建保护体系。

谷歌试图阻止和移除的内容类型非常广泛。埃利奥特指出，恶意广告的表现形式仍然是“那些一直存在的垃圾信息和诈骗套路，只不过现在人们可以更快、更大规模地生产它们”。

谷歌发言人表示，公司不会单独统计被阻止或移除的 AI 生成广告数量，因为其执法依据是广告是否违反政策，而不是广告是如何制作的。发言人补充，许多 AI 生成广告来自合法企业，并符合谷歌的相关规定。

接受美联社采访的多位专家认为，随着技术持续演进，人工智能驱动的诈骗与人工智能驱动的防御之间的拉锯战将长期存在。

威斯康星大学麦迪逊分校人工智能中心主任马特·赛茨表示：“我们已经非常接近一个新阶段，未来将更多是 AI 对抗 AI。问题的规模大到不可能仅靠人工来管理。”

© 2026 美联社。版权所有。未经许可，不得发布、广播、改写或转载此材料。