在谷歌搜索“流感还是新冠”“胸痛原因”等健康问题时，用户越来越可能先看到由人工智能生成的摘要，而非传统的网页链接列表。随着谷歌将生成式人工智能更深度嵌入搜索服务，围绕医疗信息准确性与呈现方式的争议也在升温。

谷歌首席执行官桑达尔·皮查伊在2024年5月于加利福尼亚州山景城举行的年度大会上介绍了将人工智能融入搜索的计划，并宣布从当月起向美国用户推出“AI概览”（AI Overviews）功能：在传统搜索结果上方提供信息摘要。谷歌称，这是其核心产品25年来最大的一次变化。到2025年7月，该功能已扩展至200多个国家和地区，支持40种语言，每月向约20亿人提供服务。

谷歌推进该功能的背景之一，是在人工智能竞争加剧之际巩固其传统搜索业务。报道提及，谷歌搜索业务每年收入约2000亿美元（1470亿英镑）。皮查伊在去年7月表示，公司正以“惊人的速度”推出产品，并称AI概览“表现良好”。

不过，多名专家指出，AI概览通过生成式人工智能快速生成“对话式”答案，即便附带引用链接，也未必能识别来源内容是否存在错误。在美国上线后的数周内，AI概览在多个领域被用户发现出现不实信息。谷歌搜索负责人伊丽莎白·里德随后在博客中回应称，在“少数情况下”系统会误解网页语言并呈现不准确信息，并表示在网络规模庞大、每日查询量巨大的情况下，难免出现异常与错误。

争议的焦点在于医疗健康场景。英国《卫报》调查称，谷歌AI概览在部分医疗查询中出现虚假或误导性健康信息，可能使用户面临伤害风险，并令谷歌遭遇更严格审视。

《卫报》列举的案例中，一条AI概览被专家形容为“极其危险”：系统错误建议胰腺癌患者避免高脂肪食物。专家指出，这与应推荐的做法相反，可能增加患者死亡风险。另有案例显示，AI概览对关键肝功能检测给出虚假信息，专家称其所述“正常范围”与实际正常范围可能存在巨大差异，可能导致严重肝病患者误以为自身健康，从而不参加后续检查。报道还提到，关于女性癌症检测的AI概览也出现被专家称为“完全错误”的信息，可能导致人们忽视真实症状。

谷歌方面表示，AI概览“可靠”，并称公司在健康类主题的质量上投入巨大，“绝大多数信息准确”。谷歌还表示，经其临床医生评估，引发担忧的AI概览链接来自可信来源，并建议用户寻求专业意见。

不过，在《卫报》报道发布数日内，谷歌删除了部分被指出存在问题的健康查询AI概览。谷歌发言人表示，公司不对搜索中的个别删除发表评论；当AI概览缺乏部分背景时，将进行广泛改进，并在适当情况下依据政策采取行动。

尽管部分内容被移除，外部机构仍表达持续担忧。英国肝脏健康慈善机构英国肝脏信托（British Liver Trust）传播与政策主管瓦妮莎·赫布迪奇表示，更大的问题在于谷歌可能只对单个结果“挑拣式”处理，而未解决健康类AI概览的系统性风险。患者信息论坛主席苏·法灵顿也称，仍有太多AI概览提供不准确信息的例子。

一项新研究进一步引发关注。研究人员分析了德国超过5万条健康相关搜索的回应，发现AI概览最常引用的单一域名是YouTube。研究人员指出，YouTube并非医疗出版机构，而是通用视频平台，任何人都可上传内容，包括认证医生、医院频道，也包括健康影响者、生活教练以及没有医学培训的创作者。

多名专家认为，医疗信息的风险不仅来自内容本身，也与呈现方式有关。巴塞尔大学人工智能、健康与法律研究员汉娜·范科尔夫斯霍滕表示，AI概览让用户不再接触可供比较与批判性评估的多种来源，而是获得一个“自信且具医学权威”的单一AI生成答案。她称，当答案基于并非按医学标准设计的来源（如YouTube视频）时，可能形成一种新的、缺乏监管的在线医学权威。

谷歌则表示，AI概览旨在呈现由顶级网页结果支持的信息，并提供支撑摘要内容的网页链接，用户可通过链接进一步了解相关主题。

爱尔兰国立学院商学与社会副教授妮可·格罗斯指出，将多个来源的健康信息合并为单一文本块可能引发混淆；当AI摘要出现后，用户更不可能继续检索与核对，从而失去比较信息、进行批判性评估的机会。

此外，专家还担心AI概览在证据强弱的区分上存在不足：即便给出某一医疗主题的准确事实，也可能无法区分随机对照试验等强证据与观察性研究等较弱证据，并可能遗漏对证据局限性的提示。癌症慈善机构Eve Appeal首席执行官阿西娜·拉姆尼斯表示，若不同说法被并列呈现，可能让人误以为某些观点比实际更为确立；同时，答案可能随系统演变而变化，导致人们在不同时间搜索得到不同结果。

谷歌回应称，AI概览中的链接是动态的，会根据相关性、帮助性和时效性变化；若系统误解网页内容或遗漏背景，公司会利用这些错误改进系统，并在适当时采取行动。

格罗斯表示，最令人担忧的是，虚假或危险的医疗信息最终可能被用户转化为日常实践、习惯与生活方式，“在医疗领域，这可能关系到生死”。