谷歌删除部分AI健康摘要,因被指提供误导性血液检测信息

richlovec 1500_400 (1)
 

谷歌已删除部分与健康相关的“AI概览”(AI Overviews)内容。此前,《卫报》调查发现,谷歌在若干血液检测查询中展示的人工智能摘要存在错误或缺乏关键上下文,可能对用户健康判断造成风险。

谷歌表示,“AI概览”利用生成式人工智能为用户提供某一主题或问题的关键信息快照,并称该功能“有帮助”且“可靠”。但《卫报》指出,部分出现在搜索结果顶部的摘要给出了不准确的健康信息,可能使用户面临健康风险。

在一则被专家形容为“危险”且“令人担忧”的案例中,谷歌就关键肝功能检测提供了虚假信息。专家认为,这可能导致患有严重肝病的人误以为自身健康状况正常,从而延误后续医疗跟进。

《卫报》称,当用户输入“肝脏血液检测的正常范围是多少”时,谷歌返回了多组数字,但几乎没有提供必要的解释,也未考虑患者国籍、性别、种族或年龄等因素。专家表示,AI概览所列“正常范围”可能与实际标准存在显著差异,进而误导病情严重者将异常结果视为正常。

调查发布后,谷歌已移除针对“肝脏血液检测的正常范围是多少”和“肝功能检测的正常范围是多少”两项搜索词的AI概览。谷歌发言人表示,公司不会就搜索中的个别删除事项置评;在AI概览缺失某些上下文的情况下,谷歌正致力于进行广泛改进,并在适当时依据政策采取行动。

英国肝脏信托基金会(British Liver Trust)传播与政策主管Vanessa Hebditch对相关摘要被删除表示欢迎,称“这是极好的消息”。不过,她同时指出,如果用户以不同方式提问,仍可能出现具有误导性的AI概览,并对其他由AI生成的健康信息可能不准确、令人困惑表示担忧。

《卫报》称,在“lft参考范围”或“lft测试参考范围”等略有变化的查询下,AI概览仍会出现。Hebditch表示,肝功能测试(LFT)是多项血液检测的集合,理解结果及后续措施“非常复杂”,并非简单对照一组数字即可判断。她还指出,AI概览以加粗形式列出检测项目,可能使读者忽视这些数字未必对应其自身检测的正确数值;此外,摘要也未能提醒用户,即便结果显示正常,部分严重肝病患者仍可能需要进一步医疗护理。

报道提到,谷歌在全球搜索引擎市场份额约为91%,并表示正在审查《卫报》提供的新案例。Hebditch认为,更大的问题在于谷歌可能只是对单一搜索结果进行调整,而未解决健康领域AI概览的系统性风险。

患者信息论坛(Patient Information Forum)主席Sue Farrington同样对删除举措表示欢迎,但称这只是维护谷歌健康相关搜索结果信任的第一步。她表示,仍存在“太多”AI概览提供不准确信息的例子;在全球数百万成年人难以获得可信健康信息的情况下,谷歌引导用户访问权威、经过研究的健康信息以及可信医疗机构服务尤为重要。

《卫报》还称,AI概览在其他此前已向谷歌指出的案例中仍会出现,包括涉及癌症和心理健康的信息摘要,专家形容其“完全错误”且“极其危险”。对于为何未删除这些摘要,谷歌回应称相关内容链接至知名且信誉良好的来源,并在重要时提醒用户寻求专家建议。谷歌发言人表示,公司内部临床团队审查了所提供的信息,认为在许多情况下信息并不不准确,且有高质量网站支持。

科技网站Futurism高级编辑Victor Tangermann表示,《卫报》的调查结果显示谷歌仍需努力,确保其AI工具不传播危险的健康错误信息。谷歌则称,AI概览仅在公司对回答质量“高度自信”的查询中显示,并持续衡量与审查各类信息摘要的质量。

《搜索引擎杂志》(Search Engine Journal)高级撰稿人Matt Southern在文章中指出,AI概览显示在排名结果之上,因此在健康话题上出现错误的影响更大。


分享:


发表评论

登录后才可评论。 去登录