依赖人工智能获取准确新闻的后果

richlovec 1500_400 (1)
 

近年来,人工智能在信息获取领域的应用迅速增长。尤其是大型语言模型(LLM)如ChatGPT、Claude和Gemini,正被越来越多地用于新闻的验证和消费。皮尤研究中心的报告显示,五分之一的美国青少年和四分之一的年轻成年人至少使用过这些AI工具获取新闻。

麻省理工媒体实验室最新的开放研究提醒我们,过度依赖AI验证新闻可能带来负面影响。研究发现,参与者在一个月内依赖AI系统核实事实时,虽然在使用AI辅助时识别假新闻的准确率提高了21%,但当AI辅助被移除后,他们独立识别假新闻的能力却下降了15个百分点。

这种现象被称为“AI依赖悖论”,类似于2025年一项研究发现医生使用AI后反而降低了独立诊断癌症的能力。这种“技能退化”或“认知卸载”现象在技术发展史上屡见不鲜,比如计算器削弱了我们的数学能力,GPS影响了我们的方向感。

研究中,约五分之一的参与者被归类为“依赖发展者”,他们逐渐从主动独立转向被动接受AI的指导。一位参与者坦言,虽然AI提醒他们要多方核实新闻,但并未教会他们如何深入分析新闻图片的背景。

此外,研究指出AI模型在处理情绪化的突发新闻时容易出错,比如特朗普遇刺未遂事件和伊朗战争期间的重大新闻误导。训练AI的新闻数据本身也存在不可靠和偏见问题,进一步加剧了误导风险。

研究团队强调,AI的作用应当是“教练”而非“拐杖”。通过采用苏格拉底式提问和“深度探究”等策略,AI能促进用户主动学习和技能提升,尽管这可能会降低即时的处理速度。相比之下,直接给出答案的AI更容易让用户产生依赖。

研究者们计划未来扩大样本范围,涵盖更多地理和文化背景,探索多模态交互方式(如文化适应型数字孪生)是否能更有效提升识别假新闻的能力。他们希望该研究能为教育者提供参考,帮助在课程中合理整合AI工具。

麻省理工媒体艺术与科学教授Pattie Maes指出,必须提高公众对AI作为学习工具局限性的认识。依赖AI“代劳”思考,会阻碍我们解决问题和形成独立观点的能力。研究者Valdemar Danry也强调,随着机器学习和深度学习的快速发展,持续的AI素养教育至关重要,避免将关键认知任务完全交给AI完成。

本研究得到麻省理工媒体实验室联盟、MIT Tata中心技术与设计奖学金以及谷歌人机交互博士奖学金的支持。


分享:


发表评论

登录后才可评论。 去登录