具代理性人工智能正在冲击研究资助体系

在一项最新分析中,伦敦大学学院(UCL)的两位研究人员指出,当下用于分配数十亿研究经费的资助体系,是在没有具代理性人工智能的时代建立的,如今可能已经不再适应现实。

他们在《自然》杂志发表的评论文章中强调,新一代具代理性的人工智能工具,可能从根本上改变研究资助的运行方式,并据此提出了一系列资助机构应如何调整和应对的建议。

具代理性的人工智能(AI agents)是大型语言模型的一种更高级应用形态,它们不再只是对单一指令做出回应,而是能够在多个步骤中持续追踪并完成目标。它们可以自动搜索互联网、阅读和分析文献、编写并运行代码、调用外部服务等,以实现预设任务。

在科研资助申请场景中,人工智能代理可以基于研究人员公开发表的成果、资助机构的评审标准,以及以往成功获资助项目的案例进行训练,进而生成研究构想,甚至自动撰写完整的申请书。这样一来,看上去质量很高的资助申请可以在极短时间内、几乎不需要额外投入就被大量产出。

研究人员指出,这可能导致资助机构被数量庞大且形式上“高质量”的申请所淹没,而可用经费仍然有限,评审委员会在做出资助决策时将不得不在大量相似度很高的“优秀”申请之间做出近乎任意的选择。

文章第一作者、伦敦大学学院研究、创新与全球合作副校长Geraint Rees教授表示:“资助评审组一直都在做艰难的取舍,但过去他们至少还能声称自己是在区分真正出色的想法和一般想法。具代理性的人工智能正在让这种说法变得越来越站不住脚。资助机构面临的并不是一个遥远的风险——数据已经显示出体系正在承压。好的一面是,我们确实有更好的做法可选,但采取行动的时间窗口正在迅速缩小。”

Rees教授和Wilsdon教授的新研究还发现,近年来资助申请的数量持续攀升。

在对六个国家、12家多学科研究资助机构的数十万份申请进行分析后,这些机构报告称,2022年至2024年间申请数量整体增长了17%,并预计到2025年,相比2022年将累计增长57%。

具体来看,增幅从英国科学院博士后奖学金申请数量的14%,到欧盟玛丽·居里奖学金申请数量的142%不等。虽然造成这一变化的原因可能有多方面,但研究人员认为,人工智能工具的使用很可能是重要推手之一。

共同作者、伦敦大学学院科学、技术、工程与公共政策教授兼“研究之研究院”执行主任James Wilsdon教授指出:“这些资助申请数量的陡增几乎紧跟在ChatGPT发布之后,因此很有理由认为,这部分增长与生成式人工智能的使用密切相关。而这还只是早期大型语言模型带来的影响:能力更强的新一代具代理性系统,预计将在2026年前后进一步推高申请数量。”

他补充说:“与此同时,同行评审者也会开始使用同样的具代理性工具来审阅和打分申请——如果资助机构不尽快采取新策略来管理申请规模和需求,并改进质量评估方式,我们很快就会逼近整个资助与评审体系难以为继的临界点。”

不过,两位研究人员也提醒,不应简单通过限制申请者使用生成式人工智能来应对挑战。一方面,这类限制难以真正执行;另一方面,即便执行到位,也不足以解决当前体系面临的结构性问题。相反,他们呼吁资助机构主动利用具代理性人工智能的能力,借此重塑资助流程,而不是一味压制其使用。

在他们设想的路径中,资助机构可以利用人工智能从多个维度为申请者建立画像,使其比传统评审组更系统、更全面地识别和比较候选人。例如,可以通过比对申请者过往成果记录与申请内容的一致性来筛选对象,或借助预测性启发式方法,识别具有新颖性和潜在高影响力的研究方案,从而对申请进行优先排序和预筛选。

研究人员同时强调,在设计和部署此类系统时必须格外谨慎,避免加剧现有资助体系中已经存在的问题,例如资源过度集中在原本就成功的少数人或机构手中。透明度被视为关键原则,以防止对早期职业研究人员、代表性不足群体、知名度较低或声望不高的机构,以及跨学科或新兴领域产生新的系统性偏见。

他们总结认为,具代理性人工智能既是对现有研究资助体系的一次严峻考验,也是推动体系改革的契机。如何在利用其效率优势的同时,维护公平、多样性与创新,将成为未来几年全球科研资助机构必须正面回应的核心议题。


分享:


发表评论

登录后才可评论。 去登录