美国联邦机构部署近3000个人工智能系统 引发效率与问责双重考验

richlovec 1500_400 (1)
 

美国联邦政府正在快速扩大人工智能(AI)的使用规模。《华盛顿邮报》报道,2024年行政部门共部署了2987个人工智能应用,其中数百个被标注为“高影响力”系统,涉及政府运作的多个关键环节。

多部门大幅扩容 AI 应用

多家联邦机构在过去一年显著增加了人工智能工具的使用数量。

报道援引公开数据称,美国国家航空航天局(NASA)的人工智能应用数量预计将从2024年的18个增至2025年的420个。由罗伯特·F·肯尼迪 Jr.监管的卫生与公共服务部(HHS)目前报告有398个应用,高于一年前的255个。能源部的人工智能使用量被描述为增长了四倍,商务部也出现了类似的跃升。

2025年4月,白宫宣布取消联邦政府采用人工智能的一些制度性障碍,被视为向各机构发出“开绿灯”信号。随后,各部门在不同业务场景中加快了人工智能工具的试用和部署。

研究者警示:或成“权宜之计”而非现代化

在应用数量快速攀升的同时,部分学者对人工智能在政府中的角色提出质疑。

柏林赫尔蒂学院研究员克里斯·施密茨表示,目前“尚不清楚在大多数政府任务中使用人工智能是否必要,或是否优于传统软件”。他指出,美国政府的数字基础设施与许多国家类似,是“深度次优、过时且依赖路径的遗留系统拼凑体”,在此基础上引入人工智能以追求“快速获胜”,往往更像是一种权宜之计,而非可持续的数字现代化路径。

施密茨还提到,围绕偏见、幻觉等技术风险,以及此前与埃隆·马斯克短暂参与的“准官方政府效率部”相关的人工智能改革争议,均加剧了外界对仓促部署的担忧。

前官员:在可控范围内试验或属“恰当时机”

曾在美国政府数字创新领域工作的前官员则认为,当前阶段的试验性使用不必一概视为风险。

Recoding America基金会联合创始人兼董事会主席、奥巴马政府前美国副首席技术官詹妮弗·帕尔卡指出,美国政府“从未真正被带入互联网时代”,这已在公共服务供给上造成“真正的问题”,使政府难以按应有方式回应公众需求。

在她看来,鉴于生成式人工智能仍处早期阶段,政府目前在人工智能上的探索“可能是适当的”。她强调,测试是了解技术在哪些方面能够改善运作、在哪些方面不能的必要手段,但前提是要有“非常清晰有效的反馈循环”,以便在系统面向大量人群或产生重大影响之前发现问题。

帕尔卡认为,当前一些早期项目主要聚焦于缓解官僚瓶颈、加快流程,以提升生产力。如果这一重点得以保持,她认为相关尝试“可能相当有用”。

是否“惠及所有人”仍待数据检验

人工智能系统能否为不同群体带来相对平等的结果,是多位专家关注的核心问题。

加州大学伯克利分校应用技术政策执行研究员丹尼斯·罗斯表示,严格评估至关重要。她指出,政府判断某一工具是否真正服务美国公众的方式,是“收集并分析其表现及不同群体结果的数据”。罗斯曾于2023年至2024年担任白宫首席数据科学家。

罗斯表示,需要通过数据检验某个系统是否真正帮助了其服务对象,还是“有些人被落下或受到伤害”。她举例称,可能出现的情况是,某些工具对数字技能较强的用户表现良好,但对缺乏高速互联网接入或年龄较大的美国人则效果不足。

民主监督与法律基础仍显不足

除技术表现外,人工智能在政府决策中的合法性与问责机制也被认为尚未理清。

施密茨指出,“制定合法政府人工智能使用条件很难,而这项工作大体上尚未完成”。他表示,关于自动化决策的法律基础以及监督结构的民主协商“尚未真正展开”。

美国企业研究所高级研究员菲利普·沃拉赫则提醒,对仓促或结构不良的人工智能部署应保持谨慎。他提到,有报道称交通部计划试验包括谷歌Gemini在内的工具。在他看来,政府应探索人工智能的快速进步如何服务公众,但必须在“不牺牲民主问责”的前提下进行。

沃拉赫建议,应优先确保在政府决策中保留可被追责的人类判断,避免让技术势头或短期政治考量取代这一原则。

“先问流程是否合理”,而非只求“加速”

在谈及整体人工智能战略时,帕尔卡表示,她对部分发展方向持“谨慎乐观”态度,但认为仍需更多细致关注。

她指出,目前尚不确定的是,政府在引入人工智能时,是否真正对既有流程本身提出质疑。在她看来,深思熟虑的人工智能采用,应首先问清某项流程是否应以现有形式存在,而不仅仅是人工智能能否加快其中某一步。

帕尔卡强调,这一区分十分重要,因为在有缺陷的系统上叠加人工智能,可能带来实际伤害。她表示,政府在大规模技术部署方面的记录“参差不齐”,而“我们一直以来在政府中推出技术的方式都伤害了人们,因为我们没有将测试和学习框架作为解决这些问题的根本方法”。

机会与风险并存

多位受访者认为,如果设计和实施得当,人工智能有潜力帮助政府更高效、更公平地提供公共服务。但在现阶段,如何在提升效率、保障公平与维护民主问责之间取得平衡,仍是美国联邦机构在扩展人工智能应用时面临的核心挑战。


分享:


发表评论

登录后才可评论。 去登录