英国警方人工智能负责人称执法技术难免偏见 将通过新中心降低风险

richlovec 1500_400 (1)
 

英国国家犯罪局(NCA)威胁领导主任兼人工智能国家负责人亚历克斯·默里(Alex Murray)表示,警方在打击犯罪中使用的人工智能工具“不可避免”会带来偏见风险,但相关部门将通过建立新的国家警用人工智能中心,尽力将偏见控制在“可理解且可缓解”的水平。

默里在接受《卫报》采访时称,工党希望在英格兰和威尔士扩大警方对人工智能的使用,警方领导层也认为这有助于执法机构应对不断变化的犯罪威胁。他指出,关键在于识别并尽可能减少偏见,同时训练警员正确理解和处理系统输出,以进一步降低不公平结果出现的可能。

他表示,在实时面部识别或预测性警务等应用场景中,偏见风险尤为突出,需要数据科学家和数据工程师对数据进行清理、对模型进行适当训练并开展测试。“向警务部门发布任何带有未被识别偏见的技术都没有意义,”默里说。

报道提到,警方使用的回溯面部识别技术此前已出现偏见相关案例。该技术由人工智能驱动,通常在犯罪发生后将嫌疑人与图像数据库进行比对。相比之下,实时面部识别因可在现场追踪嫌疑人而更具争议,警务使用相对较少,但同样存在偏见风险。去年12月的一份报告称,警方使用的回溯面部识别系统缺乏足够的保障措施。

负责英格兰和威尔士地方警队的警察与犯罪专员协会(APCC)表示,系统故障早已为人所知,但相关信息并未与受影响社区或主要行业利益相关者共享。APCC法医科学负责人、剑桥郡警察与犯罪专员达里尔·普雷斯顿(Darryl Preston)称,即便仅在有限情况下发现国家数据库的回溯面部识别系统存在内置偏见,也显示需要对这类工具进行独立监督;在技术经过彻底测试以消除偏见之前,不应投入使用。

默里表示,耗资1.15亿英镑的新国家警用人工智能中心将以降低偏见为目标,同时对私营供应商产品进行评估并决定是否适用于警务场景。他称,目前英国各警队往往各自作出采购与使用决定,导致效率不高并造成资源浪费。

在谈及技术应用背景时,默里将警方与利用技术的犯罪分子之间的对抗形容为“军备竞赛”,并称“任何有想象力的人都能使用人工智能”。他举例称,在一起案件中,一名恋童癖者声称显示其虐待儿童的图像为深度伪造,警方随后必须证明图像真实以完成定罪。

默里表示,人工智能的价值不应被简化为“《少数派报告》和预测性警务的陈词滥调”。他称,人工智能在警务中可能从辅助工具到“改变游戏规则”的能力不等,但最终仍需由警务人员对人工智能生成的结果作出决策。

他还表示,人工智能可用于应对社交媒体上传播的虚假图像,以及试图煽动街头暴力的政治煽动者;在追捕行动中,人工智能也可能帮助更快锁定与嫌疑人相关车辆,减少侦探审查大量监控录像所需的时间,并加快对扣押数字设备的搜查以寻找犯罪证据。“过去需要几天、几周甚至几个月的工作,现在可能只需数小时。”

报道援引一宗近期案件称,四名卢顿嫌疑人因攻击和盗窃自动取款机被捕。警方下载嫌疑人手机数据后借助人工智能进行筛查与翻译,并识别与潜在犯罪相关材料,最终在数周内获得认罪答辩。相关数据为罗马尼亚语,人工智能将材料整理为供侦探使用的证据包。

贝德福德郡警察局局长特雷弗·罗登赫斯特(Trevor Rodenhurst)对《卫报》表示,这类工具使警方能够从大量设备中提取证据并处理海量数据,否则难以完成。他称,随着警员在一线使用人工智能并看到效果,态度正在转变,“他们不再怀疑,而是在问什么时候能用上”。


分享:


发表评论

登录后才可评论。 去登录