埃塞克斯警方在一项独立研究提出潜在偏见风险后,已暂停使用实时面部识别(LFR)技术。英国信息专员办公室(ICO)披露了这一决定,并表示该机构正监管至少13个警察部门部署的相关技术。
ICO称,埃塞克斯警方是在“发现潜在的准确性和偏见风险”后暂停LFR部署,并提醒其他使用该技术的警察部门应采取相应缓解措施。LFR系统可安装在固定地点,也可部署在警车上。今年1月,英国内政大臣沙巴娜·马哈茂德宣布,LFR警车数量将增加五倍,英格兰和威尔士的每个警察部门将配备50辆。
据披露,埃塞克斯警方委托剑桥大学学者开展测试研究:188名演员从切姆斯福德一辆标记警车所部署的摄像头前经过。研究结果于上周公布,显示系统对观察名单人员的正确识别率约为一半,错误识别情况“极为罕见”。不过,研究同时发现系统更可能正确识别男性而非女性,并且“在统计学上显著更可能正确识别黑人参与者,而非其他族群参与者”。
报告指出,这一结果“引发了关于公平性的问题,需要持续监控”。报告作者之一、犯罪学家马特·布兰德博士对《卫报》和Liberty Investigates表示,如果一名嫌疑人经过埃塞克斯设置的面部识别摄像头,黑人被识别为警方观察名单对象的可能性更高,他认为这值得进一步调查。
报道指出,此次讨论的重点不同于公众更常关注的“误将无辜者识别为嫌疑人”的问题。上个月有报道称,警方使用回溯面部扫描软件将一名南亚裔男子误认,导致一名从未去过该城市、居住在100英里外的男子被错误逮捕,并被指控入室盗窃。

对于此次研究中出现的差异,可能原因之一被认为是算法对黑人面孔的过度训练。有专家称,可通过调整系统设置进行纠正。政府国家物理实验室对同一技术的另一项研究则发现,黑人男性最可能被系统正确匹配、白人男性最不可能,但该效应在统计学上并不显著。
英国内政部表示,2024年1月至2025年9月期间,伦敦部署的LFR摄像头促成逮捕1300多人,涉及强奸、家庭暴力、入室盗窃和重伤害等犯罪。与此同时,反对面部识别技术的团体称,最新研究结果印证了关于LFR可能存在偏见的警告。
“大不列颠观察组织”研究与调查负责人杰克·赫福特表示,全国警方必须重视相关问题,未经充分测试、仍属实验性、准确性不足或可能存在偏见的AI监控技术不应出现在街头。
截至发稿,埃塞克斯警方尚未就此置评。
