纽约市健康与医院系统(NYC Health + Hospitals)宣布,将不再续签与数据分析和人工智能公司Palantir的合同。该系统负责人Mitchell Katz博士上周在纽约市议会作证时表示,双方协议将于10月到期。
Katz在听证会上称,该合同主要用于协助追回保险理赔款项,属于短期安排,并设置了“绝对防火墙”,以防止Palantir与美国移民与海关执法局(ICE)共享信息。他表示,该机构“没有发生任何事件”。
由美国友谊服务委员会提供、并由媒体披露的合同及付款文件显示,自2023年11月以来,纽约市健康与医院系统已向Palantir支付近400万美元。合同内容包括允许Palantir审查患者健康记录,以协助医院通过医疗补助等项目申请更多公共福利资金;同时还包含一项条款,规定在获得市政府机构许可的情况下,Palantir可对受保护的健康信息进行“去标识化”,并将其用于“研究以外的目的”。
纽约市健康与医院系统在发给媒体的邮件中表示,未来将转向完全自主开发的系统;合同到期后不会与Palantir共享任何数据,也不会继续使用该公司的应用程序。该机构称,其使用Palantir技术仅限于收入周期优化,用于弥补服务与收费之间的差距、保护关键收入并减少可避免的拒付。
Palantir方面则在声明中表示,公司不拥有也无权使用客户数据;每个客户环境均通过安全控制措施独立保护,客户可对数据访问进行管理和审计,以防止未经授权的访问或滥用。
在纽约市医院系统准备结束合作之际,Palantir在英国的业务扩张也正面临更密集的审查。该公司与英国国家医疗服务体系(NHS)签有一份价值3.3亿英镑的合同,围绕隐私与数据使用的争议持续发酵。报道称,英国卫生官员担心相关争议可能影响该公司数据系统在全国范围的推广。根据报道,截至去年夏天,英国不到一半的卫生当局开始使用Palantir技术,社区与医生群体对此表达担忧。
健康正义慈善机构Medact在3月12日的一份简报中称,Palantir的软件可能助长“数据驱动的国家权力滥用”,并提及类似美国ICE突袭行动的风险。Palantir否认数据会被如此使用,称这将违法且违反合同。

除医疗领域外,Palantir还与英国国防部签订合同,并在英国继续拓展业务。媒体上周披露称,Palantir正试图获取敏感的国家金融监管数据。英国金融行为监管局(FCA)已授予Palantir一份合同,用于调查内部情报数据以协助打击金融犯罪,此举引发部分议员反对,并敦促政府停止该协议。自由民主党于周一呼吁政府调查该合同。工党领袖Keir Starmer驳斥了英国“危险地过度依赖”包括Palantir在内的美国科技公司的说法,但表示更倾向于拥有更多本土能力。
围绕“去标识化”数据的安全性,隐私担忧仍在扩大。Medact对Palantir访问去标识化患者数据的能力提出质疑,并认为NHS的数据隐私保护不足。NHS英格兰方面表示,数据在其国家软件系统——NHS联合数据平台(FDP)中传输时已去标识化;但Medact指出,这类数据仍可能被重新识别。
NHS发言人在邮件声明中表示,FDP供应商“按照公共合同法规任命,必须仅在NHS指令下操作,所有数据访问均由NHS控制,且严格的合同义务保护机密性”。
多名数据隐私专家在接受媒体采访时表示,允许Palantir访问纽约市民去标识化数据并用于“研究以外目的”存在风险,尤其是在该公司具备连接与分析大型数据集能力、并与政府机构合作广泛的背景下。凯斯西储大学法学教授Sharona Hoffman指出,随着人工智能能力发展,“去标识化已不再是过去那样的保障”,重新识别信息变得更容易。加州大学欧文分校法学教授Ari Ezra Waldman则表示,当类似公司或敌对政府收集弱势群体信息时应保持警惕,并特别关注合同中允许将信息用于“研究以外目的”的条款。
纽约市及其他地区的活动人士将医院系统不再续约视为成果。护士、亲巴勒斯坦活动人士以及社会与气候正义团体参与了全国性“清除Palantir”行动,向市政府施压,反对该公司与政府机构、大学和企业签约。美国友谊服务委员会组织者Kenny Morris表示,该组织通过公开记录请求获得相关合同文件,并将其分享给媒体;全国护士工会和抵制、撤资与制裁(BDS)运动也参与了相关行动。
在英国,“No Palantir in our NHS”运动团体希望纽约市的决定能推动其诉求。Medact与英国国际特赦组织在邮件声明中呼吁NHS效仿纽约市做法,终止与Palantir价值3.3亿英镑的合同。Medact企业运动负责人Rhiannon Mihranian Osborne博士称,他们将继续推动NHS英格兰取消该合同。
