Anthropic与五角大楼争执升级 科技公司在AI军事应用上的立场变化再受关注

richlovec 1500_400 (1)
 

Anthropic与美国国防部(五角大楼)围绕人工智能在战争与安全领域的使用边界发生对峙,引发科技行业再次审视其产品在军事场景中的应用方式及可接受范围。在特朗普执政期间硅谷政治立场右移、国防合同规模扩大等背景下,科技公司与军方合作的姿态与十年前相比出现明显变化。

据报道,三天前,Anthropic与特朗普政府官员之间的争执进一步升级。该公司已起诉美国国防部,称政府将其列入政府工作“黑名单”的决定侵犯了其第一修正案权利。双方僵局已持续数月,争议核心在于Anthropic试图限制其人工智能模型被用于国内大规模监控或完全自主的致命武器。

Anthropic表示,若按国防部要求允许其技术用于“任何合法用途”,将违背公司创立时确立的安全原则,并可能带来技术被滥用的风险。该公司将相关限制视为伦理边界,并由此引出行业其他参与者是否愿意跨越类似边界的问题。

尽管Anthropic拒绝移除安全防护措施以及五角大楼随后采取的反制行动,凸显了外界长期以来对人工智能用于冲突的担忧,但这场争端也反映出大型科技公司与军方关系的目标已发生变化。Hugging Face人工智能研究员兼首席伦理科学家玛格丽特·米切尔表示,如果有人试图在此类争议中寻找“好人和坏人”,在当前情境下很难以是否支持战争来简单划分。

从员工抗议到国防合同

报道指出,大型科技公司近期更积极参与国防合作,原因包括与特朗普政府的靠拢、政府推动以人工智能改革联邦机构并释放将产品纳入政府与军事行动的信号,以及由此可能带来的多年期收入机会。此外,对中国技术进步的担忧与国际国防开支上升,也被认为改变了行业氛围。

不过在不久之前,与军方合作开发潜在有害技术仍被不少科技公司员工视为“红线”。2018年,数千名谷歌员工抗议公司参与国防部“Project Maven”项目,该项目用于分析无人机影像。公开信中,超过3000名员工写道“我们认为谷歌不应参与战争业务”。随后谷歌决定不再续签该合同,并发布政策,禁止开发可能“导致或直接促成人员伤害”的技术。

此后,谷歌加强了对员工行动主义的管控,并删除了2018年政策中禁止开发武器技术的相关表述,同时签署多份允许军方使用其产品的合同。2024年,谷歌因员工抗议其与以色列政府的军事联系而解雇50多名员工。首席执行官桑达尔·皮查伊在解雇后向员工发出备忘录称,谷歌是一家商业机构,不是“为争论颠覆性问题或政治辩论的场所”。

本周,谷歌宣布将提供其Gemini人工智能,为军方提供创建人工智能代理的平台,用于非机密项目。

OpenAI方面,报道提到该公司在2024年前全面禁止军方访问其模型,但目前其首席产品官兼任美国军方“执行创新团”的中校。去年,OpenAI与谷歌、Anthropic及xAI签署了一份最高达2亿美元的合同,将相关技术整合进军事系统。在国防部长皮特·赫格塞斯宣布Anthropic为供应链风险的同一天,OpenAI与国防部达成协议,允许其技术用于机密军事系统。

在行业其他领域,防务技术公司Anduril与监控技术制造商Palantir长期将与国防部合作作为业务核心。报道提到,Palantir早在2010年代初就与军事情报部门合作,绘制阿富汗埋设爆炸物的地图。其首席执行官亚历克斯·卡普去年出版新书,主张科技行业与美国军方及人工智能更紧密整合,并在书中批评2018年参与抗议的谷歌员工。

在谷歌2019年放弃Project Maven合同后,Palantir接手该项目。《华盛顿邮报》报道称,Maven目前也是军方人员访问Anthropic的Claude的机密系统名称。

Anthropic的“红线”与合作空间

尽管Anthropic在与五角大楼的对峙中获得部分公众支持,其联合创始人兼首席执行官达里奥·阿莫代强调,公司与政府在许多方面目标一致。他上周四在博客中写道,“Anthropic与战争部的共同点远多于分歧”。

白宫则指责Anthropic是“激进左翼、觉醒公司”。不过报道指出,阿莫代对人工智能在冲突中使用及其滥用的担忧,并非基于反战立场。今年1月,他曾发文警告人工智能可能带来的风险,包括制造致命生物武器以及中国恶意使用该技术的威胁,同时主张企业应向民主政府和军队提供最先进的人工智能,以对抗专制对手。

报道还称,阿莫代更关注技术可靠性,以及少数“手握按钮”的人员垄断控制自主无人机军队的风险,而非人工智能是否会让战争更容易发生。他也提到人工智能作为大规模监控工具的潜力,主张防止滥用,同时表示允许将该技术用于国家防御,“除非那些用途会让我们变得更像我们的专制对手”。

在坚持限制条件的同时,阿莫代多次表示希望Anthropic继续与国防部合作。诉讼文件显示,Anthropic愿意在一定范围内为军方调整产品。Anthropic在加州的诉讼中称,“Anthropic对军方使用Claude的限制不及对民用客户的限制”,并表示其Claude Gov较少拒绝在民用环境中被禁止的请求,例如处理机密文件、军事行动或威胁分析。

报道提到,政府据称已在对伊朗的轰炸行动中使用Claude进行目标选择和分析,Anthropic未对此提出异议。阿莫代上周在公司网站的博客中表示,他不认为公司在军方作战决策中扮演角色,并称公司支持美国前线人员,致力于为其提供技术支持。

阿莫代上周对CBS新闻表示,Anthropic已告知国防部“接受所有使用案例”,并称国防部提出的使用场景中“98%或99%”公司都同意,但有两个例外。


分享:


发表评论

登录后才可评论。 去登录