OpenAI与美国国防部达成使用其AI模型协议 Altman称纳入“技术保障”条款

richlovec 1500_400 (1)
 

OpenAI首席执行官Sam Altman周五晚间表示,公司已与美国国防部达成协议,允许五角大楼在其机密网络中使用OpenAI的人工智能模型,并在协议中加入与技术使用边界相关的“安全原则”和技术保障条款。

据介绍,这份新协议是在美国国防部与OpenAI竞争对手Anthropic之间谈判破裂的背景下达成的。此前,五角大楼推动包括Anthropic在内的人工智能公司允许其模型用于“所有合法目的”,而Anthropic方面则试图设定限制,反对其技术被用于大规模国内监控以及完全自主武器系统。

Anthropic首席执行官Dario Amodei周四在一份长篇声明中表示,公司“从未对特定军事行动提出异议,也未试图以临时方式限制我们技术的使用”,但他同时指出,在“少数情况下,人工智能可能破坏而非维护民主价值观”。

本周,超过60名OpenAI员工以及约300名谷歌员工联名发表公开信,呼吁各自雇主在相关问题上支持Anthropic的立场。

在Anthropic与五角大楼未能达成协议后,前总统唐纳德·特朗普在社交媒体上批评“Anthropic的左翼疯子”,并表示已指示联邦机构在六个月的逐步淘汰期后停止使用Anthropic的产品。国防部长Pete Hegseth随后在另一则帖子中称,Anthropic试图“掌握对美国军方行动决策的否决权”,并表示已将Anthropic列为供应链风险,要求“自即日起,任何与美国军方有业务往来的承包商、供应商或合作伙伴不得与Anthropic进行任何商业活动”。

Anthropic周五回应称,公司“尚未收到战争部或白宫关于谈判状态的直接沟通”,但表示将“在法庭上挑战任何供应链风险的指定”。

在这一系列争议之中,Altman在社交平台X上发文称,OpenAI与美国国防部的新合同中纳入了围绕上述争议焦点的保护性条款。他表示,OpenAI“最重要的两个安全原则”是禁止国内大规模监控,以及确保人类对使用武力负责,“包括对自主武器系统的责任”。Altman称,美国国防部已同意这些原则,并将其反映在法律和政策中,OpenAI也将其写入双方协议。

Altman还表示,OpenAI“将构建技术保障,确保我们的模型按预期运行,战争部也希望如此”,公司将派遣工程师与五角大楼合作,“协助我们的模型并确保其安全”。他同时称,OpenAI正在请求美国国防部向所有人工智能公司提供相同条款,并认为“所有公司都应愿意接受”。Altman表示,希望当前局势能够从“法律和政府行动”转向“合理的协议”。

据《财富》杂志记者Sharon Goldman报道,Altman在一次全体员工会议上向OpenAI员工表示,政府将允许公司建立自己的“安全堆栈”以防止技术被滥用,“如果模型拒绝执行某项任务,政府也不会强迫OpenAI让模型执行该任务”。

Altman在X平台发布上述言论前不久,有消息称美国和以色列政府已开始轰炸伊朗,前总统特朗普则在此背景下呼吁推翻伊朗政府。


分享:


发表评论

登录后才可评论。 去登录