OpenAI机器人部门负责硬件工作的凯特琳·卡林诺斯基(Caitlin Kalinowski)近日宣布离开公司。她的离职发生在OpenAI与美国国防部(五角大楼)于今年二月底公布合作协议之后不久。
卡林诺斯基在社交媒体发文表示,她的决定与这项新近达成的协议有关,并称这是基于“原则”的考量。她写道,自己“非常关心机器人团队和我们共同打造的工作”,因此“这不是一个轻松的决定”。她同时指出,人工智能在国家安全领域发挥着重要作用,但“对美国人未经司法监督的监控,以及无人授权的致命自主权,是需要比现有讨论更多审议的界限”。
这份OpenAI与五角大楼的协议,是在国防部与另一家人工智能公司Anthropic的谈判破裂后达成的。此前,Anthropic拒绝允许其产品被用于未经适当监督的大规模国内监控以及自主武器系统。Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)表示,在公司拒绝相关要求后,五角大楼将Anthropic列为“供应链风险”,并威胁将对公司采取惩罚措施,他称将通过法律途径应对。协议破裂后,Anthropic的聊天机器人Claude在苹果App Store免费应用排行榜中升至首位。
围绕国防部相关要求,科技行业内部也出现集体反应。来自OpenAI和谷歌的部分人工智能从业者公开支持Anthropic的立场。一封题为“我们不会被分裂”的在线公开信和请愿书呼吁人工智能企业领导层共同抵制国防部的相关要求。据介绍,这份请愿书目前已获得两家公司近1000名员工签名。请愿书称,“他们试图通过恐惧分裂每家公司,担心对方会妥协”,并表示签署者希望企业领导者“放下分歧,共同拒绝国防部当前要求使用我们的模型进行国内大规模监控和无人监督自主杀人的许可”。

在争议声中,OpenAI方面表示将继续推进与五角大楼的合作。公司发言人在发给《快公司》(Fast Company)的一封电子邮件中称,与国防部的协议“为负责任地使用人工智能于国家安全开辟了可行路径”,同时明确了公司的“红线”:不用于国内监控,也不用于自主武器。发言人表示,公司意识到外界对相关问题“有强烈看法”,并称OpenAI将继续与员工、政府、民间社会及全球社区保持沟通。发言人还表示,公司目前没有立即替代卡林诺斯基的计划。
部分从事人工智能治理的业内人士认为,类似的离职事件可能会继续出现。i-Gentic AI首席执行官、人工智能治理负责人扎赫拉·蒂姆萨(Zahra Timsah)对《快公司》表示,人们“不应对一些人工智能研究人员对军事合作感到不安感到惊讶”。她指出,许多从业者进入这一领域,是因为他们高度关注安全和社会影响,因此“当人工智能进入国防或监控领域时,这对许多业内人士来说成为了个人底线”。
蒂姆萨表示,人工智能在政府场景中的应用预计仍将持续推进。她认为,负责任的路径不是假定技术不会被使用,而是在使用过程中建立“强有力的治理机制”。据她介绍,这类防护措施可能包括明确的访问权限、清晰的授权层级,以及对人工智能系统行为和使用者的全程可追溯性。
卡林诺斯基则表示,自己将继续在机器人和人工智能相关行业发展。她在回应社交媒体上的提问时说,计划“稍作休整”,但仍将专注于“构建负责任的物理人工智能”。