OpenAI机器人硬件负责人在公司与五角大楼达成协议后离职

OpenAI机器人部门负责硬件工作的凯特琳·卡林诺斯基(Caitlin Kalinowski)近日宣布离职。她的决定是在OpenAI与美国国防部(五角大楼)达成合作协议后不久作出的,并于2月底对外公布。

卡林诺斯基在社交媒体上表示,离职是基于对这项新协议的“原则”考量。她写道,自己“非常关心机器人团队和我们共同打造的工作,这不是一个轻松的决定”。她同时指出,人工智能在国家安全领域具有重要作用,但“未经司法监督的美国人监控和无人授权的致命自主权,是需要更多审议的界限”。

据报道,OpenAI与五角大楼的协议是在国防部与另一家人工智能公司Anthropic的类似合作谈判破裂后达成的。Anthropic此前拒绝允许其产品在缺乏适当监督的情况下被用于大规模国内监控和自主武器系统。此后,五角大楼将Anthropic列为“供应链风险”,并威胁将对该公司采取惩罚措施。Anthropic首席执行官达里奥·阿莫代(Dario Amodei)表示,将通过法律途径应对相关举措。在与五角大楼的协议告吹后,Anthropic的聊天机器人Claude在苹果App Store免费应用排行榜中升至首位。

围绕国防部相关合作的争议在业内引发更广泛反应。来自OpenAI和谷歌的部分人工智能从业者公开支持Anthropic拒绝与五角大楼达成协议的决定。一封题为“我们不会被分裂”的在线公开信和请愿书呼吁人工智能企业领导层抵制国防部的相关要求。据称,这份请愿书已获得两家公司近1000名员工签名。请愿书指出,“他们试图通过恐惧分裂每家公司,担心对方会妥协”,并呼吁企业领导者“放下分歧,共同拒绝国防部当前要求许可使用我们的模型进行国内大规模监控和无人监督杀人的要求”。

在外界质疑声之下,OpenAI方面表示将继续推进与五角大楼的协议,并称协议中包含额外保障措施。公司发言人在发给《快公司》(Fast Company)的一封电子邮件中表示,OpenAI认为,这项协议“为负责任地使用人工智能于国家安全开辟了可行路径,同时明确了我们的红线:不进行国内监控,不使用自主武器”。

该发言人还表示,公司“认识到人们对这些问题有强烈看法”,并称OpenAI将继续与员工、政府、民间社会及全球社区就相关议题进行讨论。发言人补充,目前公司尚未制定接替卡林诺斯基职位的人选安排。

部分业内人士认为,类似的人员流动可能会继续出现。人工智能治理领域从业者、i-Gentic AI首席执行官扎赫拉·蒂姆萨(Zahra Timsah)对《快公司》表示,人们“不应对一些人工智能研究人员对军事合作感到不安感到惊讶”,尤其是因为“许多人进入该领域是出于对安全和社会影响的深切关心。因此,当人工智能进入国防或监控领域时,这对许多业内人士来说成为了个人底线”。

蒂姆萨同时表示,人工智能在政府场景中的应用预计仍将持续推进。她认为,负责任的路径不是假定技术不会被使用,而是建立强有力的治理机制来规范其使用。这些防护措施可能包括“明确的访问权限、清晰的授权层级,以及对人工智能系统行为和使用者的全程可追溯性”。

卡林诺斯基则表示,未来仍将继续在机器人和人工智能相关行业工作。她在回应社交媒体上的提问时称,自己会“稍作休整”,但仍“非常专注于构建负责任的物理人工智能”。


分享:


发表评论

登录后才可评论。 去登录