马斯克诉讼聚焦OpenAI安全治理与使命偏离指控

richlovec 1500_400 (1)
 

埃隆·马斯克针对OpenAI提起的诉讼正在美国加利福尼亚州奥克兰联邦法院推进,案件焦点之一是OpenAI在发展营利业务的过程中,是否偏离了其“确保人工通用智能(AGI)惠及全人类”的创始使命。

在周四的庭审中,法院听取了前OpenAI员工及董事会成员的证词。证人称,OpenAI近年来加快将人工智能产品推向市场的步伐,对公司早期强调的安全承诺构成了削弱。

前安全负责人称公司“从研究转向产品”

罗茜·坎贝尔(Roshi Campbell)在2021年加入OpenAI,任职于负责人工通用智能准备工作的“AGI准备团队”,并于2024年在该团队被解散后离职。她在庭上表示,自己加入时,公司内部经常讨论AGI及相关安全问题,整体氛围以研究为主,但此后逐步转向以产品为中心。

她指出,除AGI准备团队外,另一个专注安全的“超级对齐团队”也在同一时期被关闭。她认为,在缺乏适当安全措施的情况下开发“超级智能”计算模型,与她当初加入时所理解的组织使命并不一致。

在交叉询问中,坎贝尔承认,为实现构建AGI的目标,OpenAI可能需要大量资金支持。但她重申,关键在于建立并遵守稳健的安全流程,尤其是在技术能力不断增强的背景下。

坎贝尔提到,微软曾在印度通过必应(Bing)搜索引擎部署了基于OpenAI GPT-4模型的一个版本,而该版本在部署前并未经过公司内部“部署安全委员会”(Deployment Safety Board,DSB)的评估。她表示,该模型本身并未构成“巨大风险”,但公司应在此类问题上树立严格先例,以确保安全程序得到可靠执行。

OpenAI方面的律师在庭审中则引导坎贝尔确认,在她个人“推测性意见”中,OpenAI在安全上的做法仍优于xAI。xAI由马斯克创立,并于今年早些时候被SpaceX收购。

GPT-4印度部署与董事会治理危机

证词显示,GPT-4在印度的部署事件曾被视为OpenAI非营利董事会在2023年短暂解雇首席执行官萨姆·奥特曼(Sam Altman)的警示信号之一。

据介绍,该事件发生前后,部分员工对奥特曼的管理风格提出不满,包括时任首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)和时任首席技术官米拉·穆拉蒂(Mira Murati)在内的人员认为,奥特曼在内部处理冲突时存在回避倾向。

时任董事会成员塔莎·麦考利(Tasha McCauley)在庭上表示,她担心奥特曼未能充分向董事会披露关键信息,使得这一具有“非同寻常结构”的治理安排难以有效运作。她还提到,外界广泛报道了奥特曼误导董事会的“模式”。

麦考利举例称,奥特曼曾对另一位董事谎称她打算罢免董事海伦·托纳(Helen Toner),而托纳此前发表的一篇白皮书被视为对OpenAI安全政策的隐含批评。此外,奥特曼在公开推出ChatGPT前未向董事会通报,董事会成员对其未披露潜在利益冲突表示担忧。

“我们是一个非营利董事会,我们的任务是监督我们之下的营利机构,”麦考利在法庭上说。“我们主要的监督方式受到了质疑。我们对所接收信息的可信度完全缺乏信心,无法做出明智决策。”

麦考利还表示,解雇奥特曼的决定作出时,正值公司向员工发出收购要约。随着OpenAI员工开始公开支持奥特曼,以及微软推动恢复原有管理架构,董事会最终改变立场,反对奥特曼的成员选择辞职。

安全承诺与营利结构成诉讼核心

马斯克方面主张,OpenAI从最初的研究机构演变为全球规模最大的私营公司之一,其非营利董事会未能有效制衡营利实体,构成对创始人之间“隐含协议”的破坏。

哥伦比亚法学院前院长大卫·施泽尔(David Schizer)作为马斯克团队聘请的专家证人在庭上表示,OpenAI曾强调其使命的关键部分是安全,并承诺在安全与利润之间优先考虑安全。他认为,这一承诺应体现在严格执行安全规则上,“如果某项内容需要安全审查,就必须进行。关键是流程问题”。

OpenAI方面则指出,公司会发布模型评估结果并公开分享安全框架,但拒绝就当前AGI对齐方法作出进一步评论。现任“准备”负责人迪兰·斯坎迪纳罗(Dylan Scandinaro)于今年2月从Anthropic加入OpenAI。奥特曼当时表示,这一任命让他“今晚能睡得更好”。

治理争议延伸至监管讨论

在庭审中,麦考利还谈及OpenAI内部治理问题对更广泛监管讨论的意义。她表示,OpenAI非营利董事会未能有效影响营利实体的情况,说明仅依靠公司内部治理难以充分保障公共利益。

她认为,这一经验应成为支持加强政府对先进人工智能进行监管的理由之一。“如果所有决策都归结于一位首席执行官,而公共利益受到威胁,那是非常不理想的。”

目前,相关诉讼仍在审理过程中,法院尚未就马斯克要求解散OpenAI的主张作出裁决。


分享:


发表评论

登录后才可评论。 去登录