遭恶意软件入侵的开源项目LiteLLM曾通过Delve取得安全合规认证

本周,一个在开发者社区广泛使用的开源AI项目LiteLLM被曝遭遇恶意软件攻击,引发对其安全合规状况的关注。

LiteLLM由Y Combinator毕业团队开发,为开发者提供访问数百个AI模型的接口,并支持支出管理等功能。根据安全公司Snyk的监测数据,该项目日均下载量约为340万次,在GitHub上拥有约4万个星标和数千个分支。

此次事件中,恶意软件通过LiteLLM所依赖的第三方开源组件潜入。FutureSearch研究科学家Callum McMahon发现并记录了这一恶意软件,并对外披露相关情况。FutureSearch是一家提供用于网络研究的AI代理工具的公司。

据McMahon介绍,该恶意软件会窃取其运行环境中可接触到的各类登录凭证,并利用这些凭证访问更多开源软件包和账户,进一步窃取更多凭证,形成循环扩散。他在下载LiteLLM后,其设备因恶意软件导致关机,这一异常促使其展开调查并最终发现问题。

McMahon及AI研究员Andrej Karpathy均表示,从恶意代码的实现方式来看,其质量较为粗糙,两人认为相关代码可能是随意编写的。LiteLLM开发团队随后持续进行修复工作。相关恶意软件被认为在较短时间内被发现,可能仅在传播数小时后即被识别。

与此同时,LiteLLM的安全合规状况也受到外界关注。截至3月25日,LiteLLM官网仍显示其已通过两项主要安全合规认证:SOC 2和ISO 27001。这些认证是通过一家名为Delve的初创公司协助取得的。

Delve是一家由Y Combinator支持的合规初创企业,宣称利用AI技术提供合规服务。该公司此前曾被指通过生成虚假数据以及使用形式化审计员,误导客户其实际合规情况。Delve方面否认了相关指控。

业内人士指出,此类认证主要用于表明企业已建立相应的安全政策和流程,以降低安全事件发生的概率,但并不意味着可以完全避免恶意软件攻击。尽管SOC 2通常涵盖与软件依赖相关的政策要求,恶意代码仍可能通过依赖项渗透。

工程师Gergely Orosz在社交平台X上转发相关讨论时提到,他起初以为“LiteLLM由Delve保障安全”的说法是玩笑,随后确认这一情况属实。

针对外界对其合规合作方的关注,LiteLLM首席执行官Krrish Dholakia未就使用Delve一事作出回应。他表示,目前团队正专注于应对本次安全事件。

“我们当前的重点是与Mandiant共同进行积极调查。我们承诺在法医审查完成后与开发者社区分享技术经验教训,”Dholakia在接受TechCrunch采访时表示。


分享:


发表评论

登录后才可评论。 去登录