AI基础设施领域近期出现一类新动向:部分广受开发者使用的开源工具,正逐步演变为估值数亿美元、由风险投资支持的商业公司。最新案例之一是RadixArk——这家新公司由开源项目SGLang背后的核心团队组建,SGLang是一款用于提升AI模型推理速度并降低成本的工具。
据两位知情人士透露,RadixArk近期在Accel领投的一轮融资中估值约为4亿美元。考虑到该公司是在去年8月才宣布成立,这一估值水平被部分业内人士视为颇为显著。TechCrunch报道称,尚未能确认本轮融资的具体金额。
SGLang最初由Databricks联合创始人、加州大学伯克利分校教授Ion Stoica于2023年在其伯克利实验室中发起,作为开源研究项目推出。消息人士称,负责维护SGLang的部分团队成员目前已转入这家新成立的商业公司RadixArk。
知情人士还表示,RadixArk在本轮融资前已获得多位个人投资者的天使投资,其中包括英特尔CEO谭立布(Pat Gelsinger)。
SGLang的关键贡献者之一、前xAI工程师盛颖(Ying Sheng)已离开埃隆·马斯克创立的AI公司xAI,并出任RadixArk联合创始人兼首席执行官。她在上个月通过LinkedIn公开了这一变动。加入xAI之前,盛颖曾在Databricks担任研究科学家。
对于上述融资及公司架构调整,RadixArk方面的盛颖、领投方Accel以及谭立布均未对置评请求作出回应。
从技术方向看,SGLang与RadixArk均聚焦于优化AI推理过程,即在相同硬件条件下提升模型运行速度和效率。推理与模型训练一起,构成AI服务服务器成本的重要组成部分。报道指出,能够提高推理效率的工具,被部分市场参与者视为可带来直接成本节约的基础设施。

RadixArk并非唯一从开源推理项目走向商业化的团队。更早启动的推理优化项目vLLM也完成了类似转型。据《福布斯》上月报道,新成立的vLLM公司曾讨论以约10亿美元估值筹集逾1.6亿美元资金。
三位知情人士向TechCrunch表示,Andreessen Horowitz正主导对vLLM的投资,但最终投资金额尚未确定。Andreessen Horowitz对此拒绝置评。vLLM联合创始人Simon Mo在向TechCrunch的声明中称,关于本轮融资的相关信息“事实不准确”,但未具体说明哪些细节存在出入。
与SGLang类似,vLLM同样源自Ion Stoica在加州大学伯克利分校的实验室。Stoica不仅是该校教授,也是Databricks及多家初创公司的联合创始人。
据CRV普通合伙人Brittany Walker对TechCrunch表示,多家大型科技公司已使用vLLM处理推理工作负载,而SGLang在过去六个月中也显著提升了市场关注度。她同时指出,CRV并未投资上述两家公司。
目前,RadixArk继续以开源形式维护和迭代SGLang这一AI模型引擎。同时,该公司正在开发名为Miles的框架,定位为专门面向强化学习的工具,旨在支持企业训练可随时间持续改进的AI模型。
一位知情人士透露,尽管RadixArk的大部分工具仍以免费形式提供,但公司已经开始对部分托管服务收取费用。
面向开发者提供推理基础设施的初创公司近月来融资活动频繁,被部分市场观察人士视为反映推理层在AI技术栈中持续重要性的一个信号。《华尔街日报》本周二报道,Baseten近期以约50亿美元估值完成3亿美元融资。此前,竞争对手Fireworks AI在去年10月以约40亿美元估值筹集了2.5亿美元资金。
