OpenAI 收购 AI 安全公司 Promptfoo:Fortune 500 超 25% 采用的 LLM 测试工具

OpenAI 于 2026 年 3 月 9 日宣布,将收购 AI 安全初创公司 Promptfoo。Promptfoo 成立于 2024 年,主要提供用于大规模语言模型(LLM)应用评估与安全测试的工具。此次收购的具体金额与交易条件尚未对外披露。

专注 LLM 应用评估与安全测试的工具

Promptfoo 的核心业务,是为使用大语言模型的各类应用提供质量评估和安全性验证工具,帮助企业在引入生成式 AI 系统时进行系统化的测试与审计。

其产品功能主要包括:

  • LLM evaluation(大模型回答质量评估):对模型输出的准确性、一致性和可用性进行量化评估;
  • 安全测试:检测提示词注入(prompt injection)、数据泄露等安全风险;
  • 红队测试(Red Teaming):系统性挖掘 AI 系统在安全与合规方面的潜在脆弱点。

Promptfoo 将 CLI 工具和相关库以开源形式提供,开发者可以将其集成到自身的开发流程中,对自家 AI 应用进行自动化测试。随着企业对生成式 AI 的采用不断加速,如何验证模型输出质量与系统安全性,正成为企业部署 AI 时的关键环节,Promptfoo 的工具也因此在市场上快速普及。

根据 Promptfoo 公布的数据,其工具已被超过 35 万名开发者使用,月活跃用户超过 13 万。同时,超过 25% 的《财富》500 强企业团队已经在使用 Promptfoo 的测试工具。

将整合进 OpenAI 的企业级 AI 基础设施

OpenAI 表示,收购完成后,将把 Promptfoo 在评估与安全测试方面的技术能力,整合进 OpenAI 面向企业的 AI 基础设施中。目标是为企业提供更完善的自动化能力,用于在业务场景中部署生成式 AI 时,对模型性能和安全性进行持续评估与验证。

Promptfoo 团队未来将整体加入 OpenAI。不过,Promptfoo 目前已经公开的开源项目将继续维护和对外提供。Promptfoo 在其官方博客中表示,加入 OpenAI 之后,将进一步推动 AI 安全评估与测试技术的发展。

在生成式 AI 大规模进入企业生产环境的背景下,企业不仅关注模型本身的能力,也越来越重视围绕安全性、可靠性与合规性的配套工具和基础设施。此次收购被普遍视为 OpenAI 强化企业级 AI 运维与治理能力、完善安全技术栈的重要一步。


分享:


发表评论

登录后才可评论。 去登录