VAST Data与NVIDIA推出面向智能代理时代的AI推理架构
VAST Data宣布其VAST AI操作系统可原生运行在NVIDIA BlueField-4 DPU上,并支持NVIDIA推理上下文内存存储平台部署,以共享的Pod级KV缓存提升长上下文、多轮及多智能体推理的确定性访问与效率。
VAST Data宣布其VAST AI操作系统可原生运行在NVIDIA BlueField-4 DPU上,并支持NVIDIA推理上下文内存存储平台部署,以共享的Pod级KV缓存提升长上下文、多轮及多智能体推理的确定性访问与效率。