企业技术

Agentic AI 扩展带来内存架构重构需求

Agentic AI 扩展带来内存架构重构需求

随着基础模型参数规模和上下文窗口快速扩张,Agentic AI 的长期记忆开销正超出现有硬件架构承载能力。业界开始引入专用推理上下文存储层,以缓解 GPU 内存与通用存储之间的性能与成本矛盾。

richlovec 1500_400 (1)
 

Arm押注边缘AI:从云端延伸至本地算力

Arm押注边缘AI:从云端延伸至本地算力

Arm高管在一次播客访谈中表示,AI计算正从云端向边缘迁移,Arm希望凭借其低功耗IP和与全球政府、云服务商的合作,在新一阶段AI应用中发挥关键作用。