观点:扩展下一代人工智能或放大风险而非提升表现

richlovec 1500_400 (1)
 

作者系 Neem Capital 联合创始人 Mohammed Marikar,本文为其个人观点。


近年来,人工智能的发展路径在很大程度上由“规模”主导:更大的模型、更快的算力、更密集的数据中心被视为性能持续提升的主要驱动力。按照传统技术周期的假设,算力和模型规模的扩张将带来性能改善、成本下降和更广泛的可及性。

作者认为,这一假设正在受到挑战。与传统软件不同,当前主流人工智能的扩展高度资本密集,受到能源和基础设施等物理条件的约束,并且较早出现收益递减迹象。

能源消耗与物理约束凸显

公开数据预计,到 2030 年,全球数据中心的电力需求将超过当前水平的两倍,达到过去通常只与整个工业部门相关的用电规模。仅在美国,数据中心用电需求预计在本十年结束前将增长逾 100%。

支撑这一扩张需要数万亿美元的新投资以及电网容量的显著提升。与此同时,人工智能系统正被快速嵌入法律、金融、合规、交易和风险管理等领域。在这些场景中,错误可能迅速传播,而信誉要求却极高。

在法律领域,英国高等法院已于 2025 年 6 月向律师发出警告,要求立即停止提交引用由人工智能工具生成的伪造判例法的文件。这一事件被视为人工智能扩展对公共信任构成挑战的一个信号。

扩展放大弱点而非解决问题

作者指出,当人工智能系统能够“发明”从未存在的法律先例,而专业人士又在依赖这些输出时,关于规模扩展的讨论已不再只是技术问题,而是公共信任议题。

大型语言模型(LLM)在语言流畅度方面随规模扩展而显著提升,这与语言本身基于模式的特性有关。模型接触到的真实人类写作、摘要和翻译样本越多,其生成文本的自然程度越高。

但在更深层次的智能——尤其是推理能力方面,情况并不相同。作者认为,下一代人工智能需要能够理解因果关系,识别答案何时不确定或不完整,并解释结论形成的过程,而不仅仅是给出自信的回答。单纯增加参数规模或计算量,并不能可靠地带来这类推理能力的同步提升。

在此背景下,人类对机器输出的验证负担不断加重。随着系统在关键领域的部署范围扩大,用户需要投入更多时间和资源来核查结果,而非直接采用。

训练与推理成本持续攀升

在成本方面,训练前沿人工智能模型的费用已大幅上升。有可信的跟踪数据显示,训练成本呈逐年成倍增长趋势,单次训练运行的开支预计很快将超过 10 亿美元。训练只是进入门槛,更大的长期支出来自推理环节。

推理指的是在实际应用中持续运行模型,以满足实时响应、稳定性和结果验证等要求。每一次查询都消耗能源,每一次部署都需要相应的基础设施支撑。随着使用规模扩大,能源消耗和运营成本呈复合增长。

在市场和加密资产相关领域,人工智能系统已被用于监控链上活动、分析情绪、生成智能合约代码、标记可疑交易以及自动化决策。在这些快速变化且竞争激烈的环境中,语言流畅但可靠性不足的系统可能迅速放大错误:错误信号会影响资本流向,虚假解释和幻觉输出则削弱市场参与者的信任。

作者提到,自动反洗钱(AML)系统中的误报就是一例。由人工智能驱动的标记如果不够精准,会导致大量无辜交易被错误识别,浪费时间和资源进行不必要的调查。

推理能力被视为关键短板

在作者看来,如果在不提升推理能力的前提下继续扩展人工智能系统,风险将被放大,尤其是在自动化程度高、信誉要求严苛且两者高度相关的应用场景中。

要使人工智能在经济上可持续、在社会层面具有价值,仅依赖规模扩展已难以为继。当前主流路线强调增加算力和数据量,但底层推理机制变化有限,这一策略的成本不断上升,却未带来与之匹配的安全性改进。

作者提出,替代路径在于架构层面的调整。未来的系统需要不仅能预测“下一个词”,还应能够表示实体之间的关系、应用明确的规则、自行检查推理步骤,并让用户看到结论形成的逻辑链条。

神经符号与认知系统的路径

在这一背景下,认知系统或神经符号系统被视为潜在方向。通过将知识组织为相互关联的概念网络,而非主要依赖大规模模式匹配,这类系统被认为可以在较低的能源和基础设施消耗下,提供更高水平的推理能力。

作者指出,新兴的“认知人工智能”平台展示了结构化推理系统在本地服务器或边缘设备上运行的可能性,使用户能够在本地掌控和管理自身知识,而不是将认知能力完全外包给远程数据中心。

这类系统的设计更为复杂,在开放式、广泛泛化的任务上可能不如大模型,但当推理过程可以被复用,而非每次都通过大规模计算重新推导时,整体成本有望下降,验证工作也更易管理。

去中心化与社区参与

作者强调,人工智能的构建方式与其推理能力同样重要。社区需要能够自行塑造、审计和部署的系统,而不必完全依赖集中式平台所有者的决策和节奏。

部分平台正在探索利用区块链技术,让个人和企业贡献数据、模型和算力资源,以此推动去中心化的人工智能开发。作者认为,这类方法有助于降低集中化带来的风险,并使系统部署更贴近本地需求,而非单一的全球化标准。

行业被指处于拐点

在作者的框架下,当推理可以被复用,而不是通过大规模模式匹配反复“重新发现”时,系统在每次决策中所需的计算量将减少,人类的验证负担也随之减轻。这种变化被视为可能重塑人工智能经济性的因素:实验成本下降,推理过程更可预测,扩展不再完全依赖基础设施的指数级扩张。

作者认为,过去几年以规模驱动的扩展已经发挥了重要作用,同时也清晰暴露了仅依赖规模的边界。当前摆在行业面前的问题,是继续推动模型和基础设施的进一步扩张,还是开始将更多资源投入到提升智能可靠性、而非单纯“做大”的新型架构之中。

作者系 Neem Capital 联合创始人 Mohammed Marikar,文中观点仅代表其个人立场。


分享:


发表评论

登录后才可评论。 去登录