高盛首席执行官大卫·所罗门表示,在Anthropic就其最新人工智能模型“Mythos”可能带来的网络安全风险发出警告后,高盛正与该公司保持紧密合作,并对相关能力“高度警觉”。
所罗门在周一的财报电话会议上对分析师称,随着大型语言模型(LLM)快速进步,高盛持续监测人工智能发展,将其作为更广泛网络防护工作的一部分。他表示,在美国政府和模型发布者的支持下,新模型能力不断增强,高盛对此保持高度关注。
Anthropic是Claude系列人工智能工具的开发者。该公司上周表示,其最新模型Mythos带来了前所未有的风险,原因在于该模型可能具备揭示信息技术系统漏洞的能力。Anthropic在上周三发布的博客文章中称,人工智能模型的编码能力已达到能够“超越除最顶尖人类之外的所有人”去发现并利用软件漏洞的水平,并警告其对经济、公共安全和国家安全的后果可能“非常严重”。
所罗门周一表示,高盛“了解Mythos及其能力”,并称高盛“拥有该模型”。他补充说,高盛正与Anthropic及各类安全供应商紧密合作,尽可能利用前沿能力,并将继续把相关议题作为重要关注点。同时,高盛正专注于提升网络与基础设施韧性,并加快相关投资。
在此背景下,美国财政部长斯科特·贝森特上周召集所罗门及其他美国大型银行负责人前往华盛顿,讨论Mythos模型。报道指出,会议重点面向所谓系统重要性银行的负责人,监管机构认为此类银行若出现重大运营中断或潜在倒闭,可能危及金融稳定。

英国方面,英国政府的人工智能安全研究所(AISI)周一警告称,Mythos在网络威胁能力方面较以往模型有“显著提升”。AISI表示,Mythos能够执行需要多步骤操作的攻击,并可在无人干预情况下发现信息技术系统弱点;这类任务通常需要人类专业人员耗时数天完成。
AISI称,Mythos是首个成功完成其设计的32步网络攻击模拟的人工智能模型,在10次尝试中成功3次。AISI同时表示,Mythos似乎能够自主攻击小型、弱防御的信息技术系统,但由于测试环境缺乏防御工具等安全特性,尚无法判断其是否能够攻击防御严密的系统。
AISI在博客文章中还指出,未来更先进的人工智能模型可能在Mythos基础上进一步提升能力,因此“现在对网络防御的投资至关重要”。
另据报道,英国监管机构计划在未来几周与英国银行高管及政府官员讨论Mythos带来的风险。由首席执行官以及财政部、英格兰银行、金融行为监管局和国家网络安全中心官员组成的跨市场运营韧性小组(CMorg)预计将在两周内召开会议。负责CMorg沟通的英格兰银行拒绝置评。