高盛CEO称对Anthropic“Mythos”模型能力保持高度警觉,并加强网络安全合作

高盛首席执行官David Solomon表示,在人工智能模型快速演进的背景下,高盛对Anthropic最新人工智能模型Mythos的能力“高度警觉”,并在该公司就潜在网络安全风险发出提示后,与其保持“紧密合作”。

Solomon在周一的财报电话会议上对分析师称,大型语言模型(LLM)正在迅速进步,高盛正密切关注这些新模型在美国政府和模型发布者支持下不断增强的能力,并将其纳入更广泛的网络防护工作之中,以降低遭受黑客攻击的风险。

Anthropic是Claude系列人工智能工具的开发者。该公司上周表示,其最新模型Mythos带来了前所未有的风险,原因在于该模型具备揭示IT系统漏洞的能力。Anthropic在上周三发布的博客文章中称,人工智能模型的编码能力已达到可超越除最顶尖人类之外的大多数人、发现并利用软件漏洞的水平,其后果可能对经济、公共安全和国家安全造成严重影响。

Solomon周一表示,高盛了解Mythos及其能力,并称高盛“拥有该模型”。他补充称,高盛正与Anthropic及所有安全供应商密切合作,尽可能利用前沿能力,并将继续把相关议题作为重要关注点。同时,高盛正专注于提升网络与基础设施韧性,作为持续投资的一部分,并在加快投入步伐。

在此之前,美国财政部长Scott Bessent上周召集Solomon及其他美国大型银行负责人前往华盛顿,就Mythos模型进行讨论。会议聚焦于监管机构认定的系统重要性银行负责人,监管方认为此类银行若出现重大运营中断或潜在倒闭,将对金融稳定构成威胁。

英国政府的人工智能安全研究所(AISI)周一也就Mythos发出警告,称该模型在网络威胁方面较以往模型有“显著提升”。AISI表示,Mythos能够执行需要多步骤操作的攻击,并可在无人干预的情况下发现IT系统弱点;通常此类任务需要专业人员耗时数天完成。AISI称,Mythos是首个成功完成其设计的32步网络攻击模拟的人工智能模型,在10次尝试中成功3次。

AISI同时指出,Mythos似乎能够自主攻击小型、弱防御的IT系统,但由于测试缺乏安全防护工具等安全特性,尚无法确定其是否能够攻击防御严密的系统。AISI在博客文章结尾警告称,未来更先进的人工智能模型可能在Mythos基础上进一步提升,因此“现在对网络防御的投资至关重要”。

英国监管机构计划在未来几周与英国银行高管及政府官员讨论Mythos带来的风险。由首席执行官以及英国财政部、英格兰银行、金融行为监管局和国家网络安全中心官员组成的跨市场运营韧性小组(CMorg)预计将在两周内召开会议。负责CMorg沟通工作的英格兰银行拒绝置评。


分享:


发表评论

登录后才可评论。 去登录