Tether发布面向智能手机和消费级GPU的AI训练框架

richlovec 1500_400 (1)
 

Tether发布新AI训练框架

Tether周二宣布,推出一款新的人工智能训练框架,称可在包括智能手机和非英伟达GPU在内的消费级硬件上,对大型语言模型进行微调。Tether是目前全球市值最大的稳定币USDT的发行方。

据介绍,该系统作为其QVAC平台的一部分,采用微软的BitNet架构以及LoRA(低秩适配)技术,以降低内存占用和计算需求,从而在成本和硬件门槛方面压缩开发AI模型的要求。

跨平台支持非英伟达GPU和移动设备

Tether表示,该框架支持跨平台训练和推理,适用硬件包括AMD、Intel和苹果硅芯片,以及高通和苹果的移动GPU等非英伟达设备。

公司称,其工程师在智能手机上可在不到两小时内完成对多达10亿参数模型的微调,较小规模模型的微调时间则可缩短至数分钟。该框架在移动设备上支持的模型规模最高可达130亿参数。

基于BitNet的1位模型与LoRA微调

该框架基于BitNet这一1位模型架构。Tether称,与类似的16位模型相比,BitNet可将显存需求最多降低77.8%,从而使更大规模模型能够在硬件资源有限的设备上运行。

此外,该框架支持在非英伟达硬件上对1位模型进行LoRA微调,扩展了通常用于AI训练的主流GPU之外的硬件支持范围。

在推理阶段,公司表示,移动GPU运行BitNet模型的速度为CPU的数倍。Tether同时提到,该框架可用于设备端训练和联邦学习等场景,在这些场景中,模型可在分布式设备之间更新,而无需将数据集中上传至服务器,从而有可能减少对云基础设施的依赖。

加密矿企加速布局AI和高性能计算

Tether进入AI基础设施领域之际,加密行业在计算和机器学习方向的布局持续扩大,涉及比特币挖矿、AI基础设施以及自主代理等多个板块。

今年9月,谷歌与比特币矿业公司Cipher Mining达成一项价值30亿美元、为期10年的协议,收购后者5.4%的股份,用于支持AI数据中心产能。12月,比特币矿工IREN表示,计划筹集约36亿美元资金,用于建设AI基础设施。

相关动向延续至2026年。2月,HIVE Digital Technologies报告称,其AI和高性能计算(HPC)业务带动公司收入创下9310万美元的纪录。3月,Core Scientific从摩根士丹利获得5亿美元贷款额度,并保留将该额度扩大至10亿美元的选择权。

AI代理在加密领域获得动力

矿业企业向AI和HPC转型的同时,能够进行交易、与服务交互并执行任务的AI代理在加密领域的应用也在增加。

去年10月,Coinbase推出支持AI代理进行链上交易的钱包基础设施。上个月,Alchemy发布系统,允许代理使用Base网络上的USDC访问区块链数据服务。今年2月,Pantera和富兰克林邓普顿参与了Sentient推出的企业AI代理测试平台Arena。

本周二,由OpenAI联合创始人Sam Altman共同创办的身份网络World发布AgentKit工具包。该工具包允许AI代理利用World ID功能验证其与唯一人类身份的关联,并通过x402微支付协议进行支付。


分享:


发表评论

登录后才可评论。 去登录