研究称多样化通用人工智能生态或比单一可控系统更安全
新研究指出,足够强大的通用人工智能难以被完全预测和控制,与其追求单一、完美对齐的系统,不如构建由多种目标与价值观构成的“智能体神经多样性”生态,让不同AI相互制衡,从而在整体上更安全、更有韧性。
给 AI 智能体设定“寿命”,会诞生出类似文化的现象吗?德州大学团队在虚拟社会中找到线索
美国德克萨斯大学奥斯汀分校与 Cognizant AI Lab 搭建虚拟社会环境 TerraLingua,并为其中的 AI 智能体加入资源约束与有限寿命,观察到知识与规则在多代智能体之间不断积累、演化,呈现出类似人类“累积文化”的现象。
Sakana AI承接日本防卫装备厅AI研究项目:通过多种AI协同加速决策流程
Sakana AI受日本防卫装备厅旗下防卫创新科学技术研究所委托,开展“通过多种AI技术组合加速观测、报告、信息整合与资源分配”的研究,旨在利用多AI协同大幅缩短从情报获取到决策下达的时间。
Perplexity发布多智能体平台「Perplexity Computer」:整合19种AI模型的通用数字员工,可自主执行工作流数月
Perplexity 推出多智能体编排系统「Perplexity Computer」,将19种前沿AI模型整合为可长期自主运行的“数字员工”,从任务拆解到执行全流程自动化,并可访问真实文件系统、浏览器与外部工具。
恶意AI“群体”正在塑造舆论:Science 警告民主制度面临新型信息操控风险
一项发表于《Science》的国际联合研究指出,由多智能体协同运作的“恶意AI群体”(AI Swarm),正把信息操控带入一个质变阶段,有能力在网络空间中伪造“共识”、重塑舆论基础,从结构上冲击民主决策。