智能代理加速落地 新闻编辑部面临治理考验

richlovec 1500_400 (1)
 

在资本市场和技术行业的表述中,本轮人工智能热潮的终极目标常被称为通用人工智能(AGI)、超级智能或递归自我改进系统。但在具体应用层面,企业和个人当前更关注的是一种可对话、能理解指令并直接执行任务的“企业级计算机”式数字助理。

过去数月,这一方向出现多项新进展。在今年CES期间,联想在主题演讲中发布了名为 Qira 的常驻式人工智能功能,计划内置于其设备中。根据公开介绍,Qira 的特点在于充当“代理协调者”,可根据用户请求在 ChatGPT、Perplexity 等不同服务之间进行无缝切换,而非自身提供全部能力。

联想之所以能够采取这一模式,被认为与其并不直接与这些服务竞争有关,Qira更像是一个连接和调度不同人工智能服务的中介。类似思路也出现在其他大型厂商的产品规划中。苹果近期宣布,与谷歌达成一项多年协议,将在今年晚些时候对 Siri 进行改版,并集成谷歌的 Gemini 模型。

过去两年,苹果在人工智能领域被外界认为“承诺多、落地少”,部分原因在于其长期倾向于自建完整体验、较少依赖合作伙伴。随着“协调者”角色的概念逐渐清晰,以及不同人工智能系统之间互通方式的演进,业内对“是否会借此扶植竞争对手”的顾虑正在弱化。

与此同时,面向具体任务执行的“代理型”工具正在扩展。Claude Code 和 Claude Coworker 等产品在业内引发关注,原因不仅在于其具备编写代码、搭建网站等能力,更在于它们可以接受较为抽象的指令,自行制定计划并执行,用户只需提供有限指导。无论这类代理嵌入操作系统(如 Qira、Siri),还是以桌面应用形式存在(如 Coworker),共同特征是:决策过程被前移到用户日常使用的界面附近。

部分 X(原 Twitter)用户在使用 Claude Coworker 时表示,其体验更接近与同事协作,而非单纯向人工智能“提问”。不过,开发方 Anthropic 也向用户发出安全提示,指出在指令不够明确的情况下,代理可能执行诸如删除文件等高风险操作,因为其不再局限于对话,而是具备直接行动能力。

从趋势看,设备交互中相当一部分操作有望被“对代理下达指令”所取代。用户无需显式打开应用或浏览器,而是直接获得答案、输出或具体结果。这种形态被视为“企业级计算机”的现实版本,只是它不在科幻作品中的飞船驾驶舱,而是在全球数以百万计的终端设备上。

这一变化对媒体、品牌及其他内容提供方具有潜在影响。此前围绕 Qira 的讨论中,有观点认为,未来一年信息领域将出现一场围绕“上下文”的竞争:谁能为代理提供更合适的语境和数据,谁就更有可能成为其首选信息源。而当代理被嵌入工作空间并参与决策时,其对信息本身的影响将进一步放大,新闻业尤为典型。

在工作场景中,代理本质上是一台“决策计算机”,有望显著提升效率,但同时带来归属权、访问控制以及敏感数据处理等问题。表面上看,规避风险的直接方式是“暂不使用”,但这种做法被认为难以构成长期策略。与其他工具类似,熟练掌握并安全使用代理的组织,可能在效率和竞争力方面占据优势。随着代理在工作场所的普及,能够在安全和可靠前提下部署相关系统的机构,被视为更有可能在竞争中获益。

对媒体机构而言,挑战尤为突出,因为信息本身是其核心资产。此前围绕“幻觉”问题的讨论已经表明,人工智能系统仍存在捏造事实的倾向,这使不少新闻编辑部在涉及内容生产和处理的环节对人工智能保持谨慎。

与内容生成相比,工作场所代理的风险更为隐蔽。此类系统可能并不直接撰写报道,但会在后台做出一系列决策,例如选用哪些信息源、调用哪些外部服务协助完成任务,以及在具体请求中引用哪些公司内部知识。如果代理被用于新闻编辑部的决策流程,其运作逻辑被认为不能是“黑箱”。

即便在人工智能本身未出现明显错误的情况下,决策过程的透明度仍被视为关键。以搜索为例,谷歌与 Reddit 达成协议,使 Reddit 内容在更多搜索结果中排名靠前,这一安排被认为改变了用户获取信息的路径,尤其是在谷歌在搜索领域占据主导地位的背景下。

未来,设备级或工作场所级代理在各自生态中也可能形成类似的“入口”地位。因此,代理在决策树中如何做出选择,被认为不应完全不透明。引导员工优先使用已授权的服务和公司软件,被视为基础要求;确保遵循内部风格指南和公司政策,也被认为是必要前提。但在尚未被制度覆盖的工作流程环节,问题会变得复杂。这不仅涉及信息的获取,还关系到代理在采取行动时所依赖的上下文框架。

在使用层面,代理对用户的操作应尽可能保持无缝体验,但在治理层面,相关行为需要留下可审计记录。代理从网络及各类服务获取上下文的路径,应当清晰且可追溯;当被问及为何采取某一行动时,系统需要提供可供追溯和解释的链路,并允许用户纠正其推理过程中的偏差。仅以免责声明提示风险,被认为不足以应对代理带来的挑战;围绕代理使用的培训,以及对使用情况的审计,被视为应纳入常规管理。

在这一框架下,治理被多方视为进入“代理时代”的关键前提。Qira、Claude Coworker 等产品被认为正在接近“真正数字助理”的形态,但其释放的效率潜力与潜在风险并存。过去数年,人工智能技术一方面展现出显著能力,另一方面也反复证明其结果不能被完全依赖。对于希望在工作场景中引入代理的组织而言,“在使用中建立验证机制”的思路,正成为讨论中的共识方向之一。


分享:


发表评论

登录后才可评论。 去登录