在近期一次与美国国防部的公开交锋中，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）表示，人工智能不应在完全脱离人类参与的情况下被用于致命用途。他指出，相关技术虽然在特定条件下能力强大，但难以处理现实世界中的突发状况和高度混乱情形，而这类情形往往超出任何算法的预设范围。他认为，这一问题不仅存在于战争领域，也广泛存在于各类工作和日常生活场景中。

多家机构近期在推进人工智能落地过程中遇到类似困境。文章作者、Duckbill首席执行官兼创始人梅根·乔伊斯（Meghan Joyce）表示，几周前外界对人工智能的预期仍然高涨，但目前她接触到的几乎所有组织，都在为如何获得稳定、可用且可量化的应用效果而苦恼。她称，原因在于模型在实验室或受控环境中表现优异，但在复杂多变的现实世界中效果明显打折，这一差距被其团队称为“执行前沿”，而这一前沿正是人类仍然发挥关键作用的地带。

乔伊斯援引其工程团队的看法称，当前人工智能在创意生成以及边界清晰、目标明确的执行任务上表现突出，但在二者之间的“中间地带”仍严重依赖人类。这一中间环节包括：将创意与具体执行方案嵌入既有业务系统，并在此过程中确保结果可持续、可复用。她表示，这一过程需要上下文理解、判断力、领域专业知识以及持续校准，而这些目前仍主要由人类承担。

她提到，Anthropic近期发布的一份劳动力报告也呈现出类似结论：受人工智能影响最小的岗位往往是那些需要人员亲自到场并作出不可预测判断的工作，例如厨师和救生员。这类岗位的共性在于，工作环境变化快、情况难以完全预判，系统难以提前穷尽所有可能情形，因此需要人在现场即时决策。

在企业应用层面，乔伊斯表示，大多数公司在这一“人类应介入的环节”面临实际挑战。除编码、内容生成等少数相对标准化的任务外，很少有业务流程能够完全依赖人工智能独立运行。她认为，在现实世界中实现高可靠性的人工智能应用仍有较长距离，问题不在于模型本身缺乏进步，而在于企业尚未建立与之匹配的配套基础设施和流程设计。

据其介绍，在过去12个月中，Duckbill使用模型实现的自动化覆盖率提升了60%以上，但几乎所有任务仍保留了人类参与环节。她表示，人工智能并未直接替代人类，而是压缩了每个人在单项任务上的投入时间，使人工干预更小、更集中、更具针对性。她称，这一变化帮助公司从“深度负毛利”转为正毛利，同时客户和员工满意度有所提升。每一次人机交接都被用作训练数据，帮助系统判断下一次应在何处交接，从而形成持续迭代的循环。

乔伊斯认为，一个常被忽视的要点在于，“前沿”并非一条被人工智能不断推移的固定边界。随着技术进步，需要人类判断的工作并不会消失，而是向新的环节迁移，人类工作的形态随之改变，相应的基础设施也需要同步调整。她指出，如果企业仅围绕当下的人机交接点设计系统，数月后这些设计就可能落后于实际需求。

在谈及企业应如何布局时，乔伊斯表示，关键问题并非让人工智能在没有人类的情况下独立完成任务，而是构建一个人工智能与人类之间可持续循环的体系，使其在“执行前沿”不断移动时仍能保持有效。她称，Duckbill近年一直在搭建这样一层基础设施，用于在人工智能系统与现实世界操作之间完成“接力”。

据其介绍，该公司投入工程团队、运营人员以及数百万条数据，用于在真实电话沟通、真实交易以及涉及实体操作的任务中验证和优化流程。系统负责协调和分配任务，而当工作从屏幕延伸到线下场景时，则由人类执行。每一次由人工完成的操作都会反向输入系统，帮助其判断下一次应在何处交接，从而使“接力点”不断调整。她认为，这种循环机制使系统可靠性随时间呈现“复利式”提升。

乔伊斯表示，目前行业普遍将竞争焦点放在打造更强大的模型上，但真正重要的竞争在于谁能构建出可以持续演进的人机循环。她认为，当前仍处于早期阶段，模型能力与现实应用之间的差距客观存在，而这一差距并不会单纯通过更先进的模型自动消失，而需要能够围绕模型设计和运营循环的人来弥合。