随着由人工智能驱动的聊天机器人、智能代理和协同助手在企业内部加速落地，相关风险问题正受到更多关注。企业在使用此类工具时，需要在提升效率与控制风险之间取得平衡，尤其是如何避免员工或AI代理在交互过程中意外泄露敏感数据、触犯合规规定，或暴露在提示注入等新型攻击方式之下。

据介绍，Witness AI近日筹集了5800万美元资金，用于开发其所称的“企业人工智能的信心层”。该公司希望通过相关技术和产品，帮助企业在大规模采用生成式人工智能的同时，加强对数据安全、合规性和模型交互行为的管控。

在最新一期TechCrunch旗下播客节目“Equity”中，主持人Rebecca Bellan与Ballistic Ventures联合创始人兼合伙人Barmak Meftah，以及Witness AI首席执行官Rick Caccia进行了对话。节目中，几位嘉宾围绕企业在部署人工智能时的主要顾虑、人工智能安全市场的潜在规模，以及未来人工智能代理在缺乏人工监管情况下彼此交互可能带来的影响等话题展开讨论。

节目提到，有观点认为，到2031年，人工智能安全相关市场规模可能达到8000亿至1.2万亿美元。讨论还涉及企业在引入AI系统时如何理解和管理风险，以及在技术快速演进背景下，安全工具和治理机制的角色。

“Equity”播客目前可在YouTube、Apple Podcasts、Overcast、Spotify等平台收听。听众也可在X和Threads平台通过账号@EquityPod关注该节目。