微软为智能体工具调用设置人工批准机制
「微软将于9月更新Copilot Studio,为AI智能体的工具调用引入人工审批机制。开发者可为每个工具或智能体配置审批开关,智能体在发送邮件、关闭工单、处理付款等操作前须暂停并展示意图,等待用户批准、批准会话或拒绝,进一步提升AI操作的可靠性。」
微软近日宣布,计划从9月开始对Copilot Studio进行更新,在AI智能体调用业务工具前引入人工审批机制。Copilot Studio是微软用于搭建和管理AI智能体的开发平台,可让智能体连接邮件、工单、支付等各类企业级业务系统。此次更新后,开发者可以为每个工具、每个智能体单独配置“人工审批”开关,使高影响操作不再由智能体独自完成。
当审批功能开启时,AI智能体如果试图调用已完成配置的工具,执行流程会被自动暂停,并生成一条审批请求。该请求会清楚说明智能体接下来的意图,例如“准备向客户发送邮件”或“打算关闭某个工单”,用户可以通过批准、批准当前会话或拒绝三种方式做出回应。只有获得批准,智能体才能继续执行相应操作。这等于给AI智能体的自主行动装上了一道控制阀门。
微软官方列举了三类明确的应用场景:发送电子邮件、关闭工单以及处理付款。这些操作都对企业日常运营具有较高影响,一旦出错可能带来沟通失误、流程遗漏或资金风险。在过去,智能体只要被赋予连接权限,就可以自主执行这些动作;而在新的机制下,它们必须等待人类“点头”,才能完成关键步骤。
这一调整也反映了当前AI智能体在向业务前端渗透过程中,对安全性和责任归属的更高要求。通过将人的判断保留在关键节点,企业既能享受智能体带来的效率提升,又可以对高敏感性操作保持人工控制。随着Copilot Studio功能的完善,AI智能体将在更受约束的边界内发挥作用,从而提升企业在落地AI流程时的信心与合规性。
来源:Heooo AI工具导航