微软为AI智能体引入人工审批机制
「微软计划九月起在Copilot Studio平台推出调整,AI智能体在执行发送邮件、关闭工单等特定工具调用前需先经过人工审批。该功能支持按工具和按智能体配置开关,调用时暂停并显示审批请求,确保用户掌控关键操作。」
微软正在为其AI智能体平台Copilot Studio引入一项重要的控制功能——人工审批机制。据科技媒体NeoWin报道,这一调整将于本月开始陆续推送,旨在为AI智能体在执行敏感或重要操作前增加一道人工确认环节,从而提升自动化流程的安全性与可控性。
Copilot Studio是微软提供的一套用于搭建和管理AI智能体的平台,开发者可以借助该平台让智能体与邮件、工单系统、支付处理等各类业务工具进行连接。然而,随着AI智能体在实际业务场景中的参与程度不断加深,如何确保其在自主行动时不越界,已成为企业用户关注的焦点。此次新增的人工审批机制,正是对这一需求的直接回应。
根据官方说明,新功能允许开发者在AI智能体运行特定工具之前要求人工审批。管理者可以通过针对每个工具和每个智能体的开关,灵活配置哪些操作需要审批。一旦某个工具调用被设置为需要审批,智能体的执行流程会在此处暂停,并显示一个审批请求,清晰说明智能体的意图和将要执行的动作。用户可以选择批准本次操作、批准整个会话,或者直接拒绝,从而在操作真正执行前掌握决策权。
微软在博文中列举了三类典型适用场景:发送电子邮件、关闭工单以及处理付款。这些动作一旦配置审批,AI智能体便无法自行继续执行。例如,当智能体自动生成一封回复邮件时,系统会先将邮件内容提交给用户审阅,由用户确认后再完成发送;同样,在处理客户工单或发起支付操作前,也必须获得人工许可。这一设计使得AI智能体从“自主执行者”转变为“辅助建议者”,在保留自动化效率的同时,将关键决策权交还给人类。
从技术层面看,该机制并非依赖单一的系统级开关,而是提供了细粒度的权限控制。开发者可以根据不同工具的风险等级,以及不同智能体的应用场景,分别制定审批策略。这种设计既避免了过度审批带来的效率下降,也防止了高风险操作在没有监督的情况下被执行。
此次更新对于使用Copilot Studio构建企业级AI应用的组织而言,具有深远意义。它意味着AI智能体可以更安全地扩展到财务、客户服务等敏感业务领域,而无需担心不可控的操作风险。随着AI技术日益进入实际业务流程,微软推出的人工审批功能,也为整个行业提供了一个值得参考的治理范式。
来源:Heooo AI工具导航