← 返回洞见观点
企业AI转型AI治理

企业部署Agent之前,先把权限和责任说清楚

企业部署AI代理时需明确权限边界和责任划分,避免因操作范围过大导致业务风险。应通过账号权限、工具限制和工作流设计确保关键操作受控,并建立清晰的审核机制与责任归属。

企业部署Agent:权限与责任清晰化.png

企业部署Agent之前,先把权限和责任说清楚

文/侯彦君

让Agent整理客户资料,和让它直接给客户发报价,看起来就差最后一步,可企业要处理的后果差得远。资料整理错了,内部审核时还有机会发现;报价一旦发出去,客户可能就照着这个安排采购、推进谈判了。就算后来解释是AI操作失误,也得有人联系客户、纠正信息,处理已经造成的影响。

所以,企业部署Agent,不能光看它能干多少活儿,还要把它到底能操作到哪一步讲清楚。可以查资料,不等于可以改资料;可以起草邮件,不等于可以直接发送。这些边界如果部署的时候没定好,出了问题,业务人员可能觉得是技术没限制住,技术人员又觉得业务已经授权了,最后谁都说不完整。

拿一个销售Agent举一个假设性的例子。企业要求它整理客户信息、判断跟进顺序,再起草报价邮件。为了接入方便,部署的时候直接用了一个能查看全部客户、修改价格和发送邮件的账号。任务虽然只要求生成草稿,实际开放的操作范围却远远超过了任务需要。

这就留下了隐患。一旦工作流配置有误,或者Agent把某条指令理解偏了,就可能调用原本不需要用的功能。这时候只补一句“发送前必须请示”,还是没有从系统上管住发送操作。

提示词可以说明行为要求,但限制不能只写在提示词里。你只负责起草邮件,就可以先不提供发送工具;只需要查客户资料,就使用只读权限,并且限制可以查询的客户范围。确实需要发送邮件,再单独设置授权条件和审核步骤,让发送操作必须经过规定的检查。

账号、工具和工作流都需要配合。账号权限过大,即使当前工作流没有用到全部功能,以后增加工具或者修改配置的时候,也可能把原来没有开放的操作带进来。部署人员不能只确认“接通了”,还应该检查接通以后到底允许做什么。

但把所有操作都禁止,Agent也就没办法完成业务任务了。企业需要根据操作的影响,决定哪些可以自动执行、哪些需要人来确认,以及哪些始终不开放。

还是拿报价来说,整理资料、生成草稿可以先自动完成,发送前由有相应权限的人审核。审核界面要让人看清收件人、报价金额、付款条件、交付承诺和附件,而不只是弹出一个“是否继续”的按钮。

如果审核人员只看到“报价邮件已生成,请确认发送”,却看不到邮件内容和报价依据,点了同意也很难算是完成了有效审核。出了差错,再以“员工已经确认”为由追责,也没有解决审核设计本身的问题。

审核通过以后,系统还要保证发出的就是那份已经确认的内容。如果确认之后又重新生成了一次正文,或者替换了附件,前面的审核就没有覆盖实际发送的邮件。人的确认需要对应具体内容,不能只对应一个笼统的“允许继续”。

这类细节比多加几句提醒更有用。企业既希望员工认真审核,也需要让员工有条件完成审核。

当然,每一步都要求确认,也会把流程拖得很难用。大量重复、低风险的操作反复弹窗,人很容易习惯性地随手点掉,重要操作反而被淹没了。哪些条件可以由系统按规则检查,哪些确实需要人来判断,应当在设计流程的时候就分清楚。

权限和审核确定以后,接下来就是由谁负责。

业务负责人需要说明,哪些操作可以交给Agent,哪些承诺必须经过审批;部署人员需要把这些要求落实到账号、工具和工作流,并且验证限制是不是真有效;负责上线后运行的人,则需要处理异常、维护规则和调整权限。这些职责可以由不同的人承担,但每一项都要有人接手,不能停在“项目组共同负责”这种说法上。

继续看报价邮件这个场景。价格审批规则由谁确定,价格表由谁更新,审核人员有没有权批准这次报价,发送失败后由谁处理,都需要落实。否则,部署的时候说的是“人工审核”,真正运行时却可能没有指定审核人,或者指定的人没有相应决策权限,任务只能一直等着。

出了问题以后,也不能一概归结为“AI不稳定”。到底是价格资料过期、权限给多了、审核步骤被绕过,还是员工修改配置后没有重新检查,处理办法并不一样。保留必要的任务、配置变更和操作记录,才能查清当时发生了什么,也才能判断应当由谁纠正。

这里说的责任,首先包括把业务恢复正常。谁能暂停Agent,谁联系受影响的客户,谁检查已经修改的数据,不应该等到事故发生后再临时找人。至于供应商、实施人员与企业各方怎么承担责任,还需要结合约定的服务范围和实际原因来判断,不能只因为最后一步由员工点击确认,就把所有问题都推给员工。

验收的时候也应当检查这些异常情况。正常任务能跑通,只能说明它在预期条件下完成了工作。没有权限的数据能不能读到,未经审核的邮件能不能发出,发送失败后重试会不会重复发送,任务中途停止后还能不能查清已经执行的步骤,这些都值得实际试一遍。

这些测试会直接影响企业敢不敢把任务交出去。一个Agent能生成多少内容,演示的时候容易看到;它会不会越权、出错后能不能停下来,需要专门检查。

上线也不代表权限从此不用再管。新增工具、更换账号、扩大数据范围,都会改变Agent能够执行的操作。尤其是原来只负责生成草稿,后来增加了自动发送,这已经改变了工作性质,不能当作普通功能更新直接放过去。业务授权、审核方式和相关测试,都需要重新确认。

如果企业暂时没办法落实发送审核和异常处理,就先让Agent把草稿做好,由员工在现有系统里发送。等权限配置、人员安排和测试都准备好了,再把发送交给它,也不迟。