一个 AI 代理出错，或许只是答偏；一群代理互相派活、调用数据库和外部工具，失误却可能沿任务链扩散。问题就像从管好一名员工，变成管理整支舰队：谁能做什么、出了什么事、花了多少钱，都要持续看住。值得关注的是，治理重点已不再只是给单个代理加护栏。
据 Towards Data Science 转载的 Amber Roberts 文章，这套治理被归纳为生命周期管理、安全、可观测性、风险管理和成本五方面。文章最具体的转变，是把一次性的“把关”升级为持续运行的控制平面——集中登记、配置和约束所有代理。它不仅记录代理使用了哪个模型、MCP 工具和 skills，以及这些配置的来龙去脉，还汇总整支代理群的调用轨迹与会话。这样，系统才能追查“哪个模型以谁的身份执行了什么任务”，而不只保存最后一句回答。
文章还主张用细粒度的允许与拒绝规则、按属性分配访问权，并逐次检查敏感数据、提示注入和不安全内容；成本则靠模型路由、调用限速和预算上限约束。说白了，代理越多，最小权限、完整审计链和统一成本控制就越不能事后补。