安全可信

AI Agent 安全治理要赶在扩规模之前

Deloitte 调查：23% 企业已至少中度使用 AI Agent，两年内预计到 74%，只有 21% 自评治理成熟。AI Agent 安全治理先查四件事，不靠加长审批链。

白泽明理2026/07/29

AI Agent 安全治理正落在 Agent 扩张后面，Deloitte 的 2026 State of AI in the Enterprise（副标题 The Untapped Edge）给了两组数：今天有 23% 的企业至少在中度使用 agentic AI，两年内这个数字预计冲到 74%；而现在就说自己「已有成熟的自主 Agent 治理模型」的，只有 21%。报告这一节的标题是 AI agents are scaling faster than the guardrails，意思是 Agent 的扩张跑在了护栏前面。

这份报告还回答了两个具体问题：为什么 Agent 的治理不能沿用现有那一套，以及「成熟」具体指哪几件事。

人工审核这一步，从流程里消失了

报告第 20 页写到：与提供建议供人采纳的传统 AI 系统不同，Agent 直接采取行动，比如下单、发出通信、修改系统。

差别在止损点的位置，和能力强弱无关。推荐型 AI 给出错误结论时，过程是：模型出错，人看到，人决定不采纳，没有后果。人审核这一步本身就能拦住错误，哪怕流程里没人专门设计过它。Agent 的过程是：模型出错，直接执行，后果已经产生，人事后才知道。错误率相同，前者没有损失，后者的损失已经发生。

传统 AI 的产出经由人审核后才作用到系统，Agent 则直接作用到系统，人审核环节从链路中消失 — 图：治理要换一套，原因是「人决定采不采纳」这一步从链路里消失了。

所以要调整的是治理的位置：从事后审阅产出，前移到事前定义边界、事中实时监控、事后可完整追溯。这三段都要有人设计，因为流程里已经没有默认的人工环节兜底。

报告说的「成熟」，是四件可以逐条检查的事

Deloitte 没有给出量化评分表，但把成熟治理要具备的能力写得很具体：

清晰边界：明确定义哪些决策 Agent 可以独立做，哪些必须经过人工批准。
实时监控：跟踪 Agent 行为，对异常发出标记。
完整审计轨迹：捕获 Agent 全部行动链，用于问责，也用于持续改进。
跨职能结构：IT、法务、合规与业务单元负责人共同制定政策、监控绩效、处理升级。

边界、监控、审计三项系统能力与跨职能结构共同构成 Agent 治理的四个要件 — 图：前三条是系统要有的能力，第四条是组织要有的安排。少了第四条，前三条只能由技术团队单独推动。

这四条可以逐条判定，能对着每一条问「我们有没有」，比「加强管控」这类说法好验收。第四条最容易被跳过，因为它不是系统功能，落不到某个工单上。报告在建议章节里写到：高层领导亲自参与塑造 AI 治理的企业，取得的业务价值显著高于把这件事全权委托给技术团队的企业。边界划在哪里，是业务和法务的判断，技术团队定不了，也不该独自负责。

这个 21% 是自评数字

先说口径：21% 是受访者的自我评估，不是第三方审计的结果。Deloitte 调查了 24 国 3235 名总监到 C 级的 IT 与业务领导者（2025 年 8 月至 9 月，IT 与业务大致各半），采集的是这些人对自己组织的判断，报告没有对其中任何一家的实际治理水平做独立核验。

同一份报告里还有一组数字可以拿来当参照：42% 的企业认为自己的战略高度就绪，30% 认为自己在风险与治理上高度就绪。当「成熟」「就绪」的判定权在受访者自己手里，答案通常偏乐观。所以 21% 更可能是上限，不是下限。

另一组数字也能说明问题：企业最担心的 AI 风险大多和治理相关，数据隐私与安全 73%、法律与知识产权及监管合规 50%、治理能力与监督 46%、模型质量与一致性及可解释性 46%。这些担忧说明相关问题还没有解决。

但 Agent 治理也不是把审批链加长

如果结论变成「所有 Agent 动作都走审批」，就走到了另一个极端，报告也不支持这样做。它在建议章节里写了三条：

治理要接进已有的风险与监督结构，不另起一套平行的「影子」职能；
目标是形成清晰、可调整的护栏，让团队能在速度中稳妥推进，不是增加官僚流程；
治理要在风险管理和创新之间校准，让监督使实验成为可能，不把实验按住。

报告观察到，做得最好的企业走的是「有节制」的路径：从低风险场景起步，边扩张边建治理能力。它们不先大规模铺开再回头补，也不等治理体系齐备才允许上线。前一种会留下风险敞口，后一种会一直停在试点。

一个实用的判断标准是：你的治理设计让团队更敢还是更不敢把 Agent 放上生产？如果更不敢，问题多半出在位置上：用审批链补的，本该由边界定义和审计轨迹来做。

从哪里开始

多数团队眼下的真实状态是：Agent 已经在跑了，但「哪些它能自己做、哪些必须人点头」这句话从来没有写下来，只散在几个开发同学各自的判断里，也没人把它当成需要拍板的决定。检验方法：把这个问题抛给团队，如果十分钟内给不出一份能让法务和业务都点头的清单，那就是还没有边界。

建议按这个顺序：先把边界写下来（一张两列的表就够：可自主执行的动作 / 必须人工批准的动作），再补审计轨迹（出事能还原，是所有事后动作的前提），然后是实时监控，最后把法务与业务正式拉进这个机制。前两步成本不高，能解决「不敢放上生产」的大部分顾虑。

先查清公司里有哪些 Agent 在跑、各由谁负责，做法见 Agent 管理先盘点：自建 Agent 谁在跑。

这是白泽明理服务阶梯第一层要解决的问题：先把 AI 稳定、可控、可审计地接进来，再把它变成工程能力和产品。顺序反过来，扩张越快，风险越大。