企业AI代理治理的五大缺口

企业正为事后补救AI代理治理预留预算

企业部署人工智能代理的时间早于管理它们所需控制措施的建立——而且它们是明知故犯。这是VentureBeat Research于6月开展的五项并行调查所揭示的核心发现，这些调查覆盖了代理技术栈的每一层。如今，这些企业正进行事后改造以追上自身设定的标准，并为此预留了预算：在我们所衡量的五个控制层中，57%至68%的企业计划在未来12个月内更换供应商或新增供应商；而根据具体控制层的不同，约三分之一的企业计划在本季度内完成更换。

五大治理缺口的具体表现

VentureBeat Research测量了企业在信任一个代理之前必须构建的五类控制措施：身份（identity）、评估（evaluation）、成本遥测（cost telemetry）、上下文层（context layer）和编排（orchestration）。身份控制决定哪个代理被允许执行何种操作、以谁的身份凭证执行；评估控制判定代理的工作质量是否达标；成本遥测追踪每个代理运行所耗费的成本；上下文层为代理在作答时所依赖的业务数据与定义提供支撑；而编排控制平面则协调多步骤的代理工作。

多数已部署“代理”实为贴标签的聊天机器人

71%的企业表示，其已部署的“代理”中仅有四分之一或更少能够独立完成多步骤任务；仅10%的企业表示，真正具备多步骤能力的代理在其所运行的代理中占多数。这些受访者具备充分知情条件：81%的人在其公司中负责推荐或决策AI采购事项。一个仅需单次提示且每次回答均由人工审阅的聊天机器人，完全不需要其余四份报告所衡量的任何控制措施；而一个真正的多步骤代理则需要全部五类控制——但大多数企业甚至无法明确自己部署的究竟是哪一类。

自动化评估尚未建立可信基础

三分之二的企业目前已允许代理仅依据自动化评估结果（无需人工复核）即向生产环境推送代码或系统变更，或正积极在12个月内实现该目标。然而，仅有5%的企业完全信任能据此作出决策的评估机制；且半数企业曾在过去一年中部署过通过内部评估却导致面向客户故障的代理。在任何工作流中取消人工复核之前，应以实际生产结果而非内部基准来测试评估机制的有效性。

共享凭证显著抬高安全风险

69%的公司允许其部分代理共享凭证——即多个代理共用一个API密钥或服务账号。在任何场景下允许凭证共享的组织，其发生安全事件或接近事故的比例达63.5%（74家中的47家），而每台代理均拥有独立限定范围身份（scoped identity）的公司该比例仅为40.9%（22家中的9家）。解决方案是为每台代理分配限定范围的身份，且应优先从接触生产系统的代理开始实施。

算力浪费与上下文失治并存

超过八成自行运行GPU的企业报告其利用率在50%或更低；仅有44%的企业严格追踪其AI算力的实际成本与回报。当前最值得优先追求的指标并非增加GPU数量，而是提升现有GPU的利用率及每项工作负载的实际成本效益。57%的企业在过去六个月内追溯到一次代理给出的自信但错误的回答，其根源在于企业自身缺失或不一致的业务上下文——包括错误的指标、过时的定义、缺失的文档等；且大多数企业观察到此类情况不止发生一次。对代理作答所依据的定义（首先聚焦指标与实体）实施治理，必须先于扩展依赖这些定义的代理。