赢在AI智能体时代的企业，正主动限制其自主性

在过去两年的大部分时间里，企业界对人工智能的普遍认知是：自主性越强，性能就越好。构建能够规划、决策并在多步骤工作流中执行操作的智能体（agents），并尽可能为其提供广阔的运行空间。如今，这一假设正在真实生产环境中大规模接受检验——而在许多部署案例中，它正遭遇失败。最终从智能体人工智能（agentic AI）中获益的企业，未必是那些赋予其智能体最多灵活性的企业；而是那些为智能体设定明确职责、并确保其在清晰规则内运行的企业。

有两个数字几乎完全揭示了截至2026年年中智能体人工智能所处的位置。根据Gartner自身的预测，当前运行的智能体人工智能项目中，超过 40%将无法存活至2028年。原因并非模型能力不足，而是成本持续攀升、商业价值不明确，以及风险管控措施不到位。 麦肯锡（McKinsey）2026年人工智能可信度成熟度调查（AI Trust Maturity Survey） 与上述预测高度吻合：智能体人工智能部署正加速渗透各行各业，但平均负责任人工智能（responsible-AI）成熟度仅为4分制中的2.3分。仅有约30%的组织在治理及智能体人工智能管控方面达到了三级或更高级别的成熟度。  

将这两个数字并列来看，故事便不言自明：能力发展速度已远超管控能力。  

这种转变也在重塑竞争格局。2024至2025年的竞赛焦点在于谁能最快部署最自主的智能体；而2026至2027年的竞赛则是一场‘信任竞赛’。  

这不再关乎谁能够构建 能力最强的智能体，而在于谁能使其智能体获得风险、法务及合规团队的生产环境准入批准，并在上线后持续维持该批准状态。这对大多数企业而言，是一种截然不同的工程挑战。

为何完全自主性在生产环境中会失效  

Gartner明确指出了这一失败模式的具体性与可重复性：项目启动时往往设定雄心勃勃、高度自主的端到端工作流；数周内即遭遇集成复杂性问题；随后陷入停滞，缺乏一条可论证的通往生产投资回报率（ROI）的路径。部分问题源于厂商噪音。Gartner自身统计结果直截了当：在数千款标榜为‘智能体人工智能’的产品中，仅有约130款真正具备实质性的自主能力；其余绝大多数不过是当前被重新包装的自动化工具或聊天机器人。

但即便是真正 具备智能体特性的系统 ，也会遭遇一个与炒作无关的结构性难题：自主性与问责制呈反向运动关系。  

一个能够独立规划并执行多步骤任务的智能体，同时也是其单个决策在事后更难追溯的智能体。假设在一条自主执行链的若干步骤之后发生故障，要厘清该智能体为何做出该决策、以及由谁负责，可能是一个复杂过程，而非一次简单的查询操作。

在财务对账、合规流程、制造质量检查或临床文档等场景中，这种透明度缺失可能成为可管理失误与严重监管违规之间的分水岭。这正是法务、风险及合规团队无论底层模型能力如何，均阻止智能体项目进入生产环境的根本原因。  

我集成复杂性持续成为项目取消的首要原因。将一个自主智能体强行嫁接到遗留工作流上，所需远不止技术层面的连接能力。该工作流既有的决策节点、审批链条和审计轨迹，全部需围绕一个可无需等待人类即可行动的新系统进行重构。那些将此单纯视为集成问题、仅试图通过投入更多工程工时来解决的企业，往往最终陷入停滞。  

这并非一种假设性风险。 麦肯锡的研究表明 当前大多数企业暴露的风险程度之高。在从数据隐私到知识产权暴露等几乎所有人工智能风险类别中，组织声称意识到的风险与其实际正在缓解的风险之间，鸿沟依然巨大。    

意识已超越行动。这一差距亦反映于将之列为智能体人工智能进一步规模化障碍的企业之中：近三分之二的企业如今表示，安全与风险问题是其面临的最大挑战，其重要性已超过监管不确定性与技术壁垒。    

受管控的编排（governed orchestration）实际形态  

正在引领潮流的企业并未搁置其 人工智能计划，而是正在重构系统内部自主性的分配方式。在治理成熟度较高的组织中，四种突出模式为：  

• 窄范围智能体优于通用型智能体。 将端到端工作流分解为具有单一职责、权责边界高度明确的智能体。工作范围越小，潜在失败范围也越小；而失败范围越小，则越易于审计。  

• 在决策边界设置人工检查点，且须在结果产生之前，而非之后。 在高风险操作执行前审核智能体决策，而非事后补救。这意味着在敏感数据移动、交易记账或外部系统被触发之前即设检查点。麦肯锡框架要求将实时、数据驱动的监控机制直接嵌入智能体流水线本身，并明确由人类对高风险决策保留最终责任。  

• 将决策可追溯性作为一项设计要求。 任何智能体、任何决策，均应能按需即时提供完整操作日志与决策谱系（decision lineage）。它不应在审计压力下才被临时重建。监管机构亦持相同立场。欧盟《人工智能法案》（EU AI Act）针对高风险系统的人类监督要求虽尚未正式生效，但 今年达成的《数字综合法案》（Digital Omnibus agreement） 已将合规截止日期推迟至2027年12月。当前正在构建智能体系统的企业，事实上正朝着该要求进行建设，无论其目前是否具备技术上的强制执行力。  

• 数据主权承担的是主动治理工作，而非被动文书作业。 智能体数据的物理存放位置及其访问权限归属，决定了故障所能波及的范围。本地部署（on-premise）或受控环境部署，可限制异常行为智能体的影响半径，并简化监管机构与董事会日益期待的那种审计轨迹。  

当然，风险是双向存在的。智能体人工智能本应削减摩擦。若一个智能体在执行每一项微小任务前均需人类签字批准，则它并未削减任何摩擦，而只是披着人工流程外衣的自动化。此举悄然削弱了构建该智能体的全部初衷。目标并非实现最大限度的控制，而是实施精准校准的控制，将其集中于错误代价真正高昂之处。  

智能体部署速度的增长幅度约为治理成熟度提升速度的8倍。  

评估您智能体技术栈的实用框架  

若 企业架构师 正在审查一个现有智能体以决定是否部署，或正考虑部署某个智能体，则可首先提出以下四个问题。  

1. 六个月后，您能否准确还原出某个特定智能体（agent）为何采取了某项特定行动？   如果诚实的回答需要翻查原始日志或靠猜测得出，那么决策谱系（decision lineage）就并非该系统的设计特性，而仅是事后的补救措施。这将在下一次审计中暴露为一个明显缺口。  

2. 堆栈中的每个智能体是否都拥有明确界定的单一职责，抑或至少有一个智能体被授权在一项宽泛任务中‘自行判断’？   宽泛、开放式授权，恰恰正是复合型错误与无法追溯决策的源头所在。  

3. 人工检查点（human checkpoints）是设置在明确定义的决策边界处，还是仅作为智能体完成行动后的最终复核环节？   事后复核只能捕捉后果；事前检查点则可预防后果发生。  

4. 如果某个智能体此刻已被攻破或出现故障，它能在任何人察觉之前接触多少数据、影响多少下游系统？   此处，数据主权（data sovereignty）与访问范围限定（access scoping）便不再仅仅是合规性条目，而开始发挥遏制策略（containment strategy）的功能。  

以上所有问题均无需拖慢智能体AI（agentic AI）的采用进程。它们真正需要的是明确指引：自主性在组织内哪些场景、以何种方式具备价值，以及组织应如何主动应对由此产生的风险敞口。这意味着应在上述职责分离原则基础上构建编排层（orchestration layer），而非等到生产事故迫使人们提出这些问题时才追加治理措施。  

真正的竞争优势  

高德纳（Gartner）预测的40%项目取消率，本质上并非对AI能力的警示，而是对组织纪律性的预测。当前，智能体AI正处于高德纳所定义的“期望膨胀的顶峰”阶段，其成因相当直接：企业于2024年和2025年几乎完全专注于优化自主性；如今，它们正为此前路径所累积的治理债务（governance debt）进行偿还。  

到2027年，胜出者将不属于部署自主智能体速度最快、数量最多的组织，而属于那些构建出足够可信的智能体系统、使风控、合规与法务团队不再成为瓶颈的组织——其系统架构已在任何人发问之前就回答了他们的全部问题。  

这与当前大多数智能体AI路线图所依据的设计简报截然不同。它要求从架构设计之初，就将范围受限的自主性（scoped autonomy）、设有人工检查点的决策（checkpointed decisions）、全程可追溯性（full traceability）及数据主权（data sovereignty）内化为核心要素，而非在试点项目取得成功后再作为附加功能补入。

欢迎加入VentureBeat社区！

我们的客座投稿计划（guest posting program）面向技术专家开放，旨在分享洞见，并提供中立、无利益关联的深度分析，涵盖人工智能、数据基础设施、网络安全及其他塑造企业未来前沿科技领域。

阅读更多 来自我们的客座投稿计划——并查阅我们的 投稿指南 ，若您有意撰写并提交自己的文章！