推理悖论：代币降价反致智能体成本五年涨五倍

代币价格下跌导致许多企业认为人工智能成本将随之下降。而智能体（agents）正在打破这一假设。

高德纳（Gartner）预测，到2028年，每个智能体工作流的推理成本将增长逾五倍，即便代币经济性持续改善。该公司指出，将一项任务路由至智能体推理模型所产生的供应商推理成本，至少是基础聊天机器人交互的5倍，且随着任务复杂度上升，该成本往往大幅增加。他们将此称为 推理悖论（Inference Paradox）。单位经济性改善反而推高了人工智能的整体成本，且尚无清晰路径实现相称且可预测的价值回报。

高德纳表示，效率提升正被重新投入更强大、也更昂贵的模型。

“以这种方式，代币成本并未下降，而是在扩大，”高德纳高级总监分析师威尔·索默（Will Sommer）对 VentureBeat说。

为何更便宜的代币仍导致更高的账单

‘ 推理悖论（Inference Paradox）

’背后主要有两大驱动因素。第一个问题是模型实验室。索默指出，生成代币的成本正变得更具效率。 

“然而，基础人工智能实验室并未将这些成本节约存入银行，而是投资于需要更高算力、因而每代币成本更高的下一代模型，”他表示。  

旧有功能正变得便宜得多，而前沿模型则日益昂贵。索默以Anthropic的Fable模型每代币成本高于Opus模型为例，说明这种分化现象。

第二个驱动因素是消耗量。更高的代币效率使得更复杂的工作负载成为可能，而这些工作负载消耗的代币数量远超以往。

“相较于基础人工智能聊天机器人执行同一任务，人工智能智能体所需的代币数/任务数高出5至30倍，”索默表示。

竞争压力将这两大因素联系在一起。希望与同行保持同步的企业会采用更先进的用例，而这些用例要求能力更强、价格更高的模型，以及远超上一代人工智能系统的代币消耗量。

成本将以锯齿状波浪式攀升，而非直线式上升

高德纳并不预期成本将在2028年前呈稳定上升趋势。在控制成本与维持同行竞争力之间的张力，正推动支出上下波动，且支出已随新模型发布而震荡起伏。

“第一波智能体能力在春季引发支出大幅增加，部分由‘代币最大化（tokenmaxxing）’热潮所驱动，”索默表示，“我们目前正处于紧缩开支阶段。”

高德纳预计，随着能力更强的推理智能体、世界模型及其他人工智能技术逐步成熟，还将出现多轮类似浪潮。

企业正以不均衡方式约束成本。今年9月的一项 VB Pulse调查 面向109名合格受访者发现，使用编排平台的企业中，21%尚未部署任何可自动终止智能体代币支出的机制；另有31%则将常规性、高吞吐量的智能体任务发送至更廉价的模型，以控制成本。 

五倍增长估算基于高德纳的代币经济学预测（Tokenomics Forecast）——一种计量经济学模型，据索默介绍，该模型依据300多个输入变量预测代币成本随时间的变化趋势。它同时考虑了代币成本效率的提升以及人工智能应用于更困难问题时代币消耗量的急剧上升。索默表示，具备学习能力的人工智能解决方案，或在企业内部跨领域、或在多个领域之间运行的人工智能解决方案，在流程化落地时需要显著更多的代币。 

应对推理悖论的五项架构变革

组织应考虑以下五项关键变革，以抢占先机。

投资可观测性（observability）。 人工智能财务运营（AI FinOps）对任何成本优化工作都至关重要。“企业无法优化其无法观测的内容，”索默表示。

在人工智能部署中嵌入“每成果价值（value-per-outcome）”。 要求每一项人工智能功能均需针对广泛不确定性进行预测，并依据明确的结果指标追踪支出，例如自动化完成的任务数或成功结案的案例数。对表现欠佳的工作流须迅速改进或淘汰，以保障利润率。

制度化推理分层（inference tiering）。强制实施查询的自动路由机制，将其导向最具成本效益的模型，并禁止在常规任务中默认调用前沿模型。“应投资于智能体框架（agentic harnesses），以明确定义模型在自主系统内部的部署位置、时机与方式，”索默表示。

强制执行人工智能执行的最低标准。 “设定即遗忘（set it and forget）”模式行不通。组织需预先定义成功阈值、合规开销及风险缓释成本，并拒绝批准任何未经压力测试的部署方案——该测试须涵盖代币价格波动及合规费用场景。

利用专有数据。嵌入专有数据微调及自学习反馈回路，以长期维持差异化优势与利润率。“高效、面向特定领域的模型，在可靠性及特定工作负载任务表现上，通常优于通用型前沿模型，”索默表示。