企业AI规模化困局:成本失控成新瓶颈
Harness报告显示,25%的AI资金被浪费,超半数企业未设AI成本负责人;AI采用率上升推高token消耗,单token成本下降难抵总量激增。企业正从部署AI转向构建可财务可持续的规模化基础设施。

编辑注:欢迎阅读《Prompt》,这是您每周一次的AI格局动态简报。我们对当周最重要的进展进行分析性解读,并精选汇总值得关注的相关报道。
一份新报告发现,四分之一的AI资金被浪费,凸显企业面临的一个日益严峻的现实:挑战已不再仅仅是部署AI,而是控制AI在规模化运行时的成本。随着AI支出在企业内部不断扩散,成本管理正变得与采用该技术本身同等重要。
该发现来自AI软件开发平台供应商 Harness发布的《2026年FinOps领域AI现状报告》,该报告基于对700名FinOps及工程负责人开展的调研。报告显示,超过半数的组织尚未指定AI成本的专职负责人,导致难以追踪支出或识别浪费。
组织还经常为常规任务选用过大、更昂贵的模型;与此同时,AI采用率持续上升正推动token消耗量增加,尽管单个token的成本正在下降。
该报告反映出企业级AI更广泛的转变趋势。过去两年,焦点一直集中在将生成式AI部署至全业务范围;如今挑战在于确保这些部署在使用规模扩大时仍具备财务可持续性。
Harness的上述发现并非孤立现象。
安永(EY)本周发布的一项调研显示 ,各组织仍在持续投资AI,但正更加密切关注 token成本与投资回报率(ROI)。 施耐德电气(Schneider Electric)与AMD共同发布了AI工厂蓝图,这进一步表明企业正从证明AI可行转向构建可支持AI规模化运行的基础设施。
这一转变在云服务商(hyperscaler)财报中亦有体现:微软(Microsoft)、Alphabet和Meta均强调AI部署与基础设施执行成效,而非单纯增加AI支出。
综观本周各项进展,企业级AI下一阶段的发展特征或将更多由企业如何高效管理相关投资所定义,而非由其投入金额多少所决定。
企业级AI似乎正遵循一种熟悉的发展模式。正如此前的云计算一样,早期竞相采用该技术的热潮正让位于对成本管控、回报衡量及可持续规模化部署的更大关注。那些将AI视为一项运营能力而非无止境实验的企业,未来可能更具优势。
本周AI新闻其他要点:
多数美国公司缺乏成熟的AI治理框架:尽管对AI治理的投资持续增长,但相对而言,仅有少数美国公司已建立成熟的治理框架,这在企业部署越来越多自主AI系统之际引发担忧。
美国联邦通信委员会(FCC)以安全风险为由禁止进口中国仿人机器人:美国扩大了对中国仿人机器人的限制,援引国家安全风险,此举是华盛顿方面加强本国AI与机器人能力努力的一部分。
Core Scientific通过140亿美元AMD协议将其AI算力容量翻倍至1.1吉瓦(GW):该公司通过与AMD达成的140亿美元协议,将其AI基础设施规划扩展至1.1吉瓦,凸显业界仍在持续投资于支撑不断增长的AI需求所需的计算能力。
英伟达(Nvidia)推进AI开放安全联盟:英伟达与数十家科技公司共同发起“开放安全AI联盟”(Open Secure AI Alliance),旨在开发开源AI安全工具;该联盟主张,更高程度的开放性将在AI系统日益自主化的背景下强化网络防御能力。
AI作为一种思维模式:面向首席信息官(CIO)的增长指南:一份新指南指出,CIO必须将AI视为一场组织变革,而非单纯的技术项目,需构建鼓励试验、学习与持续适应的文化。
AI驱动数据中心不确定性——Uptime《2026年数据中心行业调查》:Uptime Institute最新调查发现,AI正迫使运营商重新思考供电、散热及基础设施策略,以支撑日益繁重的工作负载。
JOTO 企业落地观察
- 对企业部署而言,报告揭示AI已进入‘后部署阶段’:组织不再缺乏技术能力,而是缺乏成本归因机制与权责主体——超半数未指定AI成本负责人,导致支出不可见、浪费难识别,亟需将FinOps流程嵌入AI生命周期。
- 对智能体工程而言,模型选型粗放(如为常规任务选用过大模型)直接抬高推理成本,提示工程需与成本意识结合:轻量级智能体设计、动态模型路由、缓存与降级策略应成为标准实践,而非仅关注功能实现。
- 对AI安全治理而言,成本失控与治理缺位并存:文中指出多数美国公司缺乏成熟AI治理框架,而成本失控本质是治理失效的表现之一——缺乏预算审批、用量审计与风险阈值管控,使安全与合规失去财务约束基础。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


