从失控的Tokne账单中重新学习云计算教训

作者: CBISMB

责任编辑: 邹大斌

来源: CBISMB

时间: 2026-07-13 11:06

关键字: 智能体 FinOps 云成本 AI代币 代币成本

浏览: 0

点赞: 0

收藏: 0

每隔几年,就会有一些新技术承诺彻底改变商业运作方式,企业蜂拥而上,不问成本几何。我看了三十年这样的剧情,云计算是第一幕,如今主角换成了生成式AI——而账单的到来比任何人预想的都快。

最新数据显示,许多企业的Token成本比初始预测高出10至20倍。这不是四舍五入的误差,这是战略层面的重大误判,CFO们已经注意到了,而且他们很不高兴。

关键在于,这场危机完全在预料之中。我们在云计算时代已经经历过一次,当时学到了一些关于在缺乏严格成本管理的情况下部署技术会付出什么代价的惨痛教训。好的一面是,企业终于开始运用这些教训,回头翻出云成本的FinOps操作手册来管束这一轮新支出。

50倍问题

先来看看问题的量级。高盛估计,AI智能体每个任务消耗的算力大约是传统提示式聊天机器人的50倍。这从根本上改变了资源消耗的方式。当一家企业部署了几十上百个AI智能体,这笔账很快就会变得很难看。

Token成本问题之所以持续恶化,是因为AI成本天然具有波动性。不同于传统的软件许可或基础设施合同,你按Token付费,而Token使用量可能因用户行为、查询复杂度和流入这些系统的总请求量而发生剧烈波动。这正是我们在云计算中遇到过的问题——每当有人启动新实例或将数据存放在错误的存储层时,账单就往上飙。

企业原本预期部署AI后成本会趋于稳定,但现实是成本逐月攀升,常常超出预测一个数量级。在会议室里看起来很有吸引力的商业论证,到了财务委员会面前就大打折扣了。

云时代的操作手册

真正有趣的地方在这里。云服务商及其托管服务合作伙伴花了近二十年时间建立起围绕财务运营的准则——也就是FinOps。这套实践、工具和组织结构让云支出变得可见、可控,最终经得起业务部门的审视。

如今,同样的准则正在被应用于Token成本管理,拥有成熟FinOps项目的企业在应对挑战时明显优于没有的。操作手册本质上是一样的:让支出可见;将成本归属到正确的团队;设置护栏和告警;建立鼓励高效行为的反馈循环。

Priceline等公司已部署了为高管提供Token消耗实时可见性的仪表板,每月直接向CFO和CTO提交报告。Smartsheet实施了类似做法,提供部门级仪表板,让经理看到团队消耗代币的确切情况,并在消耗接近预设阈值时自动告警。

问责是关键。当开发者和业务用户能够清晰看到他们的AI使用如何转化为真金白银,他们往往会在模型选择、提示词设计和什么时候该依赖人类判断而非AI处理方面做出更好的决策。

归因革命

从这场危机中涌现的最有效技术之一是AI成本管理的"归因展示"方法。企业不再仅将AI支出报告给各部门了事,而是将费用归属到驱动这些消耗的具体团队和个人。这在不需要全量计费模型的组织复杂性的前提下,建立了问责机制。

OpenText报告称,实施归因展示和计费方法可在几个月内将Token成本降低20%至30%。如果一家企业每月在Token上花费500万美元,仅靠让相关人员知道他们花了多少钱就能节省150万美元。

机制很简单:当开发主管了解到自己的团队本月消耗了20万美元Token时,他们就会开始追问:为什么那个任务要用最贵的模型?如果用更小的模型处理80%的这些查询呢?提示词是否在重复调用?这些问题导向优化,优化导向节约。

模型智慧

云计算经验的另一个教训是,最贵的选项很少是最优选项。但组织倾向于对每项任务默认为最大、最强的AI模型,不论是否真正需要那个能力级别。

新兴的最佳实践是将模型能力与任务需求匹配。一个简单的分类任务不需要前沿模型;一次直接的文本生成任务,一个更小、更便宜的本地或低成本API层模型完全可以胜任。这一做法带来的效率提升相当可观。

有些企业更进一步,为合适的场景采用旧版模型或开源替代方案。高通就在自身硬件上运行模型方面投入甚多,而非完全依赖云端模型提供商。这种方式对技术要求更高,但对大批量应用而言可大幅降低单代币成本。

真正的挑战

当前最令人担忧的是,许多企业在部署AI时没有事先建立充分的成本管理基础设施。他们被技术热潮、快速行动的竞争压力以及"收益终将匹配成本"的信念所裹挟。当AI项目还是小规模试验时,这种做法尚可应付。如今AI正在成为核心业务运营的一部分,缺乏财务管控正演变为严重问题。

我们需要像对待其他重大技术投资一样,将同样严格的准则引入AI采购和部署。成功的组织会把Token成本视为受管理的运营支出,而非不可预测的变量。这意味着要部署与云成本管理一脉相承的工具和准则:可见性、问责制、优化和持续改进。

云服务商及其托管服务合作伙伴多年来一直在做这件事。他们构建了工具、制定了最佳实践、培养了如今可将这些技能应用于AI成本挑战的人才。如果你的组织正在与AI支出作斗争,找到具有深厚FinOps经验的合作伙伴或许是实现管控的最快路径。

好消息是,这场危机是可解的。但前提是正视问题、投入正确的能力建设,并接受一个事实——没有财务纪律的技术部署无异于自找麻烦。

管好你的AI开支,CFO会感谢你的。

©本站发布的所有内容,包括但不限于文字、图片、音频、视频、图表、标志、标识、广告、商标、商号、域名、软件、程序等,除特别标明外,均来源于网络或用户投稿,版权归原作者或原出处所有。我们致力于保护原作者版权,若涉及版权问题,请及时联系我们进行处理。