AI 账单涨起来以后,最容易做错的事,是直接找更便宜的模型。
这件事很像早年的云成本治理。账单一涨,大家先去看哪种机器便宜,哪家云折扣更大。后来才发现,真正烧钱的地方常常不是单台机器贵,而是没人关的实例、过度冗余的集群、没有归属的测试环境和随手开出来的服务。
AI token 账单也一样。模型单价确实在降。Epoch AI 的趋势页显示,在固定能力水平下,LLM 推理价格约每年下降 40 倍,大约每两个月减半。OpenAI GPT-4o mini 的价格也已经低到每百万输入 token 0.15 美元、每百万输出 token 0.60 美元。
但单价下降不会自动省钱。token 便宜以后,团队会把更多流程接进模型。以前舍不得喂的长文档,现在整段塞进去。以前人工点一下的流程,现在让 agent 反复试。以前只在关键场景用 AI,现在每个后台工具都想接一个模型。
所以,AI 账单上涨时,第一步不是换模型。第一步是看这笔 token 到底买了什么。
省 AI 钱之前,先把成本分成两类。
一类是内部效率。比如 Copilot、Cursor、Claude Code、内部知识助手、办公自动化。这笔钱买的是员工效率。它通常落在研发费用、IT 费用、员工工具预算或内部平台成本里。
另一类是客户交付。比如客服 AI、AI search、Duolingo Max 的视频通话、Adobe Firefly 的生成、Intercom Fin 的客服 agent。这笔钱买的是产品功能或服务结果。它会进入 cost of revenue、support cost 或产品毛利。
这两类成本不能用同一把刀砍。FinOps Foundation 对 AI 采购模型的拆分说明了这点:直接模型 API 是按 token 付费,嵌入式 SaaS AI 常常是按 seat 或 add-on 付费,自托管模型则把成本转成 GPU 小时、存储、网络和平台团队。
同样叫 AI 成本,控制面完全不同。
招商银行的例子能帮我们校准直觉。根据华尔街见闻转述招商银行股东会发言,截至 2026 年 5 月底,招行日均 token 消耗达到 330 亿,大模型成本收益比约 20%。同一篇报道里还有一个更有用的数字:用于大模型编程的算力投入,只占总算力约 5%。
这不是监管公告,只能按媒体转述管理层发言处理。但它提醒我们:技术圈声量最大的 AI coding,不一定是企业 token 主战场。在银行这种组织里,客服、运营、风控、办公和知识检索可能吃掉更多 token。
如果只盯研发工具省钱,很可能捡了芝麻,漏了西瓜。
如果 AI 成本买的是内部效率,第一刀通常不该砍模型单价,而该砍闲置和失控流程。
seat 型工具先看活跃率。公司给所有研发、运营、销售都开了 AI 助手,但实际每天用的人有多少?哪些团队只是因为预算宽松拿到了 license?哪些人两周都没有触发过一次有效调用?这类浪费不需要复杂工程优化,直接回收授权就能省钱。
API 和 agent 型工具再看自循环。内部 agent 最容易烧钱的地方,不是一次模型调用贵,而是它遇到错误以后反复读上下文、反复调用工具、反复重试。一个本来应该失败并停下来的任务,如果没有 max steps、max retries、max context,就会在后台把 token 当水放。
所以内部效率型 AI 至少要有三条硬限制。
第一,限制单个 agent 任务的最大步数和最大重试次数。第二,限制上下文长度,不要让员工把整份无关文档都塞进去。第三,按团队、应用和 workflow 做归因,让真正使用 token 的团队看到账单。
招商银行的管理口径有参考价值。它把大模型成本端拆成研发人员投入和 token 费用,收益端再用多个维度衡量业务效果(华尔街见闻)。这个做法比“全公司 AI 用了多少 token”更接近真实治理。因为只有把成本归到团队和业务链路,内部才会有节制。
内部效率型 AI 的目标不是把 token 用量压到最低,而是让每次调用都能换到员工时间、工程质量或流程速度。闲置 seat、无限上下文、agent 自循环和大锅饭平台成本,是最先该清理的地方。
如果 AI 成本买的是客户交付,降本逻辑就变了。
这时候最危险的动作,是把模型直接换小,然后宣布节省了 token 成本。便宜模型如果答不准,客户会重复提问。原本一轮解决的客服问题,可能变成五轮。更糟的是,问题最后还是转给人工。你省下来的模型钱,可能会让人工升级、客户等待和重复工单吃掉。
客户交付型 AI 要看的不是 cost per token,而是 cost per outcome。
Duolingo 是公开公司里少见的清晰案例。它在2025 年 10-K 里写到,整体毛利率从 72.8% 降到 72.2%,部分原因是订阅毛利率下降,而这个下降反映了 Video Call 等功能使用的 AI 成本增加。Reuters 还引用 CFO 的说法称,Max 版本的视频通话功能有边际成本,对整体毛利率产生了大约 100 个基点的影响。
这就是客户交付型 AI 的本质:用户越爱用,收入可能增长,成本也会增长。真正要算的是每次视频通话、每次生成、每个搜索答案、每个客服 resolution 有没有覆盖成本。
Intercom Fin 的定价把这个逻辑产品化了。它采用按 outcome / resolution 收费(Fin pricing)。这不是随便换一种 pricing 文案,而是让收入单位靠近成本单位。每个 resolution 背后可能有多轮对话、知识库检索、模型调用和人工接管。定价必须覆盖这些变量成本。
Klarna 的客服 AI 也说明了应该看什么。它的 AI assistant 上线一个月处理了 230 万次对话,占客服聊天的三分之二,相当于 700 名全职客服,并预计 2024 年带来 4000 万美元 profit improvement(Klarna)。这个案例的核心指标不是 token 总量,而是解决率、重复询问率、处理时间和人工升级率。
客户交付型 AI 的降本动作应该围绕毛利展开。客服看 cost per resolved issue、containment、repeat inquiry 和 handoff。生成产品看 credits、quota 和 heavy user 是否把固定订阅用成负毛利。AI search 看免费用户和付费用户的推理成本有没有分开算。agent platform 看每次 action、tool call 和 retry 是否受控。
便宜模型只是工具,不是目标。目标是每个结果的毛利稳定。
很多公司现在能看到总 token,却看不到 token 去了哪里。
这就像只看公司总电表。你知道机器在转,但不知道哪条产线赚钱,哪条产线空转,哪台设备忘了关。
中国市场的数字已经很大。科创板日报/新浪报道,豆包大模型日均 token 调用量突破 180 万亿,火山引擎在中国公有云 MaaS 市场份额达到 49.5%,万亿 Token 俱乐部成员超过 200 家(新浪/科创板日报)。
这些数字说明调用规模已经上来了。但同一篇报道也引用云计算行业分析师的质疑:万亿 Token 俱乐部里,很多可能是厂商给客户的免费测试额度,或者是试点项目流量,真正的付费生产调用有多少,还要打问号。
这条质疑对企业降本同样适用。
如果你把生产调用、试点调用、免费额度、内部测试、benchmark 全部加在一起,只能得到一个更大的数字。这个数字不能告诉你哪里该砍,也不能告诉你哪里该加码。
每月 AI cost review 至少应该拆四张表。
第一张按团队、应用和 workflow 拆,看谁在花钱。第二张按模型、上下文长度、输出长度和重试次数拆,看技术浪费在哪里。第三张按业务结果拆,看客服、生成、搜索、agent task 的 cost per outcome。第四张按生产、试点、免费额度和内部测试拆,看哪些是真正在经营系统里跑的 token。
没有这四张表,所谓 AI 降本大概率会变成拍脑袋:哪个团队声量小砍哪个,哪个模型看起来贵换哪个,哪个项目短期 ROI 说不清就停哪个。
这样省钱很容易省错。
公司开始清理 AI 账单时,可以按一个简单顺序走。
先标记每笔 AI 成本买的是什么。它是在买内部效率,还是在买客户交付?这个问题不回答,后面的动作都可能错。
如果是内部效率,先砍闲置 seat,再限制 agent loop、重试次数和上下文长度,最后做团队 chargeback。不要一上来谈模型议价。大量浪费可能根本不在模型单价,而在没人用、没人管、没人负责。
如果是客户交付,先算 cost per outcome。一个客服工单解决要多少钱?订阅或 credit 能不能覆盖一次生成的成本?一次 search answer 的成本能不能和付费用户收入对齐?转人工率、重复提问率、失败重试率有没有上升?这些指标没算清楚,盲目换便宜模型可能会把毛利砍坏。
最后才谈模型议价、模型替换、小模型路由和批处理优化。这些动作当然有用,但它们应该发生在归因之后。
AI 账单真正可控,不是因为你买到了最便宜的 token,而是因为你知道每一类 token 应该为哪个业务结果付账。