AI EngineerAI 账单太高了:Tokenomics 101 — Eugene Cheah, Featherless AI
当 token 支出持续上涨而生产力没有同步提升时,问题往往不在模型本身,而在成本治理。Featherless AI 的 Eugene Cheah 在 AI Engineer NYC 2026 提出四步法:先度量、再选型、优化采购、最后检查流程。内容覆盖按团队拆分 API key、区分 agentic 与流程型负载、用分类器替代大模型、用强模型规划、用便宜模型执行、影子流量持续迭代,以及速度与成本的权衡。
这条分享切中当下 AI 工程团队最现实的痛点:推理账单持续膨胀,但产出并没有同比例增长。Eugene Cheah 给出的框架不是“换更便宜的模型”这么简单,而是把 token 成本当作一项需要工程化治理的系统问题,按度量、选型、采购、流程四步推进。
第一步“度量”最容易被忽视,却最具杠杆。很多团队共用一个 API key,导致无法归因成本,也就无法优化。按团队或项目拆分 key,才能看清哪些调用真正昂贵、哪些只是噪声。这一步也自然引出对工作负载的分类:agentic 任务和流程型任务对模型能力、延迟和成本的要求完全不同,混在一起评估只会得出错误结论。
选型环节的关键洞察是“规划用强模型、执行用便宜模型”,以及分类器这类廉价模型可以承担大量结构化判断。对中文团队而言,这意味着不必在每个环节都调用前沿模型,而是把能力分层:复杂推理交给强模型,重复性判断交给小模型或微调模型。
采购与流程层面,分享提醒我们模型切换本身有成本,团队更倾向于稳定而非省钱,因此应给团队模型标签而非具体模型名,把选型决策集中管理。自建微调模型配合影子流量,可以在不牺牲质量的前提下持续压低成本。
对中文 AI/科技读者来说,这套方法的价值在于可操作性:它不依赖特定厂商,而是提供一套可落地的成本治理清单,适合正在把 AI 从试点推向规模化生产的团队参考。