LLM API 按租户计 token 控成本

2026 年 10 月 28 日，dev.to 一篇面向 B2B SaaS 的文章讨论 LLM API token 计数如何影响成本。文章主张，面向私有知识库的多租户应用应按租户记录每次请求的输入、检索与输出 token 数，而不是只看月度总量，因为少数文档冗长或重试多的租户会主导用量。文章给出的示例配置中，lookup 类问题分配 1,800 token 上下文和 300 token 输出，explanation 类分配 4,200 和 700，并需在检索前选定、随请求记录策略标识。目前进展限于该文提出的计费与记录方法，尚无后续实施或数据披露。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。