dev.to · SaaS· TokenMargin·· 2 小时前AI 评分58
多轮上下文膨胀的隐藏算术:为什么 $29/月 AI SaaS 套餐在 P95 用量下亏掉毛利
The Hidden Math of Multi-Turn Context Bloat: Why $29/mo AI SaaS Plans Bleed Margin at P95
AI 导读
TokenMargin 拆解了多轮 AI 会话的计费方式:LLM 无状态,每轮都要重发系统提示、RAG 上下文和历史对话,一个 20 轮会话累计输入 token 可达 281,000,叠加多步工具调用后常超过 650,000 输入 token 和 35,000 输出 token。
来源:dev.to · SaaS · dev.to