dev.to · SaaS· llmbrake·· 6 天前AI 评分62
如何防止单个客户把 OpenAI 账单烧爆
How to stop one customer from blowing up your OpenAI bill
AI 导读
作者给出在 LLM API 之上按客户归因成本的做法:每次调用后把 token 用量换算成美元记账,调用前检查该客户当月预算,达到 80% 时切换到更便宜的模型,达到 100% 时返回明确的超限错误。
来源:dev.to · SaaS · dev.to