跳到正文
原文
dev.to · SaaS· llmbrake·· 6 天前AI 评分62

如何防止单个客户把 OpenAI 账单烧爆

How to stop one customer from blowing up your OpenAI bill

AI 导读

作者给出在 LLM API 之上按客户归因成本的做法:每次调用后把 token 用量换算成美元记账,调用前检查该客户当月预算,达到 80% 时切换到更便宜的模型,达到 100% 时返回明确的超限错误。

来源:dev.to · SaaS · dev.to