OpenRouter Blog·· 1 天前精选AI 评分60
OpenRouter 重建 provider 路由算法,TTFT 降低 16.9%、429 错误减少 67%
How we rebuilt provider routing for better, faster inference
AI 导读
OpenRouter 宣布重建 provider 路由算法,从几乎只看输入 token 价格改为按实时 Routing Cost 综合价格、吞吐、首 token 延迟、错误率与输出质量来分配流量。
推荐理由
OpenRouter 官方给出新旧路由的对照实验数据,可看清价格优先与性能优先之间的取舍。
来源:OpenRouter Blog · openrouter.ai