Cloudflare Changelog·· 20 天前AI 评分40
Cloudflare AI Gateway 推出 User Insights：识别模型过度使用与潜在节省
AI Gateway - Identify model overuse and potential savings with User Insights
AI 导读
Cloudflare AI Gateway 上线 User Insights，可按任务归类对话、追踪对话轮次，并对比模型匹配度与成本、延迟。其中的 Potential Savings 视图会标出那些换用更快或更便宜模型、输出质量可能不受影响的请求，这些信号与 Cloudflare Auto Router 选模型所用的一致。该功能对所有 AI Gateway 客户免费开放。
来源：Cloudflare Changelog · developers.cloudflare.com