Vercel News· Jeremy Philemon·· 2026-01-26AI 评分43
Vercel AI Gateway 上线模型实时性能指标:延迟与吞吐量每小时更新
Live model performance metrics accessible via AI Gateway
AI 导读
Vercel AI Gateway 现已展示数百个模型的吞吐量与延迟指标,数据基于真实客户请求、每小时更新,用于按实时性能选型。模型列表新增延迟与吞吐量排序,展示各模型跨供应商的最佳 P50 指标;模型详情页可按供应商对比同一模型的 P50 延迟与吞吐量。指标同时通过 REST API 提供按供应商的 P50/P95 延迟(ms TTFT)与吞吐量(T/s)聚合数据。
来源:Vercel News · vercel.com