OpenRouter 对比 LiteLLM:LLM 网关该选托管还是自托管
OpenRouter 官方对比了自家托管网关与自托管 LiteLLM 的取舍,核心差异在于路由层运行在哪里。
OpenRouter 官方对比了自家托管网关与自托管 LiteLLM 的取舍,核心差异在于路由层运行在哪里。
OpenRouter 发布 2026 年免费 LLM API 对比,覆盖 13 个平台,区分永久免费额度、试用额度和本地推理三类。
推荐理由:OpenRouter 汇总 13 家免费 LLM API 的速率限制、上下文与隐性成本,并给出故障切换的代码示例。
OpenRouter 发布教程,说明如何用 :floor 后缀把请求路由到该模型最便宜的供应商,效果等同于 provider.sort: "price",并用 max_price 设置每百万 token 的硬性价格上限,超限请求直接失败。
推荐理由:OpenRouter 官方给出按价格路由、预算上限与免费额度的具体配置,可对照自己的调用成本逐项排查。
OpenRouter 发布 analytics API,用于观察用户跨模型家族的推理分布。文中指出 Anthropic 的 Opus 4.7 曾出现约 35% 输入 token 增长的“tokenizer tax”,Fable 定价 $10/M 输入、$50/M 输出,OpenAI GPT-5.5 Pro 为 $30/M 输入、$180/M 输出。
OpenRouter 公布 5 月更新,宣布完成 1.13 亿美元 B 轮融资,目前每月路由 100 万亿 token。本次上线 Workspace Guardrails,可按成员和 API key 设置支出上限、锁定模型与供应商白名单、强制零数据保留,并拦截 30 多种 OWASP 来源的提示注入、在到达供应商前脱敏 PII。
推荐理由:OpenRouter 一次性放出护栏、语音、模型融合等多项更新,可了解其企业级路由与治理能力的边界。
Together AI 与 Pearl Research Labs 达成独家合作,推出首个集成 Pearl Network 的推理端点 Gemma-4-31B-it-pearl,价格折扣超过 25%,由加密代币 ¶PRL 的未来排放价值抵消。
Cursor 为 Bugbot 上线 Effort Levels,团队管理员和 Individual 套餐用户可自定义 PR 审查的投入档位,分 Default、High、Custom 三档,Custom 支持用自然语言描述何时切换。
Cursor 为 Enterprise 管理员推出模型访问控制、软性支出限额与更细的用量分析。管理员可按模型和供应商设置允许或阻止名单,并默认阻止新供应商或模型版本,现有阻止名单需在 6 月 1 日前迁移。
OpenRouter 推出响应缓存功能,在请求头加 X-OpenRouter-Cache: true 即可对相同请求启用缓存,首次调用正常计费,之后完全相同的调用直接返回缓存结果,不消耗 token 也不收费。
推荐理由:OpenRouter 上线响应缓存,命中后不计 token 也不收费,可对照自身重复调用场景评估成本。
OpenAI Codex 现为 ChatGPT Business 和 Enterprise 提供按量付费(pay-as-you-go)定价,让团队可以更灵活地开始使用并扩展规模。
Mistral 发布 Voxtral Transcribe 2 系列两款语音转文字模型,包括用于批量转写的 Voxtral Mini Transcribe V2 和面向实时场景的 Voxtral Realtime,后者以 Apache 2.0 许可开放权重。
推荐理由:Mistral 发布两款语音转文字模型,给出延迟、错误率与每分钟价格,便于开发者比较选型。
OpenAI 宣布 ChatGPT Go 面向全球上线,提供 GPT-5.2 Instant 的扩展访问、更高使用额度和更长记忆,让先进 AI 在全球范围内更可负担。
OpenAI 升级 GPT-5 系列,推出 GPT-5.1,模型更智能、对话更自然,并新增定制 ChatGPT 语气和风格的方式。GPT-5.1 从今天起向付费用户逐步推送。
Paddle 扩展了其 Model Context Protocol(MCP)server,从原先只支持部分功能升级为完整覆盖 Paddle API,AI agent 可访问超过 80 个工具,涉及 Paddle Billing 的各个环节。
推荐理由:Paddle 把 MCP server 扩展到覆盖全部 API,并给出工具权限的四种配置方式,做订阅计费的开发者可据此判断能否交给 AI 助手操作。
OpenRouter 宣布把 Zero Completion Token Insurance 扩展到平台上所有模型,当响应没有输出 token(空或错误 finish reason)时不再向用户收费,即使底层模型供应商仍向 OpenRouter 收取 prompt 处理费用。
推荐理由:OpenRouter 把空响应不计费扩展到全部模型,并给出每周为用户省下超 $18,000 的估算。
Cloudflare 更新了 Workers AI 定价,把此前的分桶计费改为按模型单独定价,并公布各模型核心输入格式(tokens、音频秒数、图片等)与 Neurons 的换算关系。
推荐理由:Cloudflare 把 Workers AI 从按模型分桶计费改为按模型单独定价,并公开各模型输入单位与 Neurons 的换算关系。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、Flux.1 等模型,并已集成 JS 和 Python 客户端 SDK。
OpenRouter 推出网页搜索功能,可在 Chatroom 中为任意语言模型提供最新信息,目前免费,API 访问稍后开放。同时下调多款模型价格,qwen-2.5-coder-32b-instruct 降 12%,hermes-3-llama-3.1-70b、llama-3.3-70b-instruct、llama-3.1-70b-instruct 等降 31%。
推荐理由:OpenRouter 上线网页搜索并下调多款模型价格,读者可据此了解其能力与调用成本变化。
OpenAI 正式发布 O1 推理模型,并推出 $200/月的 ChatGPT Pro 订阅。O1 新增图像分析能力,复杂查询错误率降低 34%,o1 Pro 在推理与决策任务中优于 GPT-4o、Gemini 1.5、Llama 3.1、Sonnet 3.5 和 Opus 3。
OpenRouter 宣布多个模型降价,降幅来自 DeepInfra,进一步压低了这些模型的最低价。
推荐理由:OpenRouter 公布多个模型由 DeepInfra 带来的降价幅度与新旧单价,可据此比较调用成本。
OpenAI 推出 ChatGPT Pro 订阅方案,用于拓宽前沿 AI 的使用范围。原文未披露具体价格、额度与上线时间等细节。
OpenAI 在 API 中推出 Prompt Caching,对模型近期已经见过的输入自动提供折扣。该功能面向 API 调用方,输入部分会自动降价,无需额外配置。
Mistral 为 la Plateforme 推出免费额度,开发者可零成本做实验、评估和原型开发,之后可平滑升级到商业版并享受数据隔离与更高速率限制。全线模型降价,Mistral Small 与 Codestral 输入输出价格均降 80%,Mistral Large 降 33%,Mistral Nemo 降 50%。
推荐理由:Mistral 公布全线模型降价与免费额度,开发者可据此重新核算 API 调用成本。
Fly.io 宣布把 NVIDIA L40S GPU 的价格下调到每小时 1.25 美元,与 A10 同价,用户使用 L40S 不再比 A10 多付费用。Fly.io 称其 GPU 目录中 A10 最受欢迎,用户主要跑推理而非训练,因此把定位为 A100 级性能的 L40S 降到 A10 价位。
推荐理由:Fly.io 把 L40S 降到与 A10 同价,并公开了用户实际更偏好中低端推理卡的数据。
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API(serverless),基于 NVIDIA DGX Cloud 提供无服务器推理,按请求计算时间计费。
OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出 Assistants API、带视觉能力的 GPT-4 Turbo 以及 DALL·E 3 API 等开发者产品。材料仅提供摘要,未给出具体价格数字与各产品的详细能力说明。
推荐理由:OpenAI 在 DevDay 一次性公布新模型与开发者产品,可据此了解模型能力与 API 价格的变化方向。
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
OpenAI 宣布对 API 进行多项更新,包括更易控制的模型、函数调用能力、更长的上下文以及更低的价格。官方未在摘要中给出具体模型名称、上下文长度或降价幅度。
推荐理由:OpenAI 官方公布 API 更新,涉及函数调用、更长上下文与降价,可据此判断接口能力与成本变化。