OpenRouter 对比 LiteLLM:LLM 网关该选托管还是自托管
OpenRouter 官方对比了自家托管网关与自托管 LiteLLM 的取舍,核心差异在于路由层运行在哪里。
OpenRouter 官方对比了自家托管网关与自托管 LiteLLM 的取舍,核心差异在于路由层运行在哪里。
OpenClaw 内置 OpenRouter 支持,用一条 `openclaw onboard` 命令即可接入,一个 key 覆盖 70+ 提供商的 300+ 模型,并自动做提供商故障转移。OpenRouter 按量付费平台费为 5.5%,自带 key 的 BYOK 费为等效成本的 5%,另有 20+ 免费模型可按 token 零成本使用。
Domyn 与 AISquared 两家面向受监管行业的 AI 实验室,基于 Ai2 的开源模型与数据集构建自有产品。AISquared 的 Bolt Instruct 微调自 Olmo 2、Olmo 3 和 Olmo 3.1,覆盖 1B、7B、32B 三种规模,迁移后其基础设施托管成本降低约 50%。
Hugging Face 发布了一套针对 Agent 使用工具的基准测试方法,以 transformers 为案例,衡量 Agent 完成任务所耗费的 token、延迟与失败次数,而非只看最终答案。
Replit 现已可直接在 Claude 内使用,用户在 Claude Design 用自然语言设计好应用后,可一键发送到 Replit 继续构建、打磨并发布,无需复制粘贴或切换上下文。Claude 还能通过官方 Replit Connector 把任意开发任务交给 Replit,用于搭建后端、开发功能或迭代现有项目。
Kilo Code 可通过三步接入 OpenRouter,用一个 API key 访问 70+ 提供商的 300+ 模型,路由规则写在 kilo.json 的 models.{modelId}.options 下。
Shopify 推出 Catalog——一个统一智能层,通过 Catalog API 向开发者和 AI agent 标准化商品数据,核心是商品聚类:把不同商家的相关变体和商品归入同一个 Universal Product Identifier(UPI)。
OpenRouter 发布教程,介绍如何通过 ~/.codex/config.toml 配置把 OpenAI Codex CLI 路由到 OpenRouter,用一个 API key 调用 300+ 模型。
智谱发布旗舰模型 GLM-5.2,主打长任务能力,首次在 1M token 上下文上稳定支持长程工作,并以 MIT 协议开源。它引入 IndexShare 架构,每 4 层稀疏注意力共享同一 indexer,在 1M 上下文下把每 token FLOPs 降低 2.9×,同时改进 MTP 层使投机解码接受长度最多提升 20%。
推荐理由:GLM-5.2 把 1M 上下文和编码能力做成开源模型,读者可据此判断它在长任务上与闭源前沿的差距。
Together AI 用 12 个落地页提示词对比 Kimi K2.7 Code 与 Claude Fable 5,Kimi 平均便宜约 16 倍,整体成本低约 94%,生成 100 个页面可省约 94 美元。
推荐理由:原文用 12 个落地页对比两款模型的成本与质量,并给出 MCP 提供设计参考后的效果差异。
Amplitude 用 Agent Analytics 在三天内完成一次模型替换实验:把 Global Agent 生产环境中的 Claude Sonnet 4.6 换成 Gemini 3 Flash,后者输入成本约为前者的六分之一、输出成本约五分之一,单 token 成本降低 5–6 倍。
OpenRouter 发布教程,说明如何用三个环境变量把 Claude Code 的请求路由到 OpenRouter,从而获得供应商故障转移、按 key 预算上限和用量看板,无需本地代理。
推荐理由:OpenRouter 官方给出把 Claude Code 接入其路由层的三变量配置与成本算法,可据此评估故障转移和团队预算控制。
OpenRouter 通过兼容 OpenAI Chat Completions API 的单一端点,让任意编程工具用同一个 sk-or- 开头的 key、同一个 base URL 和 provider/model 格式的模型 slug 接入 300+ 模型、70+ 提供商。
OpenRouter 上线 openrouter:subagent 工具,在 tools 数组里加入后,前沿模型可在生成过程中把自包含任务下派给更小、更便宜、更快的 worker 模型,由 worker 处理完再把结果传回。
推荐理由:OpenRouter 上线 subagent 工具,让前沿模型把机械子任务下派给更便宜的 worker 模型,并给出成本差与计费方式。
Cloudflare 发布 Agents SDK 新版本,Agent 可通过单一 browser_execute 工具经 Browser Run 操作浏览器,用 CDP 写代码完成页面检查、截图与前端调试,会话支持一次性、复用或转为持久化。
GLM 5.2 已在 Vercel AI Gateway 上线,上下文窗口从 GLM 5.1 的 200K tokens 升级至 1M tokens,面向长周期任务,可跨单个任务携带项目级工程上下文。开发者可在 AI SDK 中将 model 设为 zai/glm-5.2 调用。AI Gateway 按供应商定价不加价,推理不收取平台费,BYOK 请求同样适用。
Cloudflare 在 Workers AI 上线 Z.ai 的旗舰 agentic coding 模型 GLM-5.2,模型标识为 @cf/zai-org/glm-5.2,支持函数调用与推理,面向自主编码、长周期规划和工具增强型 agent。
OpenRouter 发布 2026 年免费 LLM API 对比,覆盖 13 个平台,区分永久免费额度、试用额度和本地推理三类。
推荐理由:OpenRouter 汇总 13 家免费 LLM API 的速率限制、上下文与隐性成本,并给出故障切换的代码示例。
OpenRouter 提出用 API Key 在请求路径上做 Agentic AI 运行时治理,而非依赖治理框架。做法是按 Agent 工作流分配独立 API Key,并设置每日重置的额度上限,例如销售 Agent $50/天、分类 Agent $10/天,同时限制模型与供应商访问并记录请求。
OpenRouter 发布教程,介绍用 preset 替代硬编码模型 slug,让请求在模型被下架或限制时自动切换到备用模型。preset 是服务端命名配置,包含模型、备用模型、provider 规则、参数和 system prompt,代码里用 @preset/customer-support 引用,改一处即可全局生效,无需重新部署。
推荐理由:OpenRouter 官方给出用 preset 替代硬编码模型 slug 的做法,读者可据此把模型下线变成一次配置修改。
PostHog 提出"build mode",让产品工程师、产品经理和产品营销人员互相进入彼此的领域。过去 30 天,用户通过 PostHog AI 完成了数百万次 MCP 工具调用、超过 40 万次对话,并创建了 50 多万条 insight。
OpenRouter 把每次请求的路由拆成两个独立决策:用哪个模型回答、由哪个供应商提供该模型,一个 OpenAI 兼容端点背后接入 70+ 供应商、400+ 模型。
OpenRouter 通过两层机制保障 LLM 请求成功:provider 层故障转移默认开启,可在同一模型的不同 provider 间自动切换;model 层 fallback 需手动配置 models 数组,跨模型恢复。
Nous Research 的开源 CLI 自主智能体 Hermes Agent 可通过一个 OpenRouter API key 接入 400+ 模型、70+ 供应商,并支持自动故障转移与单一账单。
OpenRouter 发布教程,说明如何用 :floor 后缀把请求路由到该模型最便宜的供应商,效果等同于 provider.sort: "price",并用 max_price 设置每百万 token 的硬性价格上限,超限请求直接失败。
推荐理由:OpenRouter 官方给出按价格路由、预算上限与免费额度的具体配置,可对照自己的调用成本逐项排查。
Vercel 在 AI SDK 7 中推出 HarnessAgent,用单一 API 运行 Claude Code、Codex、Pi 等 agent harness,切换 harness 时无需重写 agent。
推荐理由:Vercel 在 AI SDK 7 中推出 HarnessAgent,用统一 API 切换 Claude Code、Codex、Pi 等 agent harness,可了解 agent 抽象层的新做法。
Cloudflare 在 Workers AI 上线 Moonshot AI 的 Kimi K2.7 Code,模型 ID 为 @cf/moonshotai/kimi-k2.7-code。
推荐理由:Cloudflare 上线 Kimi K2.7 Code,给出编码基准提升、推理 token 减少与缓存输入涨价的具体数字。
OpenRouter 发布 Fusion,把多个模型的输出交给一个 judge 模型融合,可通过单次 API 调用或聊天室使用。
推荐理由:OpenRouter 发布 Fusion,用 DRACO 基准对比多模型融合与单模型的分数和成本差异。
Moonshot AI 的 Kimi K2.7 Code 已在 Vercel AI Gateway 上线,调用时把 model 设为 moonshotai/kimi-k2.7-code 即可。
Weights & Biases 的 Fully Connected 发布报告,介绍围绕 Gemma 3 270M 构建紧凑视觉-语言-动作(VLA)模型的过程,并为其搭建生产级 MLOps 流水线。报告聚焦该小型 VLA 模型从开发到生产化落地的完整路径。
OpenRouter 撰文解释 LLM Gateway 这一位于应用与多个 AI 模型提供商之间的中间件层,其四大核心功能为统一 API 格式、提供商故障转移、成本管理与支出追踪、可观测性与日志。
OpenRouter 发布 analytics API,用于观察用户跨模型家族的推理分布。文中指出 Anthropic 的 Opus 4.7 曾出现约 35% 输入 token 增长的“tokenizer tax”,Fable 定价 $10/M 输入、$50/M 输出,OpenAI GPT-5.5 Pro 为 $30/M 输入、$180/M 输出。
Vercel AI Gateway 新增 Azure 作为 DeepSeek V4 Pro 和 V4 Flash 的提供商,请求可经 Azure 路由,多一条故障转移路径,无需改代码,默认路由会自动考虑 Azure。
Ollama 更新了 MLX 引擎,称在 Apple Silicon 上实现迄今最高性能,模型响应更快、质量更高且占用内存更少。新引擎支持 NVIDIA 的 NVFP4 格式,官方称相比 q4_K_M 约将 4-bit 量化的质量损失减半,输出速度约快 20%。
Replit 上线 Agent Customization,让 Replit Agent 按团队规范工作,包含 Custom Instructions 和 Skills 两部分。
OpenRouter 上线 openrouter:advisor 工具,执行模型在生成过程中遇到难题时可调用另一个模型求助,执行方和顾问方都可以是 OpenRouter 目录里任意厂商的任意模型。
推荐理由:OpenRouter 上线 advisor 工具,让便宜模型在关键节点调用强模型,读者可据此估算混合调用的成本结构。
Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式一次性生成整块文本,在专用 GPU 上文本生成最高提速 4 倍,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。
推荐理由:Google 发布实验性开源文本扩散模型,给出 4x 推理加速与本地部署的硬件门槛,适合关注本地推理速度的开发者。
Cursor 的 Bugbot 平均审查时间从约 5 分钟降至约 90 秒,单次运行成本降低约 22%,每次审查平均多发现 10% 的 bug(从 0.56 升至 0.62),这些提升来自训练 Composer 2.5 的进展。
Amplitude 推出主动式产品 Agent Amplitude Wave,持续分析 Amplitude 数据中的信号,给出产品改进机会、产品规格与验证实验,并追踪后续结果。其内部首版机会反馈好评率约 5%,通过自我迭代已提升至 70% 以上。Amplitude 每天处理近 800 亿事件、每月超 2.5 万亿事件,Wave 在平台全量启用时使用这些行为上下文,并可扩展至外部 MCP 连接。
Gemini 2.5 Flash 是 Google 首个内置 thinking 混合推理模式的 Flash 级模型,thinking budget 设为 0 可关闭以获最快最省输出,-1 为动态模式(Google 直连 API 默认)。