OpenRouter 模型路由是如何工作的
OpenRouter 把每次请求的路由拆成两个独立决策:用哪个模型回答、由哪个供应商提供该模型,一个 OpenAI 兼容端点背后接入 70+ 供应商、400+ 模型。
OpenRouter 把每次请求的路由拆成两个独立决策:用哪个模型回答、由哪个供应商提供该模型,一个 OpenAI 兼容端点背后接入 70+ 供应商、400+ 模型。
OpenRouter 通过两层机制保障 LLM 请求成功:provider 层故障转移默认开启,可在同一模型的不同 provider 间自动切换;model 层 fallback 需手动配置 models 数组,跨模型恢复。
OpenRouter 发布教程,说明如何用 :floor 后缀把请求路由到该模型最便宜的供应商,效果等同于 provider.sort: "price",并用 max_price 设置每百万 token 的硬性价格上限,超限请求直接失败。
推荐理由:OpenRouter 官方给出按价格路由、预算上限与免费额度的具体配置,可对照自己的调用成本逐项排查。
Vercel 在 AI SDK 7 中推出 HarnessAgent,用单一 API 运行 Claude Code、Codex、Pi 等 agent harness,切换 harness 时无需重写 agent。
推荐理由:Vercel 在 AI SDK 7 中推出 HarnessAgent,用统一 API 切换 Claude Code、Codex、Pi 等 agent harness,可了解 agent 抽象层的新做法。
OpenRouter 发布 Fusion,把多个模型的输出交给一个 judge 模型融合,可通过单次 API 调用或聊天室使用。
推荐理由:OpenRouter 发布 Fusion,用 DRACO 基准对比多模型融合与单模型的分数和成本差异。
OpenRouter 撰文解释 LLM Gateway 这一位于应用与多个 AI 模型提供商之间的中间件层,其四大核心功能为统一 API 格式、提供商故障转移、成本管理与支出追踪、可观测性与日志。
OpenRouter 发布 analytics API,用于观察用户跨模型家族的推理分布。文中指出 Anthropic 的 Opus 4.7 曾出现约 35% 输入 token 增长的“tokenizer tax”,Fable 定价 $10/M 输入、$50/M 输出,OpenAI GPT-5.5 Pro 为 $30/M 输入、$180/M 输出。
Sentry 推出 beta 版 Snapshots,在每次提交时对比截图,若检测到视觉变化就拦截 PR,让开发者确认改动是否有意为之。它支持上传截图、自动 diff 并在 PR 中提示差异,还可通过 sentry-mcp 和 REST API 把截图与上下文元数据交给 AI agent 使用。
Backlinko 的 John Iwuozor 解释了 query fan-out:AI 搜索系统把单个用户提问拆成多个子查询,再从多个来源综合出答案,因此高排名不等于被 AI 引用。
OpenRouter 上线 openrouter:advisor 工具,执行模型在生成过程中遇到难题时可调用另一个模型求助,执行方和顾问方都可以是 OpenRouter 目录里任意厂商的任意模型。
推荐理由:OpenRouter 上线 advisor 工具,让便宜模型在关键节点调用强模型,读者可据此估算混合调用的成本结构。
Gemini 2.5 Flash 是 Google 首个内置 thinking 混合推理模式的 Flash 级模型,thinking budget 设为 0 可关闭以获最快最省输出,-1 为动态模式(Google 直连 API 默认)。
Notion 借助 Codex 一次性生成规格(one-shot specs)、构建网页版 AI Voice Input,并在小团队中放大工程产能。这是 OpenAI 发布的 Codex 在 Notion 的落地案例,具体价格、费率与版本号未在原文披露。
Prisma 发布自主工程代理 Gremlin,可将 Sentry 报错、Linear 或 Slack 中指派的小任务自动转化为可审查的 pull request。它用 Mastra 做编排层、OpenCode 作为沙箱内编码代理,模型供应商可替换,即使 PR 不完美也能把初步排查从 45 分钟压缩到 5 分钟。首版并非通用自主开发者,而是聚焦中小型、边界清晰的任务。
Vercel AI Gateway 发布 2026 年 6 月生产指数,基于 5 月数据,总 token 量环比增长 20%,总支出环比增长 43%。DeepSeek 的 token 份额从不足 1% 跃升至 17%,升至第三位并超过 OpenAI,但支出份额仍接近 1%;其 V4 Flash 定价为每百万 token 输入 $0.14、输出 $0.28。
推荐理由:Vercel AI Gateway 的月度生产数据,展示 DeepSeek V4 上线后 token 份额与各家支出占比的变化。
DigitalOcean 在 Inference Engine 上线 Model Evaluations(公测),可评估平台模型及从 Hugging Face 或 DigitalOcean Spaces 导入的模型,比较成本、延迟与输出质量。该功能支持自定义数据集、指标与评判模型,数据集限 CSV 或 JSONL、单次任务约 1K 行 / 1GB,用于在生产流量切换前验证路由策略。
OpenRouter Dev Rel Lead Jacky 把 11 个 LLM 放进自建的 2D 大逃杀游戏对打 30 局,xAI 的 Grok 4.1 Fast 赢下 13 局,每胜成本 $0.97;次优的 Claude Sonnet 4.6 只赢 5 局,每胜 $26.78,相差 27 倍。
OpenAI 为 ChatGPT 推出名为 Dreaming 的新记忆系统,用于更好地记住用户偏好,让上下文在跨对话时保持新鲜与相关。
OpenAI 发布《情报时代的生物防御》行动计划,提出用 AI 构建生物韧性。该计划面向 AI 驱动的生物防御,具体措施与时间表尚未在文中披露。
Hugging Face 重新设计官方命令行工具 hf CLI,使其同时适配人类用户和编码 Agent,并在 hf v1.9.0 引入 agent-mode 输出。
AI observability(常与 LLM observability、LLM analytics 混用)用于监控应用的 prompts、响应、成本、延迟、错误和输出质量,因为传统 APM 只看 API 调用是否成功,看不到模型说错话、agent 调错工具或账单涨到预期的 4 倍。
Wasmer 借助 Codex 与 GPT-5.5 为边缘计算构建 Node.js 运行时,开发速度提升 10x 到 20x,交付周期从数月缩短到数周。
Resend 用户数从 1M 增至 3,000,000,用时六个月,同期团队从 25 人扩至 43 人,npm 周下载量从 1.4M 升至 6.8M。Resend 自去年起已盈利,未削减云支出或放缓招聘。其 MCP server 的 API 覆盖率从约 8% 提升至约 90%,并推出含 53 条命令的 CLI,下一步将上线远程 MCP server 与面向 agent 的 OAuth。
OpenAI 发布 ChatGPT Sites,用户可通过 Codex 创建轻量级网站或应用。该功能面向需要快速搭建简单网页或小应用的场景,具体定价、可用地区与开放时间尚未在原文中说明。
OpenAI 为 Codex 推出插件、站点和批注功能,面向分析师、营销、设计、投资等团队。原文未披露具体价格、版本号或可用地区等细节。
OpenAI 发布《The Next Era of Knowledge Work》报告,探讨 Codex 如何通过 AI 驱动的调研、数据分析、工作流自动化和内容创作提升生产力。
DigitalOcean 推出 Serverless Inference,一个全托管、API 优先的推理平台,通过单一 API key 和 base URL 提供 30+ 个文本、代码、视觉、图像、视频和语音基础模型,按 token 计费且无最低承诺。
推荐理由:DigitalOcean 官方详解 Serverless Inference 的架构、定价与兼容接口,可了解其与 OpenAI、Anthropic 的接入差异。
OpenAI 前沿模型与 Codex 现已在 AWS 正式可用,企业可通过已有的 AWS 环境、管控与采购流程接入 OpenAI。客户可在 AWS 上开始使用 OpenAI,更快从评估走向生产。
PostHog 发布指南,建议刚上线首个 AI 功能的独立开发者只做三件事:追踪每次 LLM 调用(输入、输出、模型、延迟、token 数)、按模型和用户拆分成本并设日花费超 7 日均值 2 倍的告警、把 LLM 错误接入现有错误追踪。PostHog 自家 Wizard 智能体曾因重复读文件、上下文压缩后重做、子智能体不终止而多烧 token,靠成本数据才发现。
OpenRouter 公布 5 月更新,宣布完成 1.13 亿美元 B 轮融资,目前每月路由 100 万亿 token。本次上线 Workspace Guardrails,可按成员和 API key 设置支出上限、锁定模型与供应商白名单、强制零数据保留,并拦截 30 多种 OWASP 来源的提示注入、在到达供应商前脱敏 PII。
推荐理由:OpenRouter 一次性放出护栏、语音、模型融合等多项更新,可了解其企业级路由与治理能力的边界。
AI 公司主要有四种计费方式:按 token、按 credit、按席位和按结果。OpenAI GPT-5.5 API 输入 $5/百万 token、输出 $30/百万,缓存输入 $0.50;Anthropic Opus 4.8 为 $5/$25,Sonnet 5 为 $2/$10(后期恢复 $3/$15),Haiku 4.5 为 $1/$5。
在 DigitalOcean 于旧金山举办的 Deploy 2026 大会上,Andi AI、Higgsfield AI、LawVo 和 Probably 四位创始人复盘了 AI 产品上生产的经验:模型本身不再是壁垒,难点在于衡量 agent 是否真正干活、持续打磨可靠性。
Braintrust 的工程师用 Codex 搭配 GPT-5.5 来跑实验并加快写代码速度。原文未披露具体费率、套餐或增长数据。
Vercel 披露其 docs AI chat 端点在 2026 年 4 月 12 日遭推理盗用攻击,流量峰值达每分钟 1,300 次请求,按此推算推理成本运行速率超过每天一万美元,攻击通过住宅代理隐藏真实 IP,两天内产生数十万次机器人请求。
推荐理由:Vercel 公开自家 AI 端点被薅推理的完整攻击过程与逐请求验证方案,可迁移到任何暴露 LLM 接口的产品。
DigitalOcean 在 AI 平台上线 Batch Inference,可用单个 .jsonl 文件提交最多 5 万条 OpenAI 请求或 10 万条 Anthropic 请求,由平台负责排队、执行和结果交付。
Conductor 基于 Vercel Sandboxes 推出 Cloud Workspaces,让开发者并行运行多个编码代理时不再受本地硬件限制,合上笔记本也不会中断任务。
OpenAI、Thrive 和 Crete 用 Codex 构建了一个可自我改进的税务代理,实现自动报税、提升准确率并加速工作流。该代理面向报税流程的自动化与持续优化。
Warp 正押注用 GPT-5.5 构建开源,借助 GPT-5.5 与 OpenAI 模型在本地、云端和开源开发流程中协调编码 agent。
Lago 发布 Agent SDK,提供 Python 和 TypeScript 两个库,包裹 LLM 客户端后自动把 token 用量发送到 Lago 计费。
推荐理由:Lago 发布 Agent SDK,把各家 LLM 的 token 用量统一成计费事件,适合正在做 AI 功能计费的团队参考。
Anthropic 宣布自 6 月 15 日起,Claude Agent SDK、claude -p、Claude Code GitHub Actions 及基于 Agent SDK 的第三方应用不再占用普通 Claude 订阅额度。
推荐理由:从 Anthropic 拆分订阅与 Agent SDK 额度切入,梳理按席位定价在 agent 场景下的失效逻辑,并给出 GitHub Copilot 的同类变化作对照。
Sentry 发布 Sentry MCP 和 Sentry CLI,把生产环境的堆栈、请求负载、trace 和 Seer 分析结果开放给 AI agent。MCP 支持 Claude Code、Cursor、Codex、Windsurf、VS Code with Copilot,通过 OAuth 连接托管服务器,无需本地安装;CLI 面向 CI 和脚本化流程。