Vercel AI Gateway 新增统一 fast mode 支持(beta)
Vercel AI Gateway 推出统一的 fast mode 抽象,目前处于 beta。只需在 providerOptions.gateway 下设置 speed 为 fast,网关就会在有快速通道时优先使用、不可用时回退到标准速度,也可直接用 anthropic/claude-opus-5-fast 这类 fast slug 指定快速变体。
Vercel AI Gateway 推出统一的 fast mode 抽象,目前处于 beta。只需在 providerOptions.gateway 下设置 speed 为 fast,网关就会在有快速通道时优先使用、不可用时回退到标准速度,也可直接用 anthropic/claude-opus-5-fast 这类 fast slug 指定快速变体。
OpenAI 下调 GPT-5.6 中 Luna 与 Terra 的价格,推进性价比前沿。更高效的模型可帮助企业大规模部署 AI 工作流。
avatarin 基于 OpenAI 的 GPT-Realtime 为山田电机(Yamada Denki)顾客提供 24/7 多语言支持。上线两周内,该代理被 30,000 人使用,92% 的问卷反馈为正面。
Thinking Machines 的 Inkling Small 已在 Vercel AI Gateway 上线,体积约为更大 Inkling 的四分之一,性能接近,单任务算力消耗更低。
MiniMax H3 已在 Vercel AI Gateway 上线,可从文本提示、首帧图像、首尾关键帧或参考素材生成 2K 视频。模型支持文生视频、首帧图生视频、首尾关键帧过渡和多模态参考生视频,参考模式与关键帧模式互斥。
Vercel AI Gateway 上 GPT-5.6 Luna 和 GPT-5.6 Terra 的 token 价格下调,GPT-5.6 Sol 的快速模式从 1.5x 提速到 2.5x。
推荐理由:Vercel AI Gateway 下调 GPT-5.6 两个型号的 token 价格并提升 Sol 的快速模式速度,现有请求无需改代码即可生效。
Render 博客梳理了 Agent 应用的基础设施分层:先用队列把运行与 HTTP 请求分离,解决"在哪里跑";再用工作流引擎记录运行历史并决定下一步,解决"接下来做什么"。由于生产队列多为 at-least-once,可能重复执行,所有有副作用的工具调用都需以幂等边界包裹;工作流靠重放恢复,因此模型调用、时钟、随机数等必须放进 step,且持久化执行并不等于 exactly-once。
xAI 的语音模型 Grok Voice Think Fast 2.0 已在 Vercel AI Gateway 上线,可通过 AI SDK 的 realtime API 以 xai/grok-voice-think-fast-2.0 调用。
Together AI 宣布与 Moonshot AI 建立战略合作,成为 Moonshot 模型发布的首发平台,首个上线的是 Kimi K3,后续所有开放权重模型也将同步上线。
推荐理由:Together AI 与 Moonshot AI 合作首发 Kimi K3,开发者可了解该开源模型的规格与接入方式。
OpenRouter 现已提供 LangChain 专用包 langchain-openrouter(PyPI)和 @langchain/openrouter(npm),取代旧的 ChatOpenAI 加 base_url 覆盖写法。
Netlify 宣布从第一天起支持 MCP 2026-07-28 规范,该规范让 MCP 协议在核心上无状态,MCP server 变成普通 HTTP 工作负载,不再需要粘性会话、会话存储或实例间共享状态。
推荐理由:Netlify 说明 MCP 新规范如何把 MCP server 变成普通 HTTP 服务,并给出自家 server 的接入命令。
Cloudflare 将 @cf/moonshotai/kimi-k2.6、@cf/moonshotai/kimi-k2.7-code 和 @cf/zai-org/glm-5.2 三个资源消耗较大的模型限制为 Workers Paid 计划专属,免费计划调用这些模型会返回 403 HTTP 错误(内部错误码 5035)。
推荐理由:Cloudflare 把三个高消耗模型移出免费额度,开发者可据此判断自己的 Workers AI 调用是否需要升级付费计划。
OpenRouter 提出用 4 个指标评估 LLM 提供商表现:延迟(首 token 时间)、吞吐量(输出 token/秒)、uptime 和量化精度。延迟应看 p90/p99 而非平均值,量化精度是隐藏的质量变量,可用 quantizations 字段固定。
Vercel AI Gateway 新增区域推理,请求里设置 inferenceRegion 即可把推理固定在美国或欧盟,支持该区域的模型提供商会统一按此处理,数据也留在当地。响应会返回实际服务的区域,未设置则走全球路由、不保证数据驻留。区域费率由提供商设定,通常比标准价高约 10%,AI Gateway 不加价转嫁。
Vercel AI Gateway 现已支持 OpenAI Responses API 的 WebSocket 模式,可在持久连接上仅发送新增输入项加 previous_response_id,无需每轮重发完整上下文。
OpenRouter 的图像 API 覆盖 Google Gemini、OpenAI GPT Image、FLUX、Grok Imagine、Seedream、MAI-Image、Recraft、Krea、Sourceful 等模型,且 slug 随每次发布变动。
Moonshot AI 的 Kimi K3 及其快速版本 Kimi K3 Fast 已在 Vercel AI Gateway 上线,由 Baseten、Fireworks 等美国服务商提供,两个模型都支持 Zero Data Retention(ZDR)。
推荐理由:Vercel AI Gateway 上线 Kimi K3 及 Fast 版本,并给出美国区域推理与 ZDR 的接入方式,方便有数据合规要求的团队评估。
Prisma 按 Mintlify 的 Agent Readiness Score 审计(30 项检查)整改文档,初始得分 85/100,主要修复五类问题。
Anthropic 的 Claude Opus 5 现已在 Vercel AI Gateway 上线,在长周期 agentic 编码上较前代 Opus 有提升,能处理多文件功能、较大重构和端到端功能开发,并完成完整任务而非留下占位代码。
推荐理由:Vercel AI Gateway 上线 Claude Opus 5,并给出推理档位、快速模式与模型回退的配置方式。
OpenRouter 上线 beta 版 Classifiers,可按自定义分类体系为每次生成请求打上结构化标签,用于 AI 用量与成本归因。分类器由分类体系(最多 8 个维度)、分类提示词、分类模型和采样率四部分组成,异步运行不影响推理延迟,并提供部门、受众、任务类型等 6 个预设模板。
DigitalOcean Inference Engine 推出服务端工具 model synthesis,用一组模型并行处理请求、再由一个 synthesizer 模型汇总输出,现已进入 Public Preview。
推荐理由:DigitalOcean 公布模型合成在 DRACO 基准上的质量与单任务成本对比,可据此判断多模型编排是否划算。
Polsia 创始人 Ben Broca 在 localhost 分享:给 agent 一个 Postmark API Key 发邮件,agent 却用它改服务器名和 webhook,因为沙箱不会收窄 API Key 的权限。他还提到每月 $2M 的 Anthropic 账单与向消费者收取的低月费不匹配,于是把规划交给最强模型、重复步骤路由到更便宜的小模型。
蚂蚁集团的 Ling 3.0 Flash 已在 Vercel AI Gateway 上线,未来三周免费使用至 8 月 3 日。该模型为混合专家架构,总参数 124B、每 token 激活约 5.1B,上下文窗口 256K,支持思考与非思考模式,面向高频 Agent 工作流、编码 Agent、文档处理和长上下文多轮交互。
Diffusers 现已可直接用 from_pretrained() 加载 Nunchaku 4-bit 量化检查点,无需本地 CUDA 编译或独立推理引擎。
Canny 采访了 7 位产品经理,记录他们用 ChatGPT 改进产品流程的实际做法。eesel.app 创始人 Amogh Sarda 整理了 21 种用法。
OpenAI 推出 OpenAI Presence,一个经过验证的企业 AI 智能体平台,帮助组织为客户和内部工作流部署可信的语音与聊天智能体。
Resend 发布 Codex 与 ChatGPT 官方插件,把 MCP server 和全部 Resend Skill 打包成一次安装。
Cursor 发布 Cursor Router,Auto 模式改由这一智能模型路由驱动,会分析每个请求并把它分发给合适的模型,前沿模型处理高要求任务,价格更低的模型处理其余请求。
推荐理由:Cursor 官方发布智能模型路由,按任务复杂度自动分配模型,并给出三档成本与质量取舍。
Vercel AI Gateway 新增流式转录,音频可边采集边输入、模型边产出边返回转录结果,降低实时字幕与语音输入的延迟。该功能处于 beta,通过 AI SDK 的 streamTranscribe 函数调用,支持任何具备流式能力的转录模型,示例中可将原始 PCM 音频流式传给 openai/gpt-realtime-whisper,也可换成 xai/grok-stt。
Google 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型。
推荐理由:Google 发布三款 Gemini Flash 新模型,给出 token 效率、价格与基准对比,可据此评估 agent 成本。
Vercel 扩展了 Vercel Agent,它现在进入仪表盘,可自主排查日志、指标和部署,定位根因并提出修复方案,默认只读,需用户批准后才执行回滚、改配置等操作。
Lago 的 Agent SDK 新增价格模式,开启后 SDK 会查询模型价格、按 token 用量算出美元成本、应用你设置的加价,并向 Lago 发送一条 llm_cost 事件用于动态计费。
推荐理由:Lago 把 LLM 调用的美元成本与加价直接算进计费事件,做转售的开发者可据此省掉自建定价层。
Poolside 的 Laguna S 2.1 已在 Vercel AI Gateway 上线,提供免费版(256K 上下文窗口,poolside/laguna-s-2.1-free)和付费版(1M 上下文窗口,poolside/laguna-s-2.1)两个版本。
OpenRouter 发布教程,说明 prompt caching 的缓存读取价格为正常输入价的 0.1x 到 0.5x,缓存写入在部分供应商处高于正常输入,例如 Anthropic 5 分钟 TTL 为 1.25x、1 小时 TTL 为 2.0x。
推荐理由:OpenRouter 官方拆解缓存读写定价与粘性路由,并给出 session_id 配置和成本对比,可据此优化 agent 循环开销。
Vercel AI Gateway 新增服务分层功能,可按延迟、吞吐和单次请求成本选择档位,目前支持 OpenAI 和 Gemini 模型。分层适用于 AI SDK、Chat Completions API、Anthropic Messages API、OpenAI Responses API 和 OpenResponses API 等所有 AI Gateway API 格式。
推荐理由:Vercel AI Gateway 上线服务分层,按延迟与成本分档计费,读者可据此调整请求配置与成本预期。
Gemini 3.6 Flash 和 Gemini 3.5 Flash-Lite 已在 Vercel AI Gateway 上线。
推荐理由:Vercel AI Gateway 上线两款 Gemini 新模型,并给出模型 ID 与调用示例,方便开发者直接接入。
Lago 公开其编码代理流水线:Linear ticket 最多只能推进到测试通过的草稿 PR,最终评审、QA 与合并仍由开发者完成。四个代理中 Triage 只读、Fixer 必须先指出已合并且有测试的实现、Reviewer 只等 CI 变绿且从不批准或合并。该流水线跑在 Claude API 上,驱动层与供应商无关,可一行变量切到 Bedrock 或 Vertex。
Vercel AI Gateway 上 GLM 5.2 经 Novita 路由可享 35% 折扣,活动持续到 7 月 24 日。在 AI SDK 中把模型设为 zai/glm-5.2,并通过 providerOptions 将 gateway order 指定为 novita 即可获得折扣价。7 月 24 日后该模型仍以标准供应商费率提供,不加价。
Cursor 在 Slack 中的集成更新:开始执行前先给出计划,方便用户提前介入调整,并会实时更新状态;支持从 Slack 启动指定的多仓库环境,任务中途需要其他仓库时会弹出 Switch repository 按钮,切换后从断点继续;还可读取其他 Slack 频道和线程的消息,并把进展发回原线程或相关频道。
Cars24 用 OpenAI 驱动的语音与聊天代理每月处理超 100 万分钟对话,并挽回 12% 的流失线索。该公司还将 agentic 工作流推广到全公司各团队,以加快构建速度。