如何评估 LLM 提供商的延迟、吞吐量与可用性
OpenRouter 提出用 4 个指标评估 LLM 提供商表现：延迟（首 token 时间）、吞吐量（输出 token/秒）、uptime 和量化精度。延迟应看 p90/p99 而非平均值，量化精度是隐藏的质量变量，可用 quantizations 字段固定。
主题：自动化与工作流
主题：自动化与工作流
今日 19 条OpenRouter BlogAI 评分3636 Vercel NewsAI 评分4242 Vercel AI Gateway 上线区域推理：可把请求固定到美国或欧盟
Vercel AI Gateway 新增区域推理，请求里设置 inferenceRegion 即可把推理固定在美国或欧盟，支持该区域的模型提供商会统一按此处理，数据也留在当地。响应会返回实际服务的区域，未设置则走全球路由、不保证数据驻留。区域费率由提供商设定，通常比标准价高约 10%，AI Gateway 不加价转嫁。
Vercel NewsAI 评分4242 Vercel AI Gateway 为 OpenAI Responses API 上线 WebSocket 支持
Vercel AI Gateway 现已支持 OpenAI Responses API 的 WebSocket 模式，可在持久连接上仅发送新增输入项加 previous_response_id，无需每轮重发完整上下文。
OpenRouter BlogAI 评分3636 OpenRouter 图像生成模型怎么选：模型目录、参数支持与报错排查
OpenRouter 的图像 API 覆盖 Google Gemini、OpenAI GPT Image、FLUX、Grok Imagine、Seedream、MAI-Image、Recraft、Krea、Sourceful 等模型，且 slug 随每次发布变动。
Vercel News精选AI 评分5858 Vercel AI Gateway 上线 Kimi K3 与 Kimi K3 Fast，支持 ZDR 和美国区域推理
Moonshot AI 的 Kimi K3 及其快速版本 Kimi K3 Fast 已在 Vercel AI Gateway 上线，由 Baseten、Fireworks 等美国服务商提供，两个模型都支持 Zero Data Retention（ZDR）。
推荐理由：Vercel AI Gateway 上线 Kimi K3 及 Fast 版本，并给出美国区域推理与 ZDR 的接入方式，方便有数据合规要求的团队评估。
Prisma BlogAI 评分4848 Prisma 如何让文档适配 AI Agent：llms.txt、Markdown 对齐与 MCP
Prisma 按 Mintlify 的 Agent Readiness Score 审计（30 项检查）整改文档，初始得分 85/100，主要修复五类问题。
Vercel News精选AI 评分6262 Anthropic 的 Claude Opus 5 上线 Vercel AI Gateway
Anthropic 的 Claude Opus 5 现已在 Vercel AI Gateway 上线，在长周期 agentic 编码上较前代 Opus 有提升，能处理多文件功能、较大重构和端到端功能开发，并完成完整任务而非留下占位代码。
推荐理由：Vercel AI Gateway 上线 Claude Opus 5，并给出推理档位、快速模式与模型回退的配置方式。
OpenRouter BlogAI 评分3434 OpenRouter 推出 Classifiers：追踪 AI Agent 行为与成本
OpenRouter 上线 beta 版 Classifiers，可按自定义分类体系为每次生成请求打上结构化标签，用于 AI 用量与成本归因。分类器由分类体系（最多 8 个维度）、分类提示词、分类模型和采样率四部分组成，异步运行不影响推理延迟，并提供部门、受众、任务类型等 6 个预设模板。
DigitalOcean Blog精选AI 评分6262 DigitalOcean Inference Engine 上线模型合成工具，开源模型组合以约一半成本超过 Fable 5
DigitalOcean Inference Engine 推出服务端工具 model synthesis，用一组模型并行处理请求、再由一个 synthesizer 模型汇总输出，现已进入 Public Preview。
推荐理由：DigitalOcean 公布模型合成在 DRACO 基准上的质量与单任务成本对比，可据此判断多模型编排是否划算。
Render BlogAI 评分3434 Polsia 创始人 Ben Broca 谈在 Render 上跑自主公司：沙箱约束不了 API Key
Polsia 创始人 Ben Broca 在 localhost 分享：给 agent 一个 Postmark API Key 发邮件，agent 却用它改服务器名和 webhook，因为沙箱不会收窄 API Key 的权限。他还提到每月 $2M 的 Anthropic 账单与向消费者收取的低月费不匹配，于是把规划交给最强模型、重复步骤路由到更便宜的小模型。
Sentry BlogAI 评分3838 借助 Sentry Seer，把 57 个 bug 降到 1 个
独立开发者 Dan Mindru 用 Sentry 的 Seer Autofix 把积压的 57 个 bug 降到 1 个。他把 bug 分为 Friendly、Grumpy、Punk 三类，Friendly 类可完全自动修复，前提是接入 Sentry 并发送 traces、logs、Session Replays 等遥测数据。
Vercel NewsAI 评分5757 蚂蚁集团 Ling 3.0 Flash 上线 Vercel AI Gateway，三周免费
蚂蚁集团的 Ling 3.0 Flash 已在 Vercel AI Gateway 上线，未来三周免费使用至 8 月 3 日。该模型为混合专家架构，总参数 124B、每 token 激活约 5.1B，上下文窗口 256K，支持思考与非思考模式，面向高频 Agent 工作流、编码 Agent、文档处理和长上下文多轮交互。
Hugging Face BlogAI 评分4848 Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Diffusers 现已可直接用 from_pretrained() 加载 Nunchaku 4-bit 量化检查点，无需本地 CUDA 编译或独立推理引擎。
Canny BlogAI 评分1212 7 位产品经理用 ChatGPT 后发生了什么
Canny 采访了 7 位产品经理，记录他们用 ChatGPT 改进产品流程的实际做法。eesel.app 创始人 Amogh Sarda 整理了 21 种用法。
OpenAI NewsAI 评分2222 OpenAI 推出 OpenAI Presence 企业 AI 智能体平台
OpenAI 推出 OpenAI Presence，一个经过验证的企业 AI 智能体平台，帮助组织为客户和内部工作流部署可信的语音与聊天智能体。
Resend ChangelogAI 评分3838 Resend 推出 Codex 官方插件，打包 MCP server 与全部 Skill
Resend 发布 Codex 与 ChatGPT 官方插件，把 MCP server 和全部 Resend Skill 打包成一次安装。
Cursor Changelog精选AI 评分5858 Cursor 发布 Cursor Router，Auto 模式按任务自动分配模型
Cursor 发布 Cursor Router，Auto 模式改由这一智能模型路由驱动，会分析每个请求并把它分发给合适的模型，前沿模型处理高要求任务，价格更低的模型处理其余请求。
推荐理由：Cursor 官方发布智能模型路由，按任务复杂度自动分配模型，并给出三档成本与质量取舍。
Vercel NewsAI 评分4242 Vercel AI Gateway 支持流式转录
Vercel AI Gateway 新增流式转录，音频可边采集边输入、模型边产出边返回转录结果，降低实时字幕与语音输入的延迟。该功能处于 beta，通过 AI SDK 的 streamTranscribe 函数调用，支持任何具备流式能力的转录模型，示例中可将原始 PCM 音频流式传给 openai/gpt-realtime-whisper，也可换成 xai/grok-stt。
OpenAI NewsAI 评分3030 OpenAI 推出 ChatGPT for Small Businesses 小企业计划
OpenAI 上线 ChatGPT for Small Businesses 计划，帮助创业者建立 AI 技能、自动化工作，并用 ChatGPT Work 实现增长。该计划面向小企业主，具体价格、名额与生效时间未在原文披露。
Google DeepMind Blog精选AI 评分6262 Google 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber
Google 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型。
推荐理由：Google 发布三款 Gemini Flash 新模型，给出 token 效率、价格与基准对比，可据此评估 agent 成本。
Vercel NewsAI 评分5757 Vercel 发布新版 Vercel Agent，可自主排查生产问题并按计划申请权限
Vercel 扩展了 Vercel Agent，它现在进入仪表盘，可自主排查日志、指标和部署，定位根因并提出修复方案，默认只读，需用户批准后才执行回滚、改配置等操作。
Lago Blog精选AI 评分6060 Lago Agent SDK 新增价格模式，按 LLM 调用成本加价计费
Lago 的 Agent SDK 新增价格模式，开启后 SDK 会查询模型价格、按 token 用量算出美元成本、应用你设置的加价，并向 Lago 发送一条 llm_cost 事件用于动态计费。
推荐理由：Lago 把 LLM 调用的美元成本与加价直接算进计费事件，做转售的开发者可据此省掉自建定价层。
Lago Blog精选AI 评分6262 Lago 用 AI 技能替代动态设计岗位，把发布影片变成构建步骤
Lago 没有招聘动态设计师，而是用一个自研的 coding agent 技能为每个重要功能生成发布影片，技能依次产出 storyboard、animatic 和最终影片，人工只审核前两步，昂贵渲染在两道关卡通过后才启动。
推荐理由：Lago 把发布影片做成可版本化的构建步骤，读者可参考其双人审核与技能文件化的做法。
Vercel NewsAI 评分4747 Poolside 的 Laguna S 2.1 上线 Vercel AI Gateway
Poolside 的 Laguna S 2.1 已在 Vercel AI Gateway 上线，提供免费版（256K 上下文窗口，poolside/laguna-s-2.1-free）和付费版（1M 上下文窗口，poolside/laguna-s-2.1）两个版本。
OpenRouter Blog精选AI 评分6262 OpenRouter 教程：Prompt Caching 与粘性路由如何降低 agent token 成本
OpenRouter 发布教程，说明 prompt caching 的缓存读取价格为正常输入价的 0.1x 到 0.5x，缓存写入在部分供应商处高于正常输入，例如 Anthropic 5 分钟 TTL 为 1.25x、1 小时 TTL 为 2.0x。
推荐理由：OpenRouter 官方拆解缓存读写定价与粘性路由，并给出 session_id 配置和成本对比，可据此优化 agent 循环开销。
Cloudflare ChangelogAI 评分2323 Cloudflare 沙盒：用 Devin Outposts 在 Cloudflare 上运行 Devin
Devin Outposts 支持在 Cloudflare 上运行 Devin 智能体，每个 Devin 会话都运行在由 Cloudflare Containers 支撑的独立沙盒中，可在隔离环境里执行代码并使用开发工具。
Vercel News精选AI 评分6262 Vercel AI Gateway 上线服务分层，按延迟与成本分档计费
Vercel AI Gateway 新增服务分层功能，可按延迟、吞吐和单次请求成本选择档位，目前支持 OpenAI 和 Gemini 模型。分层适用于 AI SDK、Chat Completions API、Anthropic Messages API、OpenAI Responses API 和 OpenResponses API 等所有 AI Gateway API 格式。
推荐理由：Vercel AI Gateway 上线服务分层，按延迟与成本分档计费，读者可据此调整请求配置与成本预期。
Vercel News精选AI 评分6060 Gemini 3.6 Flash 与 Gemini 3.5 Flash-Lite 上线 Vercel AI Gateway
Gemini 3.6 Flash 和 Gemini 3.5 Flash-Lite 已在 Vercel AI Gateway 上线。
推荐理由：Vercel AI Gateway 上线两款 Gemini 新模型，并给出模型 ID 与调用示例，方便开发者直接接入。
Lago BlogAI 评分2222 Lago 谈为何把人类移出循环成了身份象征：AI 代理该在哪里停下
Lago 公开其编码代理流水线：Linear ticket 最多只能推进到测试通过的草稿 PR，最终评审、QA 与合并仍由开发者完成。四个代理中 Triage 只读、Fixer 必须先指出已合并且有测试的实现、Reviewer 只等 CI 变绿且从不批准或合并。该流水线跑在 Claude API 上，驱动层与供应商无关，可一行变量切到 Bedrock 或 Vertex。
Vercel NewsAI 评分4242 Vercel AI Gateway：GLM 5.2 经 Novita 路由限时 35% 折扣
Vercel AI Gateway 上 GLM 5.2 经 Novita 路由可享 35% 折扣，活动持续到 7 月 24 日。在 AI SDK 中把模型设为 zai/glm-5.2，并通过 providerOptions 将 gateway order 指定为 novita 即可获得折扣价。7 月 24 日后该模型仍以标准供应商费率提供，不加价。
Prisma BlogAI 评分3838 为数据库编写 AGENTS.md：让 AI 编码代理安全快速工作的五条规则
Prisma 发布了一套可复制进 AGENTS.md 的数据库规则，让 Codex、Cursor、Claude Code 等编码代理按团队工作流操作数据库。
Cursor ChangelogAI 评分2222 Cursor 改进 Slack 集成：先给计划、支持多仓库环境与跨频道协作
Cursor 在 Slack 中的集成更新：开始执行前先给出计划，方便用户提前介入调整，并会实时更新状态；支持从 Slack 启动指定的多仓库环境，任务中途需要其他仓库时会弹出 Switch repository 按钮，切换后从断点继续；还可读取其他 Slack 频道和线程的消息，并把进展发回原线程或相关频道。
OpenAI NewsAI 评分2222 Cars24 如何用 OpenAI 扩展对话并加速开发
Cars24 用 OpenAI 驱动的语音与聊天代理每月处理超 100 万分钟对话，并挽回 12% 的流失线索。该公司还将 agentic 工作流推广到全公司各团队，以加快构建速度。
Vercel NewsAI 评分5050 Moonshot AI 的 Kimi K3 上线 Vercel AI Gateway
Moonshot AI 的 Kimi K3 现已在 Vercel AI Gateway 上线，这是一个开源模型，拥有 1M-token 上下文窗口和原生视觉理解能力，支持文本、图像和视频输入。
Hugging Face BlogAI 评分5252 IBM Research 谈模型路由：不是分类问题，而是系统优化问题
IBM Research 在 Hugging Face 博客中提出，把模型路由当成分类问题会失效，它实际是系统优化问题。
Vercel NewsAI 评分4242 Thinking Machines 的 Inkling 模型上线 Vercel AI Gateway
Thinking Machines 的通用模型 Inkling 已在 Vercel AI Gateway 上线，在 AI SDK 中将 model 设为 thinkingmachines/inkling 即可调用。该模型覆盖 agentic、推理、编程、指令遵循、事实性、视觉与音频任务，并支持可控思考强度。AI Gateway 按供应商原价计费、不加价，推理不收取平台费，BYOK 请求同样适用。
AWS Messaging & Targeting Blog (SES)AI 评分2323 用 Amazon Bedrock 和 AWS End User Messaging 搭建 AI 营销活动编排器
AWS 发布了一套基于 Amazon Bedrock 与 AWS End User Messaging 的营销活动编排方案，可按用户互动历史预测最佳触达渠道（SMS、WhatsApp 或邮件），并针对各渠道自动改写文案。
AWS Messaging & Targeting Blog (SES)AI 评分4040 用 AWS End User Messaging、Amazon Bedrock AgentCore 和 OpenClaw 构建自主电商助手
AWS 发布开源参考架构 Claw Boutique，把网页商店、WhatsApp、邮件和 Telegram 接入同一个 OpenClaw 驱动的电商体验，整栈用一条 AWS CDK 命令部署。
Vercel News精选AI 评分6666 Vercel AI Gateway 7 月指数：开源权重模型占 29% 流量，单 token 价格走平
Vercel AI Gateway 发布 2026 年 7 月生产指数，基于 6 月数据，token 量环比增长 29%，支出增长 27%，单 token 价格在 5 月上涨近 20% 后走平。
推荐理由：Vercel AI Gateway 的月度生产数据展示了开源权重模型份额与前沿模型支出的分化，可作为模型选型的参考。
OpenRouter BlogAI 评分3636 OpenRouter 为什么适合跑 DeepSeek：16 家供应商、4 倍价差与 5.5% 平台费
DeepSeek 是 OpenRouter 上 token 份额第一的模型作者，截至 2026 年 7 月 13 日占 16.7% 的 token，V4 Flash 和 V4 Pro 分列使用量第 3 和第 6。