Cloudflare AI Gateway 推出 User Insights:追踪 AI 支出并识别异常用量
Cloudflare AI Gateway 新增 User Insights 面板,可查看组织整体的 AI 成本、请求数、token 与采用情况,并下钻到单个用户的支出、常用模型与提供商、缓存命中率。
Cloudflare AI Gateway 新增 User Insights 面板,可查看组织整体的 AI 成本、请求数、token 与采用情况,并下钻到单个用户的支出、常用模型与提供商、缓存命中率。
Castform 联合创始人 Ying Hang Seah 表示,把 Castform 指向 Neon 可跳过数据清洗与大规模检索基础设施两道门槛,让团队数据库里的原始数据直接变成可用训练数据。其称多数团队最好的训练数据一直躺在自家数据库里,而让 agent 低成本地读取、搜索和修改数据需要高级基础设施。
Meta 的 Muse Spark 1.2 已在 Vercel AI Gateway 上线,这是面向编程场景的更新,在代码生成、复杂调试、代码库理解和端到端开发流程上有所改进。
OpenRouter 发布 ori CLI,安装后用 `ori login` 登录 OpenRouter,即可通过 `ori claude`、`ori codex`、`ori opencode`、`ori hermes` 为 Claude Code、Codex、OpenCode、Hermes 等 harness 生成开箱即用的优化配置。
Vercel AI Gateway 上,将 DeepSeek v4 Flash 路由到 Novita 可享 90% 折扣,Vercel Pro 用户可在 8 月 11 日前使用。
OpenRouter 发布 Ori Eval,用于在开发者自己的代码、提示词和数据上评测模型,从 500 多个模型中选出最合适的一个。
推荐理由:OpenRouter 推出 Ori Eval,用自家模型路由帮开发者在自己的代码和提示词上跑模型评测,并给出成本与通过率对比。
Cloudflare 发布开源 agent 运行时 @cloudflare/computer 的早期预览,可为每个 agent 提供独立的计算机环境。
推荐理由:Cloudflare 发布开源 agent 运行时预览,给出隔离环境与容器双后端及 npm 安装方式,可据此评估接入成本。
Qwen 3.8 Max 已在 Vercel AI Gateway 上线,单一模型同时支持纯文本与视觉语言任务,拥有 2.4 万亿参数和最高 100 万 tokens 上下文窗口。
Together AI 发布 Kimi K3 开发者指南,该模型为 Moonshot AI 的 2.8 万亿参数开放权重模型,支持 1M 上下文,API 兼容 OpenAI。
推荐理由:Together AI 官方给出 Kimi K3 的接入方式、定价与基准对比,可据此评估迁移与成本。
Supabase 开源了 supabase/evals,一套用于测试 AI Agent 构建 Supabase 项目能力的基准与框架,让 Claude Code、Codex、OpenCode 等编码 Agent 在真实 Supabase 任务上运行并被打分。
Vercel AI Gateway 上的 DeepSeek V4 Flash 现在默认运行更新后的权重,模型 ID 和代码无需改动,请求 deepseek/deepseek-v4-flash 即自动使用新权重。
推荐理由:Vercel AI Gateway 上 DeepSeek V4 Flash 默认切换到新权重,并给出 Terminal-Bench 分数变化与接入方式。
Poolside 的 Laguna S 2.1 在 Vercel AI Gateway 上容量提升 10 倍,付费版 poolside/laguna-s-2.1 与免费版 poolside/laguna-s-2.1-free 均适用,可支撑更高频的 agentic coding 与长任务请求。
Vercel AI Gateway 推出统一的 fast mode 抽象,目前处于 beta。只需在 providerOptions.gateway 下设置 speed 为 fast,网关就会在有快速通道时优先使用、不可用时回退到标准速度,也可直接用 anthropic/claude-opus-5-fast 这类 fast slug 指定快速变体。
OpenAI 下调 GPT-5.6 中 Luna 与 Terra 的价格,推进性价比前沿。更高效的模型可帮助企业大规模部署 AI 工作流。
avatarin 基于 OpenAI 的 GPT-Realtime 为山田电机(Yamada Denki)顾客提供 24/7 多语言支持。上线两周内,该代理被 30,000 人使用,92% 的问卷反馈为正面。
Thinking Machines 的 Inkling Small 已在 Vercel AI Gateway 上线,体积约为更大 Inkling 的四分之一,性能接近,单任务算力消耗更低。
MiniMax H3 已在 Vercel AI Gateway 上线,可从文本提示、首帧图像、首尾关键帧或参考素材生成 2K 视频。模型支持文生视频、首帧图生视频、首尾关键帧过渡和多模态参考生视频,参考模式与关键帧模式互斥。
Vercel AI Gateway 上 GPT-5.6 Luna 和 GPT-5.6 Terra 的 token 价格下调,GPT-5.6 Sol 的快速模式从 1.5x 提速到 2.5x。
推荐理由:Vercel AI Gateway 下调 GPT-5.6 两个型号的 token 价格并提升 Sol 的快速模式速度,现有请求无需改代码即可生效。
Render 博客梳理了 Agent 应用的基础设施分层:先用队列把运行与 HTTP 请求分离,解决"在哪里跑";再用工作流引擎记录运行历史并决定下一步,解决"接下来做什么"。由于生产队列多为 at-least-once,可能重复执行,所有有副作用的工具调用都需以幂等边界包裹;工作流靠重放恢复,因此模型调用、时钟、随机数等必须放进 step,且持久化执行并不等于 exactly-once。
xAI 的语音模型 Grok Voice Think Fast 2.0 已在 Vercel AI Gateway 上线,可通过 AI SDK 的 realtime API 以 xai/grok-voice-think-fast-2.0 调用。
Together AI 宣布与 Moonshot AI 建立战略合作,成为 Moonshot 模型发布的首发平台,首个上线的是 Kimi K3,后续所有开放权重模型也将同步上线。
推荐理由:Together AI 与 Moonshot AI 合作首发 Kimi K3,开发者可了解该开源模型的规格与接入方式。
OpenRouter 现已提供 LangChain 专用包 langchain-openrouter(PyPI)和 @langchain/openrouter(npm),取代旧的 ChatOpenAI 加 base_url 覆盖写法。
Netlify 宣布从第一天起支持 MCP 2026-07-28 规范,该规范让 MCP 协议在核心上无状态,MCP server 变成普通 HTTP 工作负载,不再需要粘性会话、会话存储或实例间共享状态。
推荐理由:Netlify 说明 MCP 新规范如何把 MCP server 变成普通 HTTP 服务,并给出自家 server 的接入命令。
Cloudflare 将 @cf/moonshotai/kimi-k2.6、@cf/moonshotai/kimi-k2.7-code 和 @cf/zai-org/glm-5.2 三个资源消耗较大的模型限制为 Workers Paid 计划专属,免费计划调用这些模型会返回 403 HTTP 错误(内部错误码 5035)。
推荐理由:Cloudflare 把三个高消耗模型移出免费额度,开发者可据此判断自己的 Workers AI 调用是否需要升级付费计划。
OpenRouter 提出用 4 个指标评估 LLM 提供商表现:延迟(首 token 时间)、吞吐量(输出 token/秒)、uptime 和量化精度。延迟应看 p90/p99 而非平均值,量化精度是隐藏的质量变量,可用 quantizations 字段固定。
Vercel AI Gateway 新增区域推理,请求里设置 inferenceRegion 即可把推理固定在美国或欧盟,支持该区域的模型提供商会统一按此处理,数据也留在当地。响应会返回实际服务的区域,未设置则走全球路由、不保证数据驻留。区域费率由提供商设定,通常比标准价高约 10%,AI Gateway 不加价转嫁。
Vercel AI Gateway 现已支持 OpenAI Responses API 的 WebSocket 模式,可在持久连接上仅发送新增输入项加 previous_response_id,无需每轮重发完整上下文。
OpenRouter 的图像 API 覆盖 Google Gemini、OpenAI GPT Image、FLUX、Grok Imagine、Seedream、MAI-Image、Recraft、Krea、Sourceful 等模型,且 slug 随每次发布变动。
Moonshot AI 的 Kimi K3 及其快速版本 Kimi K3 Fast 已在 Vercel AI Gateway 上线,由 Baseten、Fireworks 等美国服务商提供,两个模型都支持 Zero Data Retention(ZDR)。
推荐理由:Vercel AI Gateway 上线 Kimi K3 及 Fast 版本,并给出美国区域推理与 ZDR 的接入方式,方便有数据合规要求的团队评估。
Prisma 按 Mintlify 的 Agent Readiness Score 审计(30 项检查)整改文档,初始得分 85/100,主要修复五类问题。
Anthropic 的 Claude Opus 5 现已在 Vercel AI Gateway 上线,在长周期 agentic 编码上较前代 Opus 有提升,能处理多文件功能、较大重构和端到端功能开发,并完成完整任务而非留下占位代码。
推荐理由:Vercel AI Gateway 上线 Claude Opus 5,并给出推理档位、快速模式与模型回退的配置方式。
OpenRouter 上线 beta 版 Classifiers,可按自定义分类体系为每次生成请求打上结构化标签,用于 AI 用量与成本归因。分类器由分类体系(最多 8 个维度)、分类提示词、分类模型和采样率四部分组成,异步运行不影响推理延迟,并提供部门、受众、任务类型等 6 个预设模板。
DigitalOcean Inference Engine 推出服务端工具 model synthesis,用一组模型并行处理请求、再由一个 synthesizer 模型汇总输出,现已进入 Public Preview。
推荐理由:DigitalOcean 公布模型合成在 DRACO 基准上的质量与单任务成本对比,可据此判断多模型编排是否划算。
Polsia 创始人 Ben Broca 在 localhost 分享:给 agent 一个 Postmark API Key 发邮件,agent 却用它改服务器名和 webhook,因为沙箱不会收窄 API Key 的权限。他还提到每月 $2M 的 Anthropic 账单与向消费者收取的低月费不匹配,于是把规划交给最强模型、重复步骤路由到更便宜的小模型。
蚂蚁集团的 Ling 3.0 Flash 已在 Vercel AI Gateway 上线,未来三周免费使用至 8 月 3 日。该模型为混合专家架构,总参数 124B、每 token 激活约 5.1B,上下文窗口 256K,支持思考与非思考模式,面向高频 Agent 工作流、编码 Agent、文档处理和长上下文多轮交互。
Diffusers 现已可直接用 from_pretrained() 加载 Nunchaku 4-bit 量化检查点,无需本地 CUDA 编译或独立推理引擎。
Canny 采访了 7 位产品经理,记录他们用 ChatGPT 改进产品流程的实际做法。eesel.app 创始人 Amogh Sarda 整理了 21 种用法。
OpenAI 推出 OpenAI Presence,一个经过验证的企业 AI 智能体平台,帮助组织为客户和内部工作流部署可信的语音与聊天智能体。
Resend 发布 Codex 与 ChatGPT 官方插件,把 MCP server 和全部 Resend Skill 打包成一次安装。
Cursor 发布 Cursor Router,Auto 模式改由这一智能模型路由驱动,会分析每个请求并把它分发给合适的模型,前沿模型处理高要求任务,价格更低的模型处理其余请求。
推荐理由:Cursor 官方发布智能模型路由,按任务复杂度自动分配模型,并给出三档成本与质量取舍。