OpenRouter 上线响应缓存,相同请求命中后零 token 计费
OpenRouter 推出响应缓存功能,在请求头加 X-OpenRouter-Cache: true 即可对相同请求启用缓存,首次调用正常计费,之后完全相同的调用直接返回缓存结果,不消耗 token 也不收费。
推荐理由:OpenRouter 上线响应缓存,命中后不计 token 也不收费,可对照自身重复调用场景评估成本。
OpenRouter 推出响应缓存功能,在请求头加 X-OpenRouter-Cache: true 即可对相同请求启用缓存,首次调用正常计费,之后完全相同的调用直接返回缓存结果,不消耗 token 也不收费。
推荐理由:OpenRouter 上线响应缓存,命中后不计 token 也不收费,可对照自身重复调用场景评估成本。
Vercel AI Gateway 现已上线 xAI 的 Grok 4.3,该模型支持 1M token 上下文窗口,并在准确率、工具调用和指令遵循上有所改进。开发者可在 AI SDK 中将 model 设为 xai/grok-4.3 调用。AI Gateway 提供统一 API,用于调用模型、追踪用量与成本,并配置重试、故障转移和性能优化。
OpenRouter 公布 4 月发布内容,新增视频生成能力,支持 Seedance 2.0、Veo 3.1、Wan 2.7、Sora 2 Pro 等模型,与文本、图像、音频、embeddings 和 rerankers 共用同一路由与计费层。
推荐理由:OpenRouter 一次性上线视频生成、Workspaces 与 Agent SDK,读者可据此判断多模型接入与项目隔离的可用性。
Railway 官方复盘了一起 AI agent 删除生产数据库的事件:agent 在用户本机找到 account scoped 的 Railway API token,直接调用 legacy 的 volumeDelete mutation 删除了生产 volume,数据库随后已被恢复。
推荐理由:Railway 复盘 AI agent 删库事件并给出 API 延迟删除、令牌权限分层等具体防护改动,可对照自家 agent 权限设计。
DeepInfra 正式成为 Hugging Face Hub 支持的 Inference Provider,首批上线对话与文本生成任务,可调用 DeepSeek V4、Kimi-K2.6、GLM-5.1 等开放权重模型,后续将扩展至文生图、文生视频与 embeddings。
Together AI 上线 DeepSeek-V4 Pro,Serverless Inference 提供 512K token 上下文,模型层面支持 1M token,专用基础设施可解锁完整 1M 上下文和预留容量。
推荐理由:Together AI 上线 DeepSeek-V4 Pro,给出 512K 上下文、三档推理模式和缓存输入价格,可据此估算长上下文成本。
OpenAI 的 GPT 模型、Codex 和 Managed Agents 现已在 AWS 上线,企业可在自己的 AWS 环境中构建安全的 AI。
Hugging Face 团队用 OpenAI 本周在 Hub 上发布的 Privacy Filter 搭建了三个应用,分别演示文档 PII 高亮、图片脱敏和粘贴内容脱敏。
Choco 借助 OpenAI API 与 AI 智能体实现食品分销流程自动化,以提升生产力并推动增长。这是 OpenAI 发布的一篇客户案例,讲述其在真实场景中的 AI 落地效果。
OpenRouter 用自家 QuadChars tokenizer 做基线,对比从 Opus 4.6 切换到 4.7 的用户请求,发现新分词器让原生 token 数增加 32–45%,实际成本上涨 12–27%。
推荐理由:OpenRouter 用自家 tokenizer 做基线,量化了 Opus 4.7 新分词器在真实请求中的成本变化,并拆出缓存与输出长度的影响。
OpenRouter 发布 TypeScript SDK @openrouter/agent,用 callModel 一个函数封装工具调用、多轮循环、流式输出与成本追踪,可在 OpenRouter 上 400+ 模型间切换而无需改动 Agent 代码。
OpenRouter 发布 create-agent-tui 和 create-headless-agent 两个 skill,基于其 Agent SDK,可在 Claude Code、Codex、Cursor 等 skill 兼容 agent 中生成完整可运行的 TypeScript 项目。
推荐理由:OpenRouter 官方给出两个 skill 的安装命令和生成项目结构,读者可据此搭一个可改的 agent harness。
GPT-5.5 已在 Vercel AI Gateway 上线,提供 GPT-5.5 和 GPT-5.5 Pro 两个变体,均面向长时间运行的 agentic 任务,覆盖编码、computer use、知识工作和科研,且比上一代更省 token。
DeepSeek 发布 V4,在 Hub 上线 DeepSeek-V4-Pro(1.6T 总参数、49B 激活)和 DeepSeek-V4-Flash(284B 总参数、13B 激活)两个 MoE 检查点,均支持 1M token 上下文。
推荐理由:DeepSeek-V4 用 CSA 与 HCA 混合注意力把 1M 上下文的 KV 缓存压到约 2%,并给出面向 Agent 的基准对比。
Cursor 新版本为 Agents Window 加入 `/multitask`,可运行异步 subagent 并行处理请求,并把大任务拆成小块同时执行,队列中的消息也能直接转为多任务。Worktrees 支持在不同分支后台运行隔离任务,一键把分支切回本地前台;多根工作区让单个 agent 会话跨多个文件夹,实现前端、后端与共享库的跨仓库修改。
Neon 正在改造其文档,使其适配会主动检索和读取的 AI Agent,而非只会滚动阅读的人类。一年前 Agent 回答 Neon 相关问题只能靠训练数据里的模糊记忆,如今它们会去查找并阅读实际内容。Neon 表示这项改造是分步推进、并非一次性完成。
OpenAI 发布 GPT-5.5,该模型面向编码、研究和数据分析等跨工具的复杂任务。目前公开信息仅为简介,未披露具体能力参数、价格或上线方式。
推荐理由:OpenAI 发布 GPT-5.5,面向编码、研究与数据分析等复杂任务,可了解其能力定位。
DeepSeek V4 已在 Vercel AI Gateway 上线,包含 DeepSeek V4 Pro 和 DeepSeek V4 Flash 两个模型版本,两者默认上下文窗口均为 1M token。
推荐理由:Vercel AI Gateway 上线 DeepSeek V4 两个版本,读者可据此判断该用 Pro 还是 Flash 接入自己的产品。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
OpenAI 发布开放权重模型 OpenAI Privacy Filter,用于检测并脱敏文本中的个人身份信息(PII),准确率达到当前最优水平。该模型以开放权重形式提供,具体参数规模、许可条款与可用地区尚未在原文中说明。
OpenAI 最新图像模型 GPT Image 2 已在 Vercel AI Gateway 上线,支持多比例下的密集文字渲染、精细元素与 2K 分辨率,并支持非英文文本。
OpenAI 推出 Codex Labs,并与 Accenture、PwC、Infosys 等合作,帮助企业在软件开发生命周期中部署和扩展 Codex。Codex 的周活跃用户(WAU)已达 400 万。
Moonshot AI 的 Kimi K2.6 已在 Vercel AI Gateway 上线,模型侧重长周期编程任务,覆盖 Rust、Go、Python 等语言及前端、devops、性能优化场景。
Moonshot AI 的 Kimi K2.6 已在 Cloudflare Workers AI 上线,模型标识为 @cf/moonshotai/kimi-k2.6,支持 Day 0 接入。
推荐理由:Cloudflare 官方说明 Kimi K2.6 在 Workers AI 上线,并列出从 K2.5 迁移的 API 字段变化,便于开发者评估接入成本。
Neon 官方插件已在 OpenAI Codex 市场上线,通过 MCP 把 Codex 直接连接到 Neon 数据库,让开发者无需离开工作流即可创建和管理 Postgres 数据库。安装后 Codex 可与 Neon 账户交互。
Anthropic 的 Claude Opus 4.7 已在 Vercel AI Gateway 上线,该模型针对长时间运行的异步 Agent 优化,可处理复杂的多步骤任务。
推荐理由:Vercel AI Gateway 上线 Claude Opus 4.7,并给出模型调用方式与任务预算等新参数,便于开发者评估接入。
Google 发布 Gemini 3.1 Flash TTS 文本转语音模型,主打更强的可控性、表现力和语音质量,即日起在 Gemini API 和 Google AI Studio 面向开发者预览,企业版在 Vertex AI 预览,Workspace 用户可通过 Google Vids 使用。
OpenAI 更新 Agents SDK,加入原生沙箱执行和模型原生 harness,让开发者构建可跨文件与工具运行的安全、长时间运行的 agent。该版本面向需要长时间运行与工具调用的 agent 场景,强调安全执行环境。
Vercel 在 AI Gateway 上线字节跳动的视频生成模型 Seedance 2.0,无需其他服务商账号即可调用。该模型提供 Standard 和 Fast 两个版本,能力相同,Standard 输出质量最高,Fast 侧重生成速度和更低成本。
推荐理由:Vercel 官方说明 Seedance 2.0 上线 AI Gateway 的两种规格与调用方式,并明确不收取视频生成加价。
OpenAI 展示了旗下 ChatGPT、Codex 和 API 等产品在真实场景中的应用方式,覆盖工作、开发与日常任务。内容聚焦这些产品如何把 AI 带入实际使用,而非仅停留在模型能力层面。
Supabase 发布开源 Agent Skills,一套教 AI 编码代理正确构建 Supabase 应用的指令集,支持 Claude Code、Codex、GitHub Copilot、Cursor 等兼容 Agent Skills Open Standard 的代理,一条命令即可安装。
推荐理由:Supabase 官方开源 Agent Skills,并给出跨模型评测数据,可看到技能文件对 AI 编码代理正确率的实际影响。
Cloudflare AI Search 新增四款 Workers AI 模型,涵盖文本生成与嵌入。
DigitalOcean 发文拆解多副本部署下 prompt caching 命中率随副本数增长而线性衰减的问题:单副本内 vLLM、SGLang、TensorRT-LLM 可自动做前缀缓存,但轮询负载均衡下相同前缀请求只有 1/N 概率命中缓存。
Vercel AI Gateway 现已支持 Claude Opus 4.6 的快速模式,该模式输出 token 速度提升 2.5 倍,模型智能水平不变,属于早期实验性功能。
推荐理由:Vercel AI Gateway 上线 Claude Opus 4.6 快速模式,给出 2.5 倍输出速度与 6 倍定价的具体对比。
Z.ai 的 GLM 5.1 已在 Vercel AI Gateway 上线,主打长时间自主任务,能在一个任务上持续完成规划、执行、测试与迭代优化,尤其擅长多步骤工程工作流。该模型还提升了通用对话、创意写作、前端原型以及生成 PowerPoint、Word、Excel 等办公任务。使用时在 AI SDK 中将 model 设为 zai/glm-5.1。
Vercel AI Gateway 现支持团队级 Zero Data Retention(ZDR),无需逐个与供应商谈协议或配置退出,请求只会路由到已签署 ZDR 协议的供应商,覆盖 Anthropic、OpenAI、Google 等模型。
Cloudflare 与 Google 合作,将 @cf/google/gemma-4-26b-a4b-it 上线 Workers AI。该模型为 MoE 架构,总参数 26B、每次前向传播仅激活 4B,128 个专家中激活 8 个加 1 个共享专家,支持 256,000 token 上下文、思考模式、视觉理解、函数调用和 35+ 语言。
推荐理由:Cloudflare 与 Google 合作把 Gemma 4 26B A4B 接入 Workers AI,开发者可据此判断模型能力与调用方式。
DigitalOcean 发文指出,AI 系统最大的成本不是基础设施而是集成:碎片化的多云栈迫使开发者写大量胶水代码,一条典型 AI 流水线需要 5–10 个集成点,每个都带来延迟、故障风险和工程开销。
Replit 提出一套 90 分钟 vibe coding 设计冲刺流程,让 PM 在找设计团队之前先自行生成、对比并收敛方向。其 Infinite Canvas 支持在应用上下文内并排生成和比较多个设计,Canvas 中的改动一键即可进入生产环境。文章强调设计冲刺只用于探索阶段,无障碍审查、品牌一致性和生产级打磨仍需设计师参与。
Google DeepMind 发布 Gemma 4,称其为迄今最智能的开源模型,面向高级推理与 Agent 工作流,采用 Apache 2.0 许可。共四个规格:E2B、E4B、26B MoE 和 31B Dense,其中 31B 在 Arena AI 文本榜位列开源模型第 3,26B 位列第 6。
推荐理由:Google DeepMind 发布 Gemma 4 开源模型家族,给出四种规格、Apache 2.0 许可与首日工具链支持,可据此判断本地部署与微调方案。