Vercel 发布 AI SDK 7,从模型调用扩展为 Agent 平台
Vercel 发布 AI SDK 7,定位为用 TypeScript 构建生产级 Agent 的平台,覆盖开发、运行、集成与观测,支持文本、音频、实时、图像和视频。
推荐理由:AI SDK 7 从模型调用扩展为完整 Agent 平台,并列出 Node.js 22 与 ESM 两项破坏性升级要求。
Vercel 发布 AI SDK 7,定位为用 TypeScript 构建生产级 Agent 的平台,覆盖开发、运行、集成与观测,支持文本、音频、实时、图像和视频。
推荐理由:AI SDK 7 从模型调用扩展为完整 Agent 平台,并列出 Node.js 22 与 ESM 两项破坏性升级要求。
OpenRouter 发布 MCP Server,把实时模型目录、基准排名、定价、文档和测试推理接入编码 Agent,一条命令即可安装。登录走 OAuth,生成一枚 7 天有效期、$10 消费上限的独立 API key,除 send-message 外所有工具均为只读查询。
推荐理由:OpenRouter 把实时模型目录、基准与定价接进编码 Agent,读者可据此判断选型流程能省掉多少切换成本。
用一把 OpenRouter key 就能在 SillyTavern 里调用 70+ 家供应商的 300+ 模型,替代分别订阅 Anthropic、Google、Mistral 等每月 $20 的账号。
OpenRouter 提出用 API Key 在请求路径上做 Agentic AI 运行时治理,而非依赖治理框架。做法是按 Agent 工作流分配独立 API Key,并设置每日重置的额度上限,例如销售 Agent $50/天、分类 Agent $10/天,同时限制模型与供应商访问并记录请求。
OpenRouter 发布 Fusion,把多个模型的输出交给一个 judge 模型融合,可通过单次 API 调用或聊天室使用。
推荐理由:OpenRouter 发布 Fusion,用 DRACO 基准对比多模型融合与单模型的分数和成本差异。
Vercel AI Gateway 新增 Azure 作为 DeepSeek V4 Pro 和 V4 Flash 的提供商,请求可经 Azure 路由,多一条故障转移路径,无需改代码,默认路由会自动考虑 Azure。
OpenRouter 上线 openrouter:advisor 工具,执行模型在生成过程中遇到难题时可调用另一个模型求助,执行方和顾问方都可以是 OpenRouter 目录里任意厂商的任意模型。
推荐理由:OpenRouter 上线 advisor 工具,让便宜模型在关键节点调用强模型,读者可据此估算混合调用的成本结构。
Vercel AI Gateway 发布 2026 年 6 月生产指数,基于 5 月数据,总 token 量环比增长 20%,总支出环比增长 43%。DeepSeek 的 token 份额从不足 1% 跃升至 17%,升至第三位并超过 OpenAI,但支出份额仍接近 1%;其 V4 Flash 定价为每百万 token 输入 $0.14、输出 $0.28。
推荐理由:Vercel AI Gateway 的月度生产数据,展示 DeepSeek V4 上线后 token 份额与各家支出占比的变化。
DigitalOcean 在 Inference Engine 上线 Model Evaluations(公测),可评估平台模型及从 Hugging Face 或 DigitalOcean Spaces 导入的模型,比较成本、延迟与输出质量。该功能支持自定义数据集、指标与评判模型,数据集限 CSV 或 JSONL、单次任务约 1K 行 / 1GB,用于在生产流量切换前验证路由策略。
OpenRouter Dev Rel Lead Jacky 把 11 个 LLM 放进自建的 2D 大逃杀游戏对打 30 局,xAI 的 Grok 4.1 Fast 赢下 13 局,每胜成本 $0.97;次优的 Claude Sonnet 4.6 只赢 5 局,每胜 $26.78,相差 27 倍。
DigitalOcean 推出 Serverless Inference,一个全托管、API 优先的推理平台,通过单一 API key 和 base URL 提供 30+ 个文本、代码、视觉、图像、视频和语音基础模型,按 token 计费且无最低承诺。
推荐理由:DigitalOcean 官方详解 Serverless Inference 的架构、定价与兼容接口,可了解其与 OpenAI、Anthropic 的接入差异。
Vercel 推出 WordPress 版 AI Gateway 插件,用一个 API key 即可让 WordPress 站点调用 Anthropic、Google、OpenAI、xAI、DeepSeek、MiniMax、Moonshot AI 等 40+ 提供商的数百个模型。
Together AI 发布面向编码智能体的高并发推理基准,在 Kimi K2.5 上对比 Together Inference Engine、TensorRT-LLM 与 SGLang。
Vercel AI Gateway 现在可按成本、首字延迟(TTFT)或吞吐量(TPS)对同一模型背后的提供商排序,在 providerOptions.gateway 中把 sort 设为 'cost'、'ttft' 或 'tps' 即可。
Together AI 发布开源视频翻译工具 Violin,基于 Together API,用 ASR、LLM 翻译和 TTS 三段流水线把视频翻译成其他语言,代码以 MIT 许可开源。
DeepSeek-V4 通过 CSA / HCA / SWA 混合注意力设计,在 KV 存储前压缩上下文,把百万 token 上下文变成服务系统问题。
DigitalOcean 在 Deploy 2026 发布 AI-Native Cloud,一套从芯片到 Agent 的五层开放栈,周二一次性上线 15 款产品。
OpenRouter 公布 4 月发布内容,新增视频生成能力,支持 Seedance 2.0、Veo 3.1、Wan 2.7、Sora 2 Pro 等模型,与文本、图像、音频、embeddings 和 rerankers 共用同一路由与计费层。
推荐理由:OpenRouter 一次性上线视频生成、Workspaces 与 Agent SDK,读者可据此判断多模型接入与项目隔离的可用性。
Together AI 上线 DeepSeek-V4 Pro,Serverless Inference 提供 512K token 上下文,模型层面支持 1M token,专用基础设施可解锁完整 1M 上下文和预留容量。
推荐理由:Together AI 上线 DeepSeek-V4 Pro,给出 512K 上下文、三档推理模式和缓存输入价格,可据此估算长上下文成本。
DeepSeek 发布 V4,在 Hub 上线 DeepSeek-V4-Pro(1.6T 总参数、49B 激活)和 DeepSeek-V4-Flash(284B 总参数、13B 激活)两个 MoE 检查点,均支持 1M token 上下文。
推荐理由:DeepSeek-V4 用 CSA 与 HCA 混合注意力把 1M 上下文的 KV 缓存压到约 2%,并给出面向 Agent 的基准对比。
DeepSeek V4 已在 Vercel AI Gateway 上线,包含 DeepSeek V4 Pro 和 DeepSeek V4 Flash 两个模型版本,两者默认上下文窗口均为 1M token。
推荐理由:Vercel AI Gateway 上线 DeepSeek V4 两个版本,读者可据此判断该用 Pro 还是 Flash 接入自己的产品。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
字节跳动旗下编程 Agent TRAE 集成 Vercel AI Gateway 与直接部署能力,面向其超 160 万月活开发者。
DeepSeek V3.2 和 V3.2 Speciale 现已接入 Vercel AI Gateway,无需其他服务商账号即可调用。V3.2 支持思考与工具调用结合,在推理和非推理模式下均可处理 agent 式操作;V3.2 Speciale 专注最大化推理性能,适合复杂任务,但 token 消耗更高且不支持工具调用。
Datalab 的文档解析与文本提取模型 Marker 和 OCR 现已上线 Replicate。Marker 可把 PDF、DOCX、PPTX、图片等转成 markdown 或 JSON,支持表格、数学公式、代码排版,传入 JSON Schema 还能抽取指定字段;OCR 支持 90 种语言并返回阅读顺序和表格网格。
推荐理由:Datalab 的文档解析模型上线 Replicate,附基准对比与按页计价,方便评估替代现有 OCR 方案。
OpenRouter 发布 exacto 端点,通过 model_slug:exacto 把请求路由到工具调用成功率更高、工具调用倾向正常且较少被用户屏蔽的供应商。
推荐理由:OpenRouter 用真实调用数据筛出工具调用更稳的供应商,做 Agent 的开发者可据此选端点。
Scaleway 现已作为 Inference Provider 接入 Hugging Face Hub,用户可在模型页直接调用 gpt-oss、Qwen3、DeepSeek R1、Gemma 3 等开放权重模型。
OpenRouter 宣布调整免费层,以应对两家主要推理提供商即将转为纯付费模式。平台正引入新供应商补充免费模型,并自行承担部分成本,同时上线由 Dolphin 作者打造的新模型 Venice Uncensored 免费使用。DeepSeek V3 和 DeepSeek R1 在可预见的未来继续以类似免费条件提供,但部分冷门模型将退出免费层。
DeepSeek-V3 Releases 发布 v1.0.0,该版本自上一版本以来向 main 分支提交了 5 个 commit。此次发布用于归档目的并生成 DOI。
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub,支持 DeepSeek、Meta、Google、Qwen 等开源文本与对话模型,并以 serverless 定价提供大范围模型选择。
Ollama 上线思考开关功能,用户可自行启用或关闭模型的思考行为,开启后输出会把模型的思考过程与最终回答分开。目前支持该功能的模型有 DeepSeek R1 和 Qwen 3,官方称后续会加入更多思考模型。
Mistral AI 发布 Mistral Medium 3,称其在多数基准上达到 Claude Sonnet 3.7 的 90% 以上,价格低至每百万 token 输入 $0.4、输出 $2。
推荐理由:Mistral Medium 3 的定价与基准对比是选型时的直接参考,尤其适合关注成本与部署方式的团队。
Vercel 发布 AI SDK 4.2,为这个周下载量超 100 万的 JavaScript/TypeScript AI 工具包加入推理模型、MCP 客户端、useChat 消息分片、语言模型图像生成和 URL 来源等能力。
推荐理由:Vercel 官方发布 AI SDK 4.2,新增 MCP 客户端与推理模型支持,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、Flux.1 等模型,并已集成 JS 和 Python 客户端 SDK。
Fireworks.ai 现已作为推理服务商接入 Hugging Face Hub,可直接在模型页及整个 HF 生态中运行无服务器推理,支持 DeepSeek-R1、DeepSeek-V3、Mistral-Small-24B-Instruct-2501、Qwen2.5-Coder-32B-Instruct、Llama-3.2-90B-Vision-Instruct 等模型。
用 pgrag 和 DeepSeek 可以在 psql 中构建完整的 RAG 流水线。RAG 的流程是先拿用户问题检索相关信息,再把检索结果和问题一起放进提示词交给 AI 聊天模型(ChatGPT/Claude/DeepSeek)作答。
OpenRouter 发布 Reasoning Tokens 功能,在 Chatroom 和 API 中都能观察模型的推理步骤。使用时在 API 请求中加入 include_reasoning: true,推理内容会出现在每条消息的 reasoning 字段中。该功能首批支持 DeepSeek R1 系列模型,后续将支持 Gemini Thinking 模型。
推荐理由:OpenRouter 上线推理 token 功能,开发者可经 API 查看模型推理过程并接入工作流。
Cloudflare AI Gateway 新增 DeepSeek 作为提供商,支持 DeepSeek-V3 模型。开发者只需把 DeepSeek API 调用的 base URL 改为经由 AI Gateway 路由,即可获得分析日志、缓存、限流与 fallback 等监控、控制和优化能力。
非凡研究 6 月报告显示,全球 1,500 家活跃 AI 公司中有 751 家位于中国,其中 103 家已拓展海外市场。腾讯云、华为、阿里等巨头聚焦东南亚与中东的云与 AI 基础设施,字节跳动则七个月内上线 11 款海外应用,CapCut 截至 2024 年 7 月累计移动端收入达 1.25 亿美元。国内价格战与同质化竞争正推动更多 AI 初创公司转向海外 to C 市场。