DeepSeek V4 上线 Vercel AI Gateway,分 Pro 与 Flash 两个版本
DeepSeek V4 已在 Vercel AI Gateway 上线,包含 DeepSeek V4 Pro 和 DeepSeek V4 Flash 两个模型版本,两者默认上下文窗口均为 1M token。
推荐理由:Vercel AI Gateway 上线 DeepSeek V4 两个版本,读者可据此判断该用 Pro 还是 Flash 接入自己的产品。
DeepSeek V4 已在 Vercel AI Gateway 上线,包含 DeepSeek V4 Pro 和 DeepSeek V4 Flash 两个模型版本,两者默认上下文窗口均为 1M token。
推荐理由:Vercel AI Gateway 上线 DeepSeek V4 两个版本,读者可据此判断该用 Pro 还是 Flash 接入自己的产品。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
字节跳动旗下编程 Agent TRAE 集成 Vercel AI Gateway 与直接部署能力,面向其超 160 万月活开发者。
DeepSeek V3.2 和 V3.2 Speciale 现已接入 Vercel AI Gateway,无需其他服务商账号即可调用。V3.2 支持思考与工具调用结合,在推理和非推理模式下均可处理 agent 式操作;V3.2 Speciale 专注最大化推理性能,适合复杂任务,但 token 消耗更高且不支持工具调用。
Datalab 的文档解析与文本提取模型 Marker 和 OCR 现已上线 Replicate。Marker 可把 PDF、DOCX、PPTX、图片等转成 markdown 或 JSON,支持表格、数学公式、代码排版,传入 JSON Schema 还能抽取指定字段;OCR 支持 90 种语言并返回阅读顺序和表格网格。
推荐理由:Datalab 的文档解析模型上线 Replicate,附基准对比与按页计价,方便评估替代现有 OCR 方案。
OpenRouter 发布 exacto 端点,通过 model_slug:exacto 把请求路由到工具调用成功率更高、工具调用倾向正常且较少被用户屏蔽的供应商。
推荐理由:OpenRouter 用真实调用数据筛出工具调用更稳的供应商,做 Agent 的开发者可据此选端点。
Scaleway 现已作为 Inference Provider 接入 Hugging Face Hub,用户可在模型页直接调用 gpt-oss、Qwen3、DeepSeek R1、Gemma 3 等开放权重模型。
OpenRouter 宣布调整免费层,以应对两家主要推理提供商即将转为纯付费模式。平台正引入新供应商补充免费模型,并自行承担部分成本,同时上线由 Dolphin 作者打造的新模型 Venice Uncensored 免费使用。DeepSeek V3 和 DeepSeek R1 在可预见的未来继续以类似免费条件提供,但部分冷门模型将退出免费层。
DeepSeek-V3 Releases 发布 v1.0.0,该版本自上一版本以来向 main 分支提交了 5 个 commit。此次发布用于归档目的并生成 DOI。
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub,支持 DeepSeek、Meta、Google、Qwen 等开源文本与对话模型,并以 serverless 定价提供大范围模型选择。
Ollama 上线思考开关功能,用户可自行启用或关闭模型的思考行为,开启后输出会把模型的思考过程与最终回答分开。目前支持该功能的模型有 DeepSeek R1 和 Qwen 3,官方称后续会加入更多思考模型。
Mistral AI 发布 Mistral Medium 3,称其在多数基准上达到 Claude Sonnet 3.7 的 90% 以上,价格低至每百万 token 输入 $0.4、输出 $2。
推荐理由:Mistral Medium 3 的定价与基准对比是选型时的直接参考,尤其适合关注成本与部署方式的团队。
Vercel 发布 AI SDK 4.2,为这个周下载量超 100 万的 JavaScript/TypeScript AI 工具包加入推理模型、MCP 客户端、useChat 消息分片、语言模型图像生成和 URL 来源等能力。
推荐理由:Vercel 官方发布 AI SDK 4.2,新增 MCP 客户端与推理模型支持,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、Flux.1 等模型,并已集成 JS 和 Python 客户端 SDK。
Fireworks.ai 现已作为推理服务商接入 Hugging Face Hub,可直接在模型页及整个 HF 生态中运行无服务器推理,支持 DeepSeek-R1、DeepSeek-V3、Mistral-Small-24B-Instruct-2501、Qwen2.5-Coder-32B-Instruct、Llama-3.2-90B-Vision-Instruct 等模型。
用 pgrag 和 DeepSeek 可以在 psql 中构建完整的 RAG 流水线。RAG 的流程是先拿用户问题检索相关信息,再把检索结果和问题一起放进提示词交给 AI 聊天模型(ChatGPT/Claude/DeepSeek)作答。
OpenRouter 发布 Reasoning Tokens 功能,在 Chatroom 和 API 中都能观察模型的推理步骤。使用时在 API 请求中加入 include_reasoning: true,推理内容会出现在每条消息的 reasoning 字段中。该功能首批支持 DeepSeek R1 系列模型,后续将支持 Gemini Thinking 模型。
推荐理由:OpenRouter 上线推理 token 功能,开发者可经 API 查看模型推理过程并接入工作流。
Cloudflare AI Gateway 新增 DeepSeek 作为提供商,支持 DeepSeek-V3 模型。开发者只需把 DeepSeek API 调用的 base URL 改为经由 AI Gateway 路由,即可获得分析日志、缓存、限流与 fallback 等监控、控制和优化能力。
非凡研究 6 月报告显示,全球 1,500 家活跃 AI 公司中有 751 家位于中国,其中 103 家已拓展海外市场。腾讯云、华为、阿里等巨头聚焦东南亚与中东的云与 AI 基础设施,字节跳动则七个月内上线 11 款海外应用,CapCut 截至 2024 年 7 月累计移动端收入达 1.25 亿美元。国内价格战与同质化竞争正推动更多 AI 初创公司转向海外 to C 市场。