xAI 的 Grok 3 模型上线 Vercel Marketplace
xAI 最新的 Grok 3 模型现已通过 Vercel Marketplace 提供,可在 Vercel 项目中使用。开发者可通过 AI SDK 的 xAI provider 调用 `grok-3-beta` 模型,并用 Vercel CLI 执行 `vercel install xai` 安装 xAI Marketplace Integration,接受条款后即可直接使用。
xAI 最新的 Grok 3 模型现已通过 Vercel Marketplace 提供,可在 Vercel 项目中使用。开发者可通过 AI SDK 的 xAI provider 调用 `grok-3-beta` 模型,并用 Vercel CLI 执行 `vercel install xai` 安装 xAI Marketplace Integration,接受条款后即可直接使用。
Fly.io 发现过去约 6 个月里平台增长最快的用户不是人而是机器人,其 Fly Machine 可在双位数毫秒内启动、停止 6 小时不计费,并能按 HTTP 请求快速重启。机器人工作流会增量构建、需要文件系统和对象存储,而非 Postgres,这与传统不可变 OCI 容器流程相反。
OpenAI News 发布了对 Canva 首席产品官兼联合创始人 Cameron Adams 的对话,主题是 Canva 如何用 AI 赋能创意。原文未披露具体功能、价格或数据。
Paddle 发布 Model Context Protocol(MCP)server,让 AI 助手通过自然语言与 Paddle Billing 交互,无需写代码。
推荐理由:Paddle 官方发布 MCP server,开发者可用自然语言操作 Paddle Billing,省去写代码和切换后台。
Cloudflare 宣布 AutoRAG 进入开放测试,用户把文档上传到 R2 后,AutoRAG 自动完成 embeddings、索引、检索和响应生成,并通过 API 调用。它可选用 Workers AI 模型、配置分块策略和系统提示词,自动开通 Vectorize 与 AI gateway,并持续同步索引保持数据最新。
Meta 最新的 Llama 4 模型现已通过 Groq 上线 Vercel Marketplace,可在 Vercel 控制台安装 Groq 集成免费使用,或用 Vercel CLI 执行 `vercel install groq` 添加到现有项目。
OpenRouter 上线预发布模型 Quasar Alpha,这是某模型实验室即将推出的长上下文基础模型,支持 1M tokens,专门针对编码优化,目前免费开放。这是 OpenRouter 首次让所有用户在该基础模型公开发布前试用,官方提示所有 prompt 和补全内容都会被记录,以便平台和实验室了解使用情况并改进模型。
推荐理由:OpenRouter 首次让全部用户提前试用未公开的基础模型,可了解该模型的免费获取方式与日志政策。
OpenAI 发布 GPT-4o 的原生图像生成能力,官方称其在文本渲染和指令跟随方面更强。该发布同时指向 ChatGPT Images 2.5。
推荐理由:OpenAI 在 GPT-4o 中加入原生图像生成,读者可了解文本渲染与指令跟随这两项能力变化。
OpenRouter 宣布把 Zero Completion Token Insurance 扩展到平台上所有模型,当响应没有输出 token(空或错误 finish reason)时不再向用户收费,即使底层模型供应商仍向 OpenRouter 收取 prompt 处理费用。
推荐理由:OpenRouter 把空响应不计费扩展到全部模型,并给出每周为用户省下超 $18,000 的估算。
Windsurf 可接入 Neon MCP server,让 IDE 中的 agent 直接操作 Postgres 数据库。原文演示了通过 Windsurf Cascade 完成数据库的创建、迁移与查询,把写代码和数据库操作放进同一个 IDE 流程。
Vercel 发布 AI SDK 4.2,为这个周下载量超 100 万的 JavaScript/TypeScript AI 工具包加入推理模型、MCP 客户端、useChat 消息分片、语言模型图像生成和 URL 来源等能力。
推荐理由:Vercel 官方发布 AI SDK 4.2,新增 MCP 客户端与推理模型支持,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
xAI 与 Vercel 达成合作,Grok 系列模型现已上架 Vercel Marketplace,开发者可直接在 Vercel 项目中使用 xAI 的对话模型。
OpenAI 在 API 中推出新一代音频模型,开发者首次可以指示文本转语音模型以特定方式说话,例如“像一位有同理心的客服人员那样说话”,为语音 agent 带来新的定制能力。
EliseAI 正用 AI 提升住房与医疗行业的效率。该公司 CEO 兼联合创始人 Minna Song 与 OpenAI 就此展开对话。
Mistral 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能和多模态理解,上下文窗口扩展至 128k tokens,推理速度 150 tokens/秒,采用 Apache 2.0 许可。
推荐理由:Mistral 发布 Small 3.1,给出与 Gemma 3、GPT-4o Mini 的对比和 128k 上下文等规格,便于评估小模型选型。
Cloudflare Workers AI 模型库新增 4 个模型,首次引入 reranker 和文本转语音两类模型。新增 @cf/baai/bge-m3 多语言 embeddings 模型,支持超 100 种语言及稠密、多向量、稀疏三种检索;@cf/baai/bge-reranker-base 是其首个 reranker,可在 RAG 中重排向量搜索结果。
Model Context Protocol(MCP)近两周在社交媒体走红,社区已在多个领域构建了数十个 MCP server,用外部工具、服务和数据源扩展 LLM 能力。Neon 发文对比 MCP 与 LLM function calling 的差异。
Replit 发文介绍 MCP(Model Context Protocol),一种把 AI 模型连接到数据源和工具的标准协议,开发者只需构建一次工具即可适配任何支持 MCP 的模型。
Mistral 发布文档理解 OCR API mistral-ocr-latest,可接收图片和 PDF,按顺序输出交错的文本与图像,定价为 1000 页/美元,批量推理约可翻倍。
推荐理由:Mistral 发布 OCR API,给出 1000 页/美元定价与多项基准对比,可了解文档解析的选型参考。
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
Mercari 借助 GPT-4o mini 和 GPT-4 简化上架流程、优化商品刊登并提升销量,为这一在线二手交易平台加入 AI Listing Support 与 Mercari AI Assistant 等功能。
Endex 基于 OpenAI 的 o1 和 o3-mini 推理模型构建自主财务分析师,用于财务分析场景。原文未披露定价、费率、MRR 或可用性等更多细节。
斯坦福 Hazy Research 实验室开源了 Minions 项目,让本地小模型(如 Ollama 上的 Llama 3.2)与云端大模型(如 GPT-4o)协作,把部分 LLM 负载转移到消费级设备。
Cloudflare Workers AI 新增 JSON mode,支持结构化 JSON 输出,可直接向 AI 模型请求结构化响应,省去解析大段非结构化文本的易错步骤。该模式兼容 OpenAI SDK 的 structured outputs response_format API,可在 Worker 中直接使用,示例模型为 gpt-4o-2024-08-06。
Cloudflare 更新 Workers AI 文本生成模型,补充上下文窗口与限制定义,并将 API 改为按输入提示的 token 数而非字符数来估算和校验。开发者因此可使用更大的上下文窗口,获得更准确的结果,各模型支持的上下文窗口可在目录页查看。
Cloudflare 更新了 Workers AI 定价,把此前的分桶计费改为按模型单独定价,并公布各模型核心输入格式(tokens、音频秒数、图片等)与 Neurons 的换算关系。
推荐理由:Cloudflare 把 Workers AI 从按模型分桶计费改为按模型单独定价,并公开各模型输入单位与 Neurons 的换算关系。
Resend 提出 AX(Agent Experience)概念,认为它不取代 DX(开发者体验)而是对其的延伸。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、Flux.1 等模型,并已集成 JS 和 Python 客户端 SDK。
Fireworks.ai 现已作为推理服务商接入 Hugging Face Hub,可直接在模型页及整个 HF 生态中运行无服务器推理,支持 DeepSeek-R1、DeepSeek-V3、Mistral-Small-24B-Instruct-2501、Qwen2.5-Coder-32B-Instruct、Llama-3.2-90B-Vision-Instruct 等模型。
Cloudflare 为在 Workers 上构建 AI Agent 和应用新增了一段示例提示词,覆盖 Workflows、Durable Objects 和 Workers KV。
Hugging Face 博客实测了每天 10 亿次分类与 embedding 推理的成本:在 nvidia-L4($0.8/hr)上,分类任务 10 亿次输入花费 $253.82,embedding 为 $409.44,视觉 embedding 高达 $44,496.51。
OpenRouter 上线 `:nitro` 和 `:floor` 两个模型后缀,前者按吞吐量(tokens/秒)排序供应商以取最快,后者选最低价供应商,效果等同于在 API 中设置 provider.sort 为 "throughput" 或 "price"。
Neon 在博客中讲解如何构建 GitHub Copilot 扩展,让 Copilot 理解自家平台。文章以托管 Postgres 服务或专用 API 为例,指出仅靠开发者翻文档已不够,需要把平台知识接入 Copilot。
Cloudflare AI Gateway 新增 Cartesia、Cerebras 和 ElevenLabs 三家服务商。Cartesia 提供低延迟、自然语音的文本转语音模型;Cerebras 为 Meta 的 Llama 3.1 8B 和 Llama 3.3 70B 提供低延迟推理;ElevenLabs 支持 32 种语言的类人语音文本转语音。接入只需更新 base URL。
用 pgrag 和 DeepSeek 可以在 psql 中构建完整的 RAG 流水线。RAG 的流程是先拿用户问题检索相关信息,再把检索结果和问题一起放进提示词交给 AI 聊天模型(ChatGPT/Claude/DeepSeek)作答。
Mistral 发布 Mistral Small 3,一个 24B 参数、Apache 2.0 许可的延迟优化模型,官方称其性能与 Llama 3.3 70B instruct 相当,同硬件上快 3 倍以上,MMLU 准确率超过 81%、延迟 150 tokens/s。
推荐理由:Mistral 官方发布 24B 开源模型,给出与 Llama 3.3 70B、GPT-4o-mini 的对比和本地部署门槛。
Hugging Face 在 Hub 的模型页上线 fal、Replicate、SambaNova、Together AI 四家 serverless 推理服务商,并集成进 JS 和 Python 客户端 SDK。
推荐理由:Hugging Face 把四家 serverless 推理服务商接入模型页与 SDK,读者可据此比较调用方式与计费差异。
Replicate 将 @kohya_tech 的 Musubi Tuner 适配到自家平台,用户可以用自己的视频素材微调开源视频模型 HunyuanVideo。
推荐理由:Replicate 把 Musubi Tuner 搬上平台,读者可以按步骤微调 HunyuanVideo 并用自己的素材生成视频。
OpenRouter 发布 Reasoning Tokens 功能,在 Chatroom 和 API 中都能观察模型的推理步骤。使用时在 API 请求中加入 include_reasoning: true,推理内容会出现在每条消息的 reasoning 字段中。该功能首批支持 DeepSeek R1 系列模型,后续将支持 Gemini Thinking 模型。
推荐理由:OpenRouter 上线推理 token 功能,开发者可经 API 查看模型推理过程并接入工作流。
OpenRouter 宣布对 API 返回的 finish reasons 做标准化处理,让不同模型返回的结束原因字段保持一致。开发者无需再针对各家模型的差异分别适配,可统一判断生成是正常结束、触发长度上限还是被内容过滤拦截。