OpenRouter 上线 Sonar Deep Research 及多款新模型
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
Mercari 借助 GPT-4o mini 和 GPT-4 简化上架流程、优化商品刊登并提升销量,为这一在线二手交易平台加入 AI Listing Support 与 Mercari AI Assistant 等功能。
Endex 基于 OpenAI 的 o1 和 o3-mini 推理模型构建自主财务分析师,用于财务分析场景。原文未披露定价、费率、MRR 或可用性等更多细节。
斯坦福 Hazy Research 实验室开源了 Minions 项目,让本地小模型(如 Ollama 上的 Llama 3.2)与云端大模型(如 GPT-4o)协作,把部分 LLM 负载转移到消费级设备。
Cloudflare Workers AI 新增 JSON mode,支持结构化 JSON 输出,可直接向 AI 模型请求结构化响应,省去解析大段非结构化文本的易错步骤。该模式兼容 OpenAI SDK 的 structured outputs response_format API,可在 Worker 中直接使用,示例模型为 gpt-4o-2024-08-06。
Cloudflare 更新 Workers AI 文本生成模型,补充上下文窗口与限制定义,并将 API 改为按输入提示的 token 数而非字符数来估算和校验。开发者因此可使用更大的上下文窗口,获得更准确的结果,各模型支持的上下文窗口可在目录页查看。
Cloudflare 更新了 Workers AI 定价,把此前的分桶计费改为按模型单独定价,并公布各模型核心输入格式(tokens、音频秒数、图片等)与 Neurons 的换算关系。
推荐理由:Cloudflare 把 Workers AI 从按模型分桶计费改为按模型单独定价,并公开各模型输入单位与 Neurons 的换算关系。
Resend 提出 AX(Agent Experience)概念,认为它不取代 DX(开发者体验)而是对其的延伸。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、Flux.1 等模型,并已集成 JS 和 Python 客户端 SDK。
Fireworks.ai 现已作为推理服务商接入 Hugging Face Hub,可直接在模型页及整个 HF 生态中运行无服务器推理,支持 DeepSeek-R1、DeepSeek-V3、Mistral-Small-24B-Instruct-2501、Qwen2.5-Coder-32B-Instruct、Llama-3.2-90B-Vision-Instruct 等模型。
Cloudflare 为在 Workers 上构建 AI Agent 和应用新增了一段示例提示词,覆盖 Workflows、Durable Objects 和 Workers KV。
Hugging Face 博客实测了每天 10 亿次分类与 embedding 推理的成本:在 nvidia-L4($0.8/hr)上,分类任务 10 亿次输入花费 $253.82,embedding 为 $409.44,视觉 embedding 高达 $44,496.51。
OpenRouter 上线 `:nitro` 和 `:floor` 两个模型后缀,前者按吞吐量(tokens/秒)排序供应商以取最快,后者选最低价供应商,效果等同于在 API 中设置 provider.sort 为 "throughput" 或 "price"。
Fly.io 博客作者认为,LLM 驱动的开发代理(如 Cursor)构建通过验收标准的代码成功率约 40%,而 Semgrep 这类语义感知代码搜索工具有了新玩法。作者设想用系统提示让 LLM 自动为捕获的 bug 生成 Semgrep 规则、做正负对照测试、保存规则并扫描整个代码库,再修复发现的问题。这比事先手动预测代码问题再写规则更有意思。
Neon 在博客中讲解如何构建 GitHub Copilot 扩展,让 Copilot 理解自家平台。文章以托管 Postgres 服务或专用 API 为例,指出仅靠开发者翻文档已不够,需要把平台知识接入 Copilot。
Cloudflare AI Gateway 新增 Cartesia、Cerebras 和 ElevenLabs 三家服务商。Cartesia 提供低延迟、自然语音的文本转语音模型;Cerebras 为 Meta 的 Llama 3.1 8B 和 Llama 3.3 70B 提供低延迟推理;ElevenLabs 支持 32 种语言的类人语音文本转语音。接入只需更新 base URL。
OpenAI 发布文章介绍如何基于 ChatGPT 构建一个定制数学辅导工具,核心思路是把 ChatGPT 用作个性化辅导。文章以“ChatGPT 与个性化辅导”为切入点,说明该工具面向数学学习场景。
用 pgrag 和 DeepSeek 可以在 psql 中构建完整的 RAG 流水线。RAG 的流程是先拿用户问题检索相关信息,再把检索结果和问题一起放进提示词交给 AI 聊天模型(ChatGPT/Claude/DeepSeek)作答。
Mistral 发布 Mistral Small 3,一个 24B 参数、Apache 2.0 许可的延迟优化模型,官方称其性能与 Llama 3.3 70B instruct 相当,同硬件上快 3 倍以上,MMLU 准确率超过 81%、延迟 150 tokens/s。
推荐理由:Mistral 官方发布 24B 开源模型,给出与 Llama 3.3 70B、GPT-4o-mini 的对比和本地部署门槛。
Hugging Face 在 Hub 的模型页上线 fal、Replicate、SambaNova、Together AI 四家 serverless 推理服务商,并集成进 JS 和 Python 客户端 SDK。
推荐理由:Hugging Face 把四家 serverless 推理服务商接入模型页与 SDK,读者可据此比较调用方式与计费差异。
Replicate 将 @kohya_tech 的 Musubi Tuner 适配到自家平台,用户可以用自己的视频素材微调开源视频模型 HunyuanVideo。
推荐理由:Replicate 把 Musubi Tuner 搬上平台,读者可以按步骤微调 HunyuanVideo 并用自己的素材生成视频。
OpenRouter 发布 Reasoning Tokens 功能,在 Chatroom 和 API 中都能观察模型的推理步骤。使用时在 API 请求中加入 include_reasoning: true,推理内容会出现在每条消息的 reasoning 字段中。该功能首批支持 DeepSeek R1 系列模型,后续将支持 Gemini Thinking 模型。
推荐理由:OpenRouter 上线推理 token 功能,开发者可经 API 查看模型推理过程并接入工作流。
OpenRouter 宣布对 API 返回的 finish reasons 做标准化处理,让不同模型返回的结束原因字段保持一致。开发者无需再针对各家模型的差异分别适配,可统一判断生成是正常结束、触发长度上限还是被内容过滤拦截。
Vercel 发布 AI SDK 4.1,新增实验性 generateImage 函数,可通过统一 API 在 Replicate、OpenAI、Google Vertex AI 和 Fireworks 等提供商之间生成图像,切换提供商只需改两行代码。
推荐理由:Vercel 官方发布 AI SDK 4.1,新增图像生成与工具调用修复,可了解多模型统一 API 的最新能力边界。
Render 发布教程,教开发者用 Inngest 和 Render 搭建一个 AI Agent:定时抓取 Hacker News 上你关注的话题,生成摘要后发到邮箱。
Mistral AI 发布 Codestral 25.01,采用更高效的架构和改进的 tokenizer,生成与补全代码的速度约为上一代 2 倍,上下文长度 256k。
推荐理由:Codestral 25.01 的生成速度约为上一代两倍,并给出与 DeepSeek、CodeLlama 等模型的 FIM 基准对比。
Cloudflare AI Gateway 新增 DeepSeek 作为提供商,支持 DeepSeek-V3 模型。开发者只需把 DeepSeek API 调用的 base URL 改为经由 AI Gateway 路由,即可获得分析日志、缓存、限流与 fallback 等监控、控制和优化能力。
OpenRouter 在 2025 年新年升级 Auto Router,现可路由至 19 个不同模型并按质量优化。Chatroom UI 现在更清楚地显示所用模型,该功能也可通过 API 使用。OpenRouter 正在测试由 Not Diamond 元模型驱动的路由,该 API 目前免费,但未来可能变化,并会提供更多自定义能力。
OpenRouter 推出网页搜索功能,可在 Chatroom 中为任意语言模型提供最新信息,目前免费,API 访问稍后开放。同时下调多款模型价格,qwen-2.5-coder-32b-instruct 降 12%,hermes-3-llama-3.1-70b、llama-3.3-70b-instruct、llama-3.1-70b-instruct 等降 31%。
推荐理由:OpenRouter 上线网页搜索并下调多款模型价格,读者可据此了解其能力与调用成本变化。
Neon 发布 MCP Server 约两周后,社区已构建数十个覆盖不同领域的 Model Context Protocol 服务器,但 Claude Desktop 应用成为主要使用入口。文章介绍如何为 MCP 服务器构建 CLI 客户端。
Neon 发布教程,教你用 ElevenLabs 构建一个名为 Puls 的 AI 语音助手应用。指南面向正在探索 AI 应用开发的开发者,结合 ElevenLabs 的语音能力完成搭建。
OpenAI 推出 o1,并同步带来 Realtime API 改进、新的微调方法等面向开发者的更新。官方称此次还包含更多开发者相关能力,但未披露具体价格、费率或可用地区等细节。
Replicate 认为 AI 视频正在经历类似 Stable Diffusion 的时刻,Sora 让所有人看到可能性,如今已有多个模型达到接近 Sora 的水平。
推荐理由:Replicate 官方梳理了当前主流视频模型的 ELO、速度与开源情况,并给出可直接在浏览器和 API 试用的入口。
OpenRouter 为 OpenAI 4o 和 Fireworks 模型推出结构化输出,支持 JSON Schema 校验,保证类型安全且一致的响应,更多提供商即将支持。同时免费开放 Google 的 Gemini Flash 2.0,官方称其首 token 时间显著更快,多模态理解、编码能力和函数调用均有提升,但初期会严格限流以便在所有用户间共享访问。
推荐理由:OpenRouter 同时上线结构化输出与 Gemini Flash 2.0 免费入口,可了解其支持的模型范围与限流情况。
OpenRouter 宣布多个模型降价,降幅来自 DeepInfra,进一步压低了这些模型的最低价。
推荐理由:OpenRouter 公布多个模型由 DeepInfra 带来的降价幅度与新旧单价,可据此比较调用成本。
Ollama 现已支持结构化输出,可将模型输出约束为 JSON schema 定义的特定格式,其 Python 和 JavaScript 库已同步更新。使用场景包括从文档解析数据、从图片提取数据以及结构化所有语言模型响应,官方称比 JSON mode 更可靠一致。
Neon 宣布推出 MCP Server,用于把自身能力接入 LLM 与 agent。此前 Anthropic 刚推出开放协议 Model Context Protocol,让 LLM 更容易对接外部数据源与工具。Neon 表示已基于该协议完成接入。
Replicate 宣布 FLUX 微调运行速度大幅提升,微调后的运行速度已与基础模型相同:FLUX.1 [schnell] 在 512x512、4 步下为 0.6 秒(P50),FLUX.1 [dev] 在 1024x1024、28 步下为 2.8 秒(P50)。
推荐理由:Replicate 公布 FLUX 微调提速的具体延迟数字与开源优化方式,并说明如何关闭这些优化。
Ollama Python library 0.4 发布,支持把 Python 函数直接作为 tools 传给 Ollama,并新增完整类型支持与示例。库通过 Pydantic 和 docstring 解析自动生成 JSON Schema,此前需手动提供;现有 Python 库、SDK 中的函数也可作为工具传入。升级命令为 pip install -U ollama。
OpenAI 发布案例,介绍如何用 GPT-4o 的视觉微调能力构建更智能的地图。