独立开发周报 · 2026 年第 43 周 · 10.19 — 10.25
BILLIONARE.ME
推理成本重构与AI定价分层
本期覆盖 2026 年 10 月 19 日至 25 日。成本与定价成为最集中的主线:DeepSeek 开源生产推理框架 DeepInfer,披露单集群日处理 155T tokens、96% 输入缓存命中与每卡时 38 美元错峰收入;Cloudflare 把 AI 代码审查单次成本从 2.43 美元降至 0.77 美元;DigitalOcean 的 Prompt Caching 正式可用,缓存输入最高降价 90%;Dharma-AI 通过重建词表把推理成本降低 77%。定价侧,Figma、Clay、Higgsfield 面对 1% 用户吃掉 50% 至 75% AI 成本的结构。模型与平台动作密集:Kimi K3.1 Pro 上线且定价与 GPT-6.1 Sol 持平,Cohere 发布 Rerank 5,NVIDIA 推出免训练的关系型基础模型 Kumo Relational,Amazon Bedrock 为 Claude 上线结构化输出。产品侧,Vercel、Supabase、Upstash、Resend 集中补齐 agent 与 MCP 能力;规则侧,Semrush 显示商业搜索词 AI Overviews 覆盖率一年内从 45.75% 升至 88%,Google Ads 与 Vercel Marketplace 均设定了新的合规期限。
推理成本被系统性压低
本版导读多家厂商从框架、缓存、词表三个层面压缩推理开销。DeepSeek 开源 DeepInfer,单集群日处理 155T tokens,96% 输入缓存命中,每加速卡时错峰收入 38 美元;Cloudflare 通过审查器代码改动与模型档位实验,把 AI 代码审查单次成本从 2.43 美元降到 0.77 美元,中位耗时从 4 分 09 秒缩至 1 分 32 秒;DigitalOcean 的 Prompt Caching 正式可用,缓存输入最高降价 90%,首 token 延迟最多降低 80%;Dharma-AI 的 VocabX 围绕每 token 推理成本重建词表,使葡萄牙语作文批改器推理成本下降 77%。
DeepSeek 开源推理框架 DeepInfer,单集群日处理 155T tokens、每卡时收入 $38
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并披露单集群日处理 155T tokens、96% 输入缓存命中、每加速卡时 $38 的错峰收入。
Cloudflare 如何把 AI 代码审查单次成本降低 68%
Cloudflare 把自家 AI 代码审查的平均单次成本从 $2.43 降到 $0.77,降幅 68%,中位耗时从 4m 09s 缩短到 1m 32s。节省中约 40% 来自审查器代码改动,其余来自模型与 effort 档位的反复实验,其中最大单项来自让每个会话的首次请求真正命中共享前缀缓存。
DigitalOcean Serverless Inference 的 Prompt Caching 正式可用,缓存输入最高降价 90%
DigitalOcean 宣布 Prompt Caching 在其 Serverless Inference 上正式可用,覆盖开放模型目录中的受支持模型,无需改动请求代码,缓存输入最高按 90% 折扣计费,首 token 延迟最多降低 80%。
Dharma-AI 如何特化 SLM 词表,把推理成本降低 77%
Dharma-AI 在 Hugging Face 博客中介绍 VocabX 方法:在不更换基座模型、数据和训练配方的前提下,围绕每个 token 的推理成本而非出现频率重建词表,使基于 Qwen3-4B 的葡萄牙语作文批改器实测推理成本下降 77.0%,平均回复从 350 个 token 降到 101 个 token。
AI 成本与定价的幂律
本版导读定价顾问 Ulrik Lehrskov-Schmidt 指出 AI 产品存在成本与价值两条幂律曲线:约 50% 用户几乎不消耗 AI,1% 用户却贡献 50% 到 75% 的 AI 成本,极端情况下 0.1% 用户就占 75% 以上。Figma、Clay、Higgsfield 的应对方式成为观察样本。与之呼应的是模型价格趋同:Kimi K3.1 Pro 输入 2 美元、输出 10 美元每百万 tokens,与 GPT-6.1 Sol 持平,为 Claude Opus 5.5 的一半;Cohere Rerank 5 分 Pro 每 1M tokens 0.05 美元与 Fast 0.02 美元两档。
1% 用户吃掉 75% 的 AI 成本:Figma、Clay、Higgsfield 如何应对
定价顾问 Ulrik Lehrskov-Schmidt 提出 AI 产品存在成本与价值两条幂律曲线,约 50% 用户几乎不消耗 AI,1% 用户却贡献 50% 到 75% 的 AI 成本,极端情况下 0.1% 用户就占 75% 以上。
Moonshot 在 Kimi API 上线 Kimi K3.1 Pro,定价与 GPT-6.1 Sol 持平
Moonshot 在 Kimi API 上线 Kimi K3.1 Pro,输入 $2.00/百万 tokens、输出 $10/百万 tokens,与 GPT-6.1 Sol 相同,为 Claude Opus 5.5 的一半。
Cohere 发布 Rerank 5:Pro 与 Fast 两档,新增 Context Focus 按段落检索
Cohere 发布企业检索模型 Rerank 5,分 Pro 和 Fast 两档,API 定价为 Pro 每 1M tokens $0.05、Fast $0.02。
模型与训练能力下沉
本版导读平台层持续把训练与推理能力产品化。Together AI 推出 Post-Training 服务,支持 RL 环境奖励与 SFT 监督数据训练自定义模型;Amazon Bedrock 为所有 Anthropic Claude 模型上线结构化输出,返回符合 JSON Schema 的响应;NVIDIA 发布关系型基础模型 Kumo Relational,无需任务特定训练即可在企业数据库上预测;Shopify 公开 Sidekick 的模型优化飞轮,把 Nemotron 3.5 Lightning 后训练成 GraphQL 子代理,在自家评分标准上得 74.5,略高于前沿模型的 73。
Together AI 推出 Post-Training 服务,支持 RL 与 SFT 自定义模型训练
Together AI 发布 Together Post-Training 服务,支持通过 RL 环境奖励和 SFT 监督数据训练自定义模型,训练循环由用户自行定义。
Amazon Bedrock 为 Anthropic Claude 模型上线结构化输出
Amazon Bedrock 现已在 bedrock-runtime 和 bedrock-mantle 两个端点支持所有 Anthropic Claude 模型的结构化输出,返回符合 JSON Schema 的响应,无需自定义解析或重试逻辑。
NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练即可预测
NVIDIA 发布 Kumo Relational,这是一个预训练的关系型基础模型,可直接在企业数据库上做预测,无需任务特定训练、特征工程或把表拍平。给定预测查询时,它最多读取 10,000 条历史样本作为上下文,一次前向传播即可预测流失、需求或欺诈等结果。
Shopify 如何把开源模型训练成任务专家
Shopify 工程团队公开了 Sidekick 的模型优化飞轮,把 NVIDIA Nemotron 3.5 Lightning 后训练成 GraphQL 子代理,在自家评分标准上得分 74.5,略高于前沿模型的 73。
Agent 基础设施密集补齐
本版导读工具厂商围绕 agent 的可运行性集中发布能力。Vercel 开源 durable-harness,让 Pi、OpenCode、Codex、Claude Code 等编码 Agent 在函数超时或崩溃后从日志续跑;Claude Code 支持 MCP Tasks 与 Elicitations,慢工具可先返回 task id 由客户端轮询;Supabase 让应用拥有自己的 MCP 服务器,Upstash 把控制台做成 MCP App 接入 ChatGPT;Resend 发布 API 优先的 Inboxes,团队与 AI agent 共用收件箱;Paddle 开放账户设置 API,可经 API 或 MCP server 的 agent 修改配置。
Vercel 推出 durable-harness,让 Pi、Codex、Claude Code 等编码 Agent 崩溃后可续跑
Vercel 发布开源包 durable-harness,为 Pi、OpenCode、Codex、Claude Code 等编码 Agent 提供云端持久化能力,函数超时或崩溃后新函数可从日志读取已完成结果并继续该轮对话,不必手动重试。
Claude Code 支持 MCP Tasks 与 Elicitations,Upstash 给出长任务实现方案
Claude Code 已支持 MCP Tasks 和 MCP Elicitations,前者让慢工具先返回 task id 由客户端轮询,后者让工具暂停并向用户提问。
Supabase 发布 MCP Server block,让应用拥有自己的 MCP 服务器
Supabase 在 Select 大会上公布了一种让 Supabase 应用拥有自己 MCP 服务器的方式,用户可用 ChatGPT、Claude 等 MCP 客户端登录并调用应用内的工具。
Upstash 把控制台做成 MCP App 接入 ChatGPT
Upstash 发布 MCP App 形式的控制台,可在 ChatGPT、Claude、Cursor 等支持 MCP Apps 的客户端中直接浏览和操作 Redis、QStash、Workflow、Vector、Search、Box、Blob 资源。
Resend 发布 Inboxes:面向 agent 的 API 优先收件箱
Resend 发布 Inboxes,可在自有域名上收发邮件,每条消息按会话线程组织,团队和 AI agent 可共用同一收件箱。Inboxes 以 API 优先,提供文件夹、搜索、标签、草稿、转发和 Webhook 等能力,内置 agent 可配置指令、语气和允许动作,如起草回复、加标签、分配线程。免费可用 3 个收件箱,付费方案按 $1/inbox 计费。
Paddle 开放账户设置 API,可通过 API 或 AI agent 查看和修改账户配置
Paddle 在 API v1 中新增账户设置相关操作,开发者无需登录 dashboard 即可通过 API 或连接 Paddle MCP server 的 AI agent 查看和修改默认支付链接、结账支付方式、税务设置、余额币种等配置。
搜索与分发规则收紧
本版导读Semrush 追踪三个行业 400 个商业关键词,AI Overviews 覆盖率从 2025 年 9 月的 45.75% 升至 2026 年 8 月的 88%,商业搜索流量入口继续迁移。Google 在 I/O 2026 为 Search 加入信息 Agent 与 Universal Cart。规则侧,Google Ads 宣布 2026 年 12 月 4 日起新建 Performance Max 广告系列默认开启图片提取;Vercel 要求 Marketplace 供应商支持 OIDC,2027 年 1 月起不合规者下架;Feature Upvote 的案例则显示 AI Overview 会引用站内旧博客的过时说法,需要主动修正。
Semrush 研究:五类商业搜索词的 AI Overviews 覆盖率一年内接近翻倍
Semrush 追踪 banking、software、ecommerce 三个行业共 400 个商业关键词,从 2025 年 9 月到 2026 年 8 月,AI Overviews 覆盖率从 45.75% 升至 88%。
Google Search 上线信息 Agent 与 Universal Cart
Google 在 Google I/O 2026 宣布为 Search 加入信息 Agent 和 Universal Cart,前者替用户持续监控网页并回传整合后的更新,后者把多家零售商商品汇总到一处。
Google Ads 宣布 2026 年 12 月 4 日起 Performance Max 新广告系列默认开启图片提取
Google Ads 宣布自 2026 年 12 月 4 日起,新建 Performance Max 广告系列的图片提取(GENERATE_IMAGE_EXTRACTION)默认设为 OPTED_IN,即使账户级 Dynamic Image Extensions 已关闭也生效。
Vercel 要求 Marketplace 供应商支持 OIDC,2027 年 1 月起不合规者下架
Vercel 宣布对 Marketplace 供应商设定 OIDC 认证要求,2026 年 11 月 30 日起不支持 OIDC 且仍用长期密钥的供应商列表会显示类似 Not secure 的提示,2027 年 1 月起将被下架。
Feature Upvote 如何修正 Google AI Overview 的错误答案
Feature Upvote 创始人 Steve McLeod 发现 Google AI Overview 错误声称其产品没有公开 REST API,原因是引用了站内旧博客的过时说法。